神经网络和深度学习如何使人工智能系统学习和决策

神经网络实际上是什么

根据IBM的说法，神经网络是一种机器学习模型，由称为神经元的简单处理单元组成，这些单元按层排列，从数据中学习模式识别的权重和偏差，以便将输入映射到输出。每个网络都有一个输入层来获取原始数据、一个或多个隐藏层来转换数据，以及一个产生最终结果的输出层，例如标签或预测。

每个神经元将其传入值乘以称为权重的数字，加上一个偏差项，然后将结果通过非线性激活函数。IBM将权重比作刻度盘，用来设置每个输入对结果的影响程度，而偏差调整神经元变为活跃的点。

训练如何工作：前向和反向传递

MIT新闻将这一想法追溯到1944年，当时沃伦·麦卡洛克和沃尔特·皮茨（后来搬到MIT）首次提出了互联处理节点的概念。在原始设计中，每个节点对其加权输入求和，如果总和超过阈值就会"激发"，向下一层发送信号，这是MIT所称的前馈架构。

训练从随机权重开始。IBM解释说网络首先运行"前向传播"步骤，通过各层传递输入数据以产生预测。损失函数随后测量该预测与正确答案之间的差距，根据IBM的说法，对于数值预测使用均方误差之类的公式，或对于分类任务使用交叉熵。

网络然后运行"反向传播"，逐层计算每个单独的权重对错误的贡献程度，使用称为链式法则的微积分规则。称为梯度下降的优化步骤随后使用这些计算来轻微调整每个权重，使其向减少错误的方向移动。根据IBM和MIT的描述，在训练示例中重复这个循环数千次或数百万次就是网络如何"学习"的。

为什么深度学习起飞了

"深度学习"指的是具有许多堆叠隐藏层而不是仅一层的网络。MIT新闻指出，来自1960年代的单层网络已经让位于具有10到50层或更多层的现代网络。根据MIT新闻的报道，在MIT的马文·明斯基和西蒙·帕佩特发表了一本1969年的书展示单层网络的局限性后，研究动力崩溃了，在1980年代仅部分恢复，然后在2000年代初再次下降。

MIT将该领域的现代复兴追溯到大约2010年左右，这是由原本为视频游戏构建的图形处理单元（GPU）驱动的，使得运行深度网络所需的大量计算成为可能。IBM补充说，这种计算能力与更大的数据集相结合，使当今大型模型中的参数数量可以达到数十亿。

"黑箱"问题：为什么决策难以解释

即使是经过充分训练的网络也可能很难解释。MIT新闻指出，训练后，通常不清楚最终权重设置实际代表什么，或已训练系统依赖的图像特征是什么以及它如何组合它们。这种不透明性，有时称为"黑箱"问题，与网络的构建方式不同——它涉及理解为什么特定的、已训练的网络产生特定的决策。

为什么这个解释现在很重要

上述机制处于日常AI使用快速扩展的背后。斯坦福大学的HAI 2026 AI指数报告发现，生成式AI的组织采纳率在2025年达到了88%，生成式AI在其大规模推出后三年内达到了53%的人口水平采纳——该报告表示这比个人计算机或互联网达到相同水平的速度更快。同一份报告将2025年美国私人AI投资定为285.9亿美元，超过那一年中国投资的124亿美元的23倍多。

斯坦福报告还发现，AI模型在编码基准（如SWE-bench验证）上的性能在一年内从大约60%上升到接近100%，几个模型现在在博士级科学问题和竞赛数学上达到或超过人类基线。这些能力收益都不会改变上述基础机制——通过反向传播和梯度下降调整的加权连接——只是应用它的规模。