技术
Backpropagation(反向传播)
反向传播是训练神经网络的核心算法,通过链式法则从输出层向输入层逐层计算损失函数对权重的梯度,解决深层网络参数优化问题。典型应用包括图像分类、机器翻译等,代表工作如LeCun的卷积网络训练。
详细解释
反向传播于1986年由Rumelhart、Hinton和Williams重新推广,基于微积分链式法则,高效计算所有参数的梯度。它使多层感知机能够通过梯度下降更新权重,解决了早期单层网络无法学习非线性特征的局限。现代深度学习框架如TensorFlow和PyTorch均自动实现反向传播,支持复杂网络结构的端到端训练。
别名与相关写法
backpropagation
相关术语
AI Research共现 1 篇
KAN共现 1 篇
相关资讯
Sakana AI提出PC-ALM,可训练千层网络2026/9/15
选择性反向传播提升小样本类增量学习效率2026/10/6
研究提出波函数反向传播WFB:显式时间间隔动力学学习2026/9/2
研究:循环语言模型训练中反向传播窗口与预算取舍2026/10/30