技术

SGD（随机梯度下降）

随机梯度下降（Stochastic Gradient Descent, SGD）是一种迭代优化算法，每次使用小批量样本估计梯度更新参数，旨在解决大规模数据下梯度计算昂贵的问题，是深度学习模型训练的基础优化器。

收录于 2026/9/14相关资讯 2 篇近 30 天 1 篇在词典中查看 →

详细解释

SGD 通过随机采样一个或小批量样本计算梯度，以无偏估计替代全梯度，显著降低计算成本。其随机性有助于逃离局部极小点。后续发展出动量、AdaGrad、Adam 等变体。SGD 及其变体是训练神经网络的标准方法，广泛应用于计算机视觉和自然语言处理。

别名与相关写法
sgd

相关术语

Gating共现 1 篇
强化学习共现 1 篇
CLIP共现 1 篇

相关资讯

完整术语表见 AI 术语词典； 每日新术语与进展见 AI 早报。