技术

Optimizer

训练神经网络时按梯度更新参数的算法，决定模型如何一步步逼近更优解。

收录于 2026/11/2相关资讯 19 篇近 30 天 16 篇在词典中查看 →

详细解释

优化器根据损失函数梯度调整权重，经典方法有 SGD，改进方法引入动量、自适应学习率等机制，如 Adam、AdamW、RMSProp。它影响收敛速度、稳定性与泛化性能，大模型训练还常用学习率预热、权重衰减与梯度裁剪配合，是深度学习训练流程的核心组件之一。

别名与相关写法

optimizer

相关术语

Agent共现 3 篇

self-evolving共现 2 篇

LLM Training共现 2 篇

ReAct共现 2 篇

BERT共现 2 篇

Transformer共现 1 篇

相关公司

OpenAI2 篇甲骨文（Oracle）1 篇 Ollama1 篇 xAI1 篇

相关资讯

RSI-Opt 提出递归自我改进优化器智能体，加速模型训练2026/10/26

研究揭示 LLM 优化器陷入原理级局部最优瓶颈2026/10/20

研究称 LLM 训练阶段切换优化器代价有限2026/10/19

预注册研究：提示优化器会破坏未计分要求2026/10/12

研究：可见思维链并非通用优化器，效果依赖人设与目标语言2026/10/9

研究：最优优化器取决于批大小2026/10/8

VERSE：面向智能体框架的验证式自进化优化器2026/10/5

智能体自优化：多任务自进化Harness框架2026/10/1

完整术语表见 AI 术语词典；每日新术语与进展见 AI 早报。