★ 2
混合梯度实现语言模型的原则性Top-k选择
该论文针对大语言模型系统中Top-k选择模块（如RAG文档筛选、MoE专家路由）训练困难的问题，提出了一种原则性目标函数，其梯度天然包含监督梯度与策略梯度两种成分。作者证明选择问题随候选数m增大而变难，算法以O(1/√T)速率收敛，并在合成回归、RAG和MoE任务上取得优于基线的困惑度与问答准确率。
arXiv cs.LG27 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
该论文针对大语言模型系统中Top-k选择模块（如RAG文档筛选、MoE专家路由）训练困难的问题，提出了一种原则性目标函数，其梯度天然包含监督梯度与策略梯度两种成分。作者证明选择问题随候选数m增大而变难，算法以O(1/√T)速率收敛，并在合成回归、RAG和MoE任务上取得优于基线的困惑度与问答准确率。