★ 2
arXiv 论文：尾部竞争解释 Best-of-N 采样扩展规律
该 arXiv 论文研究大语言模型推理时扩展策略 Best-of-N 采样在不完整奖励模型下的行为，将其建模为正确与错误回答的极端奖励尾部竞争。作者用极值理论刻画了正确尾部主导、错误尾部主导和临界三种渐近机制，并推导有限样本扩展律，指出高斯奖励下高方差错误回答可能主导选择。论文还提出轻量级尾部张力…
arXiv NLP18 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
该 arXiv 论文研究大语言模型推理时扩展策略 Best-of-N 采样在不完整奖励模型下的行为，将其建模为正确与错误回答的极端奖励尾部竞争。作者用极值理论刻画了正确尾部主导、错误尾部主导和临界三种渐近机制，并推导有限样本扩展律，指出高斯奖励下高方差错误回答可能主导选择。论文还提出轻量级尾部张力…