★ 3
推理税:LLM推理的令牌经济学
研究引入令牌经济评分(TES)衡量推理模型的边际收益,分析151次运行。发现任务结构比名义难度更能预测推理效率,顺序推理任务高,知识回忆任务低,且存在收益递减。建议按任务类型和部署上下文选择性启用推理。
arXiv cs.AI66 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究引入令牌经济评分(TES)衡量推理模型的边际收益,分析151次运行。发现任务结构比名义难度更能预测推理效率,顺序推理任务高,知识回忆任务低,且存在收益递减。建议按任务类型和部署上下文选择性启用推理。