★ 3
论文提出SWEAR:按难度自适应分配音频推理算力
arXiv论文针对大型音频语言模型自适应推理中难度估计粗糙的问题,提出五维难度评分与压缩推理轨迹,并给出SWEAR框架,在监督微调中学习难度信号、用强化学习跨推理阶段分配算力。在MMAU-test-mini与MMAR上提升准确率同时显著减少生成token。
arXiv cs.AI21 天前
共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。
arXiv论文针对大型音频语言模型自适应推理中难度估计粗糙的问题,提出五维难度评分与压缩推理轨迹,并给出SWEAR框架,在监督微调中学习难度信号、用强化学习跨推理阶段分配算力。在MMAU-test-mini与MMAR上提升准确率同时显著减少生成token。
AERA 是一种顺序控制器,学习从检查点可观察证据判断额外计算是否可能恢复更好答案。在 GSM8K 上,AERA 以 92.61% 的准确率接近 128 响应的 93.01%,同时减少 95.99% 的完成 token。
该研究指出智能体AI中固定推理控制导致过度或不足思考的问题,通过实验分析过度推理增加计算成本而无精度提升,不足推理导致错误。呼吁开发根据任务需求动态分配推理的机制。