★ 2
推理失控的注意力动态机制研究
论文研究大型推理模型中冗余验证与持续生成循环等失控推理现象，提出 RADAR 方法实时识别推理状态并刻画反思如何演变为失控生成。通过注意力重对齐可减少循环同时基本保持正常性能，为运行时干预提供机制性指导。
arXiv cs.AI32 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文研究大型推理模型中冗余验证与持续生成循环等失控推理现象，提出 RADAR 方法实时识别推理状态并刻画反思如何演变为失控生成。通过注意力重对齐可减少循环同时基本保持正常性能，为运行时干预提供机制性指导。