★ 2
免训练注意力引导缓解大模型谄媚与固执
研究者提出 SPAE 框架，通过 token 级注意力引导抑制用户压力、放大上下文证据，无需训练即可缓解大模型的谄媚与固执问题。同时发布 CoPE-Bench 基准，含六种条件以评估两类失败之间的权衡。在五个骨干模型上，SPAE 平均将顺从压力降低 18.8 个百分点，联合条件更新率提升 5.5 …
arXiv cs.AI27 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究者提出 SPAE 框架，通过 token 级注意力引导抑制用户压力、放大上下文证据，无需训练即可缓解大模型的谄媚与固执问题。同时发布 CoPE-Bench 基准，含六种条件以评估两类失败之间的权衡。在五个骨干模型上，SPAE 平均将顺从压力降低 18.8 个百分点，联合条件更新率提升 5.5 …