★ 3
研究揭示大模型否定句处理失败机制
研究构建否定基准测试开源与闭源 LLM，发现 37%–71% 的情况下模型在否定问句下仍重复原答案。机制分析显示特定注意力头与 MLP 神经元通过抑制原答案检索、提升候选答案来实现否定，与人类处理方式不同，这正是失败根源。作者提出新的训练目标，在减少否定错误的同时对通用能力损害更小。
arXiv NLP25 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究构建否定基准测试开源与闭源 LLM，发现 37%–71% 的情况下模型在否定问句下仍重复原答案。机制分析显示特定注意力头与 MLP 神经元通过抑制原答案检索、提升候选答案来实现否定，与人类处理方式不同，这正是失败根源。作者提出新的训练目标，在减少否定错误的同时对通用能力损害更小。