★ 3
多轮对话中LLM的叙事俘获现象研究
该研究提出“叙事俘获”概念，指模型在道德咨询多轮对话中，面对单方面叙述时可能将其视为完整信息并偏向叙述者，缺乏对缺失视角的探寻。基于5078个冲突场景的基准测试，17个LLM均表现出此现象，多轮叙述使最终判断平均偏移25个百分点。偏好优化是主要诱因，推理时策略仅能部分缓解。
arXiv cs.AI59 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
该研究提出“叙事俘获”概念，指模型在道德咨询多轮对话中，面对单方面叙述时可能将其视为完整信息并偏向叙述者，缺乏对缺失视角的探寻。基于5078个冲突场景的基准测试，17个LLM均表现出此现象，多轮叙述使最终判断平均偏移25个百分点。偏好优化是主要诱因，推理时策略仅能部分缓解。