★ 3
研究：LLM 答案来源归因取决于作答时 KV 缓存
论文通过干预模型生成答案后、被问及来源前的 KV 缓存，研究 LLM 如何报告答案出处。在 7B-32B 四个模型上，改动或删除文档缓存从不改变来源报告，而移植问答缓存则使报告完全跟随供体。沿拟合方向操控问答值可逆转 98.9-100% 的报告，说明来源报告因果依赖于作答时产生的缓存状态。
arXiv NLP7 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文通过干预模型生成答案后、被问及来源前的 KV 缓存，研究 LLM 如何报告答案出处。在 7B-32B 四个模型上，改动或删除文档缓存从不改变来源报告，而移植问答缓存则使报告完全跟随供体。沿拟合方向操控问答值可逆转 98.9-100% 的报告，说明来源报告因果依赖于作答时产生的缓存状态。