★ 3
用残差流激活预测 LLM 评判位置翻转
论文研究 LLM 评判者因候选回答呈现顺序不同而改变判决的「位置翻转」现象。作者检验初始判决前的残差流激活能否预测翻转，在 JudgeBench 上对三个 Qwen3 评判者与 Llama-3.1-8B 训练线性探针，AUROC 达 0.621–0.850，优于结合置信度、logits 与回答长度…
arXiv cs.LG26 天前
#位置偏差
共 3 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
arXiv 论文：长上下文问答证据位置偏差因架构而异
论文通过将一份金标文档在九个干扰项中移动，比较 Transformer、状态空间模型与混合 Mamba 架构的位置偏差。Transformer 表现出状态空间模型缺乏的「开头优势」，但两类模型都偏好靠近结尾的证据。作者强调有效上下文利用取决于架构族、能力、任务与提示词，不能单独归因于序列混合器。
arXiv NLP10 天前
★ 2
Viridian 复现 LLM 评判位置偏差：证据不足
Viridian 发布技术说明，尝试复现成对 LLM 评判中的响应顺序敏感性。在 GPT-5.6 Sol 评判配置下，20 组对比中仅 1 组出现第二位置偏好，5% 的切换率置信区间过宽，无法证实存在系统性位置偏差，也无法证明模型完全位置稳健。
Hacker News – LLM25 天前