★ 3
研究指 Chatbot Arena 违反 Luce 选择公理
论文分析 180 万条 Chatbot Arena 投票,发现同一模型不同版本之间的对决比 Bradley-Terry 模型预测更具决定性(1.37 倍),同代不同规模为 1.26 倍,同实验室不同模型为 1.12 倍,表明 Luce 选择公理在近亲模型上失效。作者提出四到六参数的修正模型,在留出…
arXiv NLP18 天前
共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文分析 180 万条 Chatbot Arena 投票,发现同一模型不同版本之间的对决比 Bradley-Terry 模型预测更具决定性(1.37 倍),同代不同规模为 1.26 倍,同实验室不同模型为 1.12 倍,表明 Luce 选择公理在近亲模型上失效。作者提出四到六参数的修正模型,在留出…
研究指出语言模型的价值判断常表现出非传递性,现有工作将其视为单一潜在排序周围的采样噪声。作者提出非传递性反映多个内部一致的潜在排序的聚合,并引入噪声增强的混合 Bradley-Terry 模型从重复成对比较中推断潜在偏好成分。在七个模型与四个任务上,排序混合比单一效用模型更好地解释结构性不一致,说…
论文研究在用户与任务偏好异构时,恢复排名所需的重复成对比较次数。在异构 Bradley-Terry 模型下,提出两种 MLE 变体与随机俄罗斯轮盘算法,将每上下文所需比较次数从 Ω(1/Δ²) 降至 O(log(1/Δ)),并证明该对数依赖为最优。