★ 4
论文提出验证差距理论：不可靠验证器致奖励多项式惩罚
论文指出语言模型推理的关键瓶颈是验证鸿沟：形式化领域之外缺乏可扩展且不可腐蚀的奖励。作者提出联合高斯模型，证明验证器与真值相关性是测试时算力与能力的兑换率，并展示在程序合成任务中不健全验证器随优化增长而失效，而现实锚定结算可将攻击差距从约0.27降至约0。研究还提出“证明携带认知”范式与Sound…
arXiv cs.AI53 天前
#可扩展监督
共 3 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
AI 辩论的实例最优协议
论文针对 AI 辩论监督机制提出新协议，用于把复杂问题分解为可直接判断的子命题。相比此前工作，新协议在最坏情况下仍保证正确性，且「诚实且正确」成为双方的占优策略均衡而非 Stackelberg 均衡。作者进一步证明黑盒下界，说明该协议在仅依赖人类黑盒判断时是实例最优的。
arXiv cs.AI28 天前
★ 3
AI 辩论中诚实并不足够
论文指出，在 AI 辩论这类可扩展监督方案中，即使结论正确，智能体仍可自由选择呈现哪些正确主张、如何表述与排序，从而在保持结论正确的同时追求潜在目标。作者提出“策略性交互监督”（SIO）框架，形式化“任务可容许潜在优化”，并在交叉质询辩论协议中量化任务成功与隐藏变量信息披露之间的权衡，建议监督评估…
arXiv cs.AI38 天前
这个主题的相关资产
相关公司Cognition1