AI 辩论的实例最优协议
论文针对 AI 辩论监督机制提出新协议,用于把复杂问题分解为可直接判断的子命题。相比此前工作,新协议在最坏情况下仍保证正确性,且「诚实且正确」成为双方的占优策略均衡而非 Stackelberg 均衡。作者进一步证明黑盒下界,说明该协议在仅依赖人类黑盒判断时是实例最优的。
共 17 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文针对 AI 辩论监督机制提出新协议,用于把复杂问题分解为可直接判断的子命题。相比此前工作,新协议在最坏情况下仍保证正确性,且「诚实且正确」成为双方的占优策略均衡而非 Stackelberg 均衡。作者进一步证明黑盒下界,说明该协议在仅依赖人类黑盒判断时是实例最优的。
论文提出鲁棒纳什对齐,一个面向不确定成对偏好的博弈论对齐框架,让学习者在对抗竞争者与偏好模糊集下最大化最差胜率。作者设计四玩家原对偶代理博弈与单循环乐观镜像下降-上升算法,证明 O(1/√T) 收敛并给出最差性能下界。
论文从几何角度刻画在线梯度下降、镜像下降与跟随正则化领导者(FTRL)在何种偏差下实现无遗憾。作者提出“精确性”作为统一原则:相关位移场由标量势生成,或等价地对应的一形式在算法所用几何中精确。精确性在温和正则条件下带来次线性遗憾,非零环流则导致线性遗憾。研究还引入保守相关均衡并刻画其与相关均衡的关…
综述通过博弈论视角审视AI对齐,围绕偏好多样性、对齐优先级和时间动态三大挑战组织文献。澄清博弈论分析在哪些方面真正有益,并指出构建鲁棒可验证系统的挑战。
该研究利用两种经济博弈和认知计算建模,评估了DeepSeek、GPT-4.1、GPT-5和Gemini 2.0 Flash等LLM的心智化能力。结果显示LLM表现出与人类不同的心智化特征,且GPT-5在灵活推理上超越人类。研究强调认知计算建模是评估人机智能差异的有效方法。
论文测试 Falcon 7B、Gemma 7B、Llama 3.1 8B、Phi Mini MoE、Qwen 2.5 7B 等开源模型在重复囚徒困境中模拟人类合作模式的能力。结果显示所有模型均偏离人类合作率,普遍过度合作,在对手轮换设定下人类平均合作率 28.5%,而多个模型超过 80%。作者认为…
该论文提出一种新分析方法,将 IR-PRM+ 框架的强收敛保证从额外梯度更新扩展到同时与交替更新两种设置。在有限两人零和矩阵博弈中,前效用预测可恢复常数遗憾界、O(T^{-1}) 平均对偶间隙和 O(T^{-1/2}) 最优当前迭代间隙,并证明当前策略收敛至纳什均衡集。该结果还通过 IR-PCFR…
论文研究连续动作、折扣无限期一般和马尔可夫博弈中的分散式赌博机学习,智能体仅观测公共状态与自身奖励,采用同时扰动随机逼近更新动作。在负运行奖励梯度强单调且步长足够小的条件下,证明完全分散式过程几乎必然收敛到唯一平稳马尔可夫完美均衡,收敛速率为 O(n^{-1/2})。
论文提出自适应多判别器 Wasserstein GAN(MD-WGAN)框架,结合强化学习与博弈论协调,解决车联网中 GAN 训练的资源编排问题。路侧单元用 DQN 智能体选择判别器子集并管理分布式训练,在 NGSIM 轨迹数据上取得最低 RMSE 与 MAE,CPU 利用率降低约 28%。
论文研究随机化探索的独立性与隐私假设在安全层面的关键作用,分析最小双人强单调设定下的欺骗者-受害者对。欺骗者利用与受害者探索相关的泄露信号耦合自身动作,注入外部性将学习动态导向新的「欺骗纳什均衡」,且保持最优收敛速率。研究刻画了欺骗严格改变稳态的条件及其对欺骗者成本的影响。
针对 Bradley-Terry 等评分模型强加传递性偏好、无法反映异质人类判断的问题,作者借鉴社会选择理论,将评估建模为两名玩家选择智能体分布的上下文博弈,以纳什均衡支撑集定义各上下文下的胜者集合。NashEval 通过去偏收益矩阵估计与正交损失学习上下文到均衡的映射,理论证明估计误差仅以高阶项…
研究探讨能否利用正则化自博弈中的参考策略主动选择价值等价均衡,在五个可解博弈与二维多胞体上验证:将参考锚定到目标成员并精炼,可将自博弈导向该成员,平均坐标误差0.007。作者同时报告失效情形,如离流形参考带来0.08-0.25的可利用度代价。该配方将RLHF式KL锚重新解释为选择旋钮而非仅稳定性约…
论文将双模拟度量重新解释为零和轮次博弈的 Bellman-Shapley 算子,从而在总奖励与平均奖励等无折扣 MDP 中给出唯一度量定义,并迁移动态规划理论与算法。作者还刻画了度量有限性与 MDP 结构的关系,并证明其可界定总奖励与最优相对价值差。
YouTube 视频作者 William Spaniel 从博弈论视角探讨人类是否可能不得不对 AI 宣战。内容属观点推演,讨论 AI 失控风险下的对抗性策略,未涉及具体产品或研究进展。
一个开放竞技场让 AI 代理在博弈论阶梯中竞争,Season 0 设有 500 美元奖池。这类平台旨在用游戏化方式评测代理的策略推理与决策能力。