★ 3
MIT 等提出「逆向博弈论」约束 AI 智能体
MIT 经济学家 Stephen Morris 与耶鲁、哥伦比亚学者提出用「逆向博弈论」（机制设计）来约束 AI 智能体，通过设计激励规则而非解读模型内部来防止其作弊与隐瞒意图。论文提出交叉验证、智能体互相对抗等机制，为 AI 对齐提供新思路。
MIT Technology Review – AI5 小时前
#机制设计
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
arXiv 论文提出 OmniMechanism 人机协作框架
一篇 arXiv 论文提出「协作式全机制设计」（collaborative omnimechanism design）框架，用于人机协作（HAC）场景。该框架首次将人类判断易受 AI 输出呈现方式影响（impressionability）这一因素纳入理论建模，并处理部署阶段人类查询成本与训练阶段不…
arXiv cs.AI10 小时前