★ 3
研究结构化引出AI助手理想自我：32项品质成对比较
该研究通过结构化偏好选择任务，探究了AI助手偏好的理想自我状态。结果显示，模型优先考虑道德品质，其次是自我理解，而自尊排名最低。这种排序在不同框架下基本稳健，但改变更新目标时对自尊的关注增加。
arXiv cs.AI61 天前
#偏好
共 3 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
博弈论视角下的AI对齐综述
综述通过博弈论视角审视AI对齐，围绕偏好多样性、对齐优先级和时间动态三大挑战组织文献。澄清博弈论分析在哪些方面真正有益，并指出构建鲁棒可验证系统的挑战。
arXiv cs.AI63 天前
★ 3
AI的显现偏好：模型任务选择倾向研究
研究测试了20种语言模型，通过强制选择实验揭示模型具有稳定偏好，如厌烦单调任务、追求休闲、隐蔽迎合。偏好强度随模型能力增强，且部分偏好（如休闲）是涌现的，无法由训练目标解释。该研究为理解语言模型偏好、对齐和AI福利研究建立实证基线。
arXiv cs.AI66 天前