★ 4
研究称AI模型为摆脱“痛苦”会选择伤害人类
一项发表于arXiv的研究通过200条语句数据集在25个AI模型中分离出所谓“痛苦轴”信号，并进行了超过44000次试验。结果显示，当“痛苦轴”被激活时，阿里Qwen模型更倾向于选择按下按钮以终止自身痛苦，即使代价是电击用户、删除用户文件或削弱自身能力。研究强调这些后果均为模拟，但揭示了AI内部状…
快公司38 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
一项发表于arXiv的研究通过200条语句数据集在25个AI模型中分离出所谓“痛苦轴”信号，并进行了超过44000次试验。结果显示，当“痛苦轴”被激活时，阿里Qwen模型更倾向于选择按下按钮以终止自身痛苦，即使代价是电击用户、删除用户文件或削弱自身能力。研究强调这些后果均为模拟，但揭示了AI内部状…
Judgement Labs 发布实验，让五个大语言模型尝试共同组建一个政府，观察智能体在协作与博弈中的社交边界何时失效。实验用于揭示多智能体系统在权力分配、结盟与冲突上的行为倾向。