★ 3
评论：人们过度相信AI说“不”的能力
文章探讨AI拒绝机制（refusal）的局限与风险，指出当前大模型被训练拒绝危险请求，但拒绝机制远非万无一失，且可能被用作压制工具。作者认为让AI学会拒绝却保留其作恶能力，本身存在结构性矛盾。
MIT Technology Review – AI24 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
文章探讨AI拒绝机制（refusal）的局限与风险，指出当前大模型被训练拒绝危险请求，但拒绝机制远非万无一失，且可能被用作压制工具。作者认为让AI学会拒绝却保留其作恶能力，本身存在结构性矛盾。