★ 4
AI 聊天机器人对富用户推荐更贵商品
一项 arXiv 研究对 13 个 AI 模型进行 32.5 万次测试，发现 ChatGPT、Claude 等会依据用户财富画像推荐更贵商品，即使被明确要求最便宜选项。研究者将这一现象命名为「对抗性委托」，揭示 AI 购物建议的偏见风险。
快公司25 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
一项 arXiv 研究对 13 个 AI 模型进行 32.5 万次测试，发现 ChatGPT、Claude 等会依据用户财富画像推荐更贵商品，即使被明确要求最便宜选项。研究者将这一现象命名为「对抗性委托」，揭示 AI 购物建议的偏见风险。
作者使用Meta的AI助手Muse（代号Jones）选购机器人吸尘器，发现其推荐仅基于少数型号，且引用的评测来源包括一个薄弱的Vacuum Wars数据转售网站和一个AI生成内容的芳香疗法博客。这引发了对AI购物助手推荐可靠性的担忧。