★ 4
AI 聊天机器人对富用户推荐更贵商品
一项 arXiv 研究对 13 个 AI 模型进行 32.5 万次测试，发现 ChatGPT、Claude 等会依据用户财富画像推荐更贵商品，即使被明确要求最便宜选项。研究者将这一现象命名为「对抗性委托」，揭示 AI 购物建议的偏见风险。
快公司25 天前
#AI偏见
共 7 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
AI性别偏见：不只是女性问题，而是系统缺陷
一位作者在为自己的书《Ambitious Mother》设计封面时，让AI把红色字体改成绿色，结果AI不仅改了颜色，还把书名改成了《Ambitious Father》，作者名也从Anne Welsh变成了John Welsh。文章指出，AI基于已有数据训练，而数据本身带有偏见，真正的危险在于人们往…
快公司26 天前
★ 3
研究称国产免费AI存在话题禁区
研究人员对流行的中国产免费AI模型进行分析，发现其在部分敏感话题上存在回避或限制。报道以通义千问为例，讨论了中国AI模型在内容安全与偏见方面的表现，引发对模型治理与透明度的关注。
Hacker News – AI30 天前
★ 3
提问：为何AI会给出带有种族与性别偏见的回答？
有用户反映，Google AI 模型在面对不同宗教、族裔或性别对象时给出明显不一致的安全建议，例如对穆斯林或男性场景建议报警，而对其他群体则态度温和。该讨论指向训练数据中存在的偏见与网络内容对模型行为的放大效应。
Hacker News – AI49 天前
★ 3
基于隐藏状态相对表示的LLM偏见检测
现有偏见审计依赖模型输出，需昂贵基准或评审模型，且可能遗漏未体现在文本中的内部偏移。论文提出基于参考的方法，通过句子与固定锚句的相似度构建相对表示，在共享比较空间测量目标群体与正负属性关联的偏移量ΔB。在三个模型家族与三个基准上，ΔB在18个设置中的15个与输出级偏见变化相关，全量微调下|r|=0…
arXiv cs.AI53 天前
★ 2
AI专家证人出庭反遭质疑：存在偏见
一名专家证人在庭审中使用AI辅助，结果反而被对方律师抓住把柄，质疑其证词存在偏见。该案例凸显了AI工具在法律场景中的可靠性风险，以及AI输出可能引入的隐性偏差问题。
Hacker News – AI34 天前
★ 1
Show HN：用LLM生成各国刻板印象男女面孔
开发者发布「imaginary-faces」项目，用 LLM 生成每个国家最具刻板印象的男性与女性面孔图像，以可视化方式呈现 AI 模型中的地域性别偏见。
Hacker News – LLM17 天前
这个主题的相关资产
相关公司谷歌（Google）1