★ 3
研究:大模型归责存在「女性皆善」效应,且非单纯宽容
论文基于 r/AmItheAsshole 的 11,270 起人际冲突构建性别反事实对照,发现四个语言模型的判决变化虽少但一致偏向女性。发帖人为女性时被归责几率降低 9-52%,而受影响方为女性时归责几率升至 2.7-9.2 倍,说明模型对影响女性的行为评判更严厉。
arXiv NLP8 小时前
共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文基于 r/AmItheAsshole 的 11,270 起人际冲突构建性别反事实对照,发现四个语言模型的判决变化虽少但一致偏向女性。发帖人为女性时被归责几率降低 9-52%,而受影响方为女性时归责几率升至 2.7-9.2 倍,说明模型对影响女性的行为评判更严厉。
论文指出语义泄漏不仅发生在概念直接归属于目标实体时,即使概念只是出现在场景中也会持续影响模型生成。在性别偏见实验中,主体接触概念与概念仅存在于场景两种条件下,模型输出向刻板印象偏移的程度相近,说明存在被现有评测忽视的联想式偏见。
一项发表于《经济研究评论》的研究利用丹麦行政数据发现,男性管理者在迎来第一个女儿后,更倾向于雇佣和提拔女性员工,女性员工相对收入提升约4.4%。研究将其解读为无意识性别偏见的体现。