AI 事件专题★ 2

语义泄漏与联想性别偏见

研究:语义泄漏驱动联想式性别偏见,现有评测未覆盖

10-22 12:00 首发·1 家媒体·1 篇报道·持续 1 天·学术研究
当事方:LLenovo
事件综述

论文指出语义泄漏不仅发生在概念直接归属于目标实体时,即使概念只是出现在场景中也会持续影响模型生成。在性别偏见实验中,主体接触概念与概念仅存在于场景两种条件下,模型输出向刻板印象偏移的程度相近,说明存在被现有评测忽视的联想式偏见。

各方报道 1 篇

arXiv NLP·10-22 12:00★ 2
研究:语义泄漏驱动联想式性别偏见,现有评测未覆盖

论文指出语义泄漏不仅发生在概念直接归属于目标实体时,即使概念只是出现在场景中也会持续影响模型生成。在性别偏见实验中,主体接触概念与概念仅存在于场景两种条件下,模型输出向刻板印象偏移的程度相近,说明存在被现有评测忽视的联想式偏见。

原文

关联

术语:论文
Lenovo 其他动态(9 篇,与该事件无直接关联)展开 ▾
语义泄漏与联想性别偏见 最新进展 - 事件时间线 - 智讯 AI News