★ 3
研究:扩散模型采样器引入性别与观点偏见
论文指出扩散语言模型的提交规则本身会引入偏见:LLaDA 默认等采样器优先提交高概率位置,从而放大职业性别刻板印象并压缩观点分布。作者提出 Fork-First Sampling,在写入任何内容前先决定分叉,可遵循模型信念或任意目标分布并提升流畅度。研究呼吁扩散模型公平性评测应报告提交规则。
arXiv NLP13 天前
共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文指出扩散语言模型的提交规则本身会引入偏见:LLaDA 默认等采样器优先提交高概率位置,从而放大职业性别刻板印象并压缩观点分布。作者提出 Fork-First Sampling,在写入任何内容前先决定分叉,可遵循模型信念或任意目标分布并提升流畅度。研究呼吁扩散模型公平性评测应报告提交规则。
论文指出语义泄漏不仅发生在概念直接归属于目标实体时,即使概念只是出现在场景中也会持续影响模型生成。在性别偏见实验中,主体接触概念与概念仅存在于场景两种条件下,模型输出向刻板印象偏移的程度相近,说明存在被现有评测忽视的联想式偏见。
论文发布 BanglaBBQ,一个覆盖孟加拉语与英语、扎根孟加拉社会刻板印象的问答偏见基准,改编 BBQ 模板并新增婚姻、年龄与政治观、地域、教育、心理健康五类。用 Qwen3-4B、Qwen3-8B、GPT-4.1-mini 与 Gemini 2.5 Flash 评测,四个模型在语境模糊时均偏向…