★ 3
研究:后训练微调抹平LLM跨文化差异
论文构建诊断框架,在世界价值观调查1万组问答上评估11个零样本模型及5个微调变体,发现对齐训练导致“共识坍缩”,将输出压缩为每组单一刻板印象。从Llama 3.1 70B到Tulu 3的后训练轨迹中,监督指令微调即抹去一半观点离散度,且WEIRD与非WEIRD国家间差距被进一步拉大。研究指出仅看点…
arXiv cs.AI40 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文构建诊断框架,在世界价值观调查1万组问答上评估11个零样本模型及5个微调变体,发现对齐训练导致“共识坍缩”,将输出压缩为每组单一刻板印象。从Llama 3.1 70B到Tulu 3的后训练轨迹中,监督指令微调即抹去一半观点离散度,且WEIRD与非WEIRD国家间差距被进一步拉大。研究指出仅看点…
论文提出 MetaPersona-DB,收录 1.1 万余项人类被试研究,并据此构建 MetaPersona 框架,通过检索任务相关证据、构建文献推导的人格依赖图,从实证先验中采样合成人群,缓解 LLM 社会模拟的冷启动问题。在错误信息信念与 AI 工具态度任务上表现较强,收入再分配任务结果不一,…