★ 3
研究：后训练微调抹平LLM跨文化差异
论文构建诊断框架，在世界价值观调查1万组问答上评估11个零样本模型及5个微调变体，发现对齐训练导致“共识坍缩”，将输出压缩为每组单一刻板印象。从Llama 3.1 70B到Tulu 3的后训练轨迹中，监督指令微调即抹去一半观点离散度，且WEIRD与非WEIRD国家间差距被进一步拉大。研究指出仅看点…
arXiv cs.AI40 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文构建诊断框架，在世界价值观调查1万组问答上评估11个零样本模型及5个微调变体，发现对齐训练导致“共识坍缩”，将输出压缩为每组单一刻板印象。从Llama 3.1 70B到Tulu 3的后训练轨迹中，监督指令微调即抹去一半观点离散度，且WEIRD与非WEIRD国家间差距被进一步拉大。研究指出仅看点…