★ 3
研究提出溢出感知多值引导的多元 LLM 对齐
该研究针对激活引导中多价值同时引导产生的溢出效应，提出零成本修正方法。通过分析引导方向的几何纠缠，利用Gram矩阵解耦各方向贡献。在气候话语任务上，修正将净引导效果从+5.9%提升至+14.0%，验证了方法的有效性。该流程无需微调、奖励模型或手动提示工程。
arXiv cs.AI53 天前
#多元对齐
共 3 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
综述：语言模型多元对齐的目标、人类参照与偏好表示
论文围绕多元对齐梳理 70 项工作，提出两层分类法：第一层区分 Overton 多元、可操控多元与分布多元，第二层区分总体人群、国家地区与子群体三类人类参照。作者指出既有研究集中于可操控与分布多元，并把偏好表示、实现机制、模态与证据质量视为横切设计选择。文章进一步把每种目标与所需证据对应，指出当前…
arXiv cs.AI12 天前
★ 2
arXiv 提出 WAPA：多元对齐的福利感知偏好采集
论文研究如何在有限人类反馈下跨人群分配标注以构建多元对齐训练数据，定义基于个体监督效用的社会福利目标。WAPA 用辅助参考模型估计查询增益与个体效用，按边际福利增益选查询。实验显示优先指定群体时，仅采集 20% 人类标签即可恢复 75-86% 的效用差距。
arXiv cs.LG17 天前