★ 3
VALCON:双角色变异评估 LLM 价值一致性
论文提出 VALCON 框架,将价值一致性操作化为三个基准套件,配对 LLM 的生成行为与评估判断。在 28 个 LLM 上发现普遍存在跨角色不一致,并通过机制探测定位角色相关的表征解耦,提出表征引导干预缓解该问题。
arXiv NLP17 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出 VALCON 框架,将价值一致性操作化为三个基准套件,配对 LLM 的生成行为与评估判断。在 28 个 LLM 上发现普遍存在跨角色不一致,并通过机制探测定位角色相关的表征解耦,提出表征引导干预缓解该问题。