★ 3
论文提出 HRS 方法让冻结 LLM 评审对齐人类评分分布
论文提出 Human-Residual Steering(HRS),据称是首个通过隐状态干预让冻结 LLM 评审对齐人类评分分布的方法。HRS 学习从评审隐表示与评分 logits 预测低秩修正,在 14 个基准与三个模型家族的四个评审上优于所有冻结权重基线。以 Qwen2.5-7B 为例,14 …
arXiv NLP3 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出 Human-Residual Steering(HRS),据称是首个通过隐状态干预让冻结 LLM 评审对齐人类评分分布的方法。HRS 学习从评审隐表示与评分 logits 预测低秩修正,在 14 个基准与三个模型家族的四个评审上优于所有冻结权重基线。以 Qwen2.5-7B 为例,14 …