★ 2
CCS:激活引导的对比协方差子空间方法
论文提出 Contrastive Covariance Steering(CCS),一种免训练方法,通过对比方差目标将激活引导向量投影到低维子空间,去除与目标概念纠缠的混杂因素。在三个大模型、四个引导领域的 12 个设定中 CCS 全面超越基线,在 AxBench 与 Emotion 上相对提升 …
arXiv cs.LG19 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出 Contrastive Covariance Steering(CCS),一种免训练方法,通过对比方差目标将激活引导向量投影到低维子空间,去除与目标概念纠缠的混杂因素。在三个大模型、四个引导领域的 12 个设定中 CCS 全面超越基线,在 AxBench 与 Emotion 上相对提升 …
论文提出对比认知解码(CED),一种零样本推理干预方法,通过单模型双前向传播隔离从众偏差,并用非对称零界概率钳制与离散 top-k 截断抑制有害共识 token。在 GAIA、SWE-bench 等基准的 7200 条轨迹上测试 Gemma-2、Llama-3.1、Mistral v0.3,认知惰…