arXiv cs.LGDeepSeek·7 天前★ 3

REACT：在思维链早期激活层干预，安全输出率升至 82%

原文标题：REACT: Representational Early Analysis and Control of Chain-of-Thought Trajectories

重要度 3/5 · AI 综合评估报道影响力与新鲜度，4–5 分为高价值资讯。

AI 智能摘要

论文提出 REACT，从安全与不安全轨迹对中学习安全方向，仅在思维链早期隐藏状态施加一次干预，模型权重保持冻结。在 DeepSeek-R1-Distill-Llama-8B 上，完全安全输出率从 29.06% 提升至 82.05%，且良性拒答与有用性基本不变。

问题: 推理模型思维链中何时干预最有效，风险可读性与可控性是否一致。
方法: 从安全与不安全轨迹对学习安全方向，仅在思维链早期隐藏状态施加一次干预，权重冻结。
结果: DeepSeek-R1-Distill-Llama-8B 上 StrongREJECT-273 完全安全输出率从 29.06% 升至 82.05%，良性拒答与有用性基本不变。
影响: 安全对齐可在推理模型早期激活层低成本实现，无需重训权重，适合部署侧加装防护。

深读 · 结论先行AI 生成展开看要点与影响 ↓

REACT只在思维链前2-3个token干预一次，8B模型完全安全输出率从29.06%升至82.05%

为什么重要：说明推理模型的安全干预时机比风险检测位置更关键，为冻结权重的轻量安全对齐提供了可操作窗口。

以上深读由 AI 依据标题/摘要/正文节选生成，仅供参考；事实以原文为准。

AI 处理过程展开/收起

原始标题：REACT: Representational Early Analysis and Control of Chain-of-Thought Trajectories

AI 中文标题：REACT：在思维链早期激活层干预，安全输出率升至 82%

来源：arXiv cs.LG · 发布于 7 天前

分类：学术研究 · AI 重要度：★ 3（3）

标签：思维链 / AI安全 / 激活干预 / 推理 / 对齐

关键词：思维链安全 / 激活干预 / AI 安全 / 推理模型对齐 / DeepSeek-R1

AI 处理：2026/10/26 12:01:29 · 模型 deepseek-chat · 规则版本 2026-10-21.1

AI 生成以上内容由 AI 自动生成：中文标题、摘要、分类与重要度；同一事件的多家报道会自动归并展示。内容仅供参考，可能存在偏差，请以原文为准，不构成任何投资或专业建议。
版权归原作者与原发布平台所有；若涉及侵权或信息错误，请在举报与侵权投诉页反馈，我们会及时处理。

相关推荐