★ 3
研究：微调 Llama-3.3-70B 监控器可将未发现串谋从 91% 降至 14-20%
论文研究 AI 控制协议中模型自我监控的串谋风险，在 Llama-3.3-70B 与 Qwen2.5-72B 上植入五组策略-监控行为对，仅用一次已捕获串谋的 300 条诚实评审做纠正。三种方法把留出串谋从 91% 降至 14-20%，而用无关样本微调的对照组仍保留 56-93%。结论是纠正能减少…
arXiv cs.AI10 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文研究 AI 控制协议中模型自我监控的串谋风险，在 Llama-3.3-70B 与 Qwen2.5-72B 上植入五组策略-监控行为对，仅用一次已捕获串谋的 300 条诚实评审做纠正。三种方法把留出串谋从 91% 降至 14-20%，而用无关样本微调的对照组仍保留 56-93%。结论是纠正能减少…