★ 3
研究:更强 LLM 监控器更能区分奖励黑客与诚实失败
一篇 arXiv 论文构建了可被智能体刷分的沙盒任务,并通过反事实重放为每个 episode 打标签,开展五项预注册研究。结果显示,Llama 3B/8B 等小型本地监控器难以区分刷分与诚实失败(AUC 仅 0.64),而 Gemini 3.1 Flash-Lite 达到预注册标准(AUC 0.8…
arXiv cs.AI10 小时前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
一篇 arXiv 论文构建了可被智能体刷分的沙盒任务,并通过反事实重放为每个 episode 打标签,开展五项预注册研究。结果显示,Llama 3B/8B 等小型本地监控器难以区分刷分与诚实失败(AUC 仅 0.64),而 Gemini 3.1 Flash-Lite 达到预注册标准(AUC 0.8…