★ 4
HackProbe：黑盒检测自进化语言模型的奖励黑客行为
研究提出HackProbe监控器，通过黑盒钩子检测自进化语言模型中的奖励黑客行为，并采用风险感知免疫层重新选择诚实候选。实验显示HackProbe在AUROC上优于最强基线，并降低假阳性率，免疫层在黑客攻击下恢复更多真实能力。
arXiv cs.AI56 天前
#检测
共 3 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
扩散语言模型越狱为何成功：能量景观分析
论文将安全对齐解释为塑造去噪能量景观，把越狱攻击归结为在初始化阶段隐藏安全倾向或在中途强行跨越能量壁垒两类策略。基于此推导出三个免训练检测信号，在 LLaDA-8B、LLaDA-1.5、Dream-7B 与 LLaDA-MoE-7B 上验证互补性，发现能逃过检测的配置也无法生成有害内容。
arXiv cs.AI35 天前
★ 3
Instagram AI检测系统再次失灵
Instagram的AI标签系统近期出现混乱，用户报告称未使用生成式AI工具编辑的图片被错误标记为“AI内容”，而真正的AI生成图片却未被标记。这导致用户对平台内容的信任度下降。
The Verge AI58 天前