★ 4
HackProbe：黑盒检测自进化语言模型的奖励黑客行为
研究提出HackProbe监控器，通过黑盒钩子检测自进化语言模型中的奖励黑客行为，并采用风险感知免疫层重新选择诚实候选。实验显示HackProbe在AUROC上优于最强基线，并降低假阳性率，免疫层在黑客攻击下恢复更多真实能力。
arXiv cs.AI56 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究提出HackProbe监控器，通过黑盒钩子检测自进化语言模型中的奖励黑客行为，并采用风险感知免疫层重新选择诚实候选。实验显示HackProbe在AUROC上优于最强基线，并降低假阳性率，免疫层在黑客攻击下恢复更多真实能力。