#免疫

HackProbe：黑盒检测自进化语言模型的奖励黑客行为

研究提出HackProbe监控器，通过黑盒钩子检测自进化语言模型中的奖励黑客行为，并采用风险感知免疫层重新选择诚实候选。实验显示HackProbe在AUROC上优于最强基线，并降低假阳性率，免疫层在黑客攻击下恢复更多真实能力。