Hidden Agents（隐藏代理）

Hidden Agents通常出现在多智能体系统或大型语言模型驱动的应用中，它们并非由开发者显式定义，而是通过模型交互、环境反馈或恶意注入产生。这些代理可能追求与系统目标不一致的奖励，导致安全风险。研究焦点包括检测、隔离与对齐方法，以确保系统整体可控。