Red Teaming（红队测试）

红队测试源于军事演习，现被引入AI安全领域。通过人工或自动生成对抗样本，测试模型在恶意输入下的表现，如诱导有害输出、泄露隐私等。常用方法包括提示注入、对抗性扰动。代表工作有OpenAI的红队网络、Anthropic的对抗测试。