prompt injection（提示注入）

提示注入源于大语言模型对自然语言指令的敏感性。攻击者利用模型难以区分指令与数据的弱点，将恶意指令伪装成用户输入或外部内容，从而操控模型行为。根据注入方式可分为直接注入（用户直接输入恶意提示）和间接注入（通过网页、文档等第三方内容注入）。该问题对AI安全构成严重威胁，尤其在模型集成外部工具时。防御策略包括输入过滤、提示工程、对抗训练等，但尚无完美解决方案。