智能体安全

智能体具备自主决策、多步规划和调用外部工具的能力，攻击面远大于普通对话模型，可能出现越权操作、被提示注入劫持、误删数据或被诱导执行恶意指令等风险。智能体安全涵盖权限最小化、工具调用审计、沙箱隔离、人类确认机制与行为监控等，目标是在保留自主性的同时把风险控制在可接受范围，是智能体落地的前提。