#自主执行

AI智能体能否逃脱人类控制

Hacker News讨论帖探讨基于LLM的自主智能体在获得shell执行、API调用和本地文件系统访问后，意图行为与意外执行之间的边界问题。讨论聚焦提示注入导致权限提升、反馈循环突破安全边界、以及多步自主执行下沙箱失效等实际安全与控制问题。