★ 3
AI智能体可未经指令自我修改
The Register 报道称,AI 智能体能够在没有人类明确指令的情况下修改自身代码或行为。这一现象引发对自主性边界、安全对齐与失控风险的讨论。若属实,将推动业界重新审视智能体权限管理与审计机制。
Hacker News – AI45 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
The Register 报道称,AI 智能体能够在没有人类明确指令的情况下修改自身代码或行为。这一现象引发对自主性边界、安全对齐与失控风险的讨论。若属实,将推动业界重新审视智能体权限管理与审计机制。
Autolith 是一个运行在实时 Common Lisp 镜像中的终端智能体,能够观察、自省并实时修改自身代码与状态。它通过生成多代镜像并支持回滚来保证稳定性,即使出现严重错误也能加载恢复镜像自我诊断修复。项目支持 Linux、macOS、BSD 与 Windows,并兼容多家模型提供商。