2026-09-19 AI 日报：AI军事误判与RSI竞赛同日升温

2026-09-19

AI军事误判与RSI竞赛同日升温

今天最大的冲突来自AI在高风险决策中的可靠性危机：多起AI情报幻觉险些把美中推向军事对峙，与Anthropic、智谱高调推进递归自我改进形成刺眼对照。一边是AI开始参与造AI，一边是AI的错误几乎触发战争，治理与能力的赛跑正被同时按下加速键。

多起独立披露指向同一模式：大语言模型生成的中国舰船虚假情报被纳入美军流程，几乎触发拦截行动。这不再是实验室里的对齐讨论，而是AI误判直接进入地缘政治决策链，将倒逼军事AI部署引入强制人工复核与可追溯审计。

Claude已主导Anthropic约26%的AI研发工作，约3万个Agent并行运行，意味着头部公司正把模型自我迭代从概念推向工程实践。这既可能显著压缩研发周期，也让递归自我改进的失控风险从理论问题变成需要实时监控的运营问题。

三名研究员借助Claude Opus 4.8与5，不到72小时攻入OpenAI员工账户并触及内部代码库，成本不足3000美元代币。它同时暴露了前沿模型被武器化的速度、企业内网的真实脆弱性，以及AI安全攻防成本已低到个人团队可承受。

#政策与监管

#行业与公司

#大模型与前沿

#应用与安全

编辑观察

今天多条线索指向同一个判断：AI能力正从“辅助”滑向“代理执行”——Claude承担研发、Muse操作电脑、Agent并行三万。但军事幻觉情报与Claude攻破OpenAI内网同时说明，代理越自主，误判与滥用的代价越接近真实世界。安全评估若仍停留在事后报告，能力与治理的剪刀差只会继续扩大。