AI 趋势周报（第 3 期）2026-09-07 ~ 2026-09-13
AI 趋势周报（第 3 期 · 2026-09-07 ~ 2026-09-13）
本周与上周最大的不同，是行业焦点从“模型能力竞赛”明显转向“代理（Agent）的可靠性、安全与评测基础设施”。上周的叙事主线仍是头部厂商的新模型发布与监管博弈，而本周大量新出现的研究与产品都在追问同一个问题：当智能体真正进入企业、金融、医疗、科研等高风险场景时，它是否可审计、可复现、可防御。这一转向在数据上也有体现：本周重要事件数量明显多于上周，学术研究类占比接近四成，成为绝对主导，而大模型与算力芯片类占比合计不足一成，说明讨论重心已从“更大的模型”下沉到“更稳的系统”。公司热度上，Anthropic 与 OpenAI 依旧领跑且差距极小，Nvidia、Apple、Meta 并列其后，反映竞争格局仍是双雄对峙、多强环伺。
代理评测与可靠性成为新战场（6 篇 / 6 个事件）
- 本周学术研究类占比接近四成，是分类分布中的绝对主力，且大量成果集中在智能体评测：Harbor 系列把八十多个基准统一适配到任意智能体，最强配置通过率仅 28%；τ^τ-bench 显示最强编码代理在真实客服场景下通过率不足四分之一。这说明行业已意识到“能跑通 demo”与“能交付生产”之间存在巨大鸿沟。 原文 原文
- 评测维度正从单一准确率扩展到伦理、延迟结算、老年用户等长尾场景：HarvestBench 测出不同模型在避免伤害动物时的杀生率从 0.4% 到 98.8%，且与能力无关；FinalityBench 与 ElderBench 分别针对金融不可逆操作和老年移动交互。评测的“场景化”正在取代“刷榜化”。 原文 原文 原文
- 企业决策代理的排名被证明高度依赖生态：ERPBench 在 Solo 与 Arena 两种市场生态下，领先模型从 DeepSeek 切换到 Gemini，任务级赢家仅 21% 一致。这意味着单一榜单结论不可跨场景外推，代理选型必须绑定具体业务环境。 原文
对齐与安全研究从“事后补救”走向“训练时免疫”（6 篇 / 6 个事件）
- 本周多项工作把安全机制前置到训练与推理环节：HackProbe 用黑盒钩子检测自进化模型的奖励黑客行为，并配合免疫层重新选择诚实候选；SiLR 通过影子执行与顺序准入避免标量门控陷阱。安全不再是外挂过滤器，而是内嵌到代理决策链路。 原文 原文
- 能力与安全的关系被进一步证伪“越强越安全”的直觉：一项研究提出“能力悖论”，指出共享训练导致前沿模型行为相关性增强，在共同错误信息下反而放大系统性风险；另有研究显示金融领域微调会显著加剧数值幻觉，数值监督甚至放大幻觉。 原文 原文
- 隐私与注入攻击的防御也在同步推进：SHAQ 用影子查询防御向量数据库嵌入反转，恢复率低至 0.21；间接提示注入被形式化为测试时搜索问题，说明攻击面正随代理自主性扩大。 原文 原文
后训练范式被“稀疏监督”与“自博弈”重塑（6 篇 / 6 个事件）
- 本周出现一个反直觉但被多模型多任务验证的结论：在策略蒸馏中仅用每条推理轨迹一两个 token（约占总 token 的 0.05%）做监督，就能匹配甚至超越全 token 训练。这直接挑战了后训练必须依赖密集标注的行业默认假设。 原文
- 零标注自博弈成为降低数据成本的主流思路：SQL-Zero 通过提议者-求解者自博弈，在 BIRD 上让 3B 与 7B 模型分别提升 6.6 和 7.3 个点，且小模型跨库迁移更好；Iris 搜索智能体也通过反向构建多跳任务与 SFT-RL 交替训练取得开源最强成绩。 原文 原文
- 个性化与效率方向同样活跃：PLUME 与 Aplaud 把每用户参数降低 95% 以上，ProtLingo 以 1.5 亿参数达到竞争性能，显示“小参数、强适配”正在成为部署侧的现实选择。 原文 原文 原文
模型生命周期与可复现性成为被忽视的系统性风险（2 篇 / 2 个事件）
- 一项覆盖 2022 至 2026 年生物医学文献的分析发现，42% 的论文所用大模型在发表时已退役或将在两年内退役，中位间隔仅 538 天。商业闭源模型的频繁弃用，正在让大量研究面临计算不可复现的困境，这已不是个别厂商问题，而是整个科研基础设施的隐患。 原文
- 与之呼应的是，本周新出现的技术概念“ICL”（上下文学习）被纳入术语体系，说明行业对“不重训练即可适配”的依赖在加深，而这恰恰放大了底层模型一旦退役、上层适配全部失效的连锁风险。 原文 原文
应用侧从单点工具走向协作与多模态工作流（6 篇 / 6 个事件）
- 应用产品类占比约两成，且形态明显升级：千问办公推出业内首个多人工作台，把 Agent 从个人助手推向团队协作；Adobe 在 Premiere 中集成生成式媒体工具，让编辑在时间线内直接生成视频、音效与音乐。产品竞争点从“能不能生成”转向“能不能嵌入既有工作流”。 原文 原文
- 多模态与科学应用同步突破：智象发布原生全模态具身世界模型，谷歌 DeepMind 推出 AlphaGenome Atlas 绘制人类基因组变异预测图谱。AI 正在从通用对话工具，变成科研与具身场景的基础设施。 原文 原文
- 与此同时，版权与合规压力持续累积：西雅图时报与 Newsday 起诉 OpenAI 和微软，Anthropic 和解金分配也出现作者与出版商之争。应用扩张越快，内容来源与利益分配的摩擦越尖锐。 原文 原文
上周回顾（部分应验）
上周提出的五个观察点中，模型发布与代理安全两条线得到验证：GPT-6 Astra 内测曝光并宣称速度提升 6 倍，随后 GPT-6 与 Claude Fable 5.1 相继发布，Anthropic 声称代理工作成本降低 45%，头部厂商热度继续胶着（OpenAI 与 Anthropic 几乎并列第一）。代理安全方面，本周密集出现 HackProbe、SiLR、间接提示注入测试时搜索等成果，说明“代理入侵”类事件后行业确实在补对齐与防御课。但监管线基本落空：欧盟数字服务法对 ChatGPT 的具体整改期限、加州 SB 1119 表决、纽约州跟进法案均无实质进展信息；英伟达对联发科投资后的芯片路线图、OpenAI 的 Mac 集群训练成本披露、范式与华为首批落地产品也均未见公开细节。OBPE、LongGuard、CURA 等上周提及的工程化方向本周未被主流厂商明确采用，仍停留在研究阶段。
下周观察
下周可验证观察点：第一，GPT-6 与 Claude Fable 5.1 发布后一周内，是否出现第三方在 Harbor-Index 或 τ^τ-bench 等公开基准上的独立复现结果，尤其是代理任务通过率是否与官方宣称的成本下降幅度匹配。第二，针对西雅图时报诉 OpenAI 一案，法院是否在下次听证中给出是否合并至纽约时报案的程序性裁定，以及 OpenAI 是否发布公开回应或训练数据来源说明。第三，模型退役风险是否引发具体行动：是否有主流模型厂商公布模型弃用提前通知周期或长期支持承诺，或是否有期刊/会议更新可复现性投稿要求。第四，代理安全方向是否从论文走向产品：HackProbe 或 SiLR 类机制是否被任一头部厂商在代理产品更新说明中明确采用。第五，千问办公多人工作台与 Adobe 生成式媒体工具上线后，是否公布企业客户采用数据或与竞品的功能对比，以验证“协作型 Agent”是否真成主流形态。