#AI 治理

共 59 篇相关资讯，按重要度与时间排序，每 3 小时更新。

★ 4

全国人大常委会将审议成立世界人工智能合作组织协定

赵乐际主持十四届全国人大常委会第七十四次委员长会议，决定常委会第二十五次会议于 11 月 2 日至 6 日在北京举行。会议建议审议国务院关于提请批准《关于成立世界人工智能合作组织的协定》的议案，同时审议多部法律草案。

36氪10 天前

★ 4

微软纳德拉称 AI 模型需要「紧急刹车」

微软 CEO 萨提亚·纳德拉发文表示，是时候「退后一步评估 AI 的信任架构」，主张为 AI 模型设置紧急制动机制。此番表态来自头部 AI 厂商高管，可能推动行业对 AI 安全与可控性的进一步讨论。

TechCrunch AI22 天前

★ 4

特朗普成立「超级智能特别工作组」

美国总统特朗普宣布成立「超级智能特别工作组」（SIF），协调联邦政府在超级智能领域的工作，并负责政府与消费者、公共利益团体、宗教组织、关键基础设施提供商及超级智能企业间的沟通。工作组由国家情报总监、FTC 主席、国防部 CTO 与人事管理局局长共同领导。

36氪28 天前

★ 4

AI 热潮如何重绘全球商业版图

文章认为 AI 正在为国家竞争加入新维度：模型访问虽全球通用，但部署取决于算力基础设施、数据主权、AI 治理与前沿模型获取。新加坡押注可信部署并吸引汇丰设立全球 AI 卓越中心，海湾国家则以资本和政策吸引跨国企业。与此同时，20 多国支持 AI 应受人类控制的宣言，而特朗普在联大主张美国应保持对华…

快公司33 天前

★ 4

习近平同特朗普会谈

国家主席习近平与美国总统特朗普在白宫举行会谈，双方就经贸、人工智能等议题交换意见。习近平表示中美都是人工智能大国，应开展对话、加强合作，共同防范 AI 被滥用恶用。

36氪38 天前

★ 3

评论：谷歌、微软、Anthropic、OpenAI 为何需要自建 AI 内容检测工具

一篇评论文章认为，谷歌、微软、Anthropic 与 OpenAI 等公司应推出更有效的 AI 生成内容检测工具，用于识别搜索结果与智能体引用来源中的 AI 垃圾内容。作者指出传统查重与相似度过滤难以应对生成文本的多样性，建议用 AI 检测标签调整结果排序，优先呈现真人写作。

Hacker News – AI1 天前

★ 3

审计：41 个模型版本预训练披露并不持续改善

研究基于 2025 年基础模型透明度指数（FMTI）的 24 项预训练指标，审计 17 个模型家族共 41 个条目。24 组相邻版本对比中 11 组得分下降、6 组上升、7 组持平，共 38 项指标丢失、28 项提升；OLMo-2 与 OLMo-3 总分相同但各有三项得失，Llama-3.1 虽优…

arXiv NLP4 天前

★ 3

Anthropic 发布公益公司章程与年度公益报告

Anthropic 作为公益公司（PBC）发布公益报告，说明其在股东财务利益与公众利益之间如何取得平衡。报告梳理了公司在研究、政策与项目上的公益投入，并承诺持续更新记录。这体现了头部 AI 实验室在治理结构上的公开化尝试。

Hacker News11 天前

★ 3

Anthropic 聘请法律机构，研究 AI 智能体交易谈判规范

Anthropic 正与律所磋商，研究 AI 智能体应如何代表用户进行交易谈判，既争取最优结果又兼顾公平。公司正在探索模型交互时的「谈判规范」，并权衡智能体在谈判中需要多大程度寻求人类反馈、面对其他 AI 对手应保持多高警惕。还讨论过让用户签署文件确认委托事项与规则等方案。

36氪14 天前

★ 3

研究警示：AI 可靠运行下人类干预能力退化风险

德雷塞尔大学学者提出「潜在风险」概念：当 AI 长期稳定运行，人类监督者会逐渐丧失独立判断与介入能力，而组织仍依赖其兜底。文章以德勤重新设计审计培训为例，说明企业正通过模拟训练保留员工判断力。核心矛盾是 AI 越强，人类工作越从执行转向监督，能力却在悄然弱化。

快公司15 天前

★ 3

罗马尼亚任命首位 AI 部长：Bitdefender 研究员 Bogdan Dumitru

罗马尼亚任命 Bitdefender 安全研究员 Bogdan Dumitru 出任该国首位 AI 部长，负责统筹人工智能政策与产业发展。此举使罗马尼亚成为较早设立专职 AI 内阁职位的国家，也体现安全产业背景人才进入 AI 治理层。

Hacker News – AI15 天前

★ 3

Anthropic CEO 呼吁放缓 AI 开发，企业需自建治理框架

Anthropic CEO Dario Amodei 近日发公开信，警告 AI 智能体可能在 6 到 12 个月内造成数千亿美元损失，呼吁 AI 公司主动放缓产品开发节奏。文章认为，近期风险更多来自银行、医疗等关键行业中普通 AI 系统做出的日常决策，而非失控智能体。由于监管滞后，企业必须自行建立…

快公司17 天前

★ 3

比尔·盖茨重返 AI 安全领域，推动风险防范行动

比尔·盖茨重新投身 AI 安全议题，通过其基金会和公开倡议推动对 AI 潜在风险的防范。此举表明这位科技界元老将 AI 安全视为需要持续投入的公共议题，可能带动更多资源和关注进入 AI 治理领域。

Hacker News – AI17 天前

★ 3

科学界发布 AI 与网络安全公开信

科学界发布一封关于 AI 与网络安全的公开信，呼吁关注 AI 技术在网络安全领域的风险与治理。公开信由 ai-security-letter.org 发布，在 Hacker News 上引发关注。

Hacker News – AI19 天前

★ 3

CNBC 报道：AI 安全守门人走向聚光灯下

CNBC 发文指出，长期在幕后默默工作的 AI 安全守门人正逐渐进入公众视野。文章探讨了这些安全团队在 AI 治理中的关键角色及其日益增长的影响力。

Hacker News – AI19 天前

★ 3

首席 AI 官职位能否长期存续引讨论

文章探讨首席 AI 官（CAIO）这一高管职位的生命周期，指出 IBM 研究显示超四分之三组织已设立该职位，但随着 AI 成为企业级能力，单一负责人的逻辑难以持续。作者类比首席数字官的兴衰轨迹，认为 CAIO 做得好反而可能让该职位最终消失。

快公司20 天前

★ 3

新报告称全球硬性暂停前沿 AI 训练可行

伯克利发布新报告，论证对前沿 AI 训练实施全球性、硬性暂停在技术与制度上是可行的。报告为 AI 安全治理与算力管控的政策讨论提供了新的可行性依据。

Hacker News – AI21 天前

★ 3

Bengio 呼吁重视 AI 安全者离开前沿实验室

图灵奖得主 Yoshua Bengio 在采访中表示，如果研究人员真正把 AI 安全放在首位，就应当离开前沿 AI 公司。他认为在商业压力下，前沿实验室难以优先考虑安全，这一表态再度引发学界与产业界关于 AI 安全治理的争论。

Hacker News – AI23 天前

★ 3

TRACE 治理框架：量化生产 AI 的可解释性债务

论文提出 TRACE 七工具治理框架，用于测量、追踪和修复生产 AI 系统中的可解释性债务，核心指标 EDS 量化低于治理阈值的决策比例。通过对日均 5 万笔交易的反欺诈系统 12 个月纵向研究，证明审计日 EDS 0.23 可提前六个月预测，78% 债务集中在高风险交易类别，为 EU AI Ac…

arXiv cs.LG23 天前

★ 3