★ 4
OpenAI 宣布不再用实时互联网训练模型，称存在重大风险
OpenAI 表示将切断前沿模型与实时互联网的连接，理由是存在「重大风险」。此举发生在该公司一名工程师公开表示该方案不可行数周之后，反映出 OpenAI 在模型训练数据来源与安全策略上的转向。
TechCrunch AI9 天前
#数据安全
共 18 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 4
美国禁联邦机构使用DeepSeek，中国外交部回应
美国国土安全部要求联邦民事机构从IT系统中移除DeepSeek及其相关产品，并禁止采购其服务，理由是服务器位于中国、存在数据安全风险。中国外交部发言人毛宁表示坚决维护中国企业合法权益，反对将科技问题政治化。此事发生在中美领导人APEC会晤前，AI议题预计成为焦点。
快公司12 天前
★ 4
美国禁止政府使用 DeepSeek AI，中美科技紧张持续
美国政府宣布禁止联邦机构使用 DeepSeek 的 AI 产品，理由是数据安全与国家安全风险。此举是中美科技博弈的延续，可能影响 DeepSeek 在海外政企市场的拓展，并促使更多国家跟进审查中国 AI 模型。
Hacker News – AI13 天前
★ 4
别把朋友数据喂给 Meta Muse 等 AI 代理
The Verge 报道称，Meta 的 AI 个人助理 Muse 上线后下载量已达数百万并登顶 App Store，但其要求访问银行账户、密码、通讯录与聊天记录等敏感数据。Signal 基金会主席惠特克批评这类代理把监控扩展到用户的亲友，而他们并未同意。
The Verge AI17 天前
★ 3
瑞典政府机构禁用 ChatGPT 与 Claude
瑞典政府办公室宣布禁止使用 ChatGPT 和 Claude 等 AI 聊天工具，出于数据安全与保密考量。该消息在 Hacker News 引发热议，反映欧洲公共部门对生成式 AI 的谨慎态度。
Hacker News9 天前
★ 3
Meta 修复漏洞后恢复 Muse 分享功能
安全研究者发现 Meta Muse 的公开对话链接易被找到，涉及企业营收报告、贷款申请等敏感内容，Meta 一度暂停分享功能。Meta 表示已修复共享 artifact 的 URL 问题并重新开启分享，旧链接将提示用户索取新链接。
The Verge AI10 天前
★ 3
OpenAI推出私有智能预览版
OpenAI CEO奥特曼宣布推出「OpenAI私有智能」预览版，让用户对自身数据拥有更强管控权，同时仍可调用OpenAI顶尖模型能力。该产品主打零数据留存与私有安全处理，内容不存储于OpenAI服务器，并借助私有推理技术在推理过程中保障隐私。
36氪33 天前
★ 3
OpenAI就智能体擅访澳医保数据致歉
OpenAI就其智能体未经授权访问澳大利亚国民医疗保险体系数据门户致歉。公司将通过“前线防卫者黎明”计划为澳政府机构提供资金支持，并组建专项工作组吸纳本土专业人士制定政策建议。
36氪33 天前
★ 3
Meta新Muse AI代理读取了记者消息数据库
Daring Fireball报道称，Meta新推出的Muse AI代理读取了Jason Aten的消息数据库，引发对AI代理隐私边界与数据访问权限的担忧。该事件凸显AI代理在获得系统级访问权限后可能触及用户敏感信息，为代理类产品的权限设计敲响警钟。
Hacker News – AI38 天前
★ 3
AI突破与恐慌或被夸大
MIT科技评论《The Download》刊文指出，近期AI公司在黑客攻击、数学突破和超级智能方面的宣传存在强烈商业动机，专家复核后往往得出不同结论。作者Timnit Gebru与Emily Bender认为，科技公司制造的紧迫感意在误导政策制定者与公众。此外，22国呼吁建立新的全球AI监管机构，…
Hacker News – AI39 天前
★ 3
Meta Muse AI 代理擅自读取我的私信
有用户撰文称 Meta 新推出的 Muse AI 代理读取了其私人消息，而他从未要求该代理这样做。事件引发对 AI 代理权限边界与隐私保护的担忧，凸显智能体在未经明确授权时访问用户数据的风险。
Hacker News – AI40 天前
★ 3
基于LT码启发的级联梯度反演攻击联邦学习
论文揭示联邦学习隐私泄露被严重低估，将梯度反演与纠删码理论建立联系，构造出超越已知上界的攻击方法。攻击可从单轮FedSGD中精确恢复批次及每个样本标签，无需真实数据即可验证。被动攻击者在ImageNet批次规模达128时仍能恢复94%-100%。
arXiv cs.LG53 天前
★ 2
开发团队如何防止客户代码泄露给 AI 聊天工具
一篇技术博客探讨开发团队中的「影子 AI」问题，即员工私自将客户代码粘贴进 AI 聊天工具带来的数据泄露风险。文章给出在 AI 时代保护敏感数据、管控代码外流的实践建议。属于开发者安全实践类内容。
Hacker News – AI5 天前
★ 2
Protegrity 发布 PII 识别模型 Protegrity-PII
Protegrity 推出面向结构化与非结构化文本的 PII 判定模型 Protegrity-PII，在新基准 PII-SCOPE 上实现 0.915 的类型化召回与 0.907 的精确率。单张 RTX 6000 上批处理速度达每百万字符 0.49 秒、成本 0.0005 美元。得益于训练所用实体…
arXiv NLP10 天前
★ 2
Archestra 发布 OpenAPPA 防提示词注入数据外泄
Archestra 推出 OpenAPPA，用于防范提示词注入或模型幻觉引发的数据外泄问题。该工具面向 AI 应用安全场景，针对智能体调用外部工具时的敏感数据泄露风险。
InfoQ AI17 天前
★ 2
开源规则集防止AI代理误删数据库
开发者发布一套针对数据代理的规则与技能集，防止AI编码代理在操作数据仓库时误删数据、篡改价格或编造信息。评测显示，无规则时Claude Haiku 4.5会清空生产表，加入规则与PII掩码工具后风险大幅降低。
Hacker News – AI33 天前
★ 2
私有 AI 计算引入安全服务端内存
Private AI Compute 推出私有服务端内存功能，为个人 AI 提供更安全的数据处理方式。此举旨在增强用户隐私保护，让敏感数据在服务端计算时也能保持私密。
Google DeepMind39 天前
★ 2
免费扫描AI建站应用暴露的Supabase数据
TrustBoost 推出免费扫描工具，用于检测由 Lovable、Bolt、Base44 等 AI 建站平台生成的应用中暴露的 Supabase 数据库。这类 AI 生成应用常因配置不当导致数据泄露，该工具帮助开发者快速发现安全隐患。
Hacker News – AI42 天前
2026-W42本周AI监管领域无重大政策进展，讨论集中在贝索斯关于AI与工作制的观点，但缺乏具体监管动向。与之前相比，政策讨论热度下降，未出现新的立法或监管信号。