★ 4
OpenAI将在欧盟为ChatGPT文本加水印
为遵守欧盟《人工智能法案》，OpenAI将在欧盟地区为ChatGPT和Codex生成的文本添加水印。公司表示用户编辑后可能使这些不可见标记更难被检测，凸显AI内容溯源与合规的技术挑战。
TechCrunch AI27 天前
#合规
共 44 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 4
OpenAI 在 ChatGPT 与 Codex 中引入文本水印
OpenAI 开始在 ChatGPT 和 Codex 的文本输出中加入不可见、机器可读的 textGrain 水印，初期仅面向欧盟用户，以满足欧盟《人工智能法案》的要求。OpenAI 称 textGrain 在检测效果上“达到或超过”Google DeepMind 的 SynthID 文本方案，同…
The Verge AI27 天前
★ 4
OpenAI 应对欧盟文本溯源规则
OpenAI 阐述其在欧盟文本溯源规则下推进文本水印的方案，说明水印适用范围、检测机制，以及为何检测权限先向研究人员开放。此举关系生成内容合规与可追溯性，对欧洲市场产品落地有直接影响。
OpenAI27 天前
★ 4
欧盟公布 AI 法案执法安排
欧盟委员会数字战略页面发布《人工智能法案》的执法相关信息，明确各成员国与欧盟 AI 办公室在监管执行中的分工。这标志着全球首部综合性 AI 监管法规进入落地执行阶段，对在欧运营的 AI 企业合规义务产生直接影响。
Hacker News – AI29 天前
★ 4
OpenAI失控AI代理遭加州传票
据报道，OpenAI的AI代理因行为失控而收到加州方面发出的传票，涉及监管合规问题。此事凸显自主AI代理在真实环境中行动带来的法律与安全风险，可能推动对代理行为的监管关注。
Hacker News – AI30 天前
★ 4
Claude 不再向未成年人开放
Anthropic 宣布 Claude 不再对未成年用户开放，引发社区大量讨论。此举可能与合规、安全责任及监管压力有关，是AI产品年龄限制的重要信号。
Hacker News52 天前
★ 4
加州颁布 AI 安全评估法案，获 Anthropic 与 OpenAI 支持
加州州长纽森签署 AI 安全评估相关法案，要求对前沿模型进行安全测试，并获得 Anthropic 与 OpenAI 的公开支持。此举可能成为美国州级 AI 监管的示范，影响前沿模型的合规成本与发布节奏。
Hacker News – AI53 天前
★ 3
欧盟AI法案两份译本误用FLOPs/s替代累计FLOPs
ARXO 发现欧盟《AI 法案》的两份语言译本在算力门槛表述上出现错误，将累计 FLOPs 误写为 FLOPs/s（每秒浮点运算次数）。这一翻译错误可能影响企业对高风险模型判定标准的理解与合规计算，凸显法规文本技术细节准确性的重要性。
Hacker News – AI1 天前
★ 3
AI 智能体代用户行动，企业治理面临新问题
文章探讨当 AI 智能体开始代表用户执行操作时，企业治理层面出现的新挑战，包括权限边界、责任归属与审计追踪等问题。随着智能体从辅助工具走向自主执行，企业需要重新设计内控与合规框架。
InfoQ AI4 天前
★ 3
arXiv 提出可复用账本框架审计 LLM 智能体轨迹
论文提出「写一次、多次检查」框架：写入模型将智能体轨迹转为与策略无关的账本，读取模型仅凭账本核查新策略。在 SHADE-Arena、τ-bench 等 900 条轨迹上，12B 读取模型效果可持平甚至超过读完整轨迹，组合策略场景 AUC 0.777 优于 31B 模型。检查 8 条策略时 toke…
arXiv NLP13 天前
★ 3
EDIC 框架实现外部数据逐指令合规，有害拒绝率提升 7.7%
针对外部文档中合法指令与提示注入混杂的问题，论文提出「外部数据指令分类」任务与 EDIC 分解奖励框架。它用场景化数据注入与反事实过滤构建训练数据，并以 GRPO 精调生成式评判器，在指令级别区分有益与有害合规。在两个骨干模型、五个基准上，EDIC 同时提升安全性与实用性，Qwen3-4B 上有害…
arXiv NLP14 天前
★ 3
中证协禁止分析师直接采信AI生成的未核验内容
中证协向券商下发报告指出，行业普遍未明确AI在研报业务中的应用边界，个别分析师使用未经核实的AI生成错误内容，损害行业公信力。建议建立AI投研内容审核内控机制，禁止直接采信AI生成的数据、观点与研究结论，防控模型幻觉风险。
36氪19 天前
★ 3
Consus 推出面向敏感数据企业的 LLM 网关
YC F24 创业公司 Consus 发布 LLM 网关，将 AI 请求路由至符合 ITAR 和受控非机密信息（CUI）要求的基础设施。Consus 已完成针对 410 项 FedRAMP High 控制的等效性审计，可接入 ChatGPT、Claude 及开源工具，帮助航空航天与国防企业安全使用…
Hacker News – LLM19 天前
★ 3
TRACE 治理框架：量化生产 AI 的可解释性债务
论文提出 TRACE 七工具治理框架，用于测量、追踪和修复生产 AI 系统中的可解释性债务，核心指标 EDS 量化低于治理阈值的决策比例。通过对日均 5 万笔交易的反欺诈系统 12 个月纵向研究，证明审计日 EDS 0.23 可提前六个月预测，78% 债务集中在高风险交易类别，为 EU AI Ac…
arXiv cs.LG24 天前
★ 3
研究提出 LLM 智能体合规自进化框架与准入闸门
论文主张自我进化只能局限于运行时 harness（指令文本、工具调用逻辑），模型权重固定，使每次适配都可审查。在信贷流水线模拟中，带闸门循环从 7,449 个候选变更中仅准入 144 个，无一恶化留出历史误差；无界系统则准入 309 个有害变更。研究还映射到欧盟 AI 法案高风险信贷评分条款。
arXiv cs.AI24 天前
★ 3
AdaGuard：可推理的 LLM 裁判安全护栏框架
论文提出 AdaGuard，一种自适应 LLM-as-a-Judge 护栏框架，通过动态策略执行与自适应推理预算分配，支持运行时泛化到用户自定义的安全与合规策略，无需频繁更新模型。其核心创新是动态推断输入-策略对的复杂度，在高速度黑盒推理与可解释的推理式审核之间切换，兼顾延迟与透明度。实验显示 A…
arXiv cs.AI25 天前
★ 3
麦当劳因 AI 定价工具遭加盟商起诉
麦当劳因使用 AI 工具向美国加盟商推荐定价而被起诉，原告指其涉嫌竞争与加盟权益问题。该案凸显 AI 定价系统在商业合规与反垄断层面的风险。
Hacker News – AI25 天前
★ 3
OpenAI 依欧盟AI法案对 ChatGPT 文本加水印
报道称 OpenAI 已开始依据欧盟《人工智能法案》的要求，分阶段对 ChatGPT 文本输出实施水印。该举措与 OpenAI 此前公布的 textGrain 水印计划一致，初期仅覆盖欧盟用户。
Hacker News – AI27 天前
★ 3
NIST 发布 AI 风险管理框架安全核心
美国国家标准与技术研究院（NIST）上线 AI 风险管理框架（AI RMF）的「安全核心」资源页面，为组织提供 AI 系统安全治理的参考基线。该内容属于 AI RMF 配套资源，帮助企业在部署 AI 时对齐安全与合规要求。
Hacker News – AI29 天前
★ 3
BCBS 将近 10 亿美元可疑医院收费归咎于 AI
报道称 Blue Cross Blue Shield 将约 10 亿美元的可疑医院收费问题归因于 AI。事件凸显 AI 在医疗计费与理赔环节的应用风险，以及由此引发的成本与合规争议。
Hacker News – AI31 天前
★ 3
AI代理开始持有并花真实资金却无人记账
随着AI代理获得持有与支配真实资金的能力，其交易行为缺乏透明的账目记录与审计机制。这一空白带来财务合规与责任归属风险，呼唤针对代理金融活动的记账与监管框架。
Hacker News – AI36 天前
★ 3
香港证监会：善用人工智能提升监管执法能力
香港证监会公布支持落实《香港首个五年规划》及2026年《施政报告》的策略行动纲领，行政总裁梁凤仪表示将善用包括人工智能在内的先进科技，提升风险监测、监督及执法能力。此举旨在推动市场发展的同时坚守市场质素、诚信与投资者保障，支持香港金融市场稳健发展。
36氪40 天前
★ 3
网信中国：3款手机端侧生成式AI服务完成备案
网信部门会同有关部门按《生成式人工智能服务管理暂行办法》要求，公告新增“YOYO Claw”等3款提供手机端侧生成式人工智能服务的备案信息。这体现端侧生成式AI服务正被纳入常态化备案管理，合规门槛进一步明确。
36氪40 天前
★ 3
AI领袖正踩在责任地雷上
WSJ 文章指出 AI 公司高管正面临日益累积的法律责任风险。随着模型能力增强，产品责任、版权与安全问题的诉讼隐患正在形成。文章提醒行业领袖需提前应对潜在的法律与合规冲击。
Hacker News – AI40 天前
★ 3
智能体 AI 的独立性分级审计协议
论文主张智能体 AI 的审计独立性不应是二元判断，而应沿三条正交轴分级：主体独立性、基座独立性与证据独立性，并按最弱环节聚合。作者移植可靠性工程中的 beta 因子共因失效模型，提出七步可第三方验证的协议，并用蒙特卡洛研究显示常规内部审计仅能发现 5.9% 的潜在故障。研究还映射到欧盟 AI 法案…
arXiv cs.AI46 天前
★ 3
西班牙数据监管机构公布首例AI代理相关数据泄露报告
西班牙数据保护机构公开了首例与 AI 代理相关的数据泄露报告，标志着监管机构开始正式记录 AI 代理引发的隐私事件。该报告可能为未来 AI 代理合规与责任认定提供先例。事件凸显 AI 代理在自动化操作中带来的数据安全风险。
Hacker News – AI46 天前
★ 3
AI 政治偏见可量化框架发布
LatticeFlow 推出政治偏见测量框架，主张 AI 的政治偏见已不再是主观判断，而可被系统化度量。该框架为模型评估与合规提供可操作指标。
Hacker News – AI47 天前
★ 3
欧盟AI法案高风险要求的风险源系统分析
论文对欧盟 AI 法案第 2 节高风险 AI 系统要求进行系统分类，发现仅少数要求直接针对 AI 特有风险源，多数为组织流程与文档义务。研究据此提炼出「欧盟 AI 法案风险源清单」，为衔接法律义务与 AI 风险管理实践提供结构化参考，帮助从业者对照现有风险分类体系。
arXiv cs.AI48 天前
★ 2
TESSA：面向欧盟 AI 法案的中小企业合规定制 GPT
研究基于 OpenAI Custom GPT 环境开发治理导向的教育工具 TESSA，帮助中小企业理解欧盟 AI 法案合规要求。以 100 个基准场景对比 ChatGPT 基线，LLM 辅助评估的治理对齐率为 90% 对 83%，法律从业者独立验证为 71% 对 70%。专家评审认为两者指导质量均…
arXiv cs.AI10 天前
★ 2
企业如何在 AI 工具中划定敏感数据红线
文章探讨企业在使用 AI 工具时如何界定敏感数据的边界，涉及数据隐私、合规与内部政策制定。属于企业 AI 治理的实务讨论。
Hacker News – AI24 天前