OpenAI 在 ChatGPT 与 Codex 中引入文本水印
OpenAI 开始在 ChatGPT 和 Codex 的文本输出中加入不可见、机器可读的 textGrain 水印,初期仅面向欧盟用户,以满足欧盟《人工智能法案》的要求。OpenAI 称 textGrain 在检测效果上“达到或超过”Google DeepMind 的 SynthID 文本方案,同…
共 9 篇相关资讯,按重要度与时间排序,每 3 小时更新。
OpenAI 开始在 ChatGPT 和 Codex 的文本输出中加入不可见、机器可读的 textGrain 水印,初期仅面向欧盟用户,以满足欧盟《人工智能法案》的要求。OpenAI 称 textGrain 在检测效果上“达到或超过”Google DeepMind 的 SynthID 文本方案,同…
OpenAI 阐述其在欧盟文本溯源规则下推进文本水印的方案,说明水印适用范围、检测机制,以及为何检测权限先向研究人员开放。此举关系生成内容合规与可追溯性,对欧洲市场产品落地有直接影响。
O'Reilly Radar 文章指出最新 Anthropic Claude 模型输出中带有 AI 文本水印,并解读其对内容溯源、版权与合规的影响。文章面向使用者说明水印意味着什么。
报道称 OpenAI 已开始依据欧盟《人工智能法案》的要求,分阶段对 ChatGPT 文本输出实施水印。该举措与 OpenAI 此前公布的 textGrain 水印计划一致,初期仅覆盖欧盟用户。
论文考察基于编辑的同形字与隐形字符水印在 40 种语言变体、24 种文字中的表现,发现容量差异达 3.3 倍,其中 96% 由文字系统解释。普通复制粘贴会剥离隐形字符,使检测所需文本量从英文约 2 个码点膨胀到老挝文 93 个。结论是绕开分词器并未消除不平等,只是改变了不平等的来源。
开发者发布开源工具 AI Watermark Scrambler,通过改写词选择来削弱统计型文本水印信号,覆盖绿名单、SynthID-Text 及 Claude 嵌入式文本水印等类别。工具在本地运行,作者强调改写只能降低检测证据,并不保证带密钥的检测器一定失效。
论文提出 watermarkability 概念,量化语言模型与基于 logit 的水印所要求词元集合之间的兼容性,并用 KL 散度定义水印成本。作者设计两阶段方法:先训练目标集合条件化的低秩适配器,再用闭式控制器施加最小 logit 偏置,在 OPT-125M 与 Qwen3-8B 上显著降低困…
开发者受 Google SynthID 与 Anthropic 文本水印的键控算法思路启发,做了 Synonymizer 实验,通过替换同义词来探索能否干扰 AI 文本水印。作者指出目前没有公开验证器可评估其效果。
现有 LLM 文本水印多将词表分为绿红两组,偏向绿词会损害文本质量与自然度。TripPattern 提出三分区模式匹配框架:一个中性组加两个模式组,生成时在两组间交替选词以嵌入可检测模式,中性词独立选取以保自然。检测端用基于模式的统计检验给出可解释 p 值。四个多语言数据集实验显示其在保持生成质量…