★ 4
OpenAI将在欧盟为ChatGPT文本加水印
为遵守欧盟《人工智能法案》，OpenAI将在欧盟地区为ChatGPT和Codex生成的文本添加水印。公司表示用户编辑后可能使这些不可见标记更难被检测，凸显AI内容溯源与合规的技术挑战。
TechCrunch AI27 天前
#内容溯源
共 14 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 4
OpenAI 在 ChatGPT 与 Codex 中引入文本水印
OpenAI 开始在 ChatGPT 和 Codex 的文本输出中加入不可见、机器可读的 textGrain 水印，初期仅面向欧盟用户，以满足欧盟《人工智能法案》的要求。OpenAI 称 textGrain 在检测效果上“达到或超过”Google DeepMind 的 SynthID 文本方案，同…
The Verge AI27 天前
★ 4
OpenAI 应对欧盟文本溯源规则
OpenAI 阐述其在欧盟文本溯源规则下推进文本水印的方案，说明水印适用范围、检测机制，以及为何检测权限先向研究人员开放。此举关系生成内容合规与可追溯性，对欧洲市场产品落地有直接影响。
OpenAI27 天前
★ 3
O'Reilly 解读：Anthropic Claude 模型内置 AI 文本水印
O'Reilly Radar 文章指出最新 Anthropic Claude 模型输出中带有 AI 文本水印，并解读其对内容溯源、版权与合规的影响。文章面向使用者说明水印意味着什么。
Hacker News – AI6 天前
★ 3
REAL 评级：披露人机协作程度的新框架
论文提出 Reported Engagement with AI Level（REAL）评级框架，用六级量表（0-5 级）披露 AI 在产品创作与用户体验中的参与程度。现有溯源标准与披露方法多依赖二元分类或缺乏用户可读性的技术水印，无法反映不同 AI 使用方式带来的风险差异。论文详述了该体系的结构…
arXiv cs.AI26 天前
★ 3
研究：LLM 水印如何影响 AI 智能体行为
一项研究探讨了大语言模型水印技术对 AI 智能体行为的影响。该话题在 Hacker News 引发较多讨论，涉及水印在智能体场景下的副作用与可靠性问题。
Hacker News36 天前
★ 3
AI水印使模型更易受对抗提示攻击
研究发现，当模型启用AI文本水印后，其对有害提示的响应方式会发生变化，反而更容易受到对抗性提示的攻击。这揭示了水印机制与模型安全对齐之间可能存在的冲突，对内容溯源与安全防护的平衡提出新挑战。
Hacker News – AI44 天前
★ 2
AI Watermark Scrambler 开源：本地模糊 LLM 文本水印
开发者发布开源工具 AI Watermark Scrambler，通过改写词选择来削弱统计型文本水印信号，覆盖绿名单、SynthID-Text 及 Claude 嵌入式文本水印等类别。工具在本地运行，作者强调改写只能降低检测证据，并不保证带密钥的检测器一定失效。
Hacker News – AI6 天前
★ 2
新方法为扩散语言模型加水印：学习前瞻与均衡词带
针对扩散语言模型先选词后定上下文的特性，研究提出学习式绿名单词带与前瞻预测器，并按检测器口径统计绿词以抑制重复刷分。在 WaterBench 上用 LLaDA-8B-Instruct 测试，强水印下 1% 误报率可检出至少 96% 的回复，且文本质量与未加水印相当。
arXiv cs.AI6 天前
★ 2
Opus 5.5 的 AI 写作特征更新
Graphite 的研究更新了针对 Opus 5.5 模型的「AI 写作特征」（AI tells）分析，用于识别文本是否由该模型生成。这类研究对内容溯源与 AI 文本检测具有实用价值。
Hacker News – AI28 天前
★ 2
Repligraphs：AI内容溯源的新原语
一篇技术文章提出Repligraphs，作为标记和验证AI生成内容来源的原语机制。目标是应对AI内容泛滥下的溯源与可信问题，属于学术/工程交叉探讨。
Hacker News – AI39 天前
★ 2
TripPattern：基于模式的三分区文本水印方法
现有 LLM 文本水印多将词表分为绿红两组，偏向绿词会损害文本质量与自然度。TripPattern 提出三分区模式匹配框架：一个中性组加两个模式组，生成时在两组间交替选词以嵌入可检测模式，中性词独立选取以保自然。检测端用基于模式的统计检验给出可解释 p 值。四个多语言数据集实验显示其在保持生成质量…
arXiv cs.AI48 天前
★ 1
AI 归因（AIA）概念提出
Timothy Cook 提出 AI Attribution（AIA）概念，讨论如何对 AI 生成内容进行来源归属与责任追踪。属于个人博客层面的概念探讨，受众极窄。
Hacker News – AI27 天前
★ 1