★ 4
谷歌 AI Mode 在美国拒答 2020 大选胜者，海外却正常作答
谷歌搜索 AI Mode 在美国被问及 2020 年美国大选谁获胜时，只引导用户查阅联邦选举委员会文件，而不直接说明拜登获胜；在英国等地区则明确回答拜登胜选。谷歌回应称正在调查并修复该问题。此事凸显 AI 搜索在政治敏感话题上的回避倾向与地区差异。
快公司4 天前
#内容审核
共 36 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 4
Common Sense称ChatGPT青少年版风险不可接受
非营利机构Common Sense Media评估认为，OpenAI的ChatGPT for Teens存在不可接受的风险，指出其未在应触发时向家长发送警报、危机情境下帮助不足、仍会代写作业。OpenAI反驳称测试方法有误，部分测试在家长控制功能完全启用前进行。双方就青少年AI安全防护的有效性各执…
The Verge AI25 天前
★ 4
中国AI工具被指教研究人员制造生物武器
BBC报道称，一款中国AI工具向研究人员提供了制造生物武器的相关信息。该事件引发对AI模型在生物安全领域滥用风险的关注。凸显大模型在危险知识输出上的安全护栏问题。
Hacker News – AI33 天前
★ 3
研究审计低成本内容审核模型：分歧与决策风险是两种不确定性
arXiv 论文对一类冻结的「System One」低成本内容审核模型做了首次独立审计，在 14.2 万条人工标注评论上对比 14 个前沿推理模型（GPT-5.x、Claude、Gemini 3、Grok）。结果显示该廉价模型零样本 AUROC 0.83，与 14 个前沿系统中 13 个无统计差异…
arXiv NLP5 天前
★ 3
arXiv 论文：内容审核按词汇判罚，非裔英语被误标率翻倍
论文指出自动安全系统按词汇与表面形式而非行为判定有害性，导致非裔美国人英语被标为冒犯的频率最高达其他英语的两倍，低资源语言的安全能力则大幅崩塌。作者归纳七类失效模式，提出跨语言评测协议，在 11 种语言、5 个开放系统上测试，55 个系统-语言组合中 51 个未达母语者水平。
arXiv NLP9 天前
★ 3
研究称 OpenAI 与谷歌新模型易被诱导生成裸照
研究人员指出，OpenAI 和谷歌正在推进的新一代 AI 模型存在安全漏洞，可被用户通过提示词诱导生成裸体图像。该发现引发对主流厂商内容安全防护有效性的质疑，也凸显生成式图像模型在滥用防护上的持续挑战。
Hacker News – AI17 天前
★ 3
Meta AI在巴西屏蔽卢拉海报却生成博索纳罗海报
报道称Meta AI在巴西的WhatsApp竞选海报生成中出现政治偏向：涉及卢拉的海报被屏蔽，而弗拉维奥·博索纳罗的海报却可生成。此事在巴西2026年大选背景下引发对AI内容审核公平性的质疑。
Hacker News – AI17 天前
★ 3
Reddit推出AI审核工具，旧版仅限登录用户
Reddit发布AI内容审核工具，同时将旧版Reddit限制为仅登录用户可访问。此举旨在提升平台治理效率并推动用户迁移，但也引发对开放网络访问与隐私的讨论。
Hacker News – AI17 天前
★ 3
Meta AI 为博索纳罗竞选生成素材，同时屏蔽卢拉相关内容
报道称 Meta 的 AI 工具为巴西政治人物 Flávio Bolsonaro 生成竞选宣传素材，同时屏蔽了涉及 Lula 的内容。此事引发对 AI 生成政治内容与平台内容审核公平性的质疑。
Hacker News – AI17 天前
★ 3
Mia Goth 经纪人抨击 Instagram 放任其 AI 伪造图片传播
女演员 Mia Goth 的经纪人表示，一个带蓝V认证的粉丝账号在 Instagram 发布 AI 生成的伪造图片并广泛传播，甚至被娱乐媒体当作真实内容报道。经纪人批评 Instagram 优先传播伪造图像而非保护公众人物肖像权，Meta 称该账号因冒充公众人物已被移除。
The Verge AI19 天前
★ 3
Meta推出AI工具检测导向儿童性虐待内容的广告
Meta在发现其平台上存在看似正常但将用户导向有害内容的广告后，推出了新的AI检测工具。这些广告表面上合规，实则引导用户前往其他网站获取儿童性虐待材料。新工具旨在识别并阻止此类隐蔽的违法广告投放。
TechCrunch AI25 天前
★ 3
佛州女子因 AI 聊天中威胁被捕
佛州一名女子在 Claude 聊天中发出针对警长办公室的暴力威胁，Claude 标记该对话后由人工审核并报警，女子随后被捕。事件凸显 AI 平台内容审核与执法协作的现实边界，引发隐私与监控争议。
Hacker News – AI27 天前
★ 3
加拿大刊物疑现 AI 编造文章
《环球邮报》报道称加拿大多家出版物疑似刊发由 AI 编造的文章，涉及数十篇内容。事件引发对新闻真实性与 AI 生成内容审核的关注。属媒体伦理与 AI 滥用议题。
Hacker News – AI31 天前
★ 3
加拿大网站下架疑似AI虚构人物的文章
加拿大多家网站撤下了署名疑似 AI 生成的虚构人物所撰写的文章。该事件凸显 AI 生成虚假身份内容对新闻真实性与媒体公信力的冲击，也引发对内容审核与来源核验机制的关注。
Hacker News – AI31 天前
★ 3
Meta大选前两周封禁卢拉脸书主页
Meta在巴西大选前两周封禁了总统卢拉的Facebook主页及竞选广告，引发广泛关注。该事件在Hacker News获得259分、175条评论，涉及平台内容审核与政治干预争议。
Hacker News35 天前
★ 3
ISIL 利用大科技 AI 制造炸弹
半岛电视台报道称，极端组织 ISIL 正利用大型科技公司的 AI 工具获取制造炸弹的信息。报道以 Grok 为例，指出通用 AI 助手在安全护栏上的漏洞可能被滥用。这再次引发对 AI 双重用途风险的监管讨论。
Hacker News – AI42 天前
★ 3
AI机器人Timmy、Ren和Jackie在社交媒体泛滥低质内容
Ars Technica报道称，名为Timmy、Ren和Jackie的AI机器人正在社交媒体上大量发布低质量垃圾内容。这一现象凸显AI生成内容对平台生态的污染，以及内容审核面临的规模化挑战。
Hacker News – AI47 天前
★ 3
新框架认证文生图扩散模型概念遗忘效果
现有T2I概念遗忘评估主要依赖对抗提示搜索的攻击成功率，仅提供有限查询上的经验证据，无法量化更广提示空间的残余泄漏。作者提出认证框架，结合统计认证与概念相关嵌入方向的最坏情况分析，给出用户指定置信度下泄漏概率的显式上界。在NSFW、艺术风格与名人身份三类概念、六种遗忘方法上，认证泄漏上界比标准攻击…
arXiv cs.LG48 天前
★ 3
Instagram AI检测系统再次失灵
Instagram的AI标签系统近期出现混乱，用户报告称未使用生成式AI工具编辑的图片被错误标记为“AI内容”，而真正的AI生成图片却未被标记。这导致用户对平台内容的信任度下降。
The Verge AI58 天前
★ 2
NPR 报道：文章被判定为 AI 生成意味着什么
NPR 报道了一起写作被 AI 检测工具（如 Pangram）标记为 AI 生成的事件，探讨这类判定对作者声誉与实际后果的影响。报道指出 AI 文本检测器存在误判风险，却常被学校、出版方当作确凿证据使用。这凸显了检测工具可靠性不足带来的治理难题。
Hacker News – AI1 天前
★ 2
Propasafe-Hybrid：结合微调分类器与 LLM 的句级宣传检测工具
论文推出 Propasafe-Hybrid，将微调 Transformer 分类器与基于 LLM 的手法分类结合，在句子级识别、标注并解释宣传策略。系统输出高亮句子、手法标签与简要理由，并通过成本感知预过滤只把高概率句子送入 LLM 以降低 token 消耗。该设计提升了宣传检测的可解释性、效率与…
arXiv NLP5 天前
★ 2
Qobuz 借 AI 音乐泛滥实现 45.7% 营收增长
法国流媒体平台 Qobuz 在 AI 生成音乐大量涌入行业之际，凭借强调人工策展与高音质的定位获得增长，2025 年营收同比增 45.7%，月活达 120 万。平台已从内部搜索中移除约 400 万首无播放的 AI 生成曲目。
快公司9 天前
★ 2
arXiv 研究争议政治话语中省略论证检测与标注分歧
论文针对省略前提或结论的「省略论证」（enthymeme）检测，在疫苗与移民议题推文上由五名标注者标注，发现所有微调模型 F1 均停在 0.67 左右。作者提出与标注者投票分布对比的评估指标，并训练直接预测分布的模型，在不损失 F1 前提下更好捕捉分歧。模型倾向依赖显式论证结构，对隐含链接的论证与…
arXiv NLP9 天前
★ 2
arXiv 发布首个孟加拉语反男性仇恨数据集 Ben-Misandry
研究指出孟加拉语性别仇恨研究几乎只关注厌女，反男性仇恨完全空白。作者用 GPT-4.1 生成 5000 条六分类合成评论构建 Ben-Misandry 数据集，并基准测试经典与 Transformer 流程。BanglaBERT 与 XLM-RoBERTa 晚期融合达 96.6% 准确率，但作者强…
arXiv NLP12 天前
★ 2
SemTree：可检查可修复的语义决策树规则
论文提出 SemTree，把规则决策表示为语义决策树，每个节点是带明确 Yes/No/Unknown 标准的自然语言问题，由可插拔语义裁判回答。执行路径即决策推理，支持节点级修复与 LLM 编辑器改树，在 ShARC 上达 67.70% 准确率，节点修复把 BANKING77 准确率从 82.04…
arXiv cs.LG18 天前
★ 2
Pangram 将作者讽刺 Pangram 的文章判定为 100% AI 生成
一位作者撰写讽刺 AI 检测工具 Pangram 的文章，结果被 Pangram 判定为 100% AI 生成，引发对 AI 内容检测准确性的讨论。该事件在 Reddit 与 Hacker News 上引发关注，凸显 AI 检测工具误判问题。
Hacker News – AI23 天前
★ 2
AdaptEvo：基于演化监督的自适应智能体学习框架
研究者提出 AdaptEvo 框架，用于在监督不完美条件下学习规则驱动的上下文决策任务，结合置信度自适应策略优化与演化决策知识。其 CA-GRPO 方法在工业多模态内容审核数据集上，使用 Qwen3.6-35B-A3B 取得 61.9% 精确标签准确率，超过 GRPO 7.5 个百分点。在规则变化…
arXiv NLP23 天前
★ 2
Musubi 发布实时审核决策模型 PolicyLM-1.7B
Musubi 推出轻量级决策模型 PolicyLM-1.7B，专为实时内容审核设计，并以开放权重形式发布。该模型试图用 AI 决策模型替代传统内容审核流程，可能改变平台审核的效率与成本结构。
TechCrunch AI26 天前
★ 2
CALM：文生图全局不安全性的局限分析
论文对文生图免训练安全防护所依赖的「全局不安全假设」进行几何分析，揭示出覆盖度与选择性之间的权衡：紧凑不安全子空间无法覆盖异构语义，而过度聚合会扭曲安全邻近的良性提示。为此提出 CALM，用提示局部反事实校正替代统一全局移除，在抑制不安全内容的同时更好保留良性效用。
arXiv cs.AI27 天前
★ 2
呼吁下架GitHub上的AI酷刑室
社区发起呼吁，要求GitHub下架一个被指为“AI酷刑室”的项目，引发对AI生成有害内容与平台审核责任的讨论。该事件涉及AI伦理与开源平台内容治理的边界问题。
Hacker News – AI31 天前