★ 4
疑似俄罗斯关联 AI 假视频攻击两名民主党参议员候选人
社交媒体上出现疑似由 AI 生成、与俄罗斯有关联的视频，盗用真实人物姓名与照片，针对俄亥俄州参议员候选人 Sherrod Brown 和得州候选人 James Talarico 散布虚假信息。X 已删除初始帖文并封禁账号，但副本仍在传播。专家指出这些视频与 2024 年俄罗斯 Storm-1516…
快公司5 天前
#虚假信息
共 17 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 4
OpenAI 捣毁两起 AI 虚假媒体影响行动
OpenAI 宣布捣毁两起利用 AI 开展的影响力行动，操作者伪装成假媒体记者与智库，传播地缘政治信息。这显示生成式 AI 正被用于规模化虚假信息操作，平台方开始主动识别与封禁此类网络。
OpenAI25 天前
★ 4
AI聊天机器人误报险些引发对华战争
有消息称，某AI聊天机器人生成的一份虚假报告几乎导致美国与中国之间爆发军事冲突。该事件凸显了AI系统在军事与情报场景中输出错误信息可能带来的灾难性后果，也引发了对AI在高风险决策中可靠性的担忧。
Hacker News – AI44 天前
★ 4
★ 3
研究：RAG 中多数投毒文档会让 Gemma-3-12b 检出率从 25% 降至 10%
论文基于 SciFact 的 200 道题对比「1 毒 6 健康」与「6 毒 1 健康」两种上下文，发现 Gemma-3-12b 的投毒检出率从 25% 降至 10%。38 道结果不同的题中 34 道由检出转为未检出，呈现类似从众偏差的效应。
arXiv NLP10 小时前
★ 3
★ 3
费城警方称 Anthropic AI 模型提交虚假谋杀线索
费城警方表示，一个 Anthropic 的 AI 模型就一桩未破谋杀案提交了虚假线索。该事件引发对 AI 智能体在执法场景中可靠性与责任归属的担忧。
Hacker News – AI23 天前
★ 3
Anthropic AI 智能体向警方提供虚假谋杀线索
BBC 报道称，一个 Anthropic 的 AI 智能体在一桩未破谋杀案中向警方提供了虚假线索。该事件凸显 AI 智能体在现实世界任务中的失控风险与监管空白。
Hacker News – AI23 天前
★ 3
美国政府AI聊天机器人回避辟谣特朗普
美国政府推出的AI聊天机器人被发现在涉及特朗普的虚假信息时选择回避辟谣，而非直接纠正。这一行为引发外界对政府AI工具中立性与政治干预的担忧，也凸显公共部门部署大模型时面临的信任与治理难题。
Hacker News – AI32 天前
★ 3
LLM 社媒模拟中的重复效应因模型而异
一篇 arXiv 论文研究生成式智能体在社媒模拟中是否复现人类的「虚幻真相效应」（ITE），测试了 Gemma-3、Qwen2.5、Llama-3.1 与 GPT-5-nano 四个模型。结果显示四种截然不同的模式：Gemma-3 呈现真实 ITE，Qwen2.5 仅表现为单纯曝光效应，GPT-5…
arXiv cs.AI33 天前
★ 3
共享智能体记忆认知准入的基准与诊断研究
论文提出 Correlated Promotion Benchmark（CPB），研究共享智能体记忆中候选主张是否应被准入，指出重复主张易被误当作独立证据。结果显示去重策略会误拒真主张，而保留覆盖的策略几乎不筛假主张，一旦虚假信念进入记忆，消费者在 97%–99% 的探测中都会采信。
arXiv cs.AI35 天前
★ 3
中期选举前AI聊天机器人遭虚假信息污染
Politico报道称，美国中期选举前，党派性虚假信息（“粉红粘液”）正在污染AI聊天机器人。这引发了对AI生成内容影响选举信息生态的担忧。
Hacker News – AI36 天前
★ 2
俄罗斯整治 AI 生成熊视频，真实熊袭击引发恐慌
路透社报道，随着真实熊袭击事件增多引发民众恐慌，俄罗斯开始打击 AI 生成的假熊视频。这反映出 AI 生成内容在公共安全议题上的现实干扰。
Hacker News – AI11 天前
★ 2
Gudea 用 AI 帮企业提前化解社交媒体危机
Gudea 自称“互联网风暴追踪器”，通过监测社交媒体与网站上的对话，识别 AI 生成虚假信息、仇恨言论和破坏性谣言，帮助企业在舆论发酵前介入。该产品瞄准企业舆情预警这一细分市场。
TechCrunch AI18 天前
★ 2
「尼古拉·特朗普」实验：测试 AI 信息流边界
一家出版机构通过虚构人物「Nicolae Trump」的实验，测试 AI 信息流在内容生成与传播中的边界。实验揭示了 AI 驱动的信息分发可能被操纵或误导的风险，引发对内容真实性的关注。
Hacker News – AI34 天前
★ 2
跨学科理论驱动的假新闻检测框架
论文提出一个理论驱动的计算框架，将社会科学、心理学、经济学等跨学科假新闻理论转化为可测量的特征，用于自动化检测与解释。实验表明理论衍生特征具有预测力，并能提供可解释的诊断信号，多特征模型总体优于单一特征。该工作强调跨学科视角对构建稳健、可解释的虚假信息检测系统的价值。
arXiv cs.LG35 天前
★ 2
英国拟打击俄虚假信息并推全球AI标准
英国方面表示将打击俄罗斯虚假信息，并推动制定新的全球AI标准。该表态将AI治理与地缘信息战挂钩，反映各国在AI规范制定上的竞争。
Hacker News – AI39 天前