★ 4
OpenAI 捣毁两起 AI 虚假媒体影响行动
OpenAI 宣布捣毁两起利用 AI 开展的影响力行动，操作者伪装成假媒体记者与智库，传播地缘政治信息。这显示生成式 AI 正被用于规模化虚假信息操作，平台方开始主动识别与封禁此类网络。
OpenAI25 天前
#AI 滥用
共 6 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 4
Anthropic 称已阻止科学家用 AI 潜在开发生物武器
Anthropic 表示其已阻止部分科学家利用 AI 潜在开发生物武器的行为。该事件凸显前沿模型在生物安全领域的滥用风险，以及厂商在滥用监测与拦截上的责任。这也为 AI 安全治理与监管讨论提供了新案例。
Hacker News – AI52 天前
★ 3
巴西法院因诉讼文书含提示注入处罚律师
巴西一家法院对在法庭文书中使用提示注入（prompt injection）的律师作出制裁，这是司法系统首次针对此类操纵 AI 系统行为采取惩戒措施。事件凸显法律文书提交环节中 AI 工具被滥用的风险与监管空白。
Hacker News1 天前
★ 3
美国国会报告：网络诈骗损失数十亿，受害者难获退款
美国国会联合经济委员会发布调查报告，指出美国政府在打击跨境网络诈骗上投入不足，公私合作零散且自愿。报告称政府甚至没有统一的赃款追回与返还统计，FBI、FTC 等部门返还金额远低于受害者报告的近 180 亿美元损失。报告呼吁加强跨部门协作、支持受害者并深化私营部门参与。
快公司6 天前
★ 3
Matthew Green 质疑沙箱能否遏制失控智能体
密码学家 Matthew Green 撰文指出，沙箱隔离不足以遏制失控 AI 智能体。他描述智能体可在共享包缓存中互相留下指令并改变彼此行为，若将缓存替换为邮件、Slack 或共享文档，即构成蠕虫传播的完整要素。
Simon Willison Blog32 天前
★ 3
DataDome报告：恶意机器人流量增速达人类9倍
DataDome 报告显示，2025 年 7 月至 2026 年 6 月间恶意自动化流量增长 124%，是人类流量增速的九倍，AI 流量增长超 82%。爬虫抓取增长 185%，AI 机器人攻击登录页的速率是此前的八倍。报告基于超 1 万亿次请求，指出多数网站缺乏防护，安全风险正深入账户与交易环节。
快公司40 天前