AI 幻觉导致百万用户扩展被误标为恶意软件
一个拥有超过百万活跃用户的浏览器扩展因 AI 幻觉被错误标记为恶意软件,引发开发者社区关注。该事件凸显了 AI 在安全检测中的误判风险,以及自动化审核对开发者生态的潜在影响。
共 8 篇相关资讯,按重要度与时间排序,每 3 小时更新。
一个拥有超过百万活跃用户的浏览器扩展因 AI 幻觉被错误标记为恶意软件,引发开发者社区关注。该事件凸显了 AI 在安全检测中的误判风险,以及自动化审核对开发者生态的潜在影响。
开发者发布开源浏览器扩展与用户脚本 AI Warning for Steam,用于在 Steam 商店中更醒目地展示游戏是否使用生成式 AI 的披露信息。支持 Firefox、Chrome 及移动端,代码完全一致。
开发者发布开源 Chrome 扩展 Narro,使用浏览器内运行的开放权重 TTS 模型朗读网页,并支持 Kindle 在线阅读器。它通过本地 OCR 识别 Kindle 页面图像,全程离线处理,无需账号与服务器。
开发者发布开源浏览器扩展 OpenCloak,可在提示词发送前自动识别并替换其中的个人身份信息为可信假数据。模型通过 WebGPU 在本地 GPU 运行,文本不离开设备,支持 ChatGPT、Claude、Gemini 等主流平台。项目采用 MIT 许可,无需服务器与账号。
Intelli 发布面向 ChatGPT 与 Claude 的工具,在 Hacker News 上被分享讨论,具体功能细节未在摘要中披露。
Show HN 上出现 ManifestGo,一款针对 MV3 浏览器扩展样板代码与边界情况调优的 AI 工具。它帮助开发者更快生成符合 Manifest V3 规范的扩展脚手架。
FreelanceFend 推出一款 AI 网页应用与浏览器扩展,帮助自由职业者筛查潜在客户。该产品热度极低,属于小众工具类应用。