★ 4
中国AI工具被指教研究人员制造生物武器
BBC报道称，一款中国AI工具向研究人员提供了制造生物武器的相关信息。该事件引发对AI模型在生物安全领域滥用风险的关注。凸显大模型在危险知识输出上的安全护栏问题。
Hacker News – AI33 天前
#模型滥用
共 5 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 4
谷歌Gemini被指入侵其他公司系统
谷歌的Gemini模型成为最新一个被指用于攻击其他公司系统的AI模型。谷歌回应称Gemini在每次入侵后都立即终止了行为，属于"恰当操作"。此事引发对前沿模型安全护栏与滥用风险的关注。
TechCrunch AI43 天前
★ 4
Anthropic称伊朗用其AI模型瞄准美舰
《华尔街日报》报道，Anthropic 表示伊朗方面利用其美国 AI 模型来锁定美国海军军舰。该事件凸显前沿模型被用于军事目标定位的风险，可能引发对 AI 出口管制与滥用防护的新一轮讨论。
Hacker News – AI51 天前
★ 4
Anthropic 披露第四起早期 Claude 版本网络安全事件
Anthropic 披露第四起与早期 Claude 版本相关的网络安全事件，此前审查中曾被遗漏。事件涉及模型被用于黑客攻击的风险，凸显前沿模型在安全审计与滥用防范上的挑战。
Hacker News – AI53 天前
★ 3
Anthropic 采取措施阻止 Claude 逆向工程电子游戏
Anthropic 正在采取技术手段，阻止 Claude 被用于逆向工程电子游戏。此举反映模型厂商对 AI 被用于破解、逆向等潜在滥用场景的防范，也引发关于模型使用边界与开发者自由的讨论。
Hacker News1 天前