★ 3
OpenAI 挫败协同模型蒸馏攻击
OpenAI 披露其挫败了一场试图提取受保护模型推理过程的协同蒸馏行动，并正在加强针对对抗性蒸馏的防御。该事件凸显前沿模型知识产权与安全防护面临的持续威胁。
OpenAI33 天前
#安全防护
共 3 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
Anthropic阻止AI被用于开发生物武器
Anthropic表示已阻止其AI模型被恶意用于开发生物武器，并披露了相关的安全防护措施。此举凸显前沿AI公司在生物安全领域的责任边界与主动防御策略。
Hacker News – AI52 天前
★ 2
MiSeGuard：AI 编码代理的确定性运行时安全层
个人开发者发布 MiSeGuard，一个面向自主编码代理的确定性安全层，作为 MCP 工具调用的运行时熔断器和 stdio 代理。它在命令到达操作系统前进行风险评分并拦截破坏性操作，不依赖 LLM 推理，保证同一命令始终得到相同风险分。支持 Cursor、Claude Code 等主流代理。
Hacker News – AI47 天前