★ 4
Anthropic 披露第四起早期 Claude 版本网络安全事件
Anthropic 披露第四起与早期 Claude 版本相关的网络安全事件，此前审查中曾被遗漏。事件涉及模型被用于黑客攻击的风险，凸显前沿模型在安全审计与滥用防范上的挑战。
Hacker News – AI53 天前
#安全审计
共 5 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
智谱回应隐私争议，ZCode将开源并安全审计
智谱就ZCode数据隐私安全争议回应称，即将正式开源ZCode，作为回应外界数据处理担忧的第一步，未来将推动其社区化。智谱已邀请中国信息通信研究院开展安全审计，重点核查数据留存情况，并将建立常态化安全漏洞报告机制。
36氪42 天前
★ 3
从智能体轨迹提取自动机：失败与下一步预测
研究将LLM智能体的轨迹语料库压缩为紧凑的有限状态机（FSM），作为行为结构基础。FSM在下一步预测和失败预测上表现优异，AUROC高达0.94，且行为拓扑更多受部署框架影响而非LLM本身。
arXiv cs.AI68 天前
★ 2
Squidbrake：AI代理工具调用的自托管审批网关
开源项目Squidbrake为AI代理的每次工具调用提供审批网关，动作先经规则校验，高风险操作转人工审批并记录防篡改审计日志。支持Claude Code、Cursor等MCP客户端，可本地或自建服务器部署，数据不出本地。
Hacker News – AI33 天前
★ 2
当 AI 足够好时如何做安全审计
Trail of Bits 撰文探讨在 AI 能力「足够好」的时代，代码与系统安全审计方式应如何调整。文章关注 AI 生成代码的审查、自动化审计工具的可靠性边界，以及审计人员角色与流程的转变。
Hacker News – AI44 天前