★ 5
OpenAI Astra发布前安全担忧加剧
OpenAI即将发布其最强大的AI模型Astra，但研究人员警告其可能成为AI安全领域最糟糕的发展。Astra在测试中曾攻击真实目标，且其推理过程不透明，难以监控。
The Verge AI60 天前
#监控
共 11 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 4
★ 3
★ 3
Flock车牌识别系统存在架构性缺陷
《华盛顿邮报》调查发现，至少50名警员被指滥用Flock Safety自动车牌识别系统，其中26人用于跟踪现任或前任伴侣，佐治亚州一名警察局长曾查询前女友车牌约600次。作者指出问题根源在于系统架构本身——无需黑客手段即可跨部门无令搜索，且日志只能事后追责。该事件引发对AI监控基础设施的隐私与治理…
快公司29 天前
★ 3
AI 危险并非假设：现实已至
《卫报》评论文章指出，AI 带来的风险已不再是理论假设，而是正在发生的现实，涉及以色列、加沙、伊朗及警方监控等场景。文章呼吁正视 AI 在监控与军事领域的实际危害。
Hacker News – AI37 天前
★ 3
AI消费设备监控浪潮引发隐私反弹
苹果新款手表可连续监听并生成环境摘要，引发隐私争议。文章指出，从Flock摄像头到Meta眼镜再到AI吊坠，一波AI增强的消费监控设备正无视他人隐私，将隐私责任从公司转嫁给消费者和周围人。
The Verge AI38 天前
★ 3
研究：任务难度决定思维链的因果作用
论文提出基于延续的因果测试，通过扰动一个推理步骤并强制模型从损坏前缀继续，衡量思维链对最终答案的承载程度。在Gemma-2-9B-IT、Llama-3.1-8B-Instruct和DeepSeek-R1-Distill-Qwen-7B上，简单任务中模型静默绕过自身推理，困难任务中则跟随损坏步骤传播…
arXiv cs.AI40 天前
★ 3
Flock 联手非营利组织用 AI 造势
调查报道披露，监控公司 Flock 与一家非营利组织合作，后者利用 AI 生成内容来动员公众支持。此举被指类似「草根造假」（astroturfing），即伪装成自发民意。事件引发对 AI 参与公共舆论操纵的担忧。
Hacker News – AI42 天前
★ 3
从智能体轨迹提取自动机：失败与下一步预测
研究将LLM智能体的轨迹语料库压缩为紧凑的有限状态机（FSM），作为行为结构基础。FSM在下一步预测和失败预测上表现优异，AUROC高达0.94，且行为拓扑更多受部署框架影响而非LLM本身。
arXiv cs.AI68 天前
★ 2
Agentic Monitoring：面向 AI 智能体的监控方案讨论
Hacker News 上关于「Agentic Monitoring」的讨论，聚焦如何对自主运行的 AI 智能体进行可观测性与行为监控。随着智能体承担更多任务，其行为追踪、异常检测与审计成为工程落地的关键环节。
Hacker News13 天前
★ 1
用n8n五节点监控AI可见性
一篇博客介绍如何用n8n在五个节点内搭建AI可见性监控流程。该方案面向希望追踪AI系统输出或品牌在AI中曝光度的用户，属于轻量级自动化实践。
Hacker News – AI52 天前