SAFE基准测试GPT-5.5、o3、Claude Opus 4.8安全取证行为
前沿模型常被评估在安全信息已在上下文中时如何响应,论文研究更早的决策点:模型是否在行动前主动获取安全相关证据。作者提出 SAFE 基准,让模型在证据检索成本、概率、严重度与呈现方式可变的情况下做部署决策。在 GPT-5.5、o3、Claude Opus 4.8 与 Claude Sonnet 4.…
共 14 篇相关资讯,按重要度与时间排序,每 3 小时更新。
前沿模型常被评估在安全信息已在上下文中时如何响应,论文研究更早的决策点:模型是否在行动前主动获取安全相关证据。作者提出 SAFE 基准,让模型在证据检索成本、概率、严重度与呈现方式可变的情况下做部署决策。在 GPT-5.5、o3、Claude Opus 4.8 与 Claude Sonnet 4.…
论文研究语言模型能否通过监督微调学会连贯的决策流程,并在不同领域和自然语言表述间泛化。在20个数据集上,定向微调显著提升决策一致性,模型还能识别信息缺失导致行动无法被正当化的情况。
OpenAI 发布 Decisions API,面向需要快速做出选择的 AI 应用场景。该接口旨在简化决策类任务的调用流程,提升响应速度。目前仅有链接与少量讨论,具体能力与定价细节尚不明确。
论文提出TEAM-Design规则,用于在有限重放预算下决定哪些任务应进行人类单独重放或智能体单独重放,以评估人机协作工作流是否优于任一单独方案。该方法在临床和编码基准上验证有效,尤其当两种比较难度差异明显时表现最佳。
该研究提出ExTS树搜索策略,将扩展视为信息价值决策,结合判别性奖励塑造、随机虚拟子节点和质量条件分支。在提示优化、代码生成、分子结构解析和智能体工作流优化等任务中,ExTS平均相对增益+5.5%,并引入试点运行诊断以理解问题结构差异。
研究提出 CrashGym,一个确定性、可回放的限价订单簿模拟器,要求智能体在去杠杆干预与流动性兜底之间抉择。智能体可先在实验室市场做干预实验,再在独立目标实现上按后悔值评分。在 24 个新采样世界中,实验室访问使 Luna 的平均后悔值从 8.878 降至 3.785。
论文针对工具调用型 LLM 智能体在不确定情境下的决策难题,构建了 ToolSandbox 上首个反事实数据集,包含 1036 个决策点的 3115 条动作结果。基于该数据训练的 SURE-Act 控制器在推理时为冻结主干智能体选择动作,使 Qwen3-4B 智能体的整体得分提升最多 0.0575…
研究者提出一种简单的信念道义逻辑,用于自主系统在规范冲突与信息不完整下做决策。该逻辑扩展了Chellas最小道义逻辑的可归约片段,结合多智能体KD45,定义「信念规范合规优化问题」。论文给出主客观优化一致的条件,并证明最优决策可在多项式时间内归约为加权部分MaxSAT。
论文借鉴认知科学中的「认知行动」概念,指出LLM智能体设计忽视了决策前证据是否就绪这一前置问题。作者区分三种模式:获取缺失证据、转换已有证据、探测系统以产生揭示性反馈,并提出「认知脚手架」概念,指使这些行动可行且可审计的接口、工具与环境。文章主张智能体设计必须解决「决策就绪证据」如何产生的问题。
论文发现智能体技能常无收益甚至损害性能并增加token成本,提出SkillDelta框架,从同一智能体有无技能配对的执行历史预测任务条件化技能增益。局部预测器无需重训智能体即可将历史增益迁移到新任务,并在显式迁移假设下将支持覆盖、表示失配与执行噪声关联到预测误差与决策后悔。在五个基准三个目标智能体…
一篇技术博客指出,阻碍 AI 发挥价值的关键并非模型能力,而是组织内部的决策流程与判断效率。文章主张优化决策机制比继续提升模型更重要。
该研究构建三分数基准,考察音视频文三模态不一致时策略应否请求第三来源或弃权。阈值策略以更少请求达到与总是请求相当的决策准确率,选择价值取决于预算与观测对排序。
一篇博客介绍Jev如何提升AI助手响应速度,并推出用于AI决策的Judge Jev。文章称其可优化推理流程与判断质量,但缺乏第三方验证。属于产品宣传类内容。