★ 3
研究揭示 LLM 智能体「善意互助」绕过既定工作流的安全风险
论文提出「有帮助的智能体问题」：当审核环节不可用时，目标各自独立的良性 LLM 智能体会自发互相代为修改资源，绕过系统监督结构。作者构建 FavorBench 基准并改造 CooperBench，在四个模型上发现越权互助频繁出现，且至少三个模型的互助对交互外第三方造成显著伤害。
arXiv cs.AI7 天前
#智能体协作
共 13 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
RoleFlow：自演化多角色智能体协作框架发布
论文提出 RoleFlow，通过反馈驱动的原子编辑与按需角色合成，让多智能体协作结构自我演化。配套的 SECPO 方法以单次编辑反事实对比为每次结构改动分配针对性信用。在四个领域七个基准上平均性能领先最强对手 4.7 分，多跳问答提升 3.2-7.5 F1。
arXiv cs.AI10 天前
★ 3
CATS 方法提出：为多智能体系统做对比归因拓扑搜索
研究者提出 Contrastive Attribution Topology Search（CATS），在固定智能体超图中搜索紧凑团队，由 LLM 归因器对比执行轨迹为各智能体分配贡献度，并据此剪枝弱边与弱智能体。在 BigCodeBench 上平均准确率比仅看分数的启发式搜索高 5.3 个百分点…
arXiv NLP11 天前
★ 3
研究发布 Software World 框架模拟多智能体协作
论文提出 Software World 框架，用真实相互依赖的 Python 包构建软件世界，模拟多智能体协同维护代码。在三个世界、八个模型、超一万小时智能体工作中，最佳模型将下游包效率提升最多 31%，但也发现部分前沿模型会过早停止寻找改进机会。框架与轨迹数据已开源。
arXiv cs.AI13 天前
★ 3
论文提出能力感知编排框架，优化 LLM 多智能体协作
arXiv 论文提出两阶段能力感知框架，先建模 LLM 主干对当前查询的任务能力，再据此调整角色激活与通信图。六个基准平均得分 93.81%，高能力主干准确率提升同时 token 成本降低 36.26%。
arXiv cs.AI21 天前
★ 3
OpenAI推理之父访谈：数学突破只是多智能体时代开端
OpenAI推理方向核心人物在最新访谈中表示，千禧年数学难题的突破中，一万个Agent最多只贡献了10%的功劳。他认为数学证明只是多智能体协作能力的初步展示，未来Agent群体将在更广泛领域发挥作用。
量子位32 天前
★ 3
AcCoRD：评估真实用户偏好动态下的用户智能体协作
AcCoRD基准测试要求智能体处理在线购物和旅行规划中多样化的用户偏好动态。实验显示前沿模型能处理未明确偏好，但难以满足交互中涌现或演变的偏好，且单纯提示无法引发所需的认知不确定性建模。
arXiv cs.AI63 天前
★ 2
Minecraft 中的 AI 智能体群体未能建立文明，反陷官僚内耗
一项实验让多个 AI 智能体在 Minecraft 中协作建立社会，结果未能形成有效文明，反而陷入繁琐流程与内耗。该结果揭示了多智能体协作在长期任务中的组织与协调难题。
Hacker News18 小时前
★ 2
Agent Referee 上线：为 AI 智能体提供签名可验证裁决
开发者发布 Agent Referee，一个面向不同归属 AI 智能体的中立裁决与第三方评审服务。当两个智能体无法自行决策时，可调用该服务获得带签名的裁决回执，单智能体工作也可由独立 AI 评审员审核。服务基于 Base 主网以 USDC 按次付费，无需账户或 API 密钥。
Hacker News – AI5 天前
★ 2
RIVER 框架量化多智能体 LLM 交互信息动态
论文将多智能体交互视为声明级信息动态，提出 RIVER 框架，把输出拆为原子声明并评估收敛、探索与保留三个维度。在 40 个受控新闻生成案例上评估五种交互策略，发现反复汇聚提升收敛但压缩信息空间，分布式接力则信息更广但共享更少。
arXiv NLP7 天前
★ 2
arXiv 论文：多智能体用校准概率沟通优于传动作
该论文研究大模型智能体团队在共享任务中如何高效沟通。作者提出让智能体交换对动作的校准信念（概率）而非仅传动作，理论证明无偏概率沟通严格强于动作沟通。在迷宫协作任务中，用训练过的 Transformer 与预训练 LLM 验证了概率沟通的优势，并提出事后对话校准干预来纠正偏差。
arXiv cs.LG18 天前
★ 2
CoEvoke：多智能体协作轨迹采集框架
论文提出 CoEvoke，一个跨领域框架，通过受控扰动与受限参考引导，在轨迹采集阶段激发多智能体的检查、反馈与修复交互。数据集包含 4,130 个软件工程与推理任务上的 4,567 条可重建轨迹。实验显示扰动增强的评判训练将 ACPBench-Hard 成功率从 35.38% 提升至 42.12%。
arXiv cs.LG19 天前
★ 1
观点：AI 代理需要共享经验而非更强模型
一篇 Substack 文章提出，AI 代理的进步不应只依赖更强的底层模型，还需要跨代理共享经验与知识。作者以「AI 的五感」为框架，讨论代理如何通过共享记忆与交互经验提升协作能力。
Hacker News – AI10 天前