论文:测试时通信让多智能体在 ARC-AGI-3 上超越并行独立尝试
论文研究多智能体在测试时通过共享目录通信的效果,发现 k 个通信智能体的成功率可媲美 4k 个独立智能体,且优势随规模扩大而累积。在 ARC-AGI-3、多联骨牌拼装与 MNIST 分类器压缩任务上,通信团队超越最佳单智能体甚至人类已知最优解。但该增益在算力有限或缺乏明确进展信号时并不成立。
共 18 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文研究多智能体在测试时通过共享目录通信的效果,发现 k 个通信智能体的成功率可媲美 4k 个独立智能体,且优势随规模扩大而累积。在 ARC-AGI-3、多联骨牌拼装与 MNIST 分类器压缩任务上,通信团队超越最佳单智能体甚至人类已知最优解。但该增益在算力有限或缺乏明确进展信号时并不成立。
研究基于 Nemotron 3 Ultra 训练两个数学专家检查点,构建纯自然语言、无形式化证明器与外部工具的测试时计算流水线。该系统在 IMO 2026 取得 42 分中的 30 分,达到金牌线。团队开源了检查点、训练数据、代码、解答及 200 题新基准 Nemotron-IMO-Bench。
论文提出 ThinkJev,基于同一开源混合思考模型构建快慢双系统:System 1 直接读取选项字母概率,System 2 在缓存提示上思考后再读同一批字母,可复用同一次思考覆盖所有思考预算。在 5% 目标错误率下,Qwen3.5-27B 有 24.5% 的测试决策由 System 1 直接作答…
论文用信号处理方法审计推理模型的 token 置信度打分法,在 500 道数学题各采样 16 条思维链。结果显示滑动窗口最低置信度分数主要度量链长,仅按长度排序效果相当甚至更好;扣除长度后该分数对正确性无信息量。频谱中虽存在微弱信号,但不足以改善多数投票或提前停止策略。
论文提出 h1,一个仅给模型提供高效 Lean 4 接口、依靠验证器反馈与自我反思持续迭代的简单框架,不预设分解或搜索结构。h1 在 PutnamBench、FATE-X、FormalConjectures100-Solved 上取得 SOTA,并解决 FormalConjectures 中 8 …
论文将掩码扩散模型(MDM)推理重构为干净序列空间上的马尔可夫链,提出纯测试时、免微调、免奖励的 Random Remask-Denoise(R²D)推理方法,并配套轨迹纠错训练 TCT。在困难数独上准确率超 97%、3-SAT 超 99%,在 HumanEval+ 上超过 LLaDA2.1-mi…
研究分析后训练与测试时计算中的验证器控制回路,发现当策略掌握部分目标后,在线审计权重会偏移,导致「在线审计崩溃」,甚至偏好更差的组件验证器。论文推导出识别集与完全擦除阈值,并通过多标签文本与心电图实验验证审计可能降低离线 AUC、转移损害。修复方案是在组件自身失败样本上审计并保留这些失败于刷新分布…
论文提出 T²Mem,将记忆构建推迟到推理阶段,离线仅提取轻量级片段元数据作为检索线索,测试时随推理进程逐步构建查询专属记忆。在 LoCoMo 与 LongMemEval 上,该方法在多种基座 LLM 上稳定超越强基线,并显著降低记忆构建开销。
论文为 LLM 推理中常用的束搜索建立测试时计算理论保证,证明朴素束搜索需 Ω(C*(x)²) 采样才能保留最优响应。据此提出置信过滤束搜索 CF-Beam,在前缀竞争性下将覆盖依赖从二次降至近线性。结果显示束搜索相较 Best-of-N 等方法在长推理链上更具鲁棒性。
论文研究累积 token 上限落在数学推导中途时,测试时控制器在「严格停止」与「允许当前尝试完成」之间的边界选择。基于 19,200 条公开轨迹的配对离线回放发现:4k 上限下建议式停止的准确率增益多来自将弃答转为正确答案;按实际成本比较与同上限比较结论不同;候选覆盖增加并不保证准确率提升。作者呼…
研究对 DeepSeek、GPT、Gemini 三个家族模型做受控实验,在固定信息、提示与组合构建下改变推理强度,覆盖一年美股与超 80 万条资产预测。结果显示增加推理并不能可靠提升扣除交易成本后的净收益,DeepSeek 表现非单调,重复生成还会带来不稳定的处理效应与组合选择。
论文提出Hill采样,一种简单程序:从冻结LLM反复采样候选程序编辑,保留当前最优程序并以其为条件继续采样。在圆填充、集合和差及Erdos最小重叠问题上,Hill采样在圆填充上创下已发表方法新纪录,超越AlphaEvolve参考结果。研究还发现直接学习LLM权重的进化策略不如将学习率设为零,表明重…
该研究将间接提示注入形式化为测试时搜索问题,提出代理攻击者框架,通过环境侦察和策略推理提升漏洞发现能力。实验表明增加测试时计算可改善攻击效果,强调代理安全评估需考虑搜索过程和计算预算。
AERA 是一种顺序控制器,学习从检查点可观察证据判断额外计算是否可能恢复更好答案。在 GSM8K 上,AERA 以 92.61% 的准确率接近 128 响应的 93.01%,同时减少 95.99% 的完成 token。
论文提出GROW、PRUNE和BRANCH三种递归算子,统一视图下评估测试时推理方法。在五个基准和三个前沿模型上,BRANCH在所有14个设置中平均提升5.98个百分点,且优势与基线截断率强相关。
一篇 arXiv 论文提出面向评估器引导推理的计算感知三动作控制器,在每一步选择信任当前答案、回退或继续扩展推理,并显式计入计算成本。方法通过局部动作间隙分析与期望遗憾界,学习并校准动作级置信度估计。在宽度扩展与修订任务上,相比校准选定的固定策略,在线计算量分别降低约 30% 和 16%,并在四个…
研究者提出 REWIND,一种无需训练的控制器,利用 token 熵动态定位推理错误并针对性重生成后缀。在 MATH500 上发现错误回答的平均 token 熵比正确回答高约 112%。跨三个模型家族、五个基准测试中,REWIND 比最强基线提升 0.51-10.00 个百分点。
论文提出 PreSTO,通过预取未来 Metropolis-Hastings 提议,在不改变转移核的前提下加速 PowerMH 采样器。在七个数据集、五个基座 LLM 上,对 PowerMH、EntropyCut、MultiTryMH 分别取得 1.71×、1.91×、2.33× 中位加速,模型调…