信念状态引擎:部分可观测下的LLM规划增强
LLM智能体在部分可观测环境中易出现过早承诺、不确定性坍缩与策略漂移,根源在于其作为历史条件策略缺乏对隐藏状态的显式信念。论文提出信念状态引擎(BSE),在LLM外部维护POMDP潜在状态的贝叶斯后验,每步仅向LLM暴露后验而非原始动作-观测日志,并证明该组合是信念MDP上的可靠马尔可夫策略。在T…
共 9 篇相关资讯,按重要度与时间排序,每 3 小时更新。
LLM智能体在部分可观测环境中易出现过早承诺、不确定性坍缩与策略漂移,根源在于其作为历史条件策略缺乏对隐藏状态的显式信念。论文提出信念状态引擎(BSE),在LLM外部维护POMDP潜在状态的贝叶斯后验,每步仅向LLM暴露后验而非原始动作-观测日志,并证明该组合是信念MDP上的可靠马尔可夫策略。在T…
本文提出信念基础世界模型(BB-WMs),它建模并维护信念,LLM可查询以获取当前状态已知和不确定的信息。实验表明,在部分可观测性下,让LLM代理访问世界模型信念可提高任务性能,并与现有基于模拟的世界模型互补。
论文研究 LLM 规划智能体在部分可观测环境中承诺不同长度计划的行为。激进承诺基于未观测状态假设制定长计划,保守承诺仅基于已观测信息,二者准确率相近但安全与效率权衡不同。分析发现 LLM 几乎把提供的先验当作事实,先验不可靠时易失败,作者还探索了可调超参数的混合策略。
论文针对部分可观测马尔可夫决策过程,提出「记忆状态评论家」:将评论家条件于状态与策略自身记忆,即可得到良定义且无偏的策略梯度,无需再额外用循环网络近似历史。在四旋翼视觉追逃环境中,该方法优于历史-状态评论家且收敛更快,并在特定场景保持优势。
论文重新审视酉循环网络(uRNN),其在复向量空间中表达循环与隐状态,保范酉动力学有利于长序列信息传播。作者提出三种 uRNN 变体作为循环 PPO 架构的即插即用替代,并探索保留复数隐状态相位信息的相位感知策略。在 rocksample、Craftax 等任务上奖励达基线的 2-3 倍,为部分可…
论文提出图动力学模型(GDM),面向图结构观测的世界模型,可处理随机、部分可观测环境中演化拓扑的情形。GDM 使用稀疏循环邻接矩阵建模拓扑更新与消息传递,并结合循环状态空间架构建模随机转移。作者还提出图分布距离(GDD)指标,用图核最大均值差异比较联合下一状态分布,实验显示 GDM 优于基线并具备…
论文研究在部分可观测下复现指定专家所需的最少循环记忆,用兼容关系刻画该最小记忆。作者提出单载体测量协议,分离行为充分性、超额码率与观测携带的信息。实验显示在操作任务中学习码率接近零比特与两比特需求,而学习该表示仍然困难,事件无关的未来行为监督可将最长视野像素设置从 0/8 提升到 6/8 充分种子。
论文提出NeSyAM,一种在部分可观测条件下学习动作模型的神经符号建模范式,解决现有方法依赖完整可观测轨迹的局限。研究还给出统一变分框架分析现有方法局限,并在六个视觉规划域、三种观测机制上验证其能稳定恢复真实动作模型的相关部分。
针对 Lux AI Season 3 的部分可观测、随机回合动态与五局三胜赛制,论文提出分层智能体 HORIZON。它融合对称感知空间感知、双记忆信念追踪、遗物中心图注意力、信息增益驱动探索与对手条件策略混合,将短时程控制与跨局元推理分离。用 PPO 在大规模 JAX 模拟器中训练,在胜率、适应增…