DTDD:分歧触发的动态蒸馏实现可靠同策略监督
论文提出分歧触发动态蒸馏(DTDD),利用片段级学生-教师分歧在训练中触发教师接管,学生前缀继续接受标准 OPD 监督,教师生成恢复后缀供行为克隆学习。DTDD 将预热后峰值梯度范数降低 8.6 倍,在 ALFWorld 上分别提升 4.8 和 4.1 个百分点。
共 7 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出分歧触发动态蒸馏(DTDD),利用片段级学生-教师分歧在训练中触发教师接管,学生前缀继续接受标准 OPD 监督,教师生成恢复后缀供行为克隆学习。DTDD 将预热后峰值梯度范数降低 8.6 倍,在 ALFWorld 上分别提升 4.8 和 4.1 个百分点。
论文提出 Keyframe Mnemonics 自监督方法,通过从随机采样的历史观测中学习目标来发现信息关键帧,并以此训练行为克隆策略。该方法在合成记忆域达 100% 成功率,在 23 项机器人操作任务上平均绝对成功率提升 13.9%,并在真实机器人上以 20 倍更长视野保持 80% 成功率。
论文提出一种通过行为克隆训练的System-1决策算子,将向冻结语言模型注入技能的成本降低约两个数量级。默认算子仅用33万参数即可匹配133万参数的强化学习算子,并将3685 token的推理压缩为6 token决策且不损失精度。研究揭示可训练性差距源于初始化与架构,技能可作为近似线性算子组合、插…
研究指出离线到在线强化学习中,离线数据消失后继续行为克隆会重新拟合有限的在线经验,导致表征崩溃与动作多样性丧失。作者提出冻结预训练行为先验、停止在线行为拟合,在七个 OGBench 域上显著改善 IFQL、FQL 与 QC 方法的无保留微调效果。
论文评估分歧正则化模仿学习(DRIL)在图像连续控制中的效果,在CarRacing上结合高斯与Beta策略、不同专家演示与轨迹数量进行受控实验。结果显示DRIL在少演示场景提升最大,相比最强行为克隆均值提升61%至112%,但演示增多后优势收窄。
论文研究紧凑多模态策略能否从离线专家演示中获得闭环驾驶能力。策略使用五帧 RGB、LiDAR、车辆遥测与车道航点历史,以 20Hz 预测油门、刹车与转向。仅 136 万参数、约 3.3 小时驾驶数据的模型可在训练与留出路线自主行驶数小时且无碰撞,并定性迁移到未见过的 CARLA 城镇。作者同时发布…
论文研究在仅能比较短片段、偶尔判断回合是否超预算的条件下,如何为安全离线强化学习提供保证。提出「先筛选后克隆」流程:用片段比较训练的状态价值函数为整条轨迹打分,再用 Learn-then-Test 校准在无分布 (α, δ) 界下认证筛选阈值。在 15 项 DSRL 任务中 11 项满足成本预算,…