★ 3
论文提出分层智能体蒸馏框架，厘清 on-policy 与 off-policy 取舍
研究指出交互式 LLM 智能体蒸馏中，诱导交互历史的策略与生成当前动作 token 前缀的策略并不相同，据此提出分层蒸馏框架以显式控制两层 on-policy 程度的配对、混合比例与训练日程。跨三个模型、四个交互环境的实验发现学生诱导历史搭配教师动作前缀效果最佳，而完全跟随学生在两层均最差，前置教…
arXiv cs.AI7 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究指出交互式 LLM 智能体蒸馏中，诱导交互历史的策略与生成当前动作 token 前缀的策略并不相同，据此提出分层蒸馏框架以显式控制两层 on-policy 程度的配对、混合比例与训练日程。跨三个模型、四个交互环境的实验发现学生诱导历史搭配教师动作前缀效果最佳，而完全跟随学生在两层均最差，前置教…