虚拟世界具身智能体缩放研究

论文通过 120 组训练配置，系统研究持续预训练在数据量、多样性与模型规模三个维度上对虚拟世界具身智能体的影响，模型规模覆盖 0.8B 至 27B。结果显示更多数据提升语料内表现，多样性改善向相关世界迁移但对远距离世界增益有限，模型规模提升数据效率却在单世界训练下泛化更差。作者拟合出验证损失与三要素的经验缩放律，并指出构建通用具身智能体需超越持续预训练的更丰富训练阶段。