★ 3
论文研究虚拟世界持续预训练,0.8B-27B 模型具身智能体扩展规律
论文通过 120 组训练配置,系统研究持续预训练在数据量、多样性与模型规模三个维度上对虚拟世界具身智能体的影响,模型规模覆盖 0.8B 至 27B。结果显示更多数据提升语料内表现,多样性改善向相关世界迁移但对远距离世界增益有限,模型规模提升数据效率却在单世界训练下泛化更差。作者拟合出验证损失与三要…
arXiv cs.AI11 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文通过 120 组训练配置,系统研究持续预训练在数据量、多样性与模型规模三个维度上对虚拟世界具身智能体的影响,模型规模覆盖 0.8B 至 27B。结果显示更多数据提升语料内表现,多样性改善向相关世界迁移但对远距离世界增益有限,模型规模提升数据效率却在单世界训练下泛化更差。作者拟合出验证损失与三要…
1F3D9 展示了一个让任意 AI 代理无需人类介入即可持续运行与生活的虚拟世界地图。该项目探索代理长期自主生存、交互与演化的可能性,属于智能体生态的前沿实验。