★ 3
miniTE 框架开源：解决 NVFP4 强化学习跨引擎执行偏差
论文指出训练与采样引擎数值格式不一致会导致策略评估失真，提出 miniTE，结合执行诊断、跨引擎数值对齐与原生 W4A4 GEMM。在 Qwen3-30B-A3B 长程 RL 上训练稳定、接近 BF16 表现，单台英伟达 B300 节点吞吐达 33540 tokens/s，为 BF16 的 1.3…
arXiv cs.LG13 天前
#训练框架
共 3 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
IMPACT框架提升交互感知世界模型训练
IMPACT通过注意力校准和定位，解决全局MSE损失下动态物体监督不足的问题。它利用交叉注意力构建交互图，重新加权去噪监督，无需外部表示。实验表明，该方法在机器人操作中显著提升交互保真度和物理合理性。
arXiv cs.AI61 天前
★ 2
LeMA 分布式框架让十亿参数网络跑精确 Levenberg-Marquardt 训练
论文提出 LeMA，用精确对偶形式消除 LMA 对参数维度的内存依赖，并通过 Jacobian 分片并行计算避免物化完整雅可比矩阵。在 8 卡节点上训练 10 亿参数卷积网络，相比单卡实现 7.97 倍加速、99.7% 强扩展效率，无需近似 PCG 求解。
arXiv cs.LG14 天前