★ 3研究：bf16 舍入丢弃多数 RL 策略更新，提出 Fair Cast 一行修复arXiv 论文指出，语言模型 RL 后训练中 bf16 舍入会静默丢弃大部分每步权重更新，导致生成数据的策略落后优化器 50-150 步。作者提出 Fair Cast：用无偏舍入（随机舍入或误差反馈）导出主权重，并在服务副本上计算训练损失。在 Qwen3 系列上平均提升 6.1 分，斑马谜题任务…arXiv cs.LG13 小时前