★ 3
重放契约与选择性保留：状态感知激活重计算提速 18%
论文指出激活重计算只有在重放时恢复原始前向状态才正确，可变缓冲区、别名字节与随机数状态都可能改变计算。作者引入版本化重放契约与联合规划器，在激活保留、整缓冲区快照与选择性区域保留间按实测内存与恢复成本取舍。在 H100 稀疏写负载、44GiB 预算下配对步时降低 18.16%，32GiB 下比固定…
arXiv cs.AI10 小时前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文指出激活重计算只有在重放时恢复原始前向状态才正确，可变缓冲区、别名字节与随机数状态都可能改变计算。作者引入版本化重放契约与联合规划器，在激活保留、整缓冲区快照与选择性区域保留间按实测内存与恢复成本取舍。在 H100 稀疏写负载、44GiB 预算下配对步时降低 18.16%，32GiB 下比固定…