★ 3
CLiS 提出免训练注意力稳定优化，加速 TPU 视频扩散
论文分析指出 TPU 长上下文注意力中在线 softmax 的重复最大值归约与累加器缩放是瓶颈，提出免训练、即插即用的 CLiS 优化：在 KV 循环前固定每行稳定器并逐头认证数值安全，失败时回退在线 softmax。在 Wan 2.2 与 LTX-2 上，TPU v6e/TPU7x 的 DiT …
arXiv cs.LG10 小时前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文分析指出 TPU 长上下文注意力中在线 softmax 的重复最大值归约与累加器缩放是瓶颈，提出免训练、即插即用的 CLiS 优化：在 KV 循环前固定每行稳定器并逐头认证数值安全，失败时回退在线 softmax。在 Wan 2.2 与 LTX-2 上，TPU v6e/TPU7x 的 DiT …