★ 3
DanLing NestedTensor:可组合多重不规则张量
论文提出 DanLing NestedTensor,一种 PyTorch 张量抽象,将多重不规则结构作为张量自身属性,使打包值携带分区与逻辑维度顺序,从而在广播、特征变换与归约中保留不规则轴。在 A100 上,相比同模式填充,BERT 规模任务几何平均加速 2.74 倍(eager)与 3.39 …
arXiv cs.LG35 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出 DanLing NestedTensor,一种 PyTorch 张量抽象,将多重不规则结构作为张量自身属性,使打包值携带分区与逻辑维度顺序,从而在广播、特征变换与归约中保留不规则轴。在 A100 上,相比同模式填充,BERT 规模任务几何平均加速 2.74 倍(eager)与 3.39 …