★ 2
ToPA：分块托普利茨矩阵高效微调方法
论文提出ToPA，用分块托普利茨矩阵乘积替代低秩或稀疏参数化进行参数高效微调，避免显式秩与稀疏约束并缩短乘法链以稳定训练。理论证明其可逼近任意矩阵且表达力更强，在21个NLP与CV数据集、5种模型架构上验证有效。
arXiv cs.AI13 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文提出ToPA，用分块托普利茨矩阵乘积替代低秩或稀疏参数化进行参数高效微调，避免显式秩与稀疏约束并缩短乘法链以稳定训练。理论证明其可逼近任意矩阵且表达力更强，在21个NLP与CV数据集、5种模型架构上验证有效。