★ 2
解耦微调中内部表示变化与因果重要性
论文研究微调如何重塑 LLM 内部表示，发现 EAP 识别的任务相关组件集中在特定层，其分布与表示变化最大的层基本不相关。跨任务组件重叠并不带来性能迁移，且当两任务组件高度重叠时，微调一个任务可能损害另一个任务的表现。
arXiv cs.AI42 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文研究微调如何重塑 LLM 内部表示，发现 EAP 识别的任务相关组件集中在特定层，其分布与表示变化最大的层基本不相关。跨任务组件重叠并不带来性能迁移，且当两任务组件高度重叠时，微调一个任务可能损害另一个任务的表现。