★ 4
Mind Lab发布自迭代后训练平台与Macaron-V1.1
Mind Lab发布面向行业的模型后训练与推理平台Mint Recursive，以及基于该平台训练的Macaron-V1.1模型。Macaron-V1.1基于GLM-5.3后训练，参数752B，由744B基座加四个2B LoRA专家模块组成，覆盖Chat、Agent、Coding与生成式UI。平台…
36氪40 天前
#LoRA
共 62 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
BYOD 用 LoRA 将 Gemma、Llama、Qwen 转为扩散语言模型
论文提出 BYOD，一种仅用 LoRA 的通用 AR-to-DLM 转换方案，在 Gemma 2 9B、Llama 3.1 8B、Qwen2.5 7B 与 Ministral 8B 上实现扩散生成，首次报道 Mistral 系模型转换。适配器仅占最终参数 4.1-5.8%，单卡数小时即可完成；BY…
arXiv NLP6 小时前
★ 3
研究用 KV 缓存修补追踪微调行为产生的位置
论文通过将 LoRA 微调模型的 KV 缓存修补进原始基座模型（及反向操作），探究微调行为究竟在何处被实例化。结果显示，对德语回答、涌现性失准等行为，KV 缓存修补可将行为在微调模型与基座模型间转移或消除。修补效果随修补比例增大而增强，并集中于少数关键位置，系统提示与聊天模板 token 影响尤为…
arXiv NLP6 小时前
★ 3
CLIK：一次编码多次作答，将上下文内化为参数
论文提出 CLIK，一种上下文条件化的参数生成器，通过带交叉注意力的 Transformer 编码器一次前向生成 LoRA 参数，把文档知识内化进冻结基座模型，无需测试时梯度更新。生成的适配器可对同一文档的多次查询复用，在文档问答上优于现有超网络方法，但仍落后于直接读取上下文的基座模型。
arXiv cs.AI3 天前
★ 3
研究提出 Control Map 框架，评估测试时模型更新
论文指出仅用更新次数或频率评估测试时更新会掩盖「更新了什么、在哪、何时、以何顺序」的差异，提出 Control Map 框架记录每次评分答案前的已提交更新。实验显示：760M 参数模型上 24 种相同更新次数的调度准确率在 19.7%-34.2% 间波动；ROME 在 13 个操作点均保留编辑但全…
arXiv cs.LG5 天前
★ 3
论文提出 Jev 式类型化决策：单次前向传播替代前沿 LLM 评审
arXiv 新论文复现 Jev 的 System 1 类型化决策接口，用冻结骨干加 rank-16 LoRA 适配器与指针头，在一次前向传播中回答三个类型化问题。内部评审系统处理约 14.8 万条智能体编程会话记录，成本约为前沿 LLM 评审的 1%，且数据不出组织。第二部分在 1B/2B/35B…
arXiv NLP11 天前
★ 3
NormTune：按权重更新范数引导的参数高效微调
论文发现参数高效微调（PEFT）在推理密集任务上落后于全量微调，与权重更新范数偏小的「欠适配」相关。提出 NormTune，按各层权重更新范数自适应增强更新不足的层。在 S1K-1.1 上训练后，rank-8 LoRA、Bone、MoRA 在 AIME 2024、MATH 500、GPQA、AIM…
arXiv cs.AI11 天前
★ 3
IBM 发布 ClariEdge 数据集，微调 LoRA 实现 RAG 查询澄清 96.6% 准确率
论文针对检索增强生成（RAG）中的模糊查询澄清问题，发布约 3900 条样本的 ClariEdge 数据集，包含需澄清的模糊查询与无需澄清的负例。实验显示轻量微调 LoRA 达到 96.6% 分类准确率，在分类与澄清生成质量上均超过多个大模型的提示基线。研究强调难负例是区分真模糊与伪模糊查询的关键…
arXiv cs.AI11 天前
★ 3
ReTTT 提出反思驱动测试时训练提升 LLM 智能体表现
研究提出 ReTTT，让 LLM 智能体在任务执行中反思交互反馈，将经验教训存入显式记忆，并通过更新回合内 LoRA 适配器学习，主干保持冻结。在 ALFWorld、ScienceWorld 与 SWE-bench Lite 上，ReTTT 在全部六种模型-基准组合中优于基于轨迹的测试时训练，任务…
arXiv cs.LG13 天前
★ 3
WebMix：用混合超网络让网页智能体免重训适配新界面
论文提出 WebMix，一种混合超网络，通过组合已训练的低秩适配器让网页智能体适配未见界面：侦察智能体探索目标站点并生成手册，轻量路由器据此预测适配器混合系数，无需在目标上做梯度更新。在 Qwen 与 Llama 模型上，TimeWarp 域迁移平均比最佳基线高约 8 个百分点，并在版本迁移上保持…
arXiv cs.LG14 天前
★ 3
arXiv 提出 SQUELCH：LoRA 秩一专家的噪声门限路由
论文将 token 需要多少秩一组件视为检测问题，提出无路由器的秩一专家混合方法 SQUELCH。它对每个 token 的响应按其自身稳健噪声水平软阈值化，用 Stein 无偏风险估计选阈值，并通过解释消除步骤抑制冗余组件。在 LLaMA-3.1-8B、Qwen3 等模型上优于 LoRA 2.2-…
arXiv cs.LG18 天前
★ 3
AO-DA 架构发布：边缘 LLM 智能体抗上下文污染
论文提出解耦架构 AO-DA，把逻辑推理与人格表达拆成同一 INT4 基座模型上的两条推理路径，用可热插拔 LoRA 适配器实现。在 Apple M2 上对 Llama-3.1-8B 与 Gemma-3-4B 的测试显示，解耦逻辑路径对污染结构性不变，输出逐字节一致，而混合单次推理随污染单调退化。
arXiv NLP25 天前
★ 3
研究：参数高效微调方法差异究竟在哪
论文比较六种 PEFT 方法在语言与扩散模型中的表现，考察其参数化与任务性能、遗忘及预训练权重几何变化的关系。结果显示 LoRA 族方法也近似保持预训练几何，恢复其轻微漂移的奇异值谱基本不影响性能，质疑显式几何保持的必要性。LoRA 最稳定地限制遗忘，DoRA 平均任务分更高，PiSSA 保留成本…
arXiv cs.LG25 天前
★ 3
PaLoRA：面向持续学习的节奏化低秩适配
论文揭示 LoRA 持续学习中固定小学习率启发式的局限，提出最优幅度限制应随历史知识有效秩自适应增长。据此提出 PaLoRA，通过自适应 SVD 截断压缩历史知识、将梯度投影到先验任务零空间，并施加秩感知节奏。在 50 任务 ImageNet-A/R 上准确率提升约 4%。
arXiv cs.LG27 天前
★ 3
PAC 隐私扩散模型适配保护敏感图像合成
论文指出合成数据不保证隐私，扩散模型仍易受重建攻击，而 DP-SGD 因重复裁剪加噪导致效用损失。作者提出 PAC 隐私的扩散模型适配方法，先用 LoRA 或 Textual Inversion 学习紧凑组件，再基于输出协方差校准各向异性高斯噪声，仅扰动一次。实验表明在同等重建隐私下，该方法在身份…
arXiv cs.LG27 天前
★ 3
每个用户都需要私有 LoRA 吗？解耦个性化与逐用户适配
论文质疑为每个用户维护完整适配状态的范式，发现独立用户适配器存在大量可跨用户复用的结构。作者提出 LINEUP，学习可复用低秩个性化因子库，通过用户条件召回与查询相关校准组合，每个目标用户仅需优化 8 个标量，而私有 LoRA 配置需 419 万参数。在六项任务 12 个指标上全面领先。
arXiv cs.LG28 天前
★ 3
零空间投影净化 LoRA 后门
论文提出一种无需触发器先验、干净参考数据或重训练的 LoRA 后门净化方法，通过在输入输出通道构造正交零空间并投影 LoRA 更新来剔除后门方向。实验将攻击成功率从近 100% 降至 10% 以下，同时保留基座模型通用能力与适配器学到的下游技能。
arXiv cs.AI31 天前
★ 3
专家隔离与关停实现LLM后门遏制
研究者提出「学习但分流」的新策略，通过Quarantined Expert Shutdown（QES）在类MoE结构中把触发条件行为引导至可隔离的专家分支。部署时只需将隔离专家的路由权重置零即可缓解后门，无需触发筛查或更新权重。实验在两类任务、三种攻击、四个模型家族上把攻击成功率从100%降至0-…
arXiv cs.AI31 天前
★ 3
LLM微调是否需要人类可读文本
论文探究人类可读性是否为LLM有效微调的必要条件，提出DASA方法，利用冻结参考模型的激活梯度反馈优化连续合成输入嵌入，直接用于下游微调。在Llama与Qwen家族六个1B至32B模型、六个基准上，DASA在匹配LoRA设置下性能与源自然语言数据相当甚至更优，并比GRADMM快3.6至4.9倍。
arXiv cs.AI33 天前
★ 3
基于 lp 正则的 LoRA 自动秩分配方法
论文针对 LoRA 微调中秩分配依赖人工重要性分数的问题，提出 ℓp-LoRA，基于 0<p<1 的 ℓp 正则实现有原则的秩分配。方法对每个秩一分量能量正则化，使冗余分量消失，并推导出隐式阈值判据。在自然语言理解与问答任务上取得与现有 LoRA 基线相当的性能。
arXiv cs.LG38 天前
★ 3
NGN：将神经网络规模作为可微计数来学习
论文提出神经发生网络（NGN），用可学习边界为每组有序结构组件选择激活前缀，使网络规模在训练中直接作为可微计数被优化。该方法在 MLP、卷积、图网络、Transformer、状态空间模型、LoRA 与适配器上验证，部署学习到的前缀通常性能损失很小。
arXiv cs.LG39 天前
★ 3
LLMAE：将预训练 LLM 改造为高保真连续文本自编码器
论文提出 LLMAE，通过在预训练解码器 LLM 内部激活中暴露定长隐瓶颈，将其改造为连续文本自编码器，弥补文本缺乏高保真连续表征的空白。以 2.7 亿参数的 Gemma 3 实例化，结合结构化注意力掩码、LoRA 适配与 KL 正则，可近完美重建最长 1024 token 的文本。作者进一步用该…
arXiv cs.LG39 天前
★ 3
零基 LoRA 微调保留后 RL 模型推理能力
论文发现后 RL 模型的推理激活集中在低维子空间，留有大量零空间容量用于适配。作者提出 Null-Basis LoRA（NB-LoRA），从推理激活构造固定近似零基，并通过该基重参数化 LoRA 更新，在微调全程施加保留约束。实验显示 NB-LoRA 适配性能与标准 LoRA 相当，同时将推理准确…
arXiv cs.AI40 天前
★ 3
Stiefel-AdamW：面向线性分解块的几何优化器
论文提出 Stiefel-AdamW，针对 LoRA 适配器、低秩压缩层、自注意力 QK 乘积等 W=BA 线性分解块，将其中一个因子约束在 Stiefel 流形上，把完全 GL(r) 规范对称性降为紧正交对称，避免因子爆炸同时保留 AdamW 的逐坐标预条件。在 GPT2、ViT、Mistral…
arXiv cs.LG42 天前
★ 3
面向 LLM 定向危害缓解的模块化框架
论文提出模块化纠错框架，通过 Activated LoRA 适配器与上下文感知路由机制，在生成过程中低延迟地定向消除偏见、毒性等有害输出。专家适配器可在序列中途激活而不使 KV 缓存失效，在安全基准上提升对齐同时保持任务性能。
arXiv cs.LG48 天前
★ 3
通信高效的联邦LoRA微调自适应相位切换方法
论文测量了双向B-only联邦LoRA协议的每轮通信字节，提出自适应相位切换聚合器ReverseAdaptive，通过监控全局训练损失相对改进来定位通信-质量前沿的拐点。在TinyLlama-1.1B-Chat上实现40.5%往返通信节省，且阈值可跨模型规模迁移。
arXiv cs.LG48 天前
★ 3
CLAW：世界模型的摊销低秩适配
论文研究如何仅用少量交互回合将世界模型适配到未知测试环境，提出 CLAW 方法，用超网络在测试时生成低秩 LoRA 适配器。预训练阶段联合训练超网络与基础世界模型，测试时冻结基础模型，仅需一次前向传播即可生成适配器。在运动与操作环境族中，CLAW 仅用数秒测试数据即优于梯度适配与上下文学习，并在数…
arXiv cs.LG49 天前
★ 3
ISO-LoRA：各向同性曲率下联合切空间优化的秩高效微调
研究指出LoRA的名义秩只决定表示容量，优化器才决定实际使用了多少容量。在GPT-2适配案例中，AdamW的每步更新奇异谱集中、有效秩低，而Muon方向更丰富且更受益于提高LoRA秩。作者提出ISO-LoRA，通过在权重空间诱导切扰动上做谱下降耦合LoRA因子更新，在0.1B-7B模型上提升有效秩…
arXiv cs.LG49 天前
★ 2
Saidzoda 发布塔吉克语工具调用模型 LFM-2.6B
研究发布 Saidzoda-Tajik-LFM-2.6B，基于 LFM2.5-2.6B-Base 经塔吉克语 LoRA 继续预训练与工具调用 SFT 适配。塔吉克语严格全调用准确率从 20.69 升至 64.14，但继续预训练会使原生工具调用格式归零，英语 MMLU 从 60.8 降至 52.5，…
arXiv NLP6 小时前
★ 2
研究用 LLM 提升学术论文知识实体关系抽取
研究系统比较多种 LLM 策略在学术论文知识实体关系抽取（KERE）上的效果，包括 CoT 提示、LoRA 微调开源模型、LLM 增强小模型等，并新增两种组合策略。在自建 NLP 摘要与全文数据集上，LoRA 微调的 T5 取得最高 macro F1（0.7408 / 0.7013），错误分析显示…
arXiv NLP6 小时前