★ 3
DART-ES：难度感知的进化策略微调
论文针对进化策略（ES）微调大模型时奖励均匀平均、难以反映题目学习价值变化的问题，提出 DART-ES。该方法根据扰动群体的通过率估计题目难度状态，联合指导难度重加权与稀有可解样本回放。实验在五个基座模型上均优于 ES，GSM8K 平均准确率从 72.07% 提升至 73.53%，且相比 GRPO…
arXiv cs.LG26 天前
#大模型微调
共 6 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
LeanPolish：Lean证明压缩的验证监督
论文提出LeanPolish符号化Lean 4流水线，发布33402条被接受的局部编辑与65596条同状态失败尝试，研究模型从验证监督中学到什么。实验表明延续菜单评估可消除排序捷径，迭代符号化处理将miniF2F节省率从19.7%提升至27.5%，微调将PutnamBench验证token缩减从2…
arXiv cs.LG32 天前
★ 3
联邦LLM微调的隐私保护拆分学习新方法
论文针对拆分学习与联邦学习结合下大模型微调的隐私悖论，指出自回归特性使传输激活泄露输入，现有扰动防御失效。提出可学习的混淆-恢复方案，在保护参与者私有数据的同时允许服务器训练可独立部署的模型，实现较强隐私保护且效用与系统开销损失有限。
arXiv cs.LG53 天前
★ 2
arXiv 论文提出 RePPO：用排斥种群策略梯度实现行为多样强化学习
论文提出排斥种群策略优化 RePPO，将 PPO 适配为用种群相关动态奖励联合优化紧凑的多样化高质量策略种群，避免依赖昂贵的进化算子。在连续控制任务上取得良好质量—多样性权衡，并首次将质量多样性强化学习扩展到像素输入与大语言模型微调。
arXiv cs.LG5 天前
★ 2
U4RASD 团队获 KnowledgeGraphEval 2026 阿拉伯语关系抽取冠军
该论文介绍了 U4RASD 团队在 KnowledgeGraphEval 2026 子任务 2（阿拉伯语有向关系抽取）中的参赛系统，结合编码器与 LLM 两种路线。编码器使用类型化实体标记与关系存在/分类双头，LLM 则用 QLoRA 微调 Yehia 与 Qwen3.5 并施加本体约束预测。最佳…
arXiv NLP21 天前
★ 2
SAZO：样本自适应零阶微调方法提出
论文提出 Sample-Adaptive Zeroth-Order Optimization（SAZO），在线学习样本重要性并自适应分配查询，加速大模型零阶微调收敛。方法无需真实梯度，仅比 MeZO 多 O(N) 标量状态，理论证明其收敛率严格更快。四个模型族实验显示平均下游性能提升，达到相同训练…
arXiv cs.LG21 天前
这个主题的相关资产
相关公司阿里巴巴1