★ 3
研究提出能力门控池化方法提升语言模型事件预测
论文针对混合预测场景提出「能力门控」方法，从已解决结果估计领域级来源权重，向全局权重收缩并重新校准池化预测，核心衡量的是模型相对外部预测的边际价值而非独立准确率。在 2357 个已解决二元问题和五个语言模型上，该方法将 Brier 分数从 0.0771 改善至 0.0732，显著优于全局组合；但在…
arXiv cs.AI49 天前
#模型集成
共 10 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
QUAL 提出分位数对齐提升零样本时间序列基础模型
论文提出 QUAL 框架，利用模型池作为概率参考对成员预测做分位数对齐，无需标签即可改进并组合多个时间序列基础模型。在 GIFT-Eval 上，分位数对齐使平均 MASE 与 CRPS 分别下降 7.4% 和 9.8%，且对弱预测器保持鲁棒。
arXiv cs.AI3 小时前
★ 2
arXiv 论文用超参数迁移与集成改进数据受限扩展
针对高质量训练数据增长跟不上算力的问题，论文指出以往数据受限扩展方案固定权重衰减等超参数、忽视集成，可能导致损失随算力上升。作者拟合幂律迁移超参数并给出集成算力分配法则，在 FineWeb 1 亿 token 上困惑度降低 14%。
arXiv cs.LG3 天前
★ 2
研究：微调 RoBERTa 与 GPT-3.5 集成兼顾成本与性能
该论文在 16 类问卷文本分类任务上对比了微调 RoBERTa 与现成 GPT-3.5 的性能、成本与耗时。RoBERTa 的 F1 达 96%，远高于 GPT-3.5 的 83%，且推理耗时仅 12 分钟对 6 小时。GPT-3.5 采用批处理提示可降低约 70% 推理成本，两者集成后 F1 达…
arXiv NLP13 天前
★ 2
SAGE-CP 提出路由分层校准，修复自适应 VLM 集成覆盖率失效
论文指出自适应 VLM 集成虽能靠早退节省算力，但单一 conformal 阈值会让个别计算路径的条件覆盖率严重下滑。作者提出 SAGE-CP，冻结路由后按早退与升级分组做 Mondrian 分裂 conformal 校准。在 10 个基准、4 个 VLM 上，最差路径覆盖率从 0.623 升至 …
arXiv cs.LG13 天前
★ 2
无标签可靠性估计：语言模型集成如陪审团
论文提出将语言模型集成视为陪审团而非选民，通过专家间一致与分歧模式，用期望最大化（EM）从无标签答案配置中估计各专家可靠性。在 1560 题基准上，九个最多 3B 参数的专家模型表现与标签拟合权重相当，且优于最佳单模型与最强无标签替代方案。
arXiv NLP17 天前
★ 2
FlexRouter：面向灵活 LLM 路由的互补模型集学习
现有 LLM 路由方法独立给模型打分并选 top-k，忽略模型相关性且预算固定，常选出共享失败模式的冗余模型。论文提出 FlexRouter，显式建模模型互补性，以「答案覆盖」为目标，用行列式点过程（DPP）刻画能力与冗余。在 RouterEval 基准上，该方法在域内与域外任务上均实现更高覆盖、…
arXiv cs.LG32 天前
★ 2
音频语言模型验证精神科录音中的说话人删除
研究针对精神科临床双人对话录音，提出角色引导的说话人删除验证问题，用两条对称流水线分别确认医生或患者语音已被移除。在 48 段录音上测试 Gemma-4-12B、Gemma-4-31B、Nemotron-3-Nano 等四个开源权重模型，十四种模型-视图配置的 OR 集成取得 F1 0.478、召…
arXiv cs.LG32 天前
★ 2
模块化范数 RandOpt 高效集成采样
论文提出 Modular Norm RandOpt，一种架构感知的采样方法，使用模块级自然范数与校准尺度，同时保留选择与投票机制。在 Countdown 上以少 3 倍候选、GSM8K 上少至少 12 倍候选超越 RandOpt，并节省墙钟时间。在七个任务与三个 Qwen 规模上平均准确率均高于 …
arXiv cs.LG40 天前
★ 1
Tessaract 推出统一LLM推理的轻量级层
Tessaract 发布了一个轻量级层，旨在统一不同大语言模型的推理流程。该工具希望简化多模型推理的接入与管理，降低开发者的集成成本。目前该项目在 Hacker News 上热度较低。
Hacker News – LLM18 天前
这个主题的相关资产
相关公司阿里巴巴1