#免训练

共 20 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 3

SEDATE:跨语言攻击性神经回路与免训练安全编辑

arXiv 论文提出 SEDATE,一种基于「检测-编辑-验证」的免训练方法,用于定位并编辑大模型中与攻击性/不安全输出相关的神经元,从而提升多语言安全性。方法在 7 种语言、4 个模型家族及 4 种分布外语言上评测,安全得分显著优于最佳基线,同时保留通用能力、开销可忽略。

arXiv NLP6 天前
★ 3

Omni-Woodpecker:免训练纠正全模态大模型幻觉

针对全模态大模型(OLLM)的跨模态幻觉,研究者提出免训练框架 Omni-Woodpecker,通过正交分解分离真实证据与先验偏见,并在解码前重新平衡融合表示。以 Qwen2.5-Omni-7B 为骨干,在 CMM 与 AVHBench 上分别提升 12.9 与 8.6 分,并可泛化到 Video…

arXiv cs.AI12 天前
★ 3

Hippo:免训练智能体自进化记忆框架

论文提出受海马体选择性编码与回放启发的记忆框架 Hippo,让 LLM 智能体在不更新参数的情况下通过外部记忆自我改进。它对比同一任务的多次尝试以提炼可复用决策,并通过适用条件合并冲突、修订旧经验。在 SWE-bench Verified、WebArena、Mind2Web 上均有提升,且保留的经…

arXiv cs.AI13 天前
★ 3

Nullify:零空间激活引导实现免训练LLM遗忘

研究提出 Nullify,一种免训练、非破坏性的激活引导方法,用于大语言模型的知识遗忘。该方法在推理时使用引导向量将隐私相关激活重定向,同时满足零空间约束以保持模型效用。在 TOFU 和 MUSE 基准上,Nullify 在遗忘质量上匹配或超越现有基线,且几乎无损保留模型效用。

arXiv cs.LG24 天前
★ 3

RAZOR:剪枝大模型中的可替换专家

论文提出 RAZOR,一种免训练的 MoE 专家剪枝方法,通过共识残差评估专家的功能可替换性,而非仅看使用频率或贡献幅度。在 GLM-4.7-Flash、Qwen3.6-35B-A3B、DeepSeek-V4-Flash-0731 与 Hy3 上,25% 与 50% 剪枝率下均取得九任务宏平均最优…

arXiv cs.LG35 天前
★ 3

TabPFN与TabICL对比调优XGBoost:免训练模型14战全胜

一项基准测试比较了TabPFN、TabICL与调优后的XGBoost在表格数据任务上的表现,结果显示免训练的表格基础模型在14项对比中全部胜出。这挑战了梯度提升树在表格数据领域的长期主导地位,暗示预训练表格模型可能成为新的默认方案。

Hacker News35 天前
★ 3

反思-修订-复用:GUI智能体的免训练技能进化

论文提出EvoSkill-GUI,让GUI智能体在部署时无需额外训练即可根据执行反馈修订技能。技能以结构化多文件包形式存在,通过反思-修订-复用循环迭代。在MobileWorld、AndroidWorld、OSWorld三大基准上分别最高提升16.2%、6.0%、10.5%。

arXiv cs.LG46 天前
★ 3

研究提出轨迹感知解码控制优化扩散视觉语言模型

论文针对扩散视觉语言模型在迭代细化中暴露的中间答案轨迹,提出推理预算错配问题:统一生成长度会损害视觉封闭问题或推理敏感问题。作者在LLaDA-V上研究一种免训练控制器,利用答案闭合、承诺证据和表示修订压力等轨迹信号,将每个样本路由到提前承诺、基线保持或支持推理的解码策略,无需真值答案。在多种基准上…

arXiv cs.AI51 天前
★ 3

MOSAIC:GraphRAG的查询感知探索策略适配

论文指出GraphRAG多数系统对查询采用共享探索流程,造成结构性错配。提出免训练框架Mosaic,将检索形式化为逐查询控制问题,由LLM分析器生成种子选择、图遍历、停止与证据选择的有界策略。在GraphRAG-Bench上医学与小说答案正确率分别提升5.13与4.43分,路径评估减少81.9%。

arXiv cs.AI51 天前
★ 2

RangeSWA 提出免训练长度外推方法,改善扩散语言模型长文本生成

论文针对连续扩散语言模型在生成长度超过训练长度时出现的重复、语义漂移与质量下降问题,提出免训练的长度外推方法 RangeSWA。该方法结合局部滑动窗口注意力、远端块摘要与动态内容检索,并通过位置重映射、条件注意力校正与去噪阶段自适应窗口调度缓解退化。实验显示可有效降低生成困惑度与重复率。

arXiv NLP8 小时前
★ 2

Jev-GAD:免训练通用图异常检测框架

论文提出 Jev-GAD,利用单个冻结预训练语言模型做证据条件化的图异常评估,并通过语义 Graph-to-State 变换把数值证据转为结构化决策状态。在七个图异常检测基准上平均 AUROC 达 89.18%、AUPRC 达 52.40%,无需任务特定梯度优化。

arXiv cs.LG10 天前
★ 2

arXiv 论文:CoTS 竞争式 token 选择做潜在推理

论文提出 Competitive Token Selection(CoTS),一种免训练框架,将潜在推理干预从二元模式选择改为 token 级连续分配。CoTS 利用两个最可能候选之间的概率竞争动态平衡离散承诺与软探索。在六个推理基准上,CoTS 持续优于标准 CoT 与当前免训练潜在推理方法。

arXiv NLP17 天前
★ 2

TeachGrade:免训练教师证据简答题评分框架

研究者提出 TeachGrade,一种利用教师评分示例的免训练简答题评分框架,通过 Skill 和 CaseBank 两个冻结记忆模块提升评分一致性。在 3829 份 SAS-Bench 答案上,宏观协作一致性分数从 67.99 提升至 81.32,宏观 QWK 达 84.71,在 8 项任务上领…

arXiv NLP19 天前
★ 2

BioNEL-RAG:免训练生物医学实体链接框架

研究者提出 BioNEL-RAG,一种免训练框架,结合检索增强生成(RAG)与大语言模型完成生物医学命名实体链接。RAG 模块检索候选实体,LLM 负责选择最合适的候选,无需在子领域数据集上微调即可达到与现有方法相当的性能。

arXiv NLP19 天前
★ 2

无训练方法通过拉回方向提升扩散模型采样多样性

论文提出一种免训练方法,利用条件嵌入空间到图像空间的映射所诱导的局部拉回几何,识别输出最敏感的方向,引导不同采样轨迹生成差异化图像。在 MS-COCO 与 BrushNet 上验证了该方法在文生图与图像修复中提升多样性的效果,同时保持与提示词的一致性。

arXiv cs.AI19 天前
★ 2

免训练注意力引导缓解大模型谄媚与固执

研究者提出 SPAE 框架,通过 token 级注意力引导抑制用户压力、放大上下文证据,无需训练即可缓解大模型的谄媚与固执问题。同时发布 CoPE-Bench 基准,含六种条件以评估两类失败之间的权衡。在五个骨干模型上,SPAE 平均将顺从压力降低 18.8 个百分点,联合条件更新率提升 5.5 …

arXiv cs.AI27 天前
★ 2

MintFlow:面向约束流匹配的最小轨迹干预

论文提出 MintFlow,一种免训练的约束采样框架,将约束施加建模为对预训练流轨迹的最小干预。通过伴随公式得到扰动的闭式解,避免昂贵的迭代优化,并自适应选择干预时机。在生成视觉与物理系统建模任务中,MintFlow 在满足约束的同时显著更好地保留预训练生成分布。

arXiv cs.AI28 天前
★ 2

JevSoup:免训练 LoRA 组合的系统一路由框架

论文提出 JevSoup,一个免训练框架,将「系统一」专家路由与「系统二」执行分离。仅凭输入与专家描述,Jev 通过结构化概率选出两个专家,保留主专家更新,将第二个投影到前者行空间的正交补,再等权合并。在 14 个 PorTAL 任务与三个 Qwen3 规模上,任务宏平均与样本微平均准确率最高分别…

arXiv cs.AI35 天前
★ 2

基于核复杂度的边净化:免训练防御结构图攻击

论文提出核复杂度边净化(KCES),一种免训练、模型无关的图神经网络结构攻击防御框架。基于图核复杂度(GKC)定义边级KC分数,识别并剪除高KC边以削弱对抗扰动。实验表明KCES在多种攻击设置下持续优于鲁棒基线,并可扩展至大图。

arXiv cs.LG53 天前
★ 2

ConvMem:面向长上下文推理的卷积记忆

论文提出 ConvMem,一种无需训练、高度可并行的长上下文推理框架,将长文本推理重构为分层卷积。它把带查询提示的 LLM 视为卷积核,分层摘要文本片段,将推理路径从线性链缩短为对数树,并引入可配置步长、跳跃连接与多核卷积以增强证据捕获与语义分解。在 RULER-HotpotQA 与 RULER-…

arXiv cs.AI53 天前

这个主题的相关资产

相关标签

免训练 最新资讯与动态(20 篇) - 智讯 AI News