arXiv cs.LG·7 天前★ 3

arXiv 提出 PRISM 训练框架提升 LLM 采样多样性

原文标题:PRISM: Promoting Sampling Diversity of Large Language Models with Implicit Stochastic Modulation

重要度 3/5 · AI 综合评估报道影响力与新鲜度,4–5 分为高价值资讯。

AI 智能摘要

针对模式坍缩问题,研究提出训练期框架 ,结合子模挑选为每个提示配对多样且正确的多教师解答,并通过随机嵌入调制将特殊 扰动转化为采样多样输出的隐式信号。在 WritingPrompts 与 BookMIA 上, 在保持最强或接近最强语义多样性的同时取得最佳生成质量,并改善数学与代码基准的采样效率,为提供更稳定的多样化 rollout。

深读 · 结论先行AI 生成展开看要点与影响 ↓

PRISM把多样性做进训练而非推理,在保持最强语义多样性同时取得最佳生成质量

  • •针对模式坍缩,提出训练期框架PRISM,而非仅在推理时干预采样
  • •用子模挑选为每个提示配对多样且正确的多教师解答
  • •随机嵌入调制把特殊token扰动转为采样多样输出的隐式信号,并有稳定性理论分析
  • •在WritingPrompts与BookMIA上,所有模型-基准设置取得最佳生成质量
  • •改善数学与代码基准采样效率,并为RL提供更稳定的多样化rollout

为什么重要:把多样性从推理技巧变成模型能力,对依赖重复采样找更优解的自我进化和持续学习路线有直接意义。

以上深读由 AI 依据标题/摘要/正文节选生成,仅供参考;事实以原文为准。

阅读原文 +0
AI 处理过程展开/收起
原始标题:PRISM: Promoting Sampling Diversity of Large Language Models with Implicit Stochastic Modulation
AI 中文标题:arXiv 提出 PRISM 训练框架提升 LLM 采样多样性
来源:arXiv cs.LG · 发布于 7 天前
分类:大模型 · AI 重要度:★ 3(3)
标签:采样多样性 / 模式坍缩 / 训练方法 / 强化学习
关键词:LLM 采样多样性 / 模式坍缩 / PRISM 框架 / 强化学习训练
AI 处理:2026/10/26 12:01:29 · 模型 deepseek-chat · 规则版本 2026-10-21.1
AI 生成以上内容由 AI 自动生成:中文标题、摘要、分类与重要度;同一事件的多家报道会自动归并展示。 内容仅供参考,可能存在偏差,请以原文为准, 不构成任何投资或专业建议。
版权归原作者与原发布平台所有;若涉及侵权或信息错误,请在举报与侵权投诉页反馈,我们会及时处理。
每天 09:30,3 条 AI 圈真正重要的变化,免费订阅 →
arXiv 提出 PRISM 训练框架提升 LLM 采样多样性 - 智讯 AI News