★ 3
arXiv 提出 PRISM 训练框架提升 LLM 采样多样性
针对大模型模式坍缩问题,研究提出训练期框架 PRISM,结合子模挑选为每个提示配对多样且正确的多教师解答,并通过随机嵌入调制将特殊 token 扰动转化为采样多样输出的隐式信号。在 WritingPrompts 与 BookMIA 上,PRISM 在保持最强或接近最强语义多样性的同时取得最佳生成质…
arXiv cs.LG7 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
针对大模型模式坍缩问题,研究提出训练期框架 PRISM,结合子模挑选为每个提示配对多样且正确的多教师解答,并通过随机嵌入调制将特殊 token 扰动转化为采样多样输出的隐式信号。在 WritingPrompts 与 BookMIA 上,PRISM 在保持最强或接近最强语义多样性的同时取得最佳生成质…
论文提出一种免训练方法,利用条件嵌入空间到图像空间的映射所诱导的局部拉回几何,识别输出最敏感的方向,引导不同采样轨迹生成差异化图像。在 MS-COCO 与 BrushNet 上验证了该方法在文生图与图像修复中提升多样性的效果,同时保持与提示词的一致性。