★ 2
面向 SUD 患者对话的多目标对齐小模型框架
研究者提出一个认知对齐的小语言模型框架,用于物质使用障碍(SUD)患者对话生成,显式建模并对齐潜在认知成分。流水线包含认知成分检测与对齐对话生成两阶段,结合知识蒸馏、偏好优化与注意力引导奖励塑形。评估显示认知信息微调显著优于通用指令微调基线。
arXiv NLP25 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究者提出一个认知对齐的小语言模型框架,用于物质使用障碍(SUD)患者对话生成,显式建模并对齐潜在认知成分。流水线包含认知成分检测与对齐对话生成两阶段,结合知识蒸馏、偏好优化与注意力引导奖励塑形。评估显示认知信息微调显著优于通用指令微调基线。
开发者尝试让 TypeSafe 的 Jev 模型通过模拟键盘逐键输入来「说话」。Jev 并非文本生成模型,而是一个从给定选项中做选择的分类器,每次请求只能挑选一个按键。实验显示 Jev 输入「Hi」需要 4 次请求和上万 token,成本高昂,说明选择型模型难以胜任开放式对话。