★ 3
研究揭示全双工语音模型长对话崩溃机制
论文提出全双工长时程基准 FD-LHB,测试五款近期全双工语音模型,发现它们最终都会退化或耗尽上下文。作者定位到初始化锚点驱逐与自我重复两个机制,并提出初始化锚点固定与双工重复惩罚两项免重训修复,可显著减少长达一小时回放中的对话崩溃。
arXiv NLP7 天前
共 4 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出全双工长时程基准 FD-LHB,测试五款近期全双工语音模型,发现它们最终都会退化或耗尽上下文。作者定位到初始化锚点驱逐与自我重复两个机制,并提出初始化锚点固定与双工重复惩罚两项免重训修复,可显著减少长达一小时回放中的对话崩溃。
该研究引入DSB-IFEval基准,评估全双工语音代理在实时对话中遵循隐式指令的能力,包含1038个测试用例和八种角色。研究发现不同架构存在权衡:全双工模型对显式与隐式指令敏感度不同,而GPT-Realtime等模型在内容遵循上表现好但行为适应受限。安全冲突下,系统难以覆盖预设角色指令。
论文识别出全双工语音语言模型中决定何时发言的单一后层残差流方向,称为 initiative vector。该方向可读取决策并提前 800 毫秒预测发言起始,缩放后可将语音占比从 6-12% 提升至 42-61%。短参考录音即可将说话人的轮次风格迁移到模型,且迁移具有参考特异性。
研究在全开源全双工语音语言模型 Moshi 上,用均值差激活引导方法研究四种情绪的引导效果,每帧仅需少量向量加法且无需重训练。结果显示情绪可从残差流线性解码,但激活引导仅部分可行且不均衡:快乐、愤怒、惊讶共享方向,悲伤可独立引导。