arXiv NLP·6 小时前★ 3

研究用冻结多模态 LLM 低成本适配词级全双工语音对话

原文标题:An LLM Is All You Need: Data-Efficient Adaptation to Full-Duplex, Word-Level Spoken Dialogue

重要度 3/5 · AI 综合评估报道影响力与新鲜度,4–5 分为高价值资讯。

AI 智能摘要

论文提出 thinker-talker 级联架构,在 80ms 帧时钟上保持 冻结,仅训练 9700 万参数的轻量适配器与新 嵌入,将停顿、让出与起话表示为同词表 并由有限状态机约束。四阶段课程约 30 GPU 小时完成转换,在 Full-Duplex-Bench 与 InteractionBench 上与大规模语音训练系统相当,且更少抢话、更常附和。

阅读原文 +0
AI 处理过程展开/收起
原始标题:An LLM Is All You Need: Data-Efficient Adaptation to Full-Duplex, Word-Level Spoken Dialogue
AI 中文标题:研究用冻结多模态 LLM 低成本适配词级全双工语音对话
来源:arXiv NLP · 发布于 6 小时前
分类:多模态 · AI 重要度:★ 3(3)
标签:全双工对话 / 语音交互 / 多模态 LLM / 适配器微调
关键词:全双工语音 / 多模态大模型 / 语音对话 / 适配器微调
AI 处理:2026/11/13 18:01:25 · 模型 deepseek-chat · 规则版本 2026-10-21.1
AI 生成以上内容由 AI 自动生成:中文标题、摘要、分类与重要度;同一事件的多家报道会自动归并展示。 内容仅供参考,可能存在偏差,请以原文为准, 不构成任何投资或专业建议。
版权归原作者与原发布平台所有;若涉及侵权或信息错误,请在举报与侵权投诉页反馈,我们会及时处理。
每天 09:30,3 条 AI 圈真正重要的变化,免费订阅 →

相关推荐

arXiv cs.AI·6 小时前★ 4

Neuro-VL 神经影像视觉语言模型发布,诊断表现超 OpenAI 与谷歌前沿模型

AI 摘要研究团队用近百万份常规临床神经影像研究训练视觉语言模型 Neuro-VL,可解读完整影像检查并用自然语言讨论所见。在内部与国际数据集上,其在异常诊断、定位、描述与生成放射报告方面优于通用前沿模型和专用医疗模型,并在抵抗误导性临床假设上强于 OpenAI 与谷歌的领先模型。

#多模态
36氪·3 天前★ 4

蚂蚁灵波发布 LingBot-Touch 触觉基础模型并开源

AI 摘要蚂蚁灵波发布 LingBot-Touch 触觉基础模型,基于近 5000 小时真实触觉数据预训练,覆盖磁触觉、视触觉与压阻式三类传感原理,可将不同信号统一为同一套触觉表征。该模型补齐机器人精细操作所需的触觉感知,技术报告、模型与代码已在 Hugging Face、GitHub 和魔搭开源。

#多模态
36氪·6 天前★ 4

谷歌发布 Gemini Omni 1.2 Flash 视频模型,单段时长增至 15 秒

AI 摘要谷歌推出 AI 视频生成模型 Gemini Omni 1.2 Flash,原生支持最长 15 秒视频,较上一代提升 50%,并新增多轮对话式编辑能力。新模型增强了对参考内容的遵循,可在多镜头间保持角色、物体与场景一致性,减少视觉漂移。

#多模态
36氪·7 天前★ 4

OpenAI发布图像模型Images 2.6,生成提速50%并新增GIF功能

AI 摘要OpenAI发布图像生成模型Images 2.6,面向全球用户在ChatGPT、Codex及API开放。生成速度较上版提升50%,增强多轮编辑的细节与角色、产品、品牌一致性,并新增GIF循环动画生成。API提供Flare与Sunburst两个版本。

#多模态
内容有误或摘要不准?告诉我们
研究用冻结多模态 LLM 低成本适配词级全双工语音对话 - 智讯 AI News