研究用冻结多模态 LLM 低成本适配词级全双工语音对话
原文标题:An LLM Is All You Need: Data-Efficient Adaptation to Full-Duplex, Word-Level Spoken Dialogue
重要度 3/5 · AI 综合评估报道影响力与新鲜度,4–5 分为高价值资讯。
论文提出 thinker-talker 级联架构,在 80ms 帧时钟上保持多模态 LLM 冻结,仅训练 9700 万参数的轻量适配器与新 token 嵌入,将停顿、让出与起话表示为同词表 token 并由有限状态机约束。四阶段课程约 30 GPU 小时完成转换,在 Full-Duplex-Bench 与 InteractionBench 上与大规模语音训练系统相当,且更少抢话、更常附和。
AI 处理过程展开/收起
相关推荐
Neuro-VL 神经影像视觉语言模型发布,诊断表现超 OpenAI 与谷歌前沿模型
AI 摘要研究团队用近百万份常规临床神经影像研究训练视觉语言模型 Neuro-VL,可解读完整影像检查并用自然语言讨论所见。在内部与国际数据集上,其在异常诊断、定位、描述与生成放射报告方面优于通用前沿模型和专用医疗模型,并在抵抗误导性临床假设上强于 OpenAI 与谷歌的领先模型。
蚂蚁灵波发布 LingBot-Touch 触觉基础模型并开源
AI 摘要蚂蚁灵波发布 LingBot-Touch 触觉基础模型,基于近 5000 小时真实触觉数据预训练,覆盖磁触觉、视触觉与压阻式三类传感原理,可将不同信号统一为同一套触觉表征。该模型补齐机器人精细操作所需的触觉感知,技术报告、模型与代码已在 Hugging Face、GitHub 和魔搭开源。
谷歌发布 Gemini Omni 1.2 Flash 视频模型,单段时长增至 15 秒
AI 摘要谷歌推出 AI 视频生成模型 Gemini Omni 1.2 Flash,原生支持最长 15 秒视频,较上一代提升 50%,并新增多轮对话式编辑能力。新模型增强了对参考内容的遵循,可在多镜头间保持角色、物体与场景一致性,减少视觉漂移。
OpenAI发布图像模型Images 2.6,生成提速50%并新增GIF功能
AI 摘要OpenAI发布图像生成模型Images 2.6,面向全球用户在ChatGPT、Codex及API开放。生成速度较上版提升50%,增强多轮编辑的细节与角色、产品、品牌一致性,并新增GIF循环动画生成。API提供Flare与Sunburst两个版本。