英伟达开源 Nemotron 3.5 Transcribe 支持 40 种语言 ASR
英伟达发布 Nemotron 3.5 Transcribe,这是一款开源自动语音识别(ASR)模型,覆盖 40 种语言。开源多语种语音识别有助于降低语音应用开发门槛,并扩充英伟达 Nemotron 模型家族。
共 46 篇相关资讯,按重要度与时间排序,每 3 小时更新。
英伟达发布 Nemotron 3.5 Transcribe,这是一款开源自动语音识别(ASR)模型,覆盖 40 种语言。开源多语种语音识别有助于降低语音应用开发门槛,并扩充英伟达 Nemotron 模型家族。
英伟达发布免费开源的语音转文字模型,可转写多达 40 种语言,但仅支持录音文件、不支持实时音频。该模型对会议纪要和医疗转写工具意义重大,实时场景仍由 ElevenLabs 等对手占据。
开发者展示在 ESP32-P4 微控制器上运行 Kroko 流式语音识别模型,仅靠双 RISC-V 核心完成开放词表实时转写,无需云端或神经网络加速器。模型权重经 2/4 比特量化压缩至 26.65MB,存于 SD 卡并加载到 PSRAM,还附带语音控制演示。
研究团队推出 Omnilingual-MsASR,一个覆盖六种语言、最长 30 分钟录音、最多 20 位说话人的多模态多语种长视频多人语音识别基准,同时提供音频与视频输入以评测跨模态一致性。对主流全模态大模型的评测显示其 tcpWER 常超过 100%,暴露出细粒度时间定位与说话人区分等瓶颈。
研究者发布 ELARSpeech,一个包含 30,202 小时语音、覆盖 675 种低资源语言的大规模多语言语音数据集,语料来自濒危语言档案库。实验表明该数据集可扩展 ASR 与 TTS 在长尾语言上的能力,伪标注无标签数据还能进一步提升效果。团队同时公开数据集、训练好的 ASR/TTS 模型及完…
研究者提出 oracle 引导微调方法,将 ASR 的 N-best 候选列表转化为监督信号,通过纠错、正则化与难负样本三类数据池训练「选择或重写」策略。该方法在约 3B 参数规模上效果最明显,可抑制过度编辑与幻觉,但公共朗读语料结果不一致,提示预训练重叠可能掩盖真实增益。
Whistle 是一个体积极小的语音转文字工具,仅 16.9 MB,在 Hacker News 上获得 610 分热度与 135 条评论。该工具以极致轻量化为卖点,引发社区对端侧语音识别可行性的讨论。
论文揭示在公开预训练 ASR 模型上构造的对抗扰动可有效迁移到微调后的黑盒目标模型,严重降低性能。作者提出 TransferBreaker 统一微调框架,整合基础对抗微调、潜在雅可比正则化与 HybridGrad-AFT,在三种语言、四个大型 ASR 模型上将对抗词错率从 92.6 降至 27.8…
研究发现音频大模型对自身转录可靠性判断很差,多数情况下都认为转录可靠,现有语音质量预测、生成不确定性与 WER 估计信号有限。但可靠性信息强烈编码于音频编码器表示中,据此训练的轻量预测器在域内与跨域 macro-F1 达 81.10% 与 78.09%,可在生成前触发澄清请求,且标签可跨模型家族迁…
SpaceXAI发布Grok Voice Transcribe 2.0语音转文字模型,支持批处理与流式音频。公司称其准确率较1.0翻倍,19种语言短句词错误率从20.6%降至6.8%,价格维持每小时0.10美元(流式0.20美元)。
阶跃星辰推出StepAudio 3系列语音大模型,覆盖语音识别、语音生成、实时交互与音乐创作四大方向。该系列将语音能力整合进统一模型体系,强化实时对话与音频生成场景的竞争力。
论文推出τ-Elicitation,一个包含200个任务、10类实体、三种环境的语音基准,用于评估语音智能体精确采集姓名、地址、日期等实体的能力。匹配的文本智能体全部通过,但四种语音配置的稳健成功率仅0.14至0.41,且仅24-37%的已验证错误被修复。加入拼写、复读、纠正与确认的脚手架可将成功…
提出无需训练的推理时方法,通过低秩投影将解码器激活移出幻觉子空间,显著降低Whisper在非语音输入上的幻觉率,同时可权衡语音识别性能。
Google推出了Gemini 3.5 Transcribe,提供更智能的语音转文字功能。该工具利用先进的AI模型,提高了转录的准确性和智能性,适用于多种场景。
论文指出聚合词错率(WER)会掩盖学习者语音、语码转换与说话人归属上的集中错误。作者在英语母语者学习西班牙语的在线课堂数据上比较平台集成、开源、适配与商用ASR,并用LoRA微调Whisper large-v3与MOSS-Transcribe-Diarize。结果显示MOSS适配在各说话人角色与语…
研究指出深度 ASR 模型中多数层学习功能相似的变换,据此提出用少量权重共享的循环块替代参数化深度。在 Open ASR Leaderboard 上,仅两个共享块的模型平均恢复大模型 97.4% 的准确率,并支持 MoE-LoRA 端侧个性化。
AssemblyAI 公布语音识别/AI 相关新进展,以讨论帖形式披露。该公司长期专注语音转文字与语音智能 API,此次更新延续其在语音 AI 领域的产品迭代。
研究者发布 Lipi-Ghor,一个弱监督构建的大规模孟加拉语语音语料库,含 885 小时音频,来自 998 个 YouTube 视频、596 个频道,覆盖 17 个领域。该语料首次为孟加拉语提供大规模、带说话人分离的长音频标注,并附带可复用的构建流程。团队在零样本与微调条件下评测四个主流 ASR…
论文提出 RoleHear,让单一缓存感知流式 transducer 通过词表内角色 token 在转写中内联输出说话角色,满足客服分析等实时场景需求。方法用离线教师模型重标注无标注音频,并由多模态大模型补充银标签,学生模型一次微调完成。在客服通话与财报电话会议数据上,RoleHear 在保持转写…
研究提出基于嵌入的子集选择方法,利用 OpenAI Whisper 预训练编码器把音频映射到固定维度空间,再用贪心 k-center 算法挑选多样且有代表性的训练子集。在希伯来语和丹麦语上,k-center 选择在小样本预算下优于随机采样,且子集词汇多样性更高。
论文构建 13,044 条自发播客语句(15.45 小时)的尼泊尔语-英语语码转换 ASR 基准,并验证无机器翻译泄漏。两阶段合成到真实适配中,合成数据监督微调将混合错误率从 23.40% 降至 21.52%,切换点错误率从 35.89% 降至 28.77%;后续 GRPO 仅带来小幅显著改进。
arXiv 新论文将 Group Relative Policy Optimisation(GRPO)强化学习扩展到非 LLM 的小型编码器-解码器语音识别模型,以 Whisper-large-v3 为基线在 51 种非洲语言上验证。该方法在训练数据稀缺、音频含噪或退化时收益最明显。所得模型 Su…
研究者提出 KIRA 系统,将词级流利度评分与音素级错误检测结合,并针对儿童语音微调预训练识别模型,词错误率从 13.88% 降至 8.84%,音素错误率从 41.66% 降至 23.00%。系统配套教师端网页界面,可直接用于 K-2 课堂阅读筛查。
研究在不改动 Gemma 4 与 EmbeddingGemma 2 共享的 3.05 亿参数音频编码器权重的前提下,测试沙特与海湾阿拉伯语识别。冻结系统仅训练 2260 万参数 CTC 读取器,适配系统增加 310 万低秩适配器与混合 CTC/注意力读取器。适配系统在公开沙特客服通话 WER 上与…
论文在三种对话语料、六种分类器上评估九种转写条件,发现重度归一化在全部 15 个神经模型-语料组合上都降低 Macro-F1。去除标点使 Switchboard 与 MRDA 的 Macro-F1 分别下降 0.036 与 0.078;仅去除 um、uh、erm 时 MRDA 仍受损,而 SLUE…
该研究提出一套集成系统,通过孟加拉语语音与文本分析检测痴呆迹象,并在对话中提供句子自动补全支持。系统采用 Transformer 模型将语音转写为文本,并用带注意力机制的 Bi-LSTM 完成孟加拉语句子补全。研究填补了低资源语言在痴呆分析领域的空白。
论文提出一种高效的流式端到端逆文本归一化(ITN)系统,适配预训练文本到文本模型以利用其语言知识。通过架构调整、专门训练策略和 Read-Tag-Write 解码策略实现流式处理。在越南语数据集上,其准确率与非流式基线相当,优于混合方法并满足实时延迟要求。
论文发现特征蒸馏在多语言 ASR 中未必增益,CKA 损失的梯度与英语所用子空间高度重叠。作者提出 CAFE,将 CKA 梯度限制在英语绕过的适配器中,在 Open ASR 排行榜上将平均 WER 从 8.55% 降至 8.02%,并在 24 种语言 48 个测试集上具竞争力。
论文提出 ASSET,用强化学习将声学编码器输出切分为变长片段并池化为连续音频 token,以压缩语音 LLM 的输入序列。在英语 LibriSpeech 上以约少 25% 音频 token 达到接近转录辅助字符边界 oracle 的性能,中文 AISHELL 上亦优于音素边界 oracle。
该论文提出一种轻量级方法,直接从语音中检测语码转换(同一话语内语言交替),无需依赖准确的多语言转录文本。方法利用预训练语音模型帧级的语言信息,可在大型语音集合中高效筛选含语码转换的语句,用于扩充训练数据。