2026-10-28,NVIDIA在Hugging Face发布Nemotron 3.5 Transcribe开权重模型、Granary v2数据清单与适配工具。单个检查点同时承担语音转写、说话人归因、翻译和音频问答,可转写40种语言、将31种语言与英语互译,并在13种语言中标注说话人;输入最长一小时,最多处理八名说话人。
模型把语音编码器与Mamba—Transformer混合专家语言模型组合,总参数约30B,每个token激活约4B。提示词不仅指定语言,还能要求输出格式、标注说话人或回答录音内容问题。它面向录制音频而非实时流式场景;当前检查点可用vLLM部署,NeMo-Speech.cpp、本地量化版本和部分设备路径仍标注为即将提供。
评测需要分开看。NVIDIA报告模型在Artificial Analysis测试中达到2.80% AA-WER,并位于准确率与激活参数的前沿;David AI的21语言说话人分离榜单给出18.26% DER,略优于自家专用模型的18.38%;VoiceArena的14系统比较中,模型得到32.4% cpWER。榜单方法、数据分布和语言覆盖不同,不能把这些数字横向合并成一个“总体准确率”。
吞吐数据同样带有条件。厂商称即将推出的NVFP4量化版本在一张RTX PRO 6000 Blackwell Server Edition GPU上、以30秒片段和高并发处理100小时音频用时不到三分钟。这个结果不代表当前公开BF16检查点、低并发长录音或边缘设备表现;量化版本尚未按同等条件公开交付时,应把它视为厂商预告基准。
Granary v2把新闻从模型扩展到适配流程。NVIDIA开放数据清单、可复用清洗管线和NeMo Speech微调配方,并给出医疗转写案例:在保留说话人测试集上,微调相对最佳提示词把WER降低45.8%。案例提供复现命令,但它说明特定领域适配收益,不等于其他行业、口音或噪声环境会得到相同比例。
量仔观察
这次发布的价值在于把“通用语音模型”与可审计的数据适配路径放在一起。企业选择时应分别验收转写、说话人归因、翻译和问答,因为一个检查点支持多任务,不代表每项都达到相同成熟度。尤其要用真实长录音、重叠说话、专业词汇和隐私要求测试,并记录开权重许可证、部署显存、量化误差及是否允许音频离开本地;等待量化版本实际发布后再评估边缘承诺。
