最新模型
NVIDIA 發布 Nemotron 3.5 Transcribe,以自然語言指令控制多語轉錄
NVIDIA 於 10 月 28 日發布 Nemotron 3.5 Transcribe 開放權重模型,支援 40 種語言轉錄與最長一小時錄音。模型整合說話者標記與時間戳,但官方高速推論數據使用尚未完整開源的最佳化。

NVIDIA 於 10 月 28 日推出 Nemotron 3.5 Transcribe,讓開發者透過文字指令,決定錄音應輸出逐字稿、書面格式或附帶說話者的轉錄結果。同一模型也能處理翻譯與音訊問答,將原本分散在多個處理階段的工作集中到一個模型中;它定位為離線錄音處理,並非串流語音辨識。官方發布說明
架構上,模型把 Transformer 語音編碼器、凍結的說話者分離模型,接到 Nemotron 3.5 Lightning 的 Mamba–Transformer 混合專家骨幹。包含音訊編碼器共約 340 億參數,每次運算啟用約 43 億;說話者活動訊號會注入聲學表示,協助生成帶有說話者標記的文字,再由 CTC 對齊模組產生詞級時間戳。這使輸出格式控制與多人語音辨識能在共同架構下處理。技術說明
支援範圍須按任務區分:40 種語言可轉錄,其中 31 種支援與英語互譯,13 種支援說話者歸屬,單段錄音最多標記八名說話者;音訊問答則以英語訓練。對中文應用而言,不能把「支援 40 種語言」直接理解為所有功能皆有相同涵蓋度,仍須逐項核對任務矩陣。NVIDIA 發布文章
部署方面,模型卡提供單張 H100 80GB 的執行範例,並列出 65,536 token 上下文。官方宣稱,使用 NVFP4 與 DFlash2 推測解碼時,單張 RTX PRO 6000 Blackwell 每秒可處理最高 2,238 秒音訊;但模型卡明言,這組 NIM 服務最佳化尚未納入開源版本,因此不能將吞吐量直接套用到自行架設的環境。模型卡
工程團隊下一步應用自身錄音驗證專有名詞、重疊發言與長錄音遺漏率,並分開量測批次吞吐量和單次延遲。開放權重提供了調整與自建服務的空間,但實際成本仍取決於完整權重、精度及服務實作,不能只按啟用參數量估算。