返回首頁

模型發布

Cohere 推出 North Small Translate:218B MoE 開放 FP8 權重,但商用須另購授權

North Small Translate 每個 token 啟用 25B/總計 218B 參數,支援繁體中文等逾 50 種語言與地區變體。模型可經 Chat V2 API 試用或自行部署 FP8 權重,但 CC BY-NC 4.0 禁止直接商用,官方也未公開可比較的翻譯基準成績。

DrAntonioCarlosMdeQueiroz · CC BY-SA 4.0 · Image source
zh-Hant

Cohere 於 9 月 9 日發布專用機器翻譯模型 North Small Translate 1.0,把 North 系列從程式代理擴展至多語言文件處理。模型採混合專家架構,共有 218B 參數,但每個 token 僅啟用 25B;上下文與最大輸出皆為 16K token。官方列出的部署需求是兩張 H100 或一張 B200,開放權重則只有 FP8 格式,因此「Small」主要指啟用計算量,而非一般工作站能輕鬆載入的模型體積。

語言清單涵蓋繁體與簡體中文、日文、韓文、英文、多種歐洲語言及三種阿拉伯語地區變體;其中最高優先級語言並不包含中文。開發者可透過既有 Chat V2 端點,以 `north-small-translate-1-0` 呼叫,介面仍是把來源內容和目標語言寫入訊息,而不是新增獨立翻譯 API。這使它容易接進既有生成式 AI 管線,但也意味提示模板、術語約束、長文件分段和格式保留仍要由應用層處理。

發布方式分成三條路徑:受速率限制的免費 API、Hugging Face 上供非商業使用的 FP8 權重,以及透過 Model Vault 取得商業授權的私有部署。這種安排對資料主權要求高的企業有吸引力,卻不能把「開放權重」理解為可自由投入商業產品;CC BY-NC 4.0 與 Cohere 的商用條款必須分開評估。

目前最明顯的資訊缺口是評測。Cohere 沒有隨發布頁提供 WMT、FLORES、COMET 或人工偏好結果,也未拆分繁體中文、專業術語、低資源語言與長上下文表現。工程團隊應先建立自己的雙向語言測試集,檢查數字、標記、專有名詞及幻覺式增補,再比較專用翻譯系統與通用 LLM;部署端則要實測 25B 啟用參數在目標 GPU、批次大小和序列長度下的吞吐量。

來源

  1. Cohere release notes: Announcing North Small Translate
  2. North Small Translate model documentation
  3. North Small Translate 1.0 FP8 weights