返回首頁

GitHub Repo

Transformers 提出 D1 Omni 原生整合草案,加入多模態決策與微調介面

Transformers 社群於 11 月 6 日提出 D1 Omni 原生支援草案,將文字、影像與音訊決策接入統一載入與訓練介面。提案尚未合併,作者回報 CPU 權重與輸出比對通過,CUDA 驗證仍待完成。

Marcus Qwertyus · Public domain · Image source
zh-Hant

Transformers 社群貢獻者於 11 月 6 日提出草案 PR,計畫透過 AutoModelForDecision、AutoProcessor 與決策管線原生支援 Liquid AI 的 d1-omni-600M。變動重點是讓既有檢查點連同視覺、音訊分支載入時,不必啟用 trust_remote_code,並接入標準訓練介面;目前仍是開發提案。整合草案

D1 Omni 已於 10 月公開,此次新聞點是框架整合。它以雙向編碼器為骨幹,接受文字搭配影像或音訊,在一次前向運算中直接讀出選項分布,提供是非、選擇及評分結果,省去文字生成與答案解析。這種介面適合代理路由、意圖分類與內容檢查等固定決策工作。官方架構說明

部署限制也須一併考慮:模型實際約有 5.87 億參數,同一請求不能同時帶入影像與音訊;語音最長 30 秒,訓練任務以英語使用者與助理互動為主。模型卡尚未公布推論速度,因此不能直接推定中文語音表現或實際延遲。模型卡

草案另加入交叉熵訓練損失,支援忽略標籤、補齊選項與 Trainer 更新。作者明確指出,這是配合本地模型介面的訓練實作,未宣稱重現 Liquid AI 未公開的原始訓練目標;文字推論才套用校準,訓練使用未校準 logits。作者回報正式權重在 CPU 上沒有缺漏或多餘張量,與發布方輸出的最大機率差約為 4.53×10⁻⁶,但尚未完成 CUDA 驗證。實作與驗證紀錄

對工程團隊而言,若原生整合完成,既有資料處理與微調流程可望更容易沿用。接下來應追蹤草案及其依賴的決策介面是否合併、GPU 數值一致性,以及中文資料上的分類品質與機率校準;目前沒有正式版本可視為已交付這項支援。

來源

  1. [Decision] Add native D1 Omni with modular components and training loss — PR #50438
  2. LiquidAI/d1-omni-600M 模型卡
  3. Open d1: Edge decision models for text, vision, and audio