GitHub Repo
Transformers 社群回報 HunYuan-VL 批次生成缺陷,多候選序列可能配到錯誤影像
10 月 11 日的 Transformers 開發版回報指出,HunYuan-VL 在批次生成多個候選答案時,影像特徵展開可能出錯。案例附有最小重現,另一位參與者表示可重現,但正式模型影響與修補仍待確認。

Transformers 社群於 10 月 11 日提出 HunYuan-VL 多模態生成缺陷:同一批次包含不同影像與提示時,若每個提示要求回傳多個候選序列,生成流程可能未維持正確的影像對應。回報涵蓋束搜尋與隨機取樣,顯示問題可能位於兩種策略共用的輸入展開流程。公開回報
最小重現使用測試套件的小型模型,準備兩組各有影像的提示。作者先取得貪婪解碼的第一步 logits,再分別以兩條束及隨機取樣生成,每個提示回傳兩個序列,並比較各候選的第一步 logits。兩條路徑都出現約 0.0967 的最大差值,偏離作者預期的接近零。測試只生成一個 token,因此觀察的是候選抽樣前的分數差異,而非長答案累積的文字變化。重現程式與輸出
作者將原因指向資料結構契約:get_image_features 回傳一個包含全部影像的張量,生成流程的複製邏輯卻預期每張影像各有一個張量。這讓批次擴展後的文字候選與視覺特徵可能錯位。官方文件說明,束搜尋會維持多條候選序列,取樣則依機率分布選取 token;生成前處理也包含批次展開。從工程角度推論,多模態系統必須同步展開文字與影像,否則更換解碼設定便可能改變模型看到的條件。生成策略文件
這項回報對批次影像描述、文件理解,以及產生多個答案再重排的流程具有驗證價值。工程師可用差異明顯的兩張圖片,對照單筆與批次執行,檢查候選是否仍對應原始輸入;第一步 logits 比較也可作為回歸測試方向。這是根據案例提出的驗證建議,尚無公開資料量化正式模型的準確率損失。
目前證據來自 5.19.0.dev0 的小型測試模型,另一位參與者表示能重現。查核時議題仍開啟,作者表示正在準備修正,頁面尚未連結修補 PR。後續應確認修正是否涵蓋不同影像數量、兩種生成策略及正式權重;現有結果不足以推定所有 HunYuan-VL 部署都受影響。討論與修補狀態