返回首頁

GitHub Repo

Transformers 社群回報影像前處理退化,Linux 多圖請求延遲增加約兩成

10 月 28 日的 Transformers 社群回報指出,原地正規化最佳化可能改變 Linux 記憶體配置行為,拖慢 Qwen3-VL 多圖前處理。回報附有版本二分與回退對照,但截至查核時尚無維護者確認或正式修補。

prayitno from Los Angeles, USA · CC BY 2.0 · Image source
zh-Hant

Transformers 社群於 10 月 28 日提出效能退化回報:在 Linux CPU 上處理 Qwen3-VL 多圖輸入時,5.18.0 與 5.19.0 比 5.17.0 更慢。回報者以版本二分追到一項「省去不必要影像複製」的正規化變更,並表示單獨回退該變更即可恢復延遲;測試輸出保持一致,目前指向效能問題。原始回報

測試使用 Xeon Platinum 8488C、八個 PyTorch 執行緒,每次輸入三十張 512×512 影像。回報者在 vLLM 的多模態處理路徑量到,前處理時間由 84.9 毫秒增至 104.4 毫秒,回退後降至 86.1 毫秒。這是特定輸入與環境的處理階段量測,不能直接換算為模型端到端吞吐量下降兩成。測試配置與結果

值得關注的是,省下一次複製未必讓整條管線更快。回報者觀察到次要頁面錯誤增加,推測原地正規化改變了 glibc 配置與釋放順序,使後續浮點影像緩衝區較常取得新映射記憶體,首次存取時便增加頁面處理成本。調整配置器門檻後,兩個版本速度接近,支持這項推測;但回報者也明言,尚未完整追蹤配置順序。記憶體行為分析

Hugging Face 文件說明,影像處理器負責縮放、正規化與張量轉換;torchvision 後端若接收非張量輸入,預設在 CPU 執行。因此,工程團隊排查多模態服務延遲時,也應分開量測前處理與 GPU 推論,並記錄後端、圖片數量及記憶體配置環境。影像處理器文件

截至查核時,議題仍開放,未見維護者確認或連結修補。其他共用正規化路徑的影像、影片處理器是否受影響仍待驗證;後續應觀察跨配置器重現與修補方案,暫不宜把調整 glibc 參數視為通用解法。

來源

  1. Image preprocessing ~20% slower on Linux since v5.18.0
  2. Transformers:Image processor