返回首頁

GitHub Repo

AMD 與 Intel 將 PyTorch x86 最佳化整合至 oneDNN,版本與效能仍待公布

AMD 與 Intel 於 10 月 20 日宣布,將透過 oneDNN 統整 PyTorch 的 x86 CPU 最佳化,AMD 也將整合 ZenDNN 的技術。合作尚未列出交付版本或效能數據,工程團隊仍須確認實際套件納入哪些核心。

Pytorch Deepdream (https://github.com/gordicaleksa/pytorch-deepdream) by gordicaleksa (https://github.com/gordicaleksa/pytorch-deepdream/commits?author=gordicaleksa) · MIT · Image source
zh-Hant

AMD 與 Intel 於 10 月 20 日宣布,將 PyTorch 的 x86 CPU 最佳化工作集中到開源函式庫 oneDNN。依據 x86 Ecosystem Advisory Group 的建議,兩家公司同意以它作為 PyTorch x86 加速的預設開源函式庫;AMD 正將 ZenDNN 最佳化整合進去,並加入 UXL Foundation 擔任指導成員。這項更新確立共同開發方向,但公告尚未指定完成整合的版本。AMD 公告

oneDNN 位於框架下方,提供矩陣乘法、卷積、注意力與正規化等運算核心。其儲存庫說明,函式庫會在執行時偵測硬體特性,透過即時編譯產生適合指令集、核心數與快取大小的程式碼;也支援低精度資料型別與算子融合。原本就能執行於 Intel 64/AMD64 的架構相容性,與此次整合 AMD 專屬最佳化,是不同層次的進展。oneDNN 技術說明

既有 ZenDNN 主要針對 AMD Zen 架構、尤其 EPYC 伺服器 CPU,包含多執行緒、微核心、記憶體池與圖最佳化等工作。從工程角度推估,若這些能力逐步進入共同函式庫,跨兩家 CPU 部署的團隊可望減少分別追蹤最佳化套件的負擔;實際收益仍取決於模型算子是否走到相關核心,以及框架打包的版本。ZenDNN 文件

兩家公司也規劃經由未來 oneDNN 更新,把加速矩陣乘法的 AI Compute Extensions 帶入 PyTorch。不過,目前公告沒有交付日期、支援處理器清單或整合後基準測試,不能據此推定既有安裝立即變快。工程師接下來應追蹤合併紀錄與發行說明,再以固定模型、批次大小、精度及執行緒配置,比較延遲、吞吐量與數值結果,判斷共同路徑是否改善自身工作負載。Intel 公告

來源

  1. AMD and Intel Collaborate to Simplify AI Development on x86 CPUs with PyTorch
  2. AMD and Intel Collaborate to Simplify AI Development on x86 CPUs Using PyTorch
  3. oneDNN repository and technical overview