推論系統
AMD 開源 Hyperloom,以多代理閉環自動改寫並驗證 GPU 推論最佳化
AMD 釋出 ROCm Hyperloom 1.0.0a1,讓代理從效能剖析一路執行核心與主機程式修改,再以正確性及速度測試決定是否保留變更。首版只支援三款 Instinct GPU,且「數週縮至數小時」仍是官方說法,導入者需要以自身模型重現。

AMD 將原本高度依賴 GPU 專家的推論調校流程,封裝成開源的多代理系統 Hyperloom。它採用 `Profile → Analyze → Plan → Optimize → Validate` 閉環:先由 TraceLens-Agent 收集執行軌跡並定位瓶頸,再利用 Magpie、IntelliKit 等元件評估核心,產生 HIP、Triton 或 FlyDSL 修改候選;每項變更都必須通過正確性與效能檢查,才會納入最後報告。這不只是自動搜尋啟動參數,也可能跨儲存庫修改 GPU kernel、主機程式與平行化設定。
首個公開版本可透過 Python wheel 安裝,並以 Cursor、Claude Code 或 Codex 中的 setup skill 建立工作環境。支援範圍目前相當窄:Ubuntu 22.04/24.04、ROCm 7.2,以及 MI300X、MI325X、MI355X;推論框架限 SGLang 0.5.12 以上或 vLLM 0.21.0 以上。工程團隊還要注意,讓代理直接改寫並執行低階程式,代表測試節點、模型檔案、憑證與原始碼都應置於可拋棄且受限的環境,不能把「會驗證結果」等同於完整安全隔離。
AMD 宣稱 Hyperloom 可把端到端最佳化由數週縮短至數小時,但目前沒有跨硬體、跨模型且可獨立比較的完整基準;公開材料也未拆解代理呼叫成本、搜尋預算與失敗率。下一步應觀察候選修補是否容易重現、能否穩定轉移到不同批次及上下文長度,以及對 Radeon、更多 ROCm 版本和其他推論引擎的支援。