AMD Helios 將 72 顆 MI455X 納入同一記憶體域，單機櫃提供 31 TB HBM4

AMD 在 Advancing AI 2026 正式發表 Instinct MI455X，並補齊 Helios 機櫃的硬體細節。單顆 MI455X 採 CDNA 5 架構，由 2 奈米運算晶粒、3 奈米 I/O 與快取晶粒及 12 組 HBM4 組成，包含 3,200 億顆電晶體。每顆 GPU 配備 432 GB HBM4、23.3 TB/s 記憶體頻寬，理論峰值為 40.3 PFLOPS OCP MXFP4 或約 5 PFLOPS BF16。

Helios 把 72 顆 MI455X、18 顆 EPYC Venice CPU、Pensando 網路與 ROCm 軟體堆疊整合進雙寬機櫃。整櫃合計約 31.1 TB HBM4、1.7 PB/s 記憶體頻寬與 2.9 EFLOPS MXFP4，GPU 之間透過 UALink-over-Ethernet 組成單一一致性擴充域；機櫃外則採 Ultra Ethernet。機構規格使用 Open Compute Project 的 Open Rack Wide，讓雲端業者可依電力、冷卻與網路需求修改參考設計，而非只能採購固定組態。

技術重點不只是 FLOPS，而是 432 GB 單卡記憶體與 72 GPU 一致性域。對大型 MoE 推論而言，較多權重與 KV cache 可留在 HBM，並降低跨機櫃傳輸；每顆 GPU 的 2.4 Tb/s scale-out 頻寬也瞄準大規模 expert parallelism。另一方面，Venice 與 GPU 間的 256 GB/s Infinity Fabric 明顯低於 NVIDIA Vera–Rubin 的主機連線，儲存資料也須經 CPU 路徑，可能限制資料密集型訓練。

AMD 將不同低精度格式的理論峰值直接與 NVIDIA Rubin 比較，但 MXFP4 與 NVFP4 的縮放及稀疏定義並不完全相同，不能據此推導實際 token 吞吐。工程團隊接下來應觀察 ROCm 核心成熟度、主流模型的端到端 benchmark、功耗與液冷條件，以及不同 Helios 客製配置是否仍能維持宣稱的通訊效率。