資料中心基礎設施
Azure、AMD Heliosを導入へ――大規模推論、データパイプライン、チップ設計向けのコンピューティングインスタンスを追加
Microsoftは、AzureでAMD Heliosを大規模展開し、第6世代EPYCを搭載したHDv2、HXv2、およびMI455X推論インスタンスを提供する計画だ。GPU、CPU、DPU、ネットワーク、ソフトウェアを協調設計したインフラストラクチャの刷新となるが、実際のコストパフォーマンスは公開テストによる検証を待つ必要がある。
MicrosoftとAMDはAzureインフラストラクチャにおける協業を拡大する。その中核となるのは、AMD Heliosのラックスケールシステムをクラウドに導入し、フロンティアモデル、Azure AIサービス、および顧客の大規模推論に活用することだ。Heliosは単体のアクセラレーターカード製品ではなく、Instinct MI455X GPU、コードネーム「Venice」の第6世代EPYC CPU、Pensandoネットワークコンポーネント、ROCmソフトウェアを統合した包括的なプラットフォームである。AMDは、Microsoftを含む顧客への出荷を2026年後半に開始するとしている。Azureが外部向けに提供する推論製品はND MI455X v7が中心となり、推論、検索、エージェント型ワークロードを対象とする。
今回の一連のアップデートでは、アクセラレーター以外のボトルネックにも対処する。HDv2はデータ準備、検索、強化学習、エージェントのオーケストレーション向けで、約500基の物理EPYCコア、4 TBのメモリ、32 TBのローカルNVMe、400 GbのAzure Boostネットワークを備える。HXv2はRTLシミュレーション、電子設計自動化(EDA)、分散科学計算向けで、176基のEPYCコア、5 GHz超のクロック周波数、コア当たり50%増のアドレス可能なキャッシュ、約2 TBまたは4 TBのメモリ、800 Gb InfiniBandを搭載する。AzureはPensando DPUの展開も拡大し、Azure Boostと統合することで、接続処理や一部のネットワーク処理をホストのコンピューティングリソースからオフロードする。
技術的な意義は、クラウドAIにおける競争の単位がGPUからラック全体とデータパスへ移行しつつある点にある。推論サービスのスループットは、モデル重みを保持するメモリ、ノード内インターコネクト、ノード間ネットワーク、CPUによるデータ処理、スケジューリングソフトウェアのすべてによって制約される。HeliosがAzure上で再現可能な標準構成として展開できれば、エンジニアリングチームは単一ベンダーによるクローズドスタックとは異なる選択肢を得ることになる。
ただし、両社はND MI455X v7の価格、提供リージョン、一般提供開始日、消費電力、第三者検証済みの1ドル当たり/1ワット当たりの推論性能をまだ公表していない。「大規模展開」についても、ラック数は明らかにされていない。今後は、ROCmによるモデルおよびカーネルのサポート、GPU間通信の安定性、実際の供給状況に加え、主要モデルを長いコンテキスト、スパースMoE、エージェントの並列ワークロードで実行した際のテールレイテンシーを注視する必要がある。