HUMAIN、MI355Xと800G EthernetによるAIクラスターを稼働開始、既存GPU数と電力規模は非公表

AMD、Cisco、サウジアラビアの政府系ファンドPIF傘下のHUMAINは、Instinct MI355Xインフラストラクチャーの第1陣が本番稼働し、国内外の顧客へのサービス提供を開始したと発表した。公開されたアーキテクチャーは、MI355X GPU、EPYC CPU、Cisco Silicon Oneを採用したNexus 9000シリーズのネットワークで構成される。ノード間の相互接続には800G光リンクを使用し、HUMAINは一連のリソースを、トレーニングと推論に利用できるGPU-as-a-Serviceとして提供する。調達計画や電力目標のみを発表したケースと異なり、今回の更新で重要なのは、すでに顧客のワークロードが稼働している点だ。

この設計は、大規模なAMDクラスターでEthernetによるscale-outを採用した、もう一つの本番事例でもある。分散トレーニングや大規模モデルのtensor parallelismでは、all-reduceやall-gatherなどのcollective communicationが頻繁に実行される。スイッチのキューイング、輻輳制御、光リンク構成のいずれかに不均衡があれば、GPUの理論演算性能が十分でも利用率は急速に低下する。Ciscoが公開しているAI PODの資料によると、Nexus 9000では400G／800GとRoCEv2を用いたlossless networkを構成できる。ただし今回の発表では、実際のトポロジー、GPU当たりの外部帯域幅、RCCL効率、テナント分離方式、エンドツーエンドのジョブ完了時間が開示されていないため、特定のトレーニング効率を達成したと判断することはできない。

3社は次の段階として、MI400シリーズとROCmを採用する最大250 MWの施設を2027年から展開する予定であり、合弁会社の長期目標は引き続き2030年までに最大1 GWとしている。これらの数値を現在稼働中の容量と混同してはならない。発表では、既存のGPU数、データセンターの電力規模、拠点数、顧客の利用率が示されておらず、250 MW計画が以前に提示された100 MW規模のMI450第1フェーズとどのように接続するのかも説明されていない。つまり、確認できるのはMI355Xサービスの稼働開始であり、数百MWがすでに提供済みということではない。

エンジニアリングチームが今後注視すべきデータは3種類ある。このEthernet fabric上におけるROCmとRCCLの再現可能なパフォーマンス、GPUサービスの障害ドメインとマルチテナントQoS、そしてMI400への移行に際してイメージ、主要ライブラリー、ネットワーク構成の変更が必要になるかどうかだ。HUMAINがモデルのスループット、レイテンシーのパーセンタイル、collective communication効率、可用性指標を公開して初めて、このソブリンAIクラウドが単に容量を拡大するだけでなく、安定した本番パフォーマンスも提供できるのかを評価できる。