NVIDIA Spectrum-6、シングルチップEthernetスイッチ容量を102.4 Tbpsに引き上げ

NVIDIAは、Spectrum-6が大規模AIデータセンターへの導入段階に入ったと発表した。中核となるスイッチチップは、前世代システムの2倍に当たる102.4 Tbpsのスループットを提供し、ConnectX-9 SuperNIC、BlueField-4 DPU、Vera CPU、Rubin GPU、NVLink 6とともにVera Rubinプラットフォームを構成する。Spectrum-6が処理するのはラック内のGPU間接続ではなく、サーバー間およびラック間のscale-outトラフィックだ。

AIトレーニングや分散推論では、all-reduceやall-to-allなどの集合通信が頻繁に実行される。多数のノードが同時にデータを送信すると、従来の南北方向のエンタープライズトラフィック向けに設計されたEthernetでは、輻輳、テールレイテンシー、経路の不均衡が生じやすい。Spectrum-Xのハードウェアおよびソフトウェアスタックは、複数経路間でトラフィックを調整し、障害を迂回して、選択的かつ精密な再送を実行する。NVIDIAによると、一般的なEthernetと比較してAIネットワーク性能を最大1.6倍に向上でき、10万基を超えるGPUの導入環境でも最大95％のネットワーク効率を維持できるという。ただし、現時点でこれらはベンダーによるテスト結果である。

公開されているハードウェアマニュアルによれば、SN6600と液冷版のSN6600-LDはいずれも、128基の800Gb/s OSFPポートと256MBのパケットバッファを備える。液冷式SN6600-LDの標準消費電力は、光トランシーバー構成に応じて約2.79～3.3kW。さらに大型のSN6800-LDは、4基のSpectrum-6 ASICにより409.6 Tbpsを提供し、標準消費電力は8.3kWに達する。製品はプラガブル光学系またはCo-Packaged Optics（CPO）に対応しており、スイッチ容量の増大に伴い、光I/O、冷却、電力供給が同等に重要なシステム上の制約になっていることを示している。

今後ネットワークエンジニアが注目すべき点は、実環境での集合通信完了時間、障害復旧中のテールレイテンシー、異なるRDMAトランスポートモード間の相互運用性、Co-Packaged Opticsの保守コストだ。Spectrum-6は標準EthernetとオープンネットワークOSをサポートするが、最高性能を得るにはNVIDIAのNIC、スイッチチップ、ソフトウェアによる協調設計への依存度が高い。購入者は、こうした統合による性能上のメリットが、ベンダーロックインと電力密度の増大に見合うかどうかを引き続き評価する必要がある。