NVIDIA DSX MaxLPS、ラック電力を動的に配分し、GB200のワット当たり推論性能を1.5倍に向上

NVIDIAは、DSX MaxLPSの仕組みをさらに詳しく明らかにした。GPUラックごとの理論上のピーク値に基づいて電力を恒久的に予約するのではなく、Dynamic Power Software（DPS）が、電力供給設備、リソースグループ、ラック、ノードからGPUに至るトポロジーを構築し、実際の消費電力を継続的に取得する。そのうえで、管理者が設定した予算とポリシーの範囲内で、未使用の電力枠を移動させる。制御ループはGPUの電力上限を更新し、グループ全体が総電力予算内に収まっているかを検証するとともに、メンテナンスや緊急の負荷削減イベントをbest-effort方式で処理する。

NVIDIAが公表した代表的な推論テストでは、GB200 NVL72でFP4のKimi-K2.5を実行した際、MaxLPSによりラックの割り当て電力が125 kWから90 kWに低下した。設備全体の総電力が変わらない場合、理論上はラックを39%多く収容でき、ワット当たり性能は約1.5倍に向上する。別のDeepSeek-R1 FP4テストでは136 kWから101 kWに削減され、ラックを約35%増やすことが可能となり、ワット当たり性能は1.3～1.4倍に向上した。これは単なるダウンクロックによるものではない。APPMは、推論、トレーニング、メモリ制約型、または演算制約型のワークロードに応じて、事前検証済みの電力設定を適用する。Dynamoはさらに、ラックをまたぐ推論トポロジーを調整できる。

MaxLPSの導入には、設備側の対応も必要となる。Vera Rubin NVL72の設計目標には、冷却液の入口温度を45°Cとすることが含まれている。これにより、適切な気候条件にあるデータセンターでは圧縮式チラーの使用を減らし、冷却に使っていた電力をコンピューティングへ振り向けられる。DSX ExchangeはNATSイベントバスを介して、DPS、ビル管理システム、電力設備、冷却設備、スケジューラを接続できるが、MaxLPSの必須コンポーネントではない。

エンジニアリングチームは、「GPUを40%多く収容できる」という数字を、そのままキャパシティ予算に当てはめるべきではない。これらの数値は、NVIDIAが選定したモデル、精度、スループット目標、および自社プラットフォームに基づくものであり、複数モデルを対象とした第三者による再現検証はまだ行われていない。公開されている図表や説明でも、2つ目のテストプラットフォームに関するVera Rubin／GB300の表記が完全には一致していない。DPSは依然として承認済みの早期プレビュー顧客にのみ提供されており、実際の効果はレイテンシ、エラー率、ピーク消費電力、冗長化戦略、施設の冷却条件に左右される。より確実な導入方法は、同一のサービスレベルで静的な電力割り当てとDPS管理下の結果を比較したうえで、ラック密度を高めるかどうかを判断することだ。