推論系統
Atlas、同一の推論コアで NVIDIA と AMD の MLPerf エッジエージェント・テストに提出、結果は依然として解禁待ち
Rust/CUDA 推論エンジンの Atlas は、GB10 および AMD gfx1151 システムを使用して MLPerf Inference 6.1 に提出した。テスト対象は、単一アクセラレータ上での複数ターンのツール呼び出しだ。提出状況は公開されているものの、スループットとレイテンシの結果は依然としてエンバーゴ下にあり、現時点でクロスハードウェア性能を判断することはできない。

Atlas Inference は8月24日に公開ビルド状況を更新し、NVIDIA GB10 と AMD gfx1151 で MLPerf Inference 6.1 の closed-edge テストに提出したことを明らかにした。Atlas は約75MBの単一バイナリで、主要なサービング経路には Rust とカスタム GPU カーネルを採用し、Python や PyTorch に依存しない。AMD 版では、SCALE 互換レイヤーを介して CUDA インターフェースを処理する。プロジェクトは、2つのハードウェアターゲットで同一の CUDA ソースコードを使用しているとしているが、これはコンパイル結果、数値計算経路、カーネルのチューニングが完全に同一であることを意味しない。Atlas の公開ステータスページにも、性能データがまだ公開されていないことが明記されている。
今回の提出で注目すべきなのは、まだ明らかになっていない順位ではなく、ワークロードそのものだ。MLCommons の新しい edge-agentic 仕様は、量子化された Qwen3.6-27B、32K のサービングコンテキスト、単一の同時リクエストという条件で、ツール使用型エージェントを測定する。正確性ゲートには BFCL v4 の約995件の単一ターンケースを採用し、性能評価では20本、合計1,007ターンのエージェント型プログラミング軌跡をリプレイする。指標には TTFT、出力 token あたりの時間、ターンごとのエンドツーエンド・レイテンシが含まれ、従来の tokens/s のみを測定するテストよりも、ローカルで動作するコーディングエージェントの負荷に近い。MLCommons の仕様ではさらに、全体精度とカテゴリーバランス精度の双方が、参照値の97%を下回らないことを求めている。
Atlas のリポジトリでは、モデルレシピ、KV cache の量子化モード、回帰ゲートが公開されている。各イメージは、起動、出力の一貫性、既存ベースライン比で10%を超える性能低下がないことを確認するチェックに合格しなければならない。公開リポジトリに現在掲載されている短いプロンプトでの速度は、MLPerf の結果を代替するものではない。両者では、コンテキスト、正確性要件、測定方法が異なるためだ。エンジニアリングチームが次に確認すべきなのは、正式結果に消費電力、各パーセンタイルのレイテンシ、再現可能な設定が含まれるかどうかである。また、AMD 経路が実際に GB10 と同じモデル精度を維持しているかも検証する必要がある。データが解禁されるまで、「2つのプラットフォームへの提出完了」は検証可能なエンジニアリング上のマイルストーンにすぎず、優位性を証明するものではない。