NVIDIA、CUDA MCPとセルフホスト型Nsight Blueprintを発表—4モデル構成のバックエンドを社内ネットワーク内で運用可能に

NVIDIAはNsight AIを拡張し、CUDAコーディング支援を3つの経路に分けた。NVIDIAがホストするCUDA MCP Server、セルフホスト可能なNsight Copilot Blueprint、そしてNsight Computeに直接組み込まれるパフォーマンス分析アシスタントだ。MCPエンドポイントはCodex、Claude、その他の互換クライアントに接続でき、エージェントはモデルの学習データのカットオフ時点までの知識だけに依存せず、NVIDIAが管理するCUDAドキュメントやコードサンプルを検索できる。なお、初回接続時にはNVIDIA Developerアカウントによる認証が必要だ。

技術面でより中核となるのが、Apache 2.0ライセンスで提供されるセルフホスト型Blueprintだ。チャットおよびRAG生成レイヤーにはgpt-oss-120b NIMを使用し、低レイテンシのコード補完にはQwen2.5-Coder-7BをベースとするCUDA-autocompleteを採用する。さらに、BAAI bge-m3でドキュメントのベクトルを生成し、llama-nemotron-rerank-1b-v2でリランキングを行う。サービスレイヤーはvLLM、LiteLLM、FastAPI、Bodhi Tree RAGで構成され、OpenAI互換のストリーミングインターフェースと`search_cuda_docs` MCPツールを外部に提供する。デフォルトのDocker Compose構成では、プロンプト、ソースコード、推論処理をローカル環境内に保持できる。

ハードウェア要件は低くない。リファレンス構成は128GBのユニファイドメモリを搭載したDGX Sparkだ。一般的なサーバーでは、メインモデルを実行するために少なくとも80GBのGPUを1基用意し、コード補完、埋め込み、リランキング用に2基目のGPUを追加する必要がある。あるいは、約100GB以上の単一GPUを使用することもできる。メインモデルはMXFP4を採用しており、Hopper以降のアーキテクチャが必要となる。A100はメモリ容量が十分でもサポートされず、ストレージも少なくとも200GB必要だ。

今回の発表により、ドキュメント検索、コード生成、profilerによる診断が単一のワークフローに統合される。特に、非公開kernelを扱うチームにとって有用だ。ただし、NVIDIAは汎用コーディングエージェントとの比較に十分なComputeEvalの完全な結果をまだ公開していない。また、AIによる提案は、コンパイル、数値検証、Nsightのメトリクスに代わるものではない。Blueprintのコードは公開されているものの、ダウンロードされるNIM、モデル、CUDAドキュメントにはそれぞれ異なるライセンス条件が適用される。さらに、現時点でこのプロジェクトは外部からのコードコントリビューションを受け付けていない。