OpenVINO 2026.4、マルチトークン・ドラフトデコーディングをCPU／GPUに導入し、NPUの性能トレースを統合

Intel傘下のオープンソース推論ツールOpenVINOは、9月16日に2026.4をリリースした。今回の中心は単なる対応モデル一覧の拡充ではなく、生成AI向けの最適化を一般的なCPU、統合GPU、NPUへさらに展開した点にある。OpenVINO GenAIは、Gemma 4、Qwen3.5、Qwen3.6向けにMulti-Token Prediction（MTP）による投機的デコーディングを提供するようになった。これにより、ドラフト側が一度に複数の候補トークンを提示し、メインモデルがそれらを検証できる。QwenのGPUパスにはプレビュー版のDFlashも追加され、EAGLE-3視覚言語モデルでは、単一経路のみを保持するchain draftingに代えてTop-K tree draftingを利用できる。[正式版リリースノート](https://docs.openvino.ai/2026/about-openvino/release-notes-openvino.html)ではスループットとレイテンシーを改善できるとしているが、ハードウェアやコンテキスト長を横断した包括的なデータは掲載されていない。

ハードウェアの対応範囲も大幅に拡大した。CPUではGemma-3nが新たにサポートされ、CPUおよびGPUパスにはQwen3-VL-4B、Qwen3-ASR、Muse Glimmer 30B、Qwen3.8 27B、Gemma 4 12B、DeepSeek OCR-2などが追加された。NPUではFLUX.2-Klein 4BとKokoro-82Mが新たにサポートされる。Xe3統合GPUにはGemma 4向けの長文コンテキスト最適化が導入されたほか、NPUはQwen3-30B-A3BやGemma4-26B-A4BなどのMoEモデルについて、1K～32Kのプロンプトを処理できるようになった。さらにInstrumentation and Tracing TechnologyがNPUにも拡張され、VTuneを使って同一のツールチェーンから3種類のプロセッサーを観測できる。

サーバーおよびAPIレイヤーにも、実用上重要な変更が加えられた。Node.jsには、ストリーミングと性能指標に対応した`ASRPipeline`が追加された。Model Serverはアイドル時にモデルをアンロードしてメモリ使用量を削減できるようになったが、これは依然としてプレビュー機能である。Pythonの`AsyncInferQueue`では、コールバックのクリーンアップ時にデッドロックが発生する可能性のある問題が修正された。C APIには非variadicのプロパティー設定関数が追加され、2 GBを超えるblobのインポートに失敗する問題も修正されている。正式パッケージは`pip install openvino==2026.4.0`で入手でき、[GitHubのリリースページ](https://github.com/openvinotoolkit/openvino/releases/tag/2026.4.0)ではバージョンと署名済みコミットを確認できる。

デプロイ担当者は、「サポート」をすべてのハードウェアで同等の成熟度に達しているという意味に解釈すべきではない。NPUの動的形状は現時点で、上限と下限が設定された視覚モデルについてのみ検証されている。DFlash、視覚トークン、アイドル時のアンロードも、引き続きプレビュー段階にある。各チームは、自らのプロンプト長、量子化形式、同時実行数を用いてTTFT、TPOT、ピークメモリ使用量、受理率を測定する必要がある。また、プロジェクトでは27.0でデフォルトのコンパイル標準をC++20へ変更することが検討されており、古いツールチェーンや独自プラグインでは早めの対応が必要になる可能性がある。