Anthropic、ゼロ知識証明でモデル推論の出所を検証するFlashProveを公開

Anthropicは11月2日、検証可能な推論の研究プロトタイプFlashProveを公開し、「APIの背後で本当に指定したモデルが実行されたのか」という問いを、検証可能な暗号学的命題にした。事業者は特定の重みに結び付いたコミットメントを公開し、推論結果のゼロ知識証明を生成する。利用者はコミットメント、プロンプト、出力を使って結果を検証でき、重みを入手する必要はない。証明では中間値と専門家の選択も秘匿されるが、モデルのアーキテクチャは隠されない。公式の研究説明

システムは事後バッチ証明を採用し、完了済みテキストを、プリフィルに似た並列処理で再検査する。MoEでは、証明の計算量は実際に有効化された専門家の数に応じて増えるため、各トークンについて全パラメーターを処理する必要がない。重みはホストメモリーからGPUへ分割して転送する。公式の測定では、4ビット量子化したLlama 4 Maverickを単一のH100で実行し、1バッチ24リクエストの場合、証明処理量は毎秒約110トークンだった。これは証明計算の指標であり、チャットの生成速度としてそのまま解釈できるものではない。測定結果とアーキテクチャ

モデルゲートウェイを挟むチームや外部推論プロバイダーを利用するエンジニアにとって、これは実際に実行された重みを照合する技術的な方向性を示す。ただし、検証には信頼できる起点が必要だ。リポジトリでは、モデルのコミットメント識別子は利用者が信頼する情報源から取得すべきであり、検証対象のサーバーが証明に添付した値だけを採用してはならないとしている。そうしなければ、別の重みに対する証明を検証してしまう可能性がある。リポジトリと検証ガイド

現時点で証明の対象となるのは、最大1,024トークンのコンテキストにおける整数演算のモデル計算であり、トークンが貪欲デコードで選ばれたかどうかを検査する。任意の浮動小数点演算やサンプリング設定にそのまま適用できるわけではない。公式の比較では、証明に必要なGPU時間はvLLMによる推論の約70～95倍だったが、比較対象の量子化設定は異なる。また、Leanによる形式化はプロトコルの安全性を対象とするもので、高速実行プログラムと形式化されたバージョンが完全に一致することを保証するものではない。リポジトリはこのプロジェクトを「メンテナンスされていない研究成果」としている。今後は、独立した再現、長いコンテキストへの拡張、実行プログラムとプロトコルの整合性検証に注目したい。制約の説明、プロジェクトの状態