Inception、拡散言語モデル Mercury 3 を発表、コンテキストは100万トークンに

Inceptionは10月19日、拡散言語モデル Mercury 3 を発表し、コンテキスト容量を Mercury 2.5 の26万トークンから100万トークンに引き上げた。同社によると、新モデルは NVIDIA GPU 上で毎秒1,068出力トークンに達し、一部のベンチマークでは GPT-6 Luna と Claude Haiku 5.5 を上回る品質を示すという。現時点では、これらの比較はベンダーによるテスト結果として受け止めるべきだ。公式発表

技術面での焦点は、モデルの規模を拡大しても拡散生成の速度を維持できるかどうかだ。Inceptionによると、Mercury 3の総パラメーター数は Mercury 1 の40倍を超える。同社の既存の技術説明では、拡散生成は複数回の修正を行いながら複数のトークンを並列処理することで、逐次生成に伴う依存関係を減らす。ただし、この原理だけでは、100万トークンの入力でも同様の遅延性能が得られるとは証明できない。Mercuryの技術説明

導入方法には OpenAI 互換インターフェースを引き続き採用し、公式サンプルでは chat completions エンドポイントで mercury-3 を指定する。標準価格は入力100万トークンあたり0.20ドル、出力100万トークンあたり0.70ドルで、発売記念価格はそれぞれ半額となる。公式モデルページには、Mercury 2 と 2.5 は新規ユーザーへの提供を終了し、条件を満たす既存顧客は11月15日まで利用できると記載されている。企業契約は別途契約条件に従い、既存のデプロイメントは移行を計画する必要がある。モデルと移行に関する情報

アプリケーション側では、限定的ながら導入事例が出ている。Curiosityは同日、Mercury 3の導入を発表し、開発ワークスペースで最初のストリーミングテキストが表示されるまで約0.4～1秒、1～2回のツール呼び出しを含むチャットターンは約1～2秒だったと報告した。同チームは、これは1日限り、単一コンテナでの計測であり、一般的なベンチマークとして扱うべきではないと強調している。Curiosityの導入記録

エンジニアリングチームにとって検証する価値があるのは、多段階のエージェント処理によって総待ち時間を短縮できるかどうかだ。評価では、初回トークンまでの遅延、出力速度、ツールとの往復を分けて計測し、実際の日本語プロンプト、長文書、ツール引数を使って品質を確認すべきだ。毎秒1,000トークンという数字だけでは、アプリケーション全体の遅延や成功率は推定できない。