MiniCPM5-2B、オープンウェイトと学習データを公開——2.5Bパラメータでローカルエージェントのワークロードに挑む

OpenBMBは9月7日、MiniCPM5-2Bをリリースした。モデルは標準的な`LlamaForCausalLM`のDenseアーキテクチャを採用し、総パラメータ数は2,516,756,480。そのうち約19億8,200万が非Embeddingパラメータである。42層で、Query Head／Key-Value Headが16／2のGQAを採用し、ネイティブのコンテキスト長は131,072 token。ウェイトとコードはApache 2.0ライセンスで提供され、BF16、GGUF、GPTQ 4-bit、Apple Silicon向けMLXの各形式に加え、Speculative Decoding用のDSpark Draft Modelも用意されている。

デプロイ経路は、既存のエコシステムに意図的に沿う形で設計されている。Transformers、vLLM、SGLangから直接ロードでき、専用カーネルやモデルコードの個別ブランチを必要としない。GGUF版はllama.cpp、Ollama、LM Studioを対象としている。Tool Callingでは、まずXML形式の出力を生成し、SGLangの`minicpm5` parserがOpenAI互換の`tool_calls`へ変換する。このため、単なるチャット用ウェイトというより、デスクトップアプリケーションやEdge Agentへ組み込める基盤モデルに近い。

学習面では、数学、プログラミング、Long Context、知識タスクからなるUltraData-RL-2609も同時に公開された。収録件数は85,995件。プログラミング問題はテストケースの実行によって検証され、それ以外の多くでは正解との照合またはモデル間のConsensusによってRewardが構築されている。最終モデルではさらに、RLとOPDを用いて16個のExpert Modelを統合した。OPDはTeacherとStudentの完全なVocabulary Distribution間のReverse KL Divergenceを用いてAdvantageを推定する。公式によると、汎用能力は平均10.96ポイント、Agent能力は6.96ポイント向上したという。

公式の比較表では、複数Benchmarkを横断した平均スコアが53.9となり、同表に掲載されたQwen3.5-4Bの51.1を上回った。また、LiveCodeBench v6では69.1、AIME 2026では86.5を記録している。ただし、これらは異なるタスク、スケール、Decoding Budgetの結果を集約したものであり、同一条件による独立した再評価はまだ行われていない。また、131Kのコンテキスト長に対応することは、全長にわたって同等の精度を維持できることを意味しない。エンジニアリングチームは、より大規模なAgent Modelを置き換えられるか判断する前に、量子化後のメモリ使用量、長文入力時の性能劣化、日本語でのTool Callingの安定性、実機上のThroughputを測定すべきだ。