ホームへ戻る

GitHub Repo

Ollama、MiMo V2.6蒸留モデル対応をプレビュー版に追加 思考とツール呼び出しの境界を処理

Ollamaは11月3日、MiMo V2.6対応をマージし、v0.40.15-rc0プレビュータグに反映した。コードと参照テストが対象とするのは、Qwen3.5アーキテクチャに基づく9B蒸留モデルだ。専用メッセージレンダラーを追加し、ツール呼び出しパーサーは既存のものを利用する。実際の性能とエージェントタスクの安定性は、デプロイ後の検証を待つ必要がある。

Mattruffoni · CC BY-SA 4.0 · Image source
zh-Hant

Ollamaは11月3日、MiMo V2.6のメッセージ形式への対応を追加するPR #19400をマージし、関連コミットはv0.40.15-rc0プレビュータグに反映された。提案の名称はモデル対応全般を指しているが、新しいレンダラーのコメントと参照テンプレートのテストが具体的に対象としているのは MiMo-V2.6-Distill-Qwen-9B だ。現時点の証拠から、ProおよびFlashシリーズ全体に対応したとまでは言えない。マージされたPR、プレビュータグ

Xiaomiのモデルカードでは、この9Bモデルをエージェント強化学習の研究の出発点と位置付けている。Qwen3.5-9Bをベースに、MiMoが生成したデータを使って教師ありファインチューニングを行い、プログラミング、一般的なエージェントタスク、視覚プログラミング、サイバーセキュリティを扱う。今回の進展は推論ツールへの接続であり、モデル自体はすでに公開されていた。公式モデルカード

コード変更の要点は、会話履歴、思考内容、ツール呼び出しを、モデルが想定する境界に沿って再構成することだ。追加されたレンダラーはツール定義を書き込み、assistantの思考ブロックを保持したうえで、関数とパラメーターを簡潔なXML形式でエンコードする。出力側では、既存の qwen3.5 パーサーを利用する。追加テストでは、同じ結果を異なるストリーム分割サイズで入力し、思考テキストとツール名・パラメーターを正しく分離できるか確認している。エンジニアリング上の推論として、これによりエージェントがツール指示を通常のテキストとして扱い、実行できなくなる統合上のリスクを抑えられる可能性がある。コード差分とテスト

この対応には、元のテンプレートから意図的に変更した処理も含まれる。思考を有効にすると、Ollamaは思考ブロックの開始マーカーをあらかじめ追加する。コードコメントによると、このSFTチェックポイントは、その境界を閉じる前にターンを終了する場合があるためだ。つまり、デプロイ結果は重みだけでなく、プロンプトテンプレートにも左右される。レンダラーの実装

今後は、正式版にこの対応が含まれるかどうかと、カスタムModelfileでのレンダラーおよびパーサーの設定に注目したい。メンテナーのレビューでは、モデルを直接作成すると既存のQwen3.5レンダラーが適用される可能性が指摘された。公開の議論ではループ出力への懸念も挙がったが、解消済みと判断できる測定結果は示されていない。エンジニアリングチームは、長時間のエージェント作業への導入を検討する前に、複数ターンにわたるツールの往復、思考のオン・オフ、量子化版での動作を検証するのがよい。メンテナーのレビュー

出典

  1. Ollama PR #19400:加入 MiMo V2.6 模型支援
  2. MiMo V2.6 適配程式差異與測試
  3. Ollama v0.40.15-rc0 預覽標籤
  4. MiMo-V2.6-Distill-Qwen-9B 官方模型卡