MidTool、203億tokenのツールmid-trainingデータセットを公開、4B／8Bモデルが3種類のエージェント評価すべてで性能向上

MidToolは、汎用的なツール使用を、少量のSFTや強化学習の軌跡で後から補うものではなく、mid-trainingで確立すべき基礎能力と位置付けている。チームが公開したMidTool-Mixは、約203億token、1,122万件のサンプルで構成される。内訳は、技術系Webページが42%、コードが26%、PDFが23%、ネイティブなエージェント軌跡が9%となっている。Hugging Faceでは、データセット、4B／8Bのmid-trainingおよびRLチェックポイントに加え、WebページとPDFの選別に使用したFastText分類器も提供されている。

データパイプラインでは、まずFineWeb、FinePDFs、GitHub、REST API定義、MCP skills、ドキュメントベースのワークフローから素材を収集し、ソースごとにクリーニングする。コードについては、汚染を減らすためベンチマークのリポジトリを除外する。テキストについては、教師によるアノテーションで学習した分類器を用いて、ドキュメント情報の密度が高いコンテンツを抽出し、最後にMinHash LSHで重複を排除する。合成段階では、一方の経路でドキュメントからツールのaffordanceを抽出し、コンテキストに基づく質疑応答と複数ターンの操作を生成する。もう一方の経路では、ツールのschemaから単一呼び出し、複数ツールを使う計画、情報不足のシナリオを直接構築し、モデルにツールの選択、パラメータ入力、手順の順序付け、追加説明の要求を学習させる。

研究者らは、MidTool-Mixを使ってQwen3-4B-Baseと8B-Baseの継続学習を行い、その後、同一のSFTまたはRLを適用した。後学習のみを行うベースラインや、一般的なmid-trainingコーパスを使用するベースラインと比べ、両サイズともBFCLv3、τ²-bench、MCP-Universeのすべてで性能が向上した。4Bモデルのτ²-benchにおけるPass@1は、SFT-onlyベースラインのほぼ2倍に達し、後続のSFTにおける初期lossも低下した。ただし、MCP-Universeのdeep-searchサブセットでは依然として0.00であり、パラメータgroundingと短いワークフローへの転移が、反復的な証拠収集や長期的な制御能力にはまだ結び付いていないことを示している。エンジニアリングチームは今後、教師モデルへの依存、合成データのバイアス、ベンチマーク汚染の監査、そして203億tokenの学習コストが、より小規模で対象を絞ったSFTを上回る価値を持つかどうかに注目すべきだ。