ホームへ戻る

AI 研究與代理訓練

ToolGrad、ツール利用データの生成プロセスを逆転—500件の合成データでGemma 3 12BのBFCLスコアを83.1に向上

GoogleのToolGradは、まず実行可能なAPIチェーンを構築し、その後で対応する指示を逆向きに生成することで、従来のエージェントが探索を繰り返して答えを偶然見つける非効率を回避する。実験では、小規模なデータセットでも未知のツールに対する関数呼び出し能力を改善できることが示されたが、結果は依然として単一ターンのベンチマークと合成ワークフローに集中している。

Simon Bening · Public domain · Image source
zh-Hant

Google Researchは9月10日、ToolGradの技術的な詳細を公開した。ツール利用データを作成する順序を、「先に問題を書き、その後で解法を探索する」方式から、「先に解法を検証し、その後で問題を生成する」方式へと逆転させたものだ。従来のToolBench型のプロセスでは、エージェントがDFSでAPI呼び出しを繰り返し試行する。パスが長くなるほど、途中のどこかでパラメータやツールの選択を誤るだけで、そのアノテーション全体が無効になる。これに対しToolGradは、1万6,000を超えるAPIから成功するワークフローを段階的に組み立て、その後、モデルにそのワークフローと整合するユーザー指示と回答を補完させる。

システムの各ラウンドは、4つのモジュールで構成される。API Proposerがツール候補を絞り込み、並列Executorsが実際にツールを呼び出し、Selectorが実行レポートに基づいて次のステップを選択し、Updaterが指示と回答を同期して書き換える。Selectorが生成する自然言語のフィードバックは「テキスト勾配(textual gradients)」と呼ばれる。これは微分可能な勾配ではなく、次のラウンドでどのツールとパラメータを維持すべきかを示すものだ。公式報告によると、データ生成の成功率は99.8%に達した。そのため、主な効率化はモデル推論1回当たりのコスト削減ではなく、失敗した軌跡を減らすことで実現している。[Google Research](https://research.google/blog/toolgrad-efficient-tool-use-dataset-generation-with-textual-gradients/)

チームは、生成した500件のデータを用いてGemma 3の1B、4B、12Bモデルをファインチューニングした。異なるツールセットを使用するBerkeley Function Calling Leaderboard(BFCL)の単一ターン項目では、3つのモデルサイズがベースモデルに比べ、それぞれ8.1、8.0、6.3ポイント向上した。12Bモデルのスコアは83.1で、論文に記載されたGemini 2.5 Proの83.2に迫った。改善幅は、人間による実際のクエリのサブセットよりも、合成されたnon-liveサブセットの方が大きかった。これは、モデルがデータ生成器やベンチマークに固有の構造的な傾向も同時に学習した可能性を示している。[論文](https://arxiv.org/abs/2508.04086)

エージェント開発チームにとって、この手法は企業内API向けのコールドスタート用トレーニングデータセットの構築に利用できる。特に、安全に再実行でき、出力を自動検証できる読み取り専用ツールに適している。ただし、現時点のエビデンスは主に単一ターンの関数呼び出しに基づいている。長時間にわたる状態変化、不可逆な操作、権限エラー、ツールをまたぐ副作用については、まだ十分に検証されていない。今後は、同じ手法が実環境のサンドボックスでも成功率を維持できるか、また人手による監査を経た後もコスト面での優位性を保てるかを確認する必要がある。

出典

  1. ToolGrad: Efficient tool-use dataset generation with textual “gradients”
  2. ToolGrad: Efficient Tool-use Dataset Generation with Textual “Gradients”