NeoHorse-1、エージェントの実行軌跡をモデル訓練へフィードバック。ただし「再帰的自己改善」は依然として単一ラウンドのプロトタイプ

TokenRhythmは9月8日、NeoHorse-1の4B・9Bモデルの重みを公開し、[技術報告](https://arxiv.org/abs/2609.08183)と[プロジェクトリポジトリ](https://github.com/TokenRhythm/NeoHorse)も発表した。両モデルは、それぞれ同規模のQwen3.5をベースにポストトレーニングしたものだ。目標は単に対話スコアを高めることではなく、エージェントの実行に必要なツール呼び出し、推論、harnessコンテキストをモデルに保持させることにある。重みはApache 2.0で提供され、BF16、8-bit、5-bit、4-bitのGGUFも用意されている。vLLM、SGLang、またはllama.cpp互換ツールを使ってセルフホストできる。

中核となるのはrouting harnessだ。システムはまず各リクエストに必要な能力を推定し、異種モデルプールからサービスレベルを選択すると同時に、その選択、ツールとのインタラクション、結果を記録する。軌跡は、完全一致および近似重複排除、評価データ汚染の除外、構造検証、6次元のセマンティックスコアリング、さらにScene／Goal／Outcomeによるサブシナリオのラベル付けを経て、初めて3段階のカリキュラム型教師ありファインチューニングに投入される。同じルーティングシグナルはon-policy distillationにも使われ、教師モデルが学生モデル自身の生成した応答を監督する。その後の評価結果に基づいて次の訓練データ群における能力別の配分を決定し、「評価—選択—更新」のクローズドループを形成する。

チームの報告によると、エージェント、ツール使用、コーディング、指示追従の各評価を横断したマクロ平均は、4Bモデルで58.94から64.87へ、9Bモデルで65.60から69.04へ上昇した。4Bモデルはtau2-Benchで88.46、LiveCodeBench v6で59.43を記録している。これらの数値は、実行軌跡が有効なポストトレーニングデータになり得ることを示す一方、強い意味での「再帰的自己改善」を裏付けるには不十分だ。現在公開されているのは、1回のポストトレーニングで得られたチェックポイントであり、複数世代にわたる継続的な更新、コスト曲線、能力劣化、安全上の振る舞いのドリフトに関する実験はまだない。エンジニアリングチームが次に注視すべきなのは、ルーターが高コストな教師モデルに偏らないか、失敗軌跡がどのようにデータセットへ取り込まれるか、そしてクローズドループの稼働後も未知のタスクで改善を維持できるかだ。