推論系統
Speculative Macro Commit:エージェントのツールチェーンを先行実行し、AppWorldの実時間を44.9%短縮
新たな研究では、小型のドラフトモデルが隔離された環境スナップショット内で複数ステップのツール操作を先行実行し、大型の権威モデルが最初のステップを確認した後、一連の結果をまとめてコミットする。2つのエージェントベンチマークでレイテンシを削減した一方、3基のGPUを必要とし、AppWorldのタスク完了率は41.67%から40.48%に低下した。