ホームへ戻る

GitHub Repo

LangChain OpenAI統合パッケージ 1.8.1をリリース、ストリーミングのツール呼び出しで引数が欠落する問題を修正

LangChainは11月17日、langchain-openai 1.8.1をリリースした。Responses APIのストリーミングで引数の差分イベントが欠落すると、ツール呼び出しの引数が空になる問題を修正。新バージョンでは完了イベントと出力済みの内容を照合し、まだ送信されていない引数を補う。

Black-hole-diver · CC BY-SA 4.0 · Image source
zh-Hant

LangChainは11月17日、Python統合パッケージ langchain-openai 1.8.1をリリースした。同日マージされたストリーミング中のツール呼び出しに関する修正が含まれている。メンテナーによると、ChatOpenAIでResponses APIをストリーミング利用する際、APIがツール引数の差分イベントを送信しないと、空の引数を含むツール呼び出しが返され、後続のエージェントが完全な入力を取得できない場合があった。リリースノート

問題は、ストリーミングイベントをツール呼び出しに組み立てる方法にあった。修正の説明によると、従来、このパッケージは function_call_arguments.delta イベントを使って引数を逐次出力していたが、APIが最終的な function_call_arguments.done イベントしか送らない場合があることをメンテナーが確認した。統合レイヤーが差分イベントだけに依存していると、完了イベントに引数が含まれていても、アプリケーションに渡されない可能性があった。新バージョンではストリーミングのループ内で各関数呼び出しについて出力済みの引数を記録し、完了イベントを受け取った後に照合して、残りの内容を出力する。メンテナーの説明

この修正は、エージェント実行の信頼性に関わる。LangChainの公式ドキュメントによると、ツール呼び出しではツール名と入力が標準化された tool_calls フィールドにまとめられ、アプリケーションはその情報を使って関数を実行できる。このインターフェースから考えると、引数の欠落は必須フィールドの検証エラーにつながったり、不完全な入力がツールに渡されたりする可能性がある。また、ドキュメントによれば、一部の機能ではリクエストが自動的にResponses APIへルーティングされるため、エンジニアが問題を調べる際は、実際に使われたAPI経路を確認する必要がある。統合ガイド

ストリーミングでツール呼び出しを使うチームは、固定している統合パッケージのバージョンを確認し、差分イベントがなく完了イベントだけを受け取る状況で、アップグレード後の動作を検証するとよい。また、通常どおり引数が逐次出力される場合に、内容が重複して結合されないことも確認したい。公開情報から確認できるのは、LangChainが補完処理をリリースしたことまでであり、上流でイベントが欠落する頻度、影響するモデルの範囲、最初に影響を受けたバージョンは明らかにされていない。このため、すべてのツール呼び出しに影響していたと推定することはできない。

出典

  1. langchain-openai 1.8.1 發布紀錄
  2. fix(openai): recover function call args from done events #41923
  3. ChatOpenAI integration