返回首頁

GitHub Repo

LangChain OpenAI 整合套件發布 1.8.1,修正串流工具呼叫參數遺失

LangChain 於 11 月 17 日發布 langchain-openai 1.8.1,修正 Responses API 串流在缺少參數增量事件時,工具呼叫可能得到空參數的問題。新版會比對完成事件與已輸出的內容,補回尚未傳出的參數。

Black-hole-diver · CC BY-SA 4.0 · Image source
zh-Hant

LangChain 於 11 月 17 日發布 Python 整合套件 langchain-openai 1.8.1,納入同日合併的串流工具呼叫修補。維護者指出,ChatOpenAI 使用 Responses API 串流時,若 API 未送出工具參數的增量事件,原本可能回傳帶有空參數的工具呼叫,讓下游代理無法取得完整輸入。發布紀錄

問題出在串流事件如何組合成工具呼叫。依修補說明,套件原先透過 function_call_arguments.delta 事件逐段輸出參數,但維護者觀察到,API 偶爾只送出最終的 function_call_arguments.done 事件。若整合層只依賴增量事件,即使完成事件帶有參數,也可能未能交付給應用程式。新版在串流迴圈中記錄每個函式呼叫已輸出的參數,收到完成事件後再比對並補出剩餘內容。維護者說明

這項修正關係到代理執行的可靠性。LangChain 官方文件說明,工具呼叫會把工具名稱與輸入整理到標準化的 tool_calls 欄位;應用程式可據此執行函式。從這個介面推論,參數遺失可能表現為必要欄位驗證失敗,或讓工具收到不完整輸入。文件也指出,部分功能會自動將請求導向 Responses API,因此工程師排查時應確認實際使用的 API 路徑。整合文件

對使用串流工具呼叫的團隊,值得檢查鎖定的整合套件版本,並以缺少增量事件、只收到完成事件的情境驗證升級結果;也應確認正常逐段輸出時,參數沒有重複拼接。此次公開證據確認的是 LangChain 已發布補救處理,尚未交代上游事件缺漏的發生率、完整模型範圍或最早受影響版本,不能據此推定所有工具呼叫都曾受影響。

來源

  1. langchain-openai 1.8.1 發布紀錄
  2. fix(openai): recover function call args from done events #41923
  3. ChatOpenAI integration