返回首頁

GitHub Repo

LangChain Core 1.6.12 修正串流中繼資料傳遞,讓應用提早取得 phase

LangChain 於 10 月 16 日發布 langchain-core 1.6.12,修正內容區塊開始事件漏傳 extras 的問題。維護者指出,這使應用無須等到串流結束才辨識 OpenAI 回應的 phase,但實際效果仍取決於模型整合是否提供該欄位。

Dirck van Baburen · Public domain · Image source
zh-Hant

LangChain 於 10 月 16 日發布 Python 套件 langchain-core 1.6.12,納入同日合併的修補:在 content-block-start 事件中保留 extras。維護者指出,OpenAI 的 phase 欄位會透過區塊開始時的額外資料傳入;先前這些資訊未被向下傳遞,消費端必須等串流完成,才能辨識階段。這次更新處理的是中繼資料抵達應用的時機。發布紀錄、修補說明

技術背景在於,模型供應商的串流資料需要轉換為框架統一的事件。LangChain 的 Python 參考文件說明,chunks_to_events 會依來源識別資訊追蹤各內容區塊,首次出現時產生開始事件;即使平行工具呼叫交錯抵達,也須維持各自的索引。標準內容區塊另以 extras 容納供應商專屬欄位,讓應用在共通結構之外取得額外資訊。Python 事件轉換文件

對工程團隊而言,若前端或事件處理器需要依 phase 決定如何呈現當前輸出,開始事件是否攜帶這個欄位,就會影響即時判斷。依修補描述推論,更新後可提早做出這類決策,減少等待完整回應再補判的需求;不過,這並不代表模型生成速度提升,也不能據此宣稱所有串流介面都受到影響。維護者對問題的描述

部署者接下來應確認鎖定檔實際解析到的核心版本,並以自己的模型整合檢查開始、增量與結束事件。驗證重點是:上游有提供時,開始事件能否讀到 extras,以及自訂序列化、訊息佇列或前端轉接層是否再次丟棄它。缺少欄位時仍應保留既有處理路徑。官方目前未提供受影響應用數量或端到端延遲測量,因此這則更新的價值應定位為串流事件完整性修正,實際使用體驗仍須逐一驗證。

來源

  1. Release langchain-core==1.6.12
  2. fix(core): propagate extras on content-block-start events #41272
  3. chat_models — langchain_core Python Reference