GitHub Repo
LangChain 社群回報 Mistral 串流錯誤遭略過,截斷回答可能被當成成功結果
10 月 26 日的 LangChain 社群回報指出,Mistral 整合可能略過串流內的錯誤事件,正常回傳尚未完成的文字。另一名參與者表示已重現並完成本機修補,但截至查核時尚無公開修補 PR 或正式修復版本。

LangChain 的 Python Mistral 整合出現一項串流錯誤處理回報。10 月 26 日公開的議題指出,伺服器若先傳回文字,再於同一串流送出錯誤事件,ChatMistralAI 可能不拋出例外,而將已接收的片段當成正常回答。另一名參與者留言表示已在本機重現;目前仍屬社群回報,尚待維護者確認。議題與重現程式
回報使用 httpx.MockTransport 模擬 HTTP 200 的 SSE 回應,依序送出兩段文字與服務錯誤,不提供完成原因或結束標記,因此不需呼叫真實模型。所附結果顯示,同步、非同步串流,以及開啟串流的同步與非同步呼叫,四條路徑皆回傳截斷文字,完成原因為空,也未拋出例外。這項實驗驗證的是客戶端處理模擬事件的行為,未證明線上服務的發生頻率。重現結果
依回報者分析,串流處理會跳過沒有 choices 欄位的事件,錯誤訊息因此被略過。官方文件則確認,這套整合支援逐 token 串流、原生非同步與工具呼叫。對採用這些能力的應用而言,工程上的風險是:僅憑呼叫正常返回,可能無法判定生成是否完整;重試與失敗監控也可能失去觸發訊號。這是根據回報行為推導的影響,仍需實際工作流程驗證。整合功能文件
留言者提出在略過事件前檢查錯誤內容並拋出例外,表示本機測試已通過,但議題尚未連結公開修補 PR。團隊可先把「收到部分文字後出錯」加入整合測試,觀察完成狀態與例外是否正確傳遞;後續應追蹤維護者確認、公開修補與發布版本,再決定升級安排。修補進度