返回首頁

GitHub Repo

LangChain TypeSafe 0.0.2 支援注入分類器,讓代理中介層接入自訂傳輸

LangChain 於 11 月 5 日發布 langchain-typesafe 0.0.2,讓模型路由與工具風險檢查中介層接受預先設定的分類器。企業可直接沿用內部 HTTP 傳輸設定,但相關中介層仍屬實驗性 API。

Dirck van Baburen · Public domain · Image source
zh-Hant

LangChain 於 11 月 5 日發布 Python 整合套件 langchain-typesafe 0.0.2,為 ModelRouterMiddleware 與 AutoModeMiddleware 加入選填的 classifier 參數。這項變更讓代理的模型選擇與工具執行檢查,可以直接使用預先設定或自訂的 TypeSafeClassifier,相關實作已於 11 月 4 日合併。版本公告

原先兩個中介層在建立時,都會自行產生預設分類器。若應用需要自訂服務位址、HTTP 客戶端、傳輸層或分類器子類別,開發者得在初始化後覆寫物件屬性;即使預設實例隨後被替換,建立它時仍需要設定 TYPESAFE_API_KEY。維護者表示,需求來自透過內部傳輸層呼叫 TypeSafe 的企業客戶。新版可在建構時傳入分類器,省去這個多餘的初始化步驟;未傳入時維持既有行為。合併提案

兩個中介層控制的決策位置不同:模型路由會在每次代理執行開始時,分類最新的人類訊息,並讓該次執行沿用選中的模型;工具檢查則在指定工具執行前判斷風險,達到門檻時回傳錯誤工具訊息。底層分類器也支援分別注入同步與非同步 HTTP 客戶端,供應用配置代理伺服器或共用連線池。套件說明

從部署角度看,這次更新的價值是讓既有網路設定能直接接到代理決策流程,減少依賴初始化後修改內部屬性的整合方式。維護者回報套件內格式、靜態檢查與測試通過,共有 93 項測試,新增案例確認傳入的分類器會被使用,且不再建立預設實例;這些結果尚不能代表企業內部傳輸環境已完成驗證。驗證紀錄

工程團隊升級時仍應注意,這兩個中介層位於 experimental 命名空間,需要安裝實驗性相依套件,官方明示 API 可能變動。此次發布也沒有提供分類準確率或延遲改善數據;接下來應以實際路由與工具呼叫案例,確認自訂分類器的連線、錯誤處理及風險門檻是否符合應用需求。官方文件

來源

  1. langchain-typesafe 0.0.2 版本公告
  2. 接受自訂分類器的中介層變更與驗證紀錄
  3. langchain-typesafe 0.0.2 套件說明
  4. TypeSafe integrations