LangChain TypeSafe 0.0.2、分類器の注入に対応し、エージェントのミドルウェアでカスタムトランスポートを利用可能に

LangChain は11月5日、Python統合パッケージ langchain-typesafe 0.0.2をリリースし、ModelRouterMiddleware と AutoModeMiddleware にオプションの classifier パラメーターを追加しました。この変更により、エージェントのモデル選択とツール実行のチェックで、事前設定済みまたはカスタムの TypeSafeClassifier を直接利用できます。実装は11月4日にマージされました。リリース告知

従来、2つのミドルウェアは作成時にそれぞれデフォルトの分類器を生成していました。サービスのアドレス、HTTPクライアント、トランスポート層、または分類器のサブクラスをカスタマイズする場合、開発者は初期化後にオブジェクトの属性を上書きする必要がありました。デフォルトのインスタンスを後から置き換える場合でも、その生成時に TYPESAFE_API_KEY の設定が必要でした。メンテナーによると、この要望は社内トランスポート層経由でTypeSafeを呼び出す企業顧客から寄せられたものです。新バージョンではコンストラクターに分類器を渡せるため、この余分な初期化が不要になります。分類器を渡さない場合は、従来の動作が維持されます。マージ提案

2つのミドルウェアが制御する判断のタイミングは異なります。モデルルーティングでは、エージェントの実行開始時に最新の人間のメッセージを分類し、その実行中は選択したモデルを使用します。ツールのチェックでは、指定されたツールの実行前にリスクを判定し、しきい値に達した場合はエラーツールメッセージを返します。基盤となる分類器には同期・非同期のHTTPクライアントを個別に注入でき、アプリケーション側でプロキシサーバーや共有接続プールを設定できます。パッケージの説明

デプロイの観点では、今回の更新により、既存のネットワーク設定をエージェントの意思決定フローに直接接続でき、初期化後に内部属性を変更する統合方法への依存を減らせます。メンテナーは、パッケージのフォーマット、静的チェック、テストが成功し、テストは計93件だったと報告しています。追加されたケースでは、渡した分類器が使用され、デフォルトのインスタンスが作成されないことを確認しました。ただし、これらの結果だけでは、企業の社内トランスポート環境での検証が完了したとはいえません。検証記録

エンジニアリングチームがアップグレードする際は、2つのミドルウェアが experimental 名前空間にあり、実験的な依存パッケージのインストールが必要な点に注意してください。公式には、APIが変更される可能性があると明記されています。今回のリリースでは、分類精度やレイテンシの改善に関するデータも示されていません。実際のルーティングやツール呼び出しのケースで、カスタム分類器の接続、エラー処理、リスクしきい値がアプリケーションの要件に合うかを確認する必要があります。公式ドキュメント