Open WebUI 0.12.4、選択したスキルのオンデマンド読み込みを追加し、短い会話や一時チャットにもコンテキスト圧縮を拡張

Open WebUI は10月25日にバージョン0.12.4を公開し、エージェントワークフローのコンテキスト管理を変更しました。管理者は選択済みスキルをオンデマンドで読み込むよう設定でき、一時チャットや、ツール出力が大きい短い会話でも圧縮を実行できます。これらの変更はモデルに送られる内容と、その後の会話を継続できるかどうかに直接影響します。リリースノート

従来のスキル機能では、チャットで選択したスキルやモデルに紐付けられたスキルの Markdown 指示をメッセージに挿入します。ほかの読み取り可能なスキルは名前と説明の一覧に表示され、モデルは view_skill を使って内容を取得します。スキルには参考資料やスクリプトを添付でき、モデルは read_skill_file と grep_skill_files でファイルを読み取ったり検索したりできます。スキルのドキュメント

新たに ENABLE_SKILL_LAZY_LOADING が追加されました。デフォルトでは無効で、管理者設定の「一般」から有効にできます。有効にすると、選択済みスキルとモデルに紐付けられたスキルもオンデマンド読み込みに切り替わります。メッセージ内で明示的に言及されたスキルは、引き続き直ちに挿入されます。この動作には組み込みのスキルツールが必要です。ツールがない場合、指示は従来どおり事前に読み込まれます。実装では、明示的に言及されたスキルを即時有効化の対象に残しているため、スキルを選択することと、その場での使用を求めることの意味が分かれるようになりました。実装差分

技術的には、使用されない指示がコンテキストを占める量を減らせると期待されます。一方で、モデルがスキルを読み込むタイミングを正しく判断する必要があり、ツール呼び出しの往復が増えたり、必要な規則を読み落としたりする可能性があります。これは仕組みからの推論です。公式には、この変更によるトークン削減量、遅延、タスク成功率の比較は公表されていないため、各チームが自らのワークロードで検証する必要があります。

コンテキスト圧縮では、短い会話と一時チャットへの対応が追加されました。単発の質問でも、大量のツール出力が発生するケースが対象です。インターフェースには圧縮位置が表示され、要約を展開できます。ツール呼び出しの間に圧縮が行われた場合も返信内で判別できるため、モデルがその時点でどの情報を保持していたかを追跡しやすくなります。更新内容

圧縮機能は別途有効化が必要です。また、以前のメッセージを要約で置き換える仕組みであり、厳密なトークン上限を保証するものではありません。アップグレード後は、要約に制約条件が保持されているか、スキルが実際に読み込まれているかを確認するのが適切です。公式ドキュメントの一部には従来の挿入方法や表示方法が記載されたままのため、導入時にはリリースノートと実際のリクエストを照合してください。コンテキスト管理のドキュメント