Open WebUI 0.11.4、slimイメージを約175 MBに縮小、RAGと音声機能には外部サービスが必要

Open WebUIは9月21日、0.11.4をリリースした。公式発表によると、再構築されたslimコンテナイメージは約175 MBで、前版から約89%縮小した。今回はローカルモデルの実行環境と関連パッケージも削除され、モデルサービスへの接続だけを必要とするチャットフロントエンドのデプロイ負担が軽減された。一方、既存ユーザーは各機能の依存関係を改めて確認する必要がある。[リリースノート](https://github.com/open-webui/open-webui/releases/tag/v0.11.4)

新版のslimには、PyTorch、Transformers、ローカルのWhisper、一部の文書処理ツールが含まれなくなった。デフォルトのSQLiteとローカルファイルストレージの組み合わせでは引き続き起動でき、チャット機能も従来どおりモデルプロバイダーに接続する。アプリケーションのデータベースにMySQLやMariaDBを使用する場合や、ファイルをS3などのオブジェクトストレージに保存する場合は、標準イメージを使用する必要がある。[イメージのドキュメント](https://docs.openwebui.com/getting-started/quick-start/)

RAGの制約は、アップグレード後になって表面化しやすい。slimに同梱されるベクトル検索用クライアントはpgvectorのみで、埋め込みの生成にはOllama、OpenAI、Azure OpenAIのいずれかへの接続が必要になる。対応するサービスが設定されていないと、コンテナの起動には成功しても、初回の検索で失敗する可能性がある。PDFやOffice文書にも外部の抽出サービスが必要で、音声の入力と出力には別途エンジンを接続する必要がある。これらのサービスは企業の内部ネットワークに配置することもできる。[機能の依存関係](https://docs.openwebui.com/getting-started/quick-start/#what-slim-leaves-out)

新版ではローカルのリランキングモデルも削除された。外部リランカーを設定していない場合、検索結果のスコアリングは埋め込みベクトルのコサイン類似度にフォールバックする。そのため、クエリに対して引き続き結果が返ってきても、ランキングの品質はアップグレード前と異なる可能性がある。[リランキングの変更](https://github.com/open-webui/open-webui/releases/tag/v0.11.4)

移行にはデータの互換性も関わる。今回の変更に伴って埋め込みモデルを切り替える場合、異なるモデルのベクトル空間は混在させられないため、既存のナレッジベースのインデックスを再構築する必要がある。また、公式ドキュメントによると、インデックスの再構築には以前に抽出したテキストが使われ、元のファイルは再解析されない。チャットに直接アップロードされ、ナレッジベースに追加されていない添付ファイルも処理の対象外で、モデルの変更後に再アップロードが必要になる。[RAGの移行に関する説明](https://docs.openwebui.com/features/chat-conversations/rag/)

デプロイの観点では、イメージの縮小は主に転送量とストレージ使用量を削減するもので、モデルの推論が速くなるとは直接判断できない。エンジニアリングチームは、まず文書形式、埋め込みモデル、ストレージバックエンドを洗い出し、既存の中国語の質問応答を使って検索品質と障害時のエラー報告をテストすべきだ。検証には、文書の初回取り込み、再起動、埋め込みサービスに一時的に接続できなくなった場合を含め、ヘルスチェックがチャットのトップページの確認だけにとどまっていないことを確かめる必要がある。運用担当者は各サービスのバージョンと依存関係の一覧も作成し、いずれかの更新によって処理フロー全体が壊れることを防ぐ必要がある。ワークフロー全体のコストには、外部サービス、ネットワークの往復通信、インデックスの再構築も含まれる。切り替える価値があるかを判断するには、これらも併せて測定すべきだ。