ホームへ戻る

GitHub Repo

Ollama v0.40.2、モデル一覧の重複を修正し、GGUF移行とダウングレード用バックアップの仕組みを明確化

Ollamaは10月8日にv0.40.2をリリースし、旧モデルの変換後に一覧へ重複表示される問題を修正しました。移行時にはダウングレードに備えて元のGGUFが保持されるため、エンジニアリングチームはディスク使用量と、バックアップ削除後に必要となる再ダウンロードに注意が必要です。

Mattruffoni · CC BY-SA 4.0 · Image source
zh-Hant

Ollamaは10月8日にv0.40.2をリリースし、旧モデルの移行後に一覧へ重複表示される問題を正式に修正しました。今回の更新はローカルのモデルファイルと推論バックエンドの互換性に関わります。公式説明によると、以前のバージョンでダウンロードしたモデルは、初回実行時にバックグラウンドでアップグレードされ、llama.cppランタイムの性能と互換性が向上します。ただし、定量的な性能データは示されていません。バージョンのお知らせ

メンテナーは、マージ済みの修正に関する説明で、古いGGUFの一部はOllama独自のllama.cppパッチセットに依存しており、読み込み時にディスク上で遅延変換が必要になると補足しています。ユーザーがダウングレードできるよう、新旧のGGUFは一時的に両方保持され、旧バージョンのサーバーが新しいモデルデータを削除しないよう、非表示用途のv1 manifestタグが作成されます。こうした内部項目が当初は一覧に表示され、モデルが余分にあるとユーザーやAPI利用側に誤解される可能性がありました。今回の修正では、重複項目とダウングレード保護用の項目が非表示になります。メンテナーの説明

そのため、一覧が正常に戻っても、ディスク容量が解放されたことを意味するわけではありません。バージョンのお知らせによると、元のコピーはバックアップとして引き続き保持され、自動削除は今後のバージョンで導入される予定です。現時点で案内されている削除方法では、/api/tags、/api/show、manifestのrunnerフィールドを使って古いバックアップを特定します。削除後に0.40より前のバージョンへダウングレードすると、該当モデルを再ダウンロードする必要があります。バックアップの取り扱いに関する説明

運用チームは、モデル一覧と実際のストレージ使用量を分けて確認する必要があります。公式FAQには各プラットフォームのモデル保存先が記載されており、OLLAMA_MODELSで保存場所を指定することもできます。専用のモデル用ディスクやコンテナのマウント先を使っているチームは、この情報をもとに移行前後の使用量を確認できます。ストレージ設定ドキュメント

エンジニアリング上は、アップグレード検証に旧モデルの初回読み込み、一覧の取得、ダウングレードからの復元を含めるのが望ましいでしょう。今後は、自動バックアップ削除がいつ導入されるかに加え、モデルごとの変換後の読み込み時間と出力の一貫性を追跡する必要があります。現時点で公開情報から確認できるのは修正内容とバックアップ方針であり、すべてのモデルで得られる性能向上を推定するには不十分です。

出典

  1. Ollama v0.40.2 release notes
  2. server: hide duplicate and downgrade guards from list #18874
  3. Ollama FAQ:模型儲存位置與設定