GitHub Repo
Ollama 社群提出 Gemma 4 模板修補,自訂模型名稱可能讓 12B 權重套用小模型格式
10 月 6 日的社群重現指出,Ollama 匯入 Gemma 4 12B GGUF 時,未含尺寸的模型名稱可能觸發錯誤提示模板。修補提案已加入回歸測試,但尚未合併,生成品質影響也仍未量測。

Ollama 社群於 10 月 6 日回報,Gemma 4 12B 的自訂 GGUF 模型可能因命名方式不同,套用不同的對話模板。案例使用 macOS 上的 0.35.1;回報者指出,當日主分支仍保留相同判定規則。官方含 12b 的模型標籤可正確選擇模板,但沒有尺寸字樣的自訂名稱可能受到影響。問題回報
問題出在提示渲染器的選擇邏輯:Ollama 先從模型名稱辨識尺寸,無法辨識時,再以參數總數判斷是否使用大型模型模板。原本門檻為 120 億參數,Google 模型卡卻列出 12B Unified 的實際參數量為 119.5 億,因此存在落入小模型分支的邊界條件。Google 也說明,除 E2B、E4B 外,關閉思考模式仍涉及空的 thought 區塊,模板處理需要保留這項差異。Google 模型卡
回報者以相同權重建立三個名稱,關閉思考並限制生成一個 token。一般名稱的提示計數為 10,名稱含 12b 或明確指定大型渲染器時則為 14;另以 50 組多輪提示比對 Google 模板,大型渲染器全部一致,小型渲染器全部缺少空思考區塊。這些結果支持提示序列存在差異,但回報者沒有量測回答品質變化。重現方法與結果
同日提出的修補將門檻降至 115 億,並新增 119 億參數、名稱不含尺寸的測試案例。提交者表示伺服器測試通過;截至查核,PR 仍開放且沒有審查紀錄,不能視為正式版本已修復。修補提案
對自行匯入模型與比較推論後端的工程師,這代表模型名稱也可能影響實際送入模型的提示。回報提供的暫時處理方式是在 Modelfile 明確指定 RENDERER gemma4-large。後續應關注修補是否合併,以及固定權重、採樣設定與提示後,模板差異是否改變中文回答或工具呼叫結果;目前尚無這些影響的實測證據。