GitHub Repo
Ollama 社群回報 Qwen GGUF 思考等級未生效,低強度設定仍可能沿用預設值
Ollama 0.35.0 的社群案例指出,特定 Qwen3.8 GGUF 接受低強度思考設定後,仍可能沿用模板預設的 xhigh。官方文件要求依模型中繼資料選擇支援值,模板能力與 API 控制是否一致仍待確認。

Ollama 熱門儲存庫在 10 月 3 日新增一則思考控制回報:使用者以 0.35.0 載入 Qwen3.8 27B GGUF,透過 /api/chat 傳入 think: "low"、"medium" 或 "high",觀察到的行為仍接近啟用思考;只有 false 明顯改變輸出。這是特定環境的社群案例,目前尚無足夠證據判定所有同類模型都受影響。問題回報
回報附上的聊天模板以 reasoning_effort 決定強度,缺省值為 xhigh,接受的名稱則是 xhigh、medium 與 low。作者懷疑,請求中的 think 等級未傳入模板;自行以 reasoning_effort="low" 渲染提示,再透過 /api/generate 的 raw: true 路徑送出後,類似提示的思考內容縮短。不過,這項對照尚未證明成因,也不能直接把 API 的 high 等同模板的 xhigh。模板與對照測試
官方現行文件提供了關鍵界線:思考控制依模型而異,應先呼叫 /api/show,查看 thinking.values 與預設值,再使用完全相符的名稱。文件也說明,在依中繼資料解析等級的模型上,不支援的名稱會使用模型預設值。因此,GGUF 模板內有分級能力,並不足以證明 Ollama 已將它公開為可用的請求設定。思考控制文件
對工程團隊而言,這類落差可能使代理流程的延遲與生成量超出預期;這是部署上的推論,尚非已量化的普遍影響。驗證時應同時保存模型中繼資料、模板版本與實際思考輸出,暖機後重複比較各等級,並記錄生成 token 數與耗時。Ollama 聊天 API 已提供 eval_count、eval_duration 和 load_duration,可協助區分模型載入與生成成本。API 欄位說明
後續應關注上游是否確認中繼資料辨識或模板參數映射問題,以及是否補上支援值提示與回歸驗證。截至查核,該議題仍開放,頁面未列出關聯修補;正式影響範圍與解法仍待確認。議題狀態