Ollama 0.40.7 候選版加入 PPLX Decider v1.2 的 MLX 推論支援

Ollama 於 10 月 18 日發布的 0.40.7-rc0，將 Perplexity 的 PPLX Decider v1.2 納入 MLX 執行後端。這次更新讓本機部署多了一條執行專用決策模型的路徑，適合評估分類、路由與評分等工作；截至查核時，GitHub 仍將此版本標為預先發布，不能視為穩定版已全面推出。版本紀錄

技術重點在模型執行語意。已合併的實作涵蓋非因果注意力、發布者定義的決策讀出、影像處理，以及 System One 提示編碼。這些元件必須配合，才能正確使用模型的決策權重；單純載入骨幹並沿用一般文字生成流程，並不足以重現其行為。合併提案

依官方模型卡，v1.2 將共享狀態與多個問題放入同一序列，在每題選項後的標記位置分別讀出結果。全注意力層可讀取整份請求，線性注意力層則保留因果行為。因此，同一筆資料的多項判斷可以共享計算，但問題之間也會互相影響。官方測試顯示，合併相關問題有助部分任務，將互相競爭的工具候選一起評分卻可能降低準確率。官方模型卡

Ollama 模型頁已提供 /v1/systemone 呼叫範例，模型清單也列出 BF16、MXFP8 與 NVFP4 的 MLX 版本，檔案大小分別約為 52GB、29GB 與 19GB。這些數字只代表下載規模，部署仍須預留執行時記憶體，不能直接當成硬體最低容量。模型介面、模型標籤

對工程團隊而言，下一步應比較固定請求在參考實作與 MLX 後端的選項機率、排序及延遲，並分別測試單題與多題格式。本次發布資料未提供 MLX 效能或量化準確率對照，尚不能據此推定加速幅度；若要用於代理路由，也應先確認機率變化是否會讓既有決策門檻失效。