PrismML 發布 Bonsai 2 小型三值模型，9B 最小權重檔降至 2GB

PrismML 於 10 月 15 日擴充 Ternary Bonsai 2 系列，新增基於 Qwen3.5 的 2B、4B 與 9B 模型，面向手機、個人電腦與穿戴裝置上的本機代理。三款模型結合文字推理、視覺理解及工具呼叫，官方公布的最小體積分別為 0.43GB、0.95GB 與 2GB，並以 Apache 2.0 授權釋出。官方公告

壓縮核心是以 −1、0、+1 表示權重，搭配群組縮放值。9B 模型卡列出三種儲存布局：PTQ1_0 為 2GB、PQ2_0 為 2.42GB、Q2_0 為 2.56GB；三者保存相同三值權重，由核心直接讀取，無須先展開成 FP16。因此，最小檔案未必是最快選項，也不能把 2GB 當成完整服務的記憶體需求。視覺輸入另需載入模組，建議的 Q8_0 版本還要增加 0.62GB。9B 模型卡

能力保留程度也依任務而異。官方評測中，9B 的 BFCLv4 Mobile 為 78.02 分，原始 Qwen3.5-9B 為 82.02 分；Tau2Bench 則由 85.25 降至 73.02。這些數字顯示，工具呼叫測試的接近程度，不能直接推廣成整段代理工作流程同樣可靠。上述結果均來自開發團隊，仍待獨立重現。官方評測表

部署時還有格式相容性門檻。模型卡要求 PTQ1_0 與 PQ2_0 使用 PrismML 的 llama.cpp 分支；上游近期版本僅支援 Q2_0。這表示工程師不能只下載最小 GGUF，就假設現有執行環境能直接載入。後續驗證應同時記錄執行期版本、權重封裝、視覺模組及上下文長度，再量測完整任務延遲與尖峰記憶體；中文指令、繁體中文文件辨識和多步工具操作，也需要另建測試集確認。部署說明