最新模型
Perplexity 發布 Decider v1.3,新增附字元位置的文字擷取能力
Perplexity 於 11 月 12 日發布 Decider v1.3 與 Flash 版本,讓決策模型兼具分類、評分與原文片段擷取能力。模型採 Apache 2.0 授權,但自行部署須配合專用推論介面,並驗證批次處理與機率校準的影響。

Perplexity 於 11 月 12 日發布 Decider v1.3 與 Decider Flash v1.3,新增 Locate 功能,可依自然語言指令從文件擷取原文,回傳起訖字元位置與分數。對需要路由、內容檢查或實體辨識的系統,這提供了直接取得結構化結果的另一條路徑。官方發布
Decider 將輸入與問題編碼後,以決策輸出層讀取選項機率,省去逐 token 生成答案的步驟。新版在完整注意力層採雙向注意力;Locate 另加入片段預測層與 LoRA,僅在擷取時啟用,因官方發現直接合併會使原有決策能力退步。技術說明
Locate 的介面保證回傳文字對應原文切片,方便工程師把判斷連回文件證據;但目前只接受文字,不能直接擷取圖片內容。混合分類與擷取問題仍需分別執行前向運算,會增加延遲,且 fast=True 會停用 Locate,部署時須按工作負載選擇路徑。模型文件
效能數據也須分清衡量方式。官方在百萬筆正式服務請求上,以大型模型產生參考答案,Decider v1.3 的一致率為 93.98%,前版為 93.68%;這衡量的是與裁判模型的一致程度,並非人工標註的正確率。團隊仍需用自己的中文文件與錯誤成本評估門檻。評測方法
自行部署方面,主模型的 BF16 權重約需 49 GiB 顯存,Flash 約需 8.5 GiB,兩者都另需運算記憶體。Flash 由主模型蒸餾而成,共用介面與功能,適合先測試高流量分類流程。主模型卡、Flash 模型卡
接下來應注意服務實作的相容性:檢查點使用專用決策頭,預設因果推論無法重現其行為,舊版提示詞建構器也須更換。官方發布稱權重可下載,但模型卡仍保留需具存取權杖的說明;導入前應實際確認下載權限,並完成本地機率校準。部署限制