最新模型
Perplexity 釋出多模態檢索模型 pplx-embed-v2-late,小模型可查詢大模型建立的索引
Perplexity 於 10 月 7 日公布兩款採用 late-interaction 的開放權重模型,支援文字、影像與視覺文件檢索。0.6B 與 9B 版本共享嵌入空間,讓文件索引與線上查詢可使用不同尺寸的編碼器,但實際成本與中文效果仍待驗證。

Perplexity 於 10 月 7 日宣布推出 pplx-embed-v2-late-0.6b 與 pplx-embed-v2-late-9b,權重已上架 Hugging Face,採 MIT 授權。這次發布的核心是多模態檢索:文字查詢可以比對文字內容、影像與視覺文件,兩種尺寸還共享嵌入空間。官方公告
模型建立在 Qwen3.5 上,使用雙向注意力,為每個 token 產生一個 128 維向量,再以 MaxSim 計算查詢與文件的相似度。這種 ColBERT 式 late-interaction 保留 token 層級的表示,檢索系統因此需要處理多向量資料。共享空間則允許以 9B 模型預先編碼文件,再用 0.6B 模型處理線上查詢;工程上的潛在價值,是將文件編碼與查詢服務的算力配置分開評估。9B 模型卡
依發布者提供的 Public ViDoRe v3 測試,影像檢索 nDCG@10 分別為 62.3% 與 65.2%,Markdown 檢索則為 61.2% 與 64.7%。這些數字呈現兩款模型在指定評測上的差異,尚不足以推定中文企業文件的效果,也不能直接證明小模型查詢大模型索引時的品質與延遲。0.6B 模型卡
部署方面,官方範例使用 Sentence Transformers 的 MultiVectorEncoder,要求 sentence-transformers >= 6.0.0 與 transformers >= 5.4.0。文字與影像須分開批次編碼,不支援混合輸入;接入 PyLate 時也要核對查詢與文件標記的位置。對中文 RAG 團隊而言,下一步應以含表格、掃描頁面與中英混排的資料,實測跨尺寸查詢品質、索引容量及端到端延遲,再判斷共享嵌入空間是否帶來可用的成本優勢。部署說明