返回首頁

最新模型

Cloudflare 開源 Clef 決策模型,以單次前向運算輸出選項機率

Clef 與 Clef-flash 將代理分類與路由轉為對指定選項直接評分,並以 Apache 2.0 公開權重。官方測試顯示延遲優勢,但任務準確率與機率校準仍須依部署資料驗證。

0036947a · CC BY-SA 4.0 · Image source
zh-Hant

Cloudflare 於 10 月 1 日發布 Clef 與 Clef-flash,提供 Workers AI 託管服務並公開模型。這次發布的技術重點,是讓代理在預先定義的答案集合中做決策:例如判定客服訊息應交給哪個團隊、是否需要立即處理,再由程式依選項機率執行後續流程。官方公告

兩款模型分別以 Qwen3.8-27B、Qwen3.5-9B 為骨幹。Clef 的模型卡說明,新增的聯合結構決策頭會讀取骨幹最後一層隱藏狀態,把輸入證據路由至各個問題,並共同計算所有合法選項的分數。每題再經 softmax 取得機率,整個流程只需一次前向運算,省去逐 token 生成答案及文字解析。Clef 模型卡

公開介面接受描述情境的 state 與問題集合 questions,支援命名選項、順序評分與真假判定,也能加入圖片或影片。Clef-flash 隨附的 systemone 函式接受 Jev/SystemOne 請求格式,回傳答案、信心值與機率;這讓既有決策流程有具體的替換入口。公開檔案包含權重、決策頭與編碼程式,授權為 Apache 2.0。Clef-flash 模型卡

效能仍須逐任務判讀。Cloudflare 內部 Decision Index 測試列出的中位請求延遲,Clef 為 209.3 毫秒、Flash 為 38.8 毫秒;但 Flash 在 CLINC150+OOS 的 macro-F1 為 66.8%,低於 Clef 的 97.4%。這些是發布者測試,不能直接推定中文分類、不同硬體或正式服務也有相同收益。測試結果

對工程團隊而言,可優先評估工具選擇、工單分流等答案範圍明確的節點。部署時應依模型卡的自訂決策頭範例驗證,並量測中文資料、未知類別與錯誤成本;輸出機率也需要校準檢查,才能設定轉交人工的門檻。格式受到限制,並不保證判斷正確。

來源

  1. Introducing Clef: our open-source decision models, and new RL fine-tuning platform
  2. Cloudflare/Clef 模型卡
  3. Cloudflare/Clef-flash 模型卡與評測結果