返回首頁

最新模型

IBM 開放 Granite LLMON 預覽模型,以結構化指令綁定降低提示注入風險

IBM 於 11 月 12 日發布 Granite 4.1 的 3B、8B LLMON 實驗模型,讓指令、資料與工具結果具有明確的區塊關係。官方測試顯示靜態間接提示注入的抵抗力改善,但這仍是學習行為,尚非安全保證。

Photograph and postprocessing: Andreas Frank, Munich, Germany · CC BY-SA 3.0 · Image source
zh-Hant

IBM 於 11 月 12 日公開 Granite 4.1 3B 與 8B 的 LLMON 預覽模型,以及配套工具程式庫。這次變更同時涉及提示格式與模型後訓練:模型從 Granite 4.1 基礎檢查點出發,學習辨識哪些文字具有指令權限、哪些只是待處理的資料,目前定位為實驗與評估用途。官方公告

LLMON 將系統規則、使用者指令、文件及工具結果拆成可定址區塊,再由 exec 區塊指定要執行的指令、輸入與輸出位置。結構邊界使用六種保留的特殊 token,巢狀關係則以標籤路徑表達。工程上的關鍵是把應用程式已知的資料關係直接交給模型,減少模型從混合文字中自行猜測的負擔。模型卡

整合時可沿用 apply_chat_template,由模型隨附模板產生標記;需要明確區分內容時,訊息可拆成 instruction、data、requirement 等欄位。標為 exec: false 的區塊仍留在上下文中,但不會被執行區塊引用。配套儲存庫另提供 JSON 轉換工具,將結構化資料保留為具型別、可定址的區塊,供提示與訓練流程使用。工具儲存庫

這對 RAG 與工具代理尤其相關:檢索文件或工具輸出即使含有命令語句,也應依輸入資料處理。IBM 表示,模型在 OPI 等靜態間接提示注入評測中改善明顯;但官方也明言,多輪自適應攻擊仍待改善,權限區分是模型學到的行為,沒有強制執行的保證。評測說明

採用前仍須檢查能力取捨。3B 模型卡列出的 MMLU-Pro 成績為 46.08,低於一般 Instruct 版的 49.83,顯示整體能力接近不代表各項任務持平。工程團隊接下來應以自己的中文文件、工具回傳與多輪攻擊案例,驗證資料邊界、任務品質及模板整合是否可靠。能力評測

來源

  1. LLMON: An LLM-Native Markup Language, now in Granite 4.1 3B and 8B
  2. Granite-4.1-3B-LLMON-preview 模型卡
  3. LLMON 工具與範例儲存庫