最新模型
IBM、構造化された指示バインディングでプロンプトインジェクションのリスクを抑えるGranite LLMONプレビューを公開
IBMは11月12日、Granite 4.1の3Bおよび8B LLMON実験モデルを公開した。指示、データ、ツールの結果を明確なブロック構造で関連付ける。公式テストでは静的な間接プロンプトインジェクションへの耐性向上が示されたが、これは学習された振る舞いであり、安全性の保証ではない。

IBMは11月12日、Granite 4.1 3Bおよび8BのLLMONプレビューモデルと、関連ツールライブラリを公開した。今回の変更はプロンプト形式とモデルの後処理学習の両方に関わる。モデルはGranite 4.1のベースチェックポイントを出発点に、どのテキストが指示としての権限を持ち、どのテキストが処理対象のデータにすぎないかを識別するよう学習している。現時点では実験と評価を目的としている。公式発表
LLMONは、システムルール、ユーザー指示、文書、ツールの結果をアドレス指定可能なブロックに分け、execブロックで実行する指示、入力、出力先を指定する。構造上の境界には6種類の予約済み特殊トークンを使い、入れ子構造はラベルパスで表現する。エンジニアリング上の要点は、アプリケーションが把握しているデータの関係をモデルに直接渡し、混在したテキストからモデルが自力で推測する負担を減らすことだ。モデルカード
統合時にはapply_chat_templateをそのまま利用し、モデル付属のテンプレートでマークアップを生成できる。内容を明確に区別する必要がある場合、メッセージをinstruction、data、requirementなどのフィールドに分割できる。exec: falseと指定したブロックはコンテキストに残るが、実行ブロックからは参照されない。付属のリポジトリにはJSON変換ツールもあり、構造化データを型付きでアドレス指定可能なブロックとして保持し、プロンプトや学習のワークフローで利用できる。ツールリポジトリ
これは特にRAGやツールエージェントに関係する。検索した文書やツール出力に命令文が含まれていても、入力データとして扱うべきだからだ。IBMによると、OPIなどの静的な間接プロンプトインジェクション評価では大きな改善が見られた。一方、公式発表では、多段階の適応型攻撃への対応にはなお改善の余地があり、権限の区別はモデルが学習した振る舞いであって、強制的に適用される保証はないとも明記されている。評価の説明
導入前には、性能とのトレードオフも確認する必要がある。3Bモデルカードに記載されたMMLU-Proスコアは46.08で、通常のInstruct版の49.83を下回っている。全体的な能力が近くても、すべてのタスクで同等とは限らないことが示されている。エンジニアリングチームは今後、自社の中国語文書、ツールの応答、多段階攻撃の事例を使って、データ境界、タスク品質、テンプレート統合の信頼性を検証する必要がある。能力評価