PrismML、Bonsai 2の小型三値モデルを発表　9Bの最小ウェイトファイルは2GBに

PrismMLは10月15日、Ternary Bonsai 2シリーズを拡充し、Qwen3.5をベースとする2B、4B、9Bモデルを追加した。スマートフォン、パソコン、ウェアラブル端末上で動作するローカルエージェントを想定している。3モデルはいずれもテキスト推論、視覚理解、ツール呼び出しを組み合わせており、公式発表による最小サイズはそれぞれ0.43GB、0.95GB、2GB。Apache 2.0ライセンスで公開された。公式発表

圧縮の中核は、重みを−1、0、+1で表し、グループごとのスケール値を組み合わせる方式だ。9Bのモデルカードには、3種類の保存レイアウトが記載されている。PTQ1_0は2GB、PQ2_0は2.42GB、Q2_0は2.56GBで、いずれも同じ三値重みを保持し、FP16に展開せずにカーネルから直接読み込める。したがって、最小ファイルが最速とは限らず、2GBをサービス全体のメモリ要件とみなすこともできない。視覚入力には別途モジュールの読み込みが必要で、推奨されるQ8_0版ではさらに0.62GBが必要となる。9Bモデルカード

能力の維持度はタスクによっても異なる。公式評価では、9BのBFCLv4 Mobileスコアは78.02で、元のQwen3.5-9Bの82.02を下回った。Tau2Benchでは85.25から73.02に低下した。これらの数値から、ツール呼び出しテストでの性能差が小さい場合でも、エージェントの一連のワークフロー全体で同様の信頼性が得られるとは限らないことが分かる。結果はいずれも開発チームによるもので、独立した再現検証はまだ行われていない。公式評価表

導入時にはフォーマットの互換性にも注意が必要だ。モデルカードによると、PTQ1_0とPQ2_0を使うにはPrismMLのllama.cppフォークが必要で、上流の最近のバージョンが対応するのはQ2_0のみ。そのため、最小のGGUFをダウンロードすれば既存の実行環境でそのまま読み込める、とは限らない。今後の検証では、実行時バージョン、ウェイトのパッケージ形式、ビジョンモジュール、コンテキスト長を記録したうえで、タスク全体のレイテンシとピークメモリを測定する必要がある。中国語の指示、繁体字中国語文書の認識、複数段階のツール操作についても、別途テストセットを用意して確認する必要がある。導入手順