Liquid AI、d1決定モデルの重みを公開　1回のフォワード推論でテキストと画像を分類

Liquid AIは10月7日、2種類のd1決定モデルの重みを公開した。d1-3Bはテキストと画像を入力として受け付ける。実験的なd1-omni-600Mは、テキストと画像、または音声を組み合わせて入力できる。どちらも入力状態と質問を一緒に処理し、1回のフォワード推論で回答の確率を算出するため、出力トークンを生成しない。これにより、分類、振り分け、判定を繰り返す用途で、ローカル環境にモデルをデプロイできる。(リリース告知)

アーキテクチャ面では、d1-3Bはdecoder-onlyのLFM2.5-VL-3Bを基に訓練された。600M版は双方向テキストエンコーダーに、視覚エンコーダーと音声エンコーダーを接続している。今回の重み公開により、開発者はモデルを自らデプロイして調整し、判断処理をエッジデバイス上で実行できる。(アーキテクチャの説明)

インターフェースは3種類の回答形式を提供する。noulはYes／Noの確率を返し、choiceは名前付きの選択肢から回答を選び、scoreは順序付けられた尺度で評価する。1つの入力に複数の質問をまとめることもできる。たとえば、カスタマーサポートのチケットについて、返金が必要か、担当部署はどこか、緊急度はどの程度かを同時に判定できる。技術面ではテキスト生成と回答解析を省ける一方、質問と選択肢は事前に定義する必要がある。(Jetsonデプロイガイド)

速度の数値は入力条件と合わせて読む必要がある。ガイドに引用されたLiquidのウォームアップ済みテストでは、Jetson AGX Thorで1問あたり16ミリ秒、同じ入力に対する3問の処理で20ミリ秒だった。Orin Nanoでは1問あたり50ミリ秒だった。モデルカードには、BF16、20回の測定の中央値、CUDA graphsを使ったRTX 4090での1問あたり8ミリ秒という値も記載されている。このコンパイル経路を使わない場合は16ミリ秒となる。これらの数値を、カメラを含むシステム全体のレイテンシとしてそのまま扱うことはできない。(デプロイガイド、性能測定の条件)

評価では、d1-3BのDecision Index 0.2.1スコアは48.57だった。これはベンダーが公式評価器を使って算出した値で、公式リーダーボードへの提出結果ではない。モデルを選ぶ際には、繁体字中国語のデータ、クラス不均衡、確率校正を引き続き検証する必要がある。デプロイ前にはLFM Open License v1.0の条項も確認したい。今後は、独立した再現検証に加え、実際の入力長におけるレイテンシと誤判定率が注目点となる。(モデルカード)