LFM2.5‑VL‑3B、約3GBのメモリで視覚モデルを実行、vLLM、llama.cpp、MLXをネイティブサポート

Liquid AIは8月13日、LFM2.5‑VL‑3Bの重みと複数のデプロイ形式を公開した。このモデルは長いChain-of-Thought（思考連鎖）を扱う推論モデルではなく、エッジデバイス上で実行できる低レイテンシの視覚言語モデルと位置付けられている。言語バックボーンにはLFM2.5‑2.6Bを採用し、約4億パラメータのSigLIP2 NaFlex視覚エンコーダーを組み合わせており、総規模は約31億パラメータ。コンテキスト長は32,768 tokenで、中国語を含む16言語をサポートする。大きな画像は重複しない512×512のパッチに分割され、さらに画像全体のサムネイルが追加されることで、元のアスペクト比と局所的なディテールを保持する。

エンジニアリング面での主なアップデートは、デプロイ経路がTransformers、vLLM、SGLang、llama.cpp、MLX、ONNX、GGUFを同時にカバーした点だ。また、領域タイプ、正規化座標、コンテンツを含むレイアウトOCR結果を出力でき、特殊tokenを用いて関数呼び出しを表現する。Liquid AIの報告によると、ScreenSpot‑v2の平均スコアは80.7で、RefCOCO Precision@1は前世代の57.1から87.9に向上した。ToolSandboxも26.4から59.5に上昇している。このため、ローカルでの文書抽出、UI要素の位置特定、カメラ画像の分類、視覚入力を必要とする軽量ツールエージェントに適している。

性能データは、テスト条件を踏まえて解釈する必要がある。公式によれば、モデルのメモリ使用量は3.3GB未満で、M5 Max、Ryzen AI Max+ 395、Galaxy S26 Ultraにおいて、それぞれ228、116、20 token/sを達成した。一方、H100での約11,000 token/sは、vLLM 0.26、BF16、高並行の持続負荷、512×512画像1枚、入力1,024 token、最大出力256 tokenという条件で測定されたものであり、単一のインタラクティブリクエストにおける速度ではない。モデルカードには、長いコンテキストを用いる推論、視覚的なWebデザイン、複雑な設計図に関する質疑応答には推奨しないことも明記されている。また、実験的なレイアウト形式は今後変更される可能性がある。開発者は次の段階として、日本語OCR、量子化後の位置特定精度、画像サイズごとのピークメモリ使用量を改めて検証すべきだ。重みには独自のLFM 1.0ライセンスが適用されるため、商用利用前には各条項を確認する必要があり、「open-weight」という表現だけを根拠にApache LicenseやMIT Licenseと同等だと判断すべきではない。