模型發布/端側 AI
Liquid AI、LFM2.5-2.6Bの重みを公開――2.69Bのオンデバイスモデルが128Kコンテキストとツール呼び出しに対応
LFM2.5-2.6Bは、短い畳み込みとGQAを組み合わせたハイブリッドアーキテクチャにより、エージェント推論、ツール利用、長大なコンテキストをスマートフォンやパソコンにもたらす。公式測定ではM5 Max上で毎秒220トークンのデコード性能を記録したが、性能とエージェントベンチマークはいずれも主にベンダーによる自己評価に基づく。

Liquid AIは、LFM2.5-2.6Bのベースモデルとエージェント向けポストトレーニング済みモデルの重みを公開した。その狙いは、小規模モデルでクラウド上のフロンティアモデルを置き換えることではなく、常時稼働し、データプライバシーを重視する、あるいはネットワークに接続できないエージェントワークフローをローカルで実行できるようにすることだ。モデルは合計2.69Bパラメータ、30層で構成され、そのうち22層がデュアルゲート付き短畳み込み、8層がgrouped-query attention(GQA)を採用している。語彙数は128,000に拡大され、中国語を含む16言語をサポートするほか、mid-trainingによってコンテキスト長を131,072トークンまで延長した。事前学習に使用したトークン総数は約34兆に上る。
ポストトレーニングは、2段階の教師ありファインチューニング、分野別の教師モデル特化、複数分野にまたがるon-policy蒸留、エージェント強化学習で構成される。最終段階では、モデルをHermes AgentやOpenClawなどのエージェントハーネス内で直接動作させ、GRPO、プログラムによる検証、LLM評価、安全性ゲートを用いて、複数ターンにわたるツール操作を学習させた。これは固定されたJSON形式の関数呼び出しだけを訓練する手法よりも実際の実行環境に近い一方、成果が訓練時に見たプロンプトやツール形式に依存している可能性もある。
公式にはBF16、GGUF、ONNX、MLX版が提供され、Transformers、llama.cpp、vLLM、SGLangにも対応する。ベンダーの測定によると、メモリ使用量を2.5GB未満に抑えながら、M5 Maxでは毎秒220トークン、Ryzen AI Max+ 395では毎秒113トークン、スマートフォンでは毎秒約30トークンを達成した。H100を1基使用した高並行処理では、出力スループットが毎秒15,000トークン近くに達する。BFCL v4のスコアは56.88、ToolSandboxは77.83で、後者はテスト対象のQwen3.5-9Bをわずかに上回ったが、コーディングベンチマークでは依然としてより大規模なモデルに大きく後れを取っている。
エンジニアリングチームは、まず対象ハードウェア上で、最初のトークンが出力されるまでのレイテンシ、長大なコンテキストにおけるKV cache、量子化後のツール呼び出し精度、複数ターンで障害が発生した際の復旧能力を再検証すべきだ。公式も、知識集約型タスクやエージェント型ソフトウェア開発への使用を明確に推奨していない。また、重みにはLFM Open License 1.0が適用されるため、デプロイ前にライセンス条件を確認する必要があり、「オープンウェイト」という宣伝文句だけで利用上の制限を判断すべきではない。