最新模型
LFM2.5‑VL‑3B、約3GBのメモリで視覚モデルを実行、vLLM、llama.cpp、MLXをネイティブサポート
Liquid AIは、31億パラメータのLFM2.5‑VL‑3Bを公開した。画面上の位置特定、レイアウトOCR、複数画像の理解、関数呼び出し機能を備える。公式測定ではApple M5 Maxで228 token/s、H100 1基での高並行スループットは約11,000 token/sを記録したが、データはまだ独立した再現検証を経ていない。
Archive
推論系統
推論 runtime、量化、 serving、KV cache、成本與效能。
最新模型
最新模型
Ling‑3.0‑tinyは各tokenで有効化するパラメータがわずか1.3Bだが、ローカル実行には依然として専用runtimeブランチが必要
InclusionAIは、線形AttentionとスパースMoEを組み合わせた7.9BパラメータのLing‑3.0‑tinyを公開し、BF16、FP8、INT4の重みを提供している。公式によると、FP8はM4 Proで毎秒86〜90 tokenに達するが、vLLMとOllamaのサポートは現時点で上流の安定版に完全には取り込まれていない。
推論系統
ThinkRetrieve、推論途中で解法例を検索し、Qwen3‑1.7BのAIME 2025精度を13.4ポイント向上
ThinkRetrieveは、モデルに思考時間を延ばすよう求めるだけではなく、各推論境界で類似問題の完全な解答を検索し、次の思考コンテキストに挿入する。1.5B～8Bの5モデルすべてで逐次型Test-Time Computeを上回ったが、この手法には大規模かつ厳密に汚染除去された解法データベースが必要となる。
最新模型
Muse Glimmer 30B、17GBの量子化ウェイトとDFlashドラフトモデルでマルチモーダルエージェントを単一GPU上に実現
MetaはMuse Glimmer 30Bのウェイト、ビジョンエンコーダー、DFlashドラフトモデルを公開した。17GB版では、24GBのVRAM内でテキスト、画像、投機的デコーディングを同時に実行できる。公式測定ではRTX 5090上で平均233.4 token/sを記録したが、安全性評価とデプロイの詳細から、依然として外部の保護策と新しいruntimeが必要であることが分かる。
AI 輔助科學研究
二重エージェント研究システム、度重なる失敗からGrothendieck定数の新たな下界を導出――ただし重要な方向転換は依然として人間が提案
研究チームは、推論モデル、コーディングエージェント、ファイルベースのメモリを用いて約240回の研究セッションを実施し、最終的に `K_G ≥ 6π/11` を提案、著者らが検証した。システムは強力な局所的証明能力を示した一方、探索がボトルネックに陥ったことを自ら認識できず、研究方針や成果の取捨選択には約40回の人間による指示が引き続き必要だった。
代理工具
ChemWorld、化学プロセスを再生可能なエージェント環境へコンパイル——失敗した操作もトランザクションレシートとして保持
ChemWorldは、型付き操作、互換性コンパイラ、非公開の化学法則により、研究者が同一の公開インターフェースを維持したまま、世界を規定する単一のルールだけを置き換えられるようにする。オープンソース版は52種類の生成組み合わせと8本の完全なワークフローに合格したが、検証対象はソフトウェアの実行セマンティクスであり、現実の化学的正確性ではない。
AI 基礎設施
MISA-T、KV滞留時間に基づく混合RL rolloutスケジューリングでStep3.7のスループットを53.3%向上
MISA-Tは、プレフィックスヒットだけで推論ノードを選択するのではなく、ワークロードごとにKVキャッシュを同時占有できるsession数も制限する。著者らはStep3.7とQwen3.6-35B-A3Bで、rolloutスループットが43.6%から53.3%向上したと報告しているが、実装はまだ公開されていない。
最新模型
UniF-MoE、共有ブロックを先に抽出して残余計算をルーティングし、top-2 GMoE比で推論時間を45.2%短縮
UniF-MoEは、共有エキスパート、FFNの幅、活性化するエキスパート数を個別に決定するのではなく、各tokenが最初に共有チャネルを選択し、その後、残りの需要に応じてルーティング確率を累積する。著者らによるDeiTおよびBERTの実験では、精度とMoEの推論コストが改善されたが、生成型大規模言語モデルや分散expert parallelismではまだ検証されていない。
最新模型
ReRound、拡散事前分布で量子化の丸めを再選択──3／4ビット小型モデルの平均精度が最大1.6ポイント向上
ReRoundはキャリブレーション用コーパスを使用せず、モデル自身の重みから条件付き拡散モデルを学習し、量子化区間の中点付近にある重みを切り上げるか切り下げるかを再判定する。デプロイ時は既存の低ビット形式を維持し、追加の推論オーバーヘッドも発生しないが、モデルごとに数時間の専用再構成コストが事前に必要となる。
最新模型
XCoT-VLA、2〜6個のアクショントークンで自動運転の推論を圧縮、H100での推論レイテンシは最短38.6ミリ秒
XPengはXCoT-VLAを提案し、数十個の自然言語推論トークンを有限の意味的アクショントークンに置き換え、flow matchingによって連続軌跡を生成する。オープンループ試験では横方向誤差が低減したものの、クローズドループでの安全性評価はまだなく、レイテンシの数値にも車載ソフトウェア／ハードウェアスタック全体は含まれていない。
應用研究／AI 基礎設施
GENCO、単一のグラフニューラルネットワークで電力網の3種類の問題を処理、大規模AC潮流計算のスループットを約29倍に向上
GENCOは、異種グラフアテンション、物理量デコーディング、反復的な残差補正により、潮流計算、最適潮流計算、状態推定を統一的に処理する。大規模電力網でのバッチ推論は従来のACソルバーより明らかに高速だが、未知の電力網に対するゼロショット性能や実環境のSCADAデータでの精度は、既存ツールを直接置き換えられる水準にはまだ達していない。
最新模型
Open-EA、視覚生成評価エージェントを3Bに小型化。ただし現時点で完全対応するのはVBenchの動画ワークフローのみ
Open-EAは、複数ターンの視覚モデル評価軌跡を10,042件の教師ありデータに整理し、従来GPT-4oに依存していた計画ワークフローをローカルのEA-3Bへ移植した。モデル、データ構築手法、runtimeは公開されたが、「評価時間を従来手法の10%に短縮」という結果は主に元のAPIベースのエージェントによるものであり、EA-3B全般の効率を保証するものとは直接みなせない。