最新模型
IBM、Granite 4.2で3つの密な推論モデルを公開。ただし公式文書で訓練の出発点に食い違い
Granite 4.2は、3B、8B、30Bの3サイズで、切り替え可能な思考モード、ネイティブなツール呼び出し、最大512Kのコンテキストを備え、Apache 2.0ライセンスで提供される。8Bと30Bにはサンドボックス型のエージェント強化学習が施されている一方、ゼロから事前学習されたかどうかについて、モデルカードと技術記事の記述が矛盾している。
Archive
推論系統
推論 runtime、量化、 serving、KV cache、成本與效能。
最新模型
代理工具
Pipette、オンデバイスモデル評価をオープンソース化：精度・レイテンシ・メモリを同時に定量化、ただしデバイスをまたぐ順位の直接比較は不可
Liquid AIとArtificial AnalysisはPipetteを公開し、1,000を超えるモデル、量子化、runtime、デバイス、コンテキストの構成でオンデバイス推論を測定した。速度とメモリは実機で測定される一方、品質スコアはH100上で別途生成されるため、統合グラフを読む際には2つのテスト経路を区別する必要がある。
AI 安全
TRACEがLinux Foundation傘下へ：エージェントの実行場所をハードウェアで証明、ただし動作の正しさまでは保証せず
Linux FoundationはTRACE仕様を受け入れ、AIエージェントのモデル、実行環境、ポリシー、ツール呼び出しに関するポータブルな暗号学的証拠の確立を目指す。現行のv0.2は依然としてDeveloper Previewであり、記録と検証済み環境との関連性は証明できるものの、エージェントがタスクを完了したことや、ポリシー自体の安全性までは証明できない。
代理工具
TRACE、成功・失敗の軌跡からエージェントのSkillsを書き換え、隠しテストでの一貫成功率を70％に向上
小米（Xiaomi）のチームが提案したTRACEは、成功／失敗軌跡の対比結果を用いて検索可能なSkill Bankを反復的に改善し、基盤モデルの重みは変更しない。CAR-benchの隠しテストセットでは3回すべて成功する割合を高めた一方、平均token数、コスト、レイテンシーも増加した。
GitHub Repo
Headlong、Bashの無限ループで常時稼働エージェントを実装――質問がなくても自ら思考・実行
Laude InstituteとMITは、1万行未満のBashで構成されたHeadlongを公開した。メッセージを新たなセッションではなく、継続的な思考軌跡に対する非同期の観察として扱う。長期記憶や自発的行動の研究に利用できる一方、tokenコスト、権限の分離、ユーザー間のデータ境界が常在的なリスクとなる。
最新模型
NVIDIA、MiniMax H3に2段階生成を導入し、GB200 1基で10秒動画のレイテンシを14.9秒に短縮
H3 Super Accelerationは、まず低解像度かつ4ステップのノイズ除去でドラフトを作成し、その後LTXとSol-Attnに引き渡して3ステップで高解像度の精細化を完了する。公式測定では、768pの10秒動画はSGLangベースライン比で27.7倍高速だったが、この高速化はサンプリング経路を変更するものであり、同等品質を維持した純粋なカーネル最適化ではない。
推論系統
Ray 2.58、KV-cache／token-aware routingを完成。ただし新ルーターは依然alpha
Ray Serve LLMは、プロンプトのトークン化、キャッシュヒットの推定、レプリカ選択をingressに集約し、tokenを推論エンジンへ直接渡すようになった。この設計により、prefillとトークン化の重複を削減できる一方、公式から新バージョンの性能データは公表されておらず、コントロールプレーンにも追加の同期コストが生じる。
推論系統
AWS、小型モデルでRAGの根拠を先に圧縮：入力tokenを10分の1に削減する一方、リクエスト遅延は12〜19%増加
新アーキテクチャでは、検索とメインモデルの間に低コストのモデル呼び出しを1回追加し、質問に関連する原文の一部とソース識別子だけを保持する。AWSの社内テストでは約30%のコスト削減を記録したが、評価は単一の企業コーパスとLLM judgeに依存している。
最新模型
ReWorld、姿勢インデックス付きランドマークバンクでKV予算を固定し、インタラクティブ世界モデルが遠くまで移動しても元の景観へ帰還可能に
ReWorldは、短期的な動作制御と長期的なシーン記憶に異なる注意範囲を割り当て、固定容量のランドマークバンクに履歴を保存する。著者らは704×1280のリアルタイムストリーミングと64秒間の帰還軌跡を実演したが、現時点で公開されているのは論文とデモページのみで、重みやコードは未公開だ。
GitHub Repo
DFlash 2、Qwen3.8-27Bでトークンを並列ドラフト生成――ただしvLLM nightlyには現在、読み込みとVRAMに関する不具合
DFlash 2は、候補パスセレクターと動的畳み込みによってブロック拡散ドラフトを改善し、単一リクエストのテストでQwen3.8-27Bに自己回帰デコードの2.7～3.4倍のスループットをもたらした。最新の再現可能な不具合では、vLLM nightlyが誤ったdecoder layerを生成するほか、語彙重みを共有する前に一時的に約4.74GiBを余分に割り当てるため、24GBのGPUでは起動できない可能性がある。
硬體
MTIA 300、12基のRDMA NICと集団通信エンジンをチップに統合し、PCIeと演算コアの競合を回避
MetaはMTIA 300のシステム設計を公開した。内蔵NIC chiplet、ニアメモリ・リダクション・ユニット、コンパイル方式のHCCLにより、レコメンデーションモデルの学習を高速化する。公式発表によると、40基のアクセラレータにおける通信時間は比較対象のGPUクラスタの約4分の1に短縮されたが、コスト、消費電力、汎用LLM学習との比較は示されていない。
AI 基礎設施
SageMaker HyperPodにマネージドRayが登場：トレーニング、推論、障害復旧でKubeRayインターフェースを共用
AWSは、Rayクラスターの作成、リモートジョブの送信、監視、ワークスペース接続をHyperPod on EKSに統合した。インターフェースにはKubeRayと標準Ray APIが引き続き採用される一方、デプロイには複数のアドオンが必要で、コストや性能の比較も公式には公表されていない。