推論系統
JustFit、KV状態を圧縮・リアルタイム調整し、24 GiBのMacBookで21万tokenのワークロードを完遂
JustFitはMLX上で4-bit KV、コンポーネントの常駐管理、リクエスト間の状態遷移を組み合わせ、24 GiBのユニファイドメモリで27Bモデルの長文コンテキスト推論を実現した。6.93倍という容量向上は、単一マシン上で特定モデルを用いたテスト結果であり、一部の過去の実行環境とチェックポイントの同一性はまだ完全には再現できない。
Archive
GitHub 熱門專案、開源工具、框架、runtime 與重要 release。
推論系統
JustFitはMLX上で4-bit KV、コンポーネントの常駐管理、リクエスト間の状態遷移を組み合わせ、24 GiBのユニファイドメモリで27Bモデルの長文コンテキスト推論を実現した。6.93倍という容量向上は、単一マシン上で特定モデルを用いたテスト結果であり、一部の過去の実行環境とチェックポイントの同一性はまだ完全には再現できない。
代理工具
ScienceBuddyは、研究者の要求、フィードバック、実行ログをタスクと評価ルールに変換し、エージェントプログラムとモデルを交互に最適化する。チームは簡略化した実験フレームワークを公開したが、ホスト型ワークスペースの完全なコードと、長期的な自己改善を示す証拠はまだ公開されていない。
CMU 的 ModAR 以共享擴散 Transformer 依序去噪多種未來表徵,再生成機器人動作。小規模實驗顯示,結構化表徵比額外預測 RGB 更有用,但程式碼尚未公開,真實世界證據也只有三項雙臂任務。
推論系統
MLCommonsは単一モデルのみの測定から脱却し、検索、リランキング、生成、複数ターンのエージェント処理をInference 6.1に組み込んだ。新版ではAPIベースのclient/server harnessも導入され、データセンター向け評価が本番サービスに近いEndpointsスイートへ移行する方向性を示している。
代理工具
IBM ResearchはALTK‑EvolveにConsistency Analyzerを追加し、制御された再サンプリングによって、同じエージェントを複数回実行した際に変動しやすい意思決定を特定する。AppWorldでの実験では、GPT‑4.1エージェントの5回すべての成功率が53%から69%に向上したが、エビデンスは依然として単一のエージェントアーキテクチャとシミュレーション環境に限られている。
代理工具
RSIAgentでは、curriculum、actor、verifierの各エージェントがまずツールを幅広く探索し、その後、失敗の境界を詳しく検証して、結果を「アクション—条件—結果」のメモリとして保存する。OSWorld 2.0の部分スコアは71.97から78.98に上昇したが、この比較には異なる予算や選別後の再試行が混在しているため、モデル能力がGPT-6を上回ったと直接みなすことはできない。
AI 安全
HazardAuditorは、Claude Code、Codex、Hermes、OpenClawによるツール実行を共通のイベント形式に変換し、一連の行動全体が安全かどうかを判定する。新手法GuardPOでは最終的な安全性判定が更新を主導するが、研究データは公開されておらず、最大16.5ポイントの改善は独立した再現を待つ必要がある。
推論系統
vLLMとRed Hat AIは、Kimi K3向けの50億パラメータDSparkドラフトモデルと、隠れ状態をノード間で抽出・転送するための完全な手順を公開した。公式テストでは、単一ユーザーの生成速度が約110 token/sから435 token/sへ向上したが、この結果はGB300クラスターと特定の推論ワークロードに依存する。
代理工具
Anthropicは2.1.273で、2件のコマンド審査の不備に加え、管理対象MCPおよびコネクターポリシーが無視される可能性のある設定マージの問題を修正した。新バージョンでは、LLM gateway向けのオプションのリクエストヘッダーとMCP切断アラートも追加されたが、公式には今回の修正をCVEやセキュリティアドバイザリとして公表していない。
AI for Science/訓練基礎設施
Periodic Labsは1,300基のH200を用い、1兆パラメータのオープンモデルに科学分野のmid-trainingと強化学習を施し、複雑なX線回折結果をNeonが自動解析できるようにした。ただし、成功率55.3%やフロンティアモデルとの比較は、いずれも社内データ、専用ツールチェーン、モデルによる評価に基づく。現段階では、実証済みの自律的な科学的発見というより、検証可能な垂直型AIのレシピと見るべきだ。
代理工具
NVIDIAの研究チームが、criticを使わない単一rollout訓練手法を提案した。長さの異なるツール軌跡を完了次第更新に投入できる。小規模モデルの実験では、半分のrollout数で掲載されたGRPOベースラインを上回ったが、環境やモデル規模をまたぐ安定性はまだ十分に検証されていない。
推論系統
TypeSafe AIのJevは、事前定義されたブール値、選択肢、スコアのみを生成し、モデル推論をプログラムへ直接組み込める低レイテンシーの分岐へ変えようとしている。ただし、型が正しいことは判断が正しいことを意味せず、公式がうたう速度とコストの優位性も、自社製ワークフローと非公開モデルに基づいている。