推論系統
JustFit、KV状態を圧縮・リアルタイム調整し、24 GiBのMacBookで21万tokenのワークロードを完遂
JustFitはMLX上で4-bit KV、コンポーネントの常駐管理、リクエスト間の状態遷移を組み合わせ、24 GiBのユニファイドメモリで27Bモデルの長文コンテキスト推論を実現した。6.93倍という容量向上は、単一マシン上で特定モデルを用いたテスト結果であり、一部の過去の実行環境とチェックポイントの同一性はまだ完全には再現できない。
Archive
技術ニュース 1519 件
推論系統
JustFitはMLX上で4-bit KV、コンポーネントの常駐管理、リクエスト間の状態遷移を組み合わせ、24 GiBのユニファイドメモリで27Bモデルの長文コンテキスト推論を実現した。6.93倍という容量向上は、単一マシン上で特定モデルを用いたテスト結果であり、一部の過去の実行環境とチェックポイントの同一性はまだ完全には再現できない。
代理工具
ScienceBuddyは、研究者の要求、フィードバック、実行ログをタスクと評価ルールに変換し、エージェントプログラムとモデルを交互に最適化する。チームは簡略化した実験フレームワークを公開したが、ホスト型ワークスペースの完全なコードと、長期的な自己改善を示す証拠はまだ公開されていない。
CMU 的 ModAR 以共享擴散 Transformer 依序去噪多種未來表徵,再生成機器人動作。小規模實驗顯示,結構化表徵比額外預測 RGB 更有用,但程式碼尚未公開,真實世界證據也只有三項雙臂任務。
推論系統
MLCommonsは単一モデルのみの測定から脱却し、検索、リランキング、生成、複数ターンのエージェント処理をInference 6.1に組み込んだ。新版ではAPIベースのclient/server harnessも導入され、データセンター向け評価が本番サービスに近いEndpointsスイートへ移行する方向性を示している。
AI 基礎設施
SiFiveはBigSkyサーバー上でP870-D RISC-V CPUを使用してROCm 10を起動し、Radeon AI PRO R9700でGemma4-E2Bの推論を実行した。これは、x86でもArmでもないホストがAMDのGPUソフトウェアスタックに接続できることを示す一方、性能、再現可能なイメージ、正式なサポート範囲はまだ公開されていない。
代理工具
IBM ResearchはALTK‑EvolveにConsistency Analyzerを追加し、制御された再サンプリングによって、同じエージェントを複数回実行した際に変動しやすい意思決定を特定する。AppWorldでの実験では、GPT‑4.1エージェントの5回すべての成功率が53%から69%に向上したが、エビデンスは依然として単一のエージェントアーキテクチャとシミュレーション環境に限られている。
開發者平台
OpenAIは、Custom GPTをSkillとAppを含むPluginに置き換える計画だ。影響を受けるEnterpriseワークスペースでは、旧GPTの実行が12月11日に終了する予定。組み込みの移行機能が処理するのは一部の設定のみで、Custom Actionはサポート対象のconnectorまたはカスタムMCP server向けに書き換える必要がある。
代理工具
RSIAgentでは、curriculum、actor、verifierの各エージェントがまずツールを幅広く探索し、その後、失敗の境界を詳しく検証して、結果を「アクション—条件—結果」のメモリとして保存する。OSWorld 2.0の部分スコアは71.97から78.98に上昇したが、この比較には異なる予算や選別後の再試行が混在しているため、モデル能力がGPT-6を上回ったと直接みなすことはできない。
AI 安全
HazardAuditorは、Claude Code、Codex、Hermes、OpenClawによるツール実行を共通のイベント形式に変換し、一連の行動全体が安全かどうかを判定する。新手法GuardPOでは最終的な安全性判定が更新を主導するが、研究データは公開されておらず、最大16.5ポイントの改善は独立した再現を待つ必要がある。
推論系統
vLLMとRed Hat AIは、Kimi K3向けの50億パラメータDSparkドラフトモデルと、隠れ状態をノード間で抽出・転送するための完全な手順を公開した。公式テストでは、単一ユーザーの生成速度が約110 token/sから435 token/sへ向上したが、この結果はGB300クラスターと特定の推論ワークロードに依存する。
代理工具
Anthropicは2.1.273で、2件のコマンド審査の不備に加え、管理対象MCPおよびコネクターポリシーが無視される可能性のある設定マージの問題を修正した。新バージョンでは、LLM gateway向けのオプションのリクエストヘッダーとMCP切断アラートも追加されたが、公式には今回の修正をCVEやセキュリティアドバイザリとして公表していない。
AI 安全
新たなベンチマークは、150件の SWE-bench Verified タスクをセキュリティ上の罠を含む750件の issue に書き換え、自動修復エージェントが機能的には正しいものの安全ではないコードを提出するかを検証した。3種類のモデルバックエンドでは、平均51.7%のケースで修復と攻撃目標の両方が達成され、一般的なモデルレビューや静的解析でも多数の悪意ある patch を見逃した。