最新模型
T‑LoopFormer、各 token が再帰深度を自ら選択し、ループごとに KV cache を分割
新アーキテクチャは3層の共有ブロックを反復実行し、ルーターが token ごとに早期終了するか、潜在的な推論を継続するかを決定する。論文では約10億パラメータ規模の実験において、固定深度の looped Transformer をレイテンシと精度の両面で上回ったと報告しているが、フロンティアモデルや主要な推論エンジンではまだ検証されていない。
Archive
推論系統
推論 runtime、量化、 serving、KV cache、成本與效能。
最新模型
代理工具
Stellar Colosseum、長大な証明をエージェント競争に分解――TCS‑Benchでクロスモデル選択により71%を達成
Google ResearchがStellar Colosseumを公開した。戦略探索、反例による攻撃、依存関係グラフ、階層的集約によって長期的な数学研究を管理する。システムは300問のTCS‑Benchで71%を達成したが、結果は大量の推論と自動評価に依存しており、モデル単体の証明能力を直接示すものとはみなせない。
AI infrastructure
Rubin NVL72初のAgentX実測結果が公開、ワット当たりtokenの最大向上幅は依然として比較基準次第
SemiAnalysisがプレリリース版ソフトウェア上でVera Rubin NVL72をテストし、Blackwell比でメガワット当たりのtokenスループットが最大約7倍に達したと報告した。結果は、長いコンテキストとMoE推論におけるHBM4とNVLink 6の効果を浮き彫りにする一方、「コストパフォーマンス67倍」という見出しには、レンタル価格と特定の動作点に関する仮定が含まれている。
代理工具
GitHub Copilot Autoに3段階のルーティング設定が追加、コスト重視モードでも複雑なプロンプトには大規模モデルを選択する可能性
Copilot Autoでは、Efficiency、Balance、Intelligenceの3段階でコスト、品質、レイテンシーの重みを調整できるようになった。ただし、3段階とも同じモデルプールを共有する。実際の料金はルーターが選択したモデルとtoken数によって決まり、段階の名称は価格上限でも、特定モデルの使用を保証するものでもない。
最新模型
Atria Dawn Preview、検証可能な環境で長期研究エージェントを訓練した744B MoEの重みを公開
上海人工知能研究所は、Atria Dawn Preview、FP8の重み、推論レシピを公開した。検索からコーディング、実験の実行までを網羅する完全なエージェントループを特徴とする。公式発表では16のベンチマーク中5つで最高性能を達成したとしているが、モデル規模、テスト時計算量、独自の評価設定により、比較可能性にはなお制約がある。
代理工具
GitHub Agentic Workflows 0.89系、MCP呼び出しの追跡に対応し、ワークフロー認証情報の露出範囲を縮小
GitHubは1週間で17バージョンの`gh-aw`を相次いでリリースし、JSONログで各MCP呼び出しのサーバー、ツール、時刻を特定できるようにした。最新の修正では、スラッシュコマンドルーターのGit設定に`GITHUB_TOKEN`を永続保存する処理も停止されたが、0.89系は依然としてプレリリース段階にある。
推論系統
SQD、アテンション方式に応じてデコード処理を分割――亜二次モデル推論では密モデルの分離方式を踏襲せず
新たな研究が提案するSQDは、二次および亜二次アテンションのメモリ・計算特性に応じてデコード処理を割り当てる。論文ではtokens/Jが最大56%向上したと報告しているが、Rubin／LPXの数値は依然として実機クラスタではなく分析モデルに基づく。
代理工具
Otis、llama.cpp、ローカルモデル選定、エージェント権限を単一のデスクトップ／ターミナルインターフェースに統合
Otisは9月13日から14日にかけて集中的に公開プロモーションを展開した。ハードウェアに応じてGGUFを推奨・ダウンロードし、内蔵のllama.cppでローカルエージェントを起動する。オフラインモードではアカウントが不要だが、検索、PAIRクラスター、Fireworks推論は、それぞれ異なるデータ境界と信頼境界に属する。
端側 AI
iOS 27がSiri AIを正式導入：20Bのオンデバイスモデルがプロンプトに応じて1B～4Bパラメータをロード
Appleは9月14日、iOS 27などの正式版OSをリリースし、AFM 3を基盤とする新しいSiriを対応デバイスに提供する。大規模なオンデバイスモデルは、プロンプト単位のスパースルーティングとNAND上の重み保存を組み合わせており、各tokenでエキスパートを選択する典型的なMoEとは技術的なアプローチが異なる。
AI 安全
K‑Benchが機械学習モデルの忘却の観測範囲を拡大：最終回答が秘密を漏らさなくても、エージェントが本当に忘れたとは限らない
K‑Benchは、評価対象をモデルの最終回答から、推論、ツール呼び出し、検索結果など、エージェントの6つのチャネルへと拡張した。実験では、既存ベンチマークが漏洩なしと判定した場合でも、実環境のエージェントが22%〜86%のクエリで対象データを露出し得ることが示された。
代理工具
macOS 27のプライベート推論インターフェースでSiriのプランニングモデルを置き換え可能、ただしサードパーティAPIではない
リバースエンジニアリングによる実験で、macOS 27の`Inference Providing`パスが、Siriのプランニングプロンプト、ツール定義、実行結果を外部モデルに渡せることが明らかになった。このデモにはシステム保護の無効化とAppleのプライベートentitlementが必要であり、ユーザーが現時点でSiriのモデルを正式に変更できるという意味ではない。
推論系統
llama.cppのメインラインにMaple 20B‑A1Bの三値MoEを統合、第1段階はCPUサポートを基準に
9月14日にマージされたアーキテクチャサポートにより、Maple‑PreviewはDeepGroveのllama.cpp forkに依存せず、ロードおよび変換できるようになった。モデルがtokenごとに有効化するパラメータは約10億個にすぎないが、GPU backend、品質評価、公式の速度主張については、引き続き個別の検証が必要だ。