Archive
GitHub 熱門專案、開源工具、框架、runtime 與重要 release。
推論系統
NVIDIAはTensorRT Model Connectをオープンソース化した。2つのコマンドで、サポート対象のHugging Faceモデルまたはローカルcheckpointを、C++アプリケーションに引き渡せるバージョン管理されたbundleとしてビルドできる。モデル移植の工程を短縮する一方、現時点ではreference implementationという位置付けであり、対応範囲と性能はモデル、精度、ハードウェアごとに検証する必要がある。
硬體
PTXBenchは、生成されたカーネルの正確性、指定された命令が実際に実行されたか、さらにcuBLAS、cuDNN、FlashInferに対する速度を同時に検証する。その結果、新アーキテクチャ向け命令を生成できても、それを実効的な高速化につなげられるとは限らず、特にB200のAttentionカーネルが難しいことが示された。
代理工具
新システムは、ドキュメントエージェントの検索結果、ネイティブファイル、diffビュー、最終提出物を明示的なバージョンに結び付け、古い解析内容を読んだエージェントが新しいファイルを編集する事態を防ぐ。固定したフレームワークでのアブレーションでは、解析ビューとネイティブビューを併用する方が、いずれか一方だけを使う場合より優れていた。一方、完全なコードとフレームワークをまたぐ再現結果は、まだ十分に提供されていない。
AI 安全
新たな研究は、患者がまだ問題を明確に説明できていない初回接触の段階へ評価を前倒しした。「まず明確化し、その後に助言する」というシステム指示により、応答の順序と引き継ぎ要約は改善したものの、意思決定を左右する病歴を確実に聞き出すには至らなかった。
推論系統
Qualcomm AI Researchは、凍結したTransformerの各層に高速重みを追加し、コンテキストを512-token単位で取り込む手法を開発した。クエリ時に原文を再読み込みする必要はない。Qwen2.5-0.5Bを用いた128Kの実験では、メモリ使用量を一定に保ちながらICLとRAGを上回ったが、現時点でのエビデンスは3つの合成検索タスクに限られる。
最新模型
TokEvalは、数値の桁位置、プログラムのAST境界、UTF-8の完全性、言語間コストをtokenizer評価に導入した。対照実験では、一部の指標が特定の下流能力を予測できることが示されたが、現時点の結果は単一の1.27Bアーキテクチャに限られる。
代理工具
MicrosoftはAgent Lightningを全面的に書き直し、モデルAPIのプロキシ層を通じて既存のエージェントフレームワークの完全なインタラクションを取得できるようにした。ツールループをトレーニングエンジンへ移植する必要はない。公式発表によると、6,000件のデータでQwen3.5-9Bを訓練し、SWE-bench Verifiedのスコアを41.8%から56.4%へ向上させた。
硬體
オープンソースライブラリのrl-tritonは、GAE、V-Trace、Retraceなどの信用割り当てにおける再帰計算を、Tritonによるassociative scanへと書き換え、系列依存の深さをO(T)からO(log T)へ削減した。4,096環境、128ステップのテストでは、すでにベクトル化されたtorch.compileベースラインより1.6～5.70倍高速だった一方、大規模ポリシーにおけるend-to-endのPPO高速化は約1.02倍にとどまった。
推論系統
TileMixはtoken間の接続を削除せず、単一の融合kernel内でアテンションスコアのtileごとにFP16またはINT8 Tensor Coreの経路を選択する。LLaMA 3.2 3Bの4Kテストでは31.80K token/sを達成したが、現時点での結果はA100、静的ルーティング、prefill段階に限定される。
代理工具
Salesforceが2種類のテキスト記憶手法を再評価したところ、自己改善ループを導入した設定の71%で、実行間のばらつきが増大した。暗黙に易しい順から難しい順へ並べられていた固定タスク順序をシャッフルすると、ReasoningBankはエージェントを改善しないばかりか、成功率を低下させた。
代理工具
Benchmark-as-Teacherは、評価における段階別スコアを次の学習ラウンドのカリキュラムへ直接変換し、隔離された合成データによってテストの正解が更新に混入するのを防ぐ。論文では9B方策が標準的なGRPOを大幅に上回ったと報告しているが、完全な学習データはまだ公開されておらず、システム横断のランキングには異なる実行フレームワークが混在している。
FabriMAE 從 VLA 模型內部的視覺注意力熵產生可靠度分數，不需另訓練驗證器或重複執行機器人軌跡。PI0.5 在 LIBERO-Plus 的成功率增加 1.1 個百分點，但目前證據仍限於模擬環境，論文連結的程式庫亦尚未公開存取。