推論系統
Cohere、デコード処理全体を単一のCUDA megakernelに統合、H100のエンドツーエンドスループットを25~41%向上
Cohereは、North Mini Code専用の推論エンジンをオープンソース化した。演算子ごとの起動とGPU全体の同期を常駐型megakernelに置き換え、公式テストでは単一H100のエンドツーエンド・デコードスループットがvLLMを上回った。ただし現時点では、対応するモデル、ハードウェア、バッチサイズが限定されている。
Archive
GitHub 熱門專案、開源工具、框架、runtime 與重要 release。
推論系統
Cohereは、North Mini Code専用の推論エンジンをオープンソース化した。演算子ごとの起動とGPU全体の同期を常駐型megakernelに置き換え、公式テストでは単一H100のエンドツーエンド・デコードスループットがvLLMを上回った。ただし現時点では、対応するモデル、ハードウェア、バッチサイズが限定されている。
代理工具
Agnoは、アトミックな公開と固定バージョンでの読み取りに対応する page knowledge、および入出力を制限した公開用のAgent、Team、Workflow、MCPサービスのサーフェスを追加した。その数時間後に公開された3.0.8では、ページ全体の読み取りとSQLiteのバッチ書き込みにおける所有権チェックも追加された。アップグレード時には、HNSWの検索セマンティクス変更への対応も必要となる。
AI 安全
ToolHive 0.47.0では、固定されたCosign公開鍵を使用してエージェントのスキルとプラグインを検証できるようになり、SPIFFEの信頼設定がKubernetes CRDとして公開された。新バージョンではOIDC Discovery、OAuth権限、コールバック経由のデータ漏えい境界も厳格化されたが、多くの仕組みでは依然としてデプロイ担当者がトラストルートを設定する必要がある。
代理工具
Docker Sandboxes 0.42.0では、同じ`sbx` CLIでローカルとクラウドのエージェントサンドボックスを管理でき、ファイル転送、SSH、公開HTTPSサービス、独立したネットワークポリシーをサポートする。新バージョンでは`sbxenv.yaml`の変更プレビューと確認フローも強化された一方、ポートのデフォルト値や環境ファイルのセマンティクスに互換性を損なう変更が含まれる。
AI 安全
Python Agents SDK では、関数ツールおよびローカル MCP サーバーに入出力ガードレールを適用し、ブロック時にモデルへ渡す代替メッセージをカスタマイズできるようになった。新版ではローカルサンドボックスが継承するホスト環境変数も削減されたが、保護範囲には依然としてホステッドツールや組み込み実行ツールは含まれていない。
AI 科研/形式驗證
OpenAIは、未公開でGPT‑6 Astraを上回る能力を持つマルチエージェントシステムが、滑らかな外力の下で三次元Navier–Stokes方程式の解が有限時間内に滑らかさを失うことを示す証明を構築したと主張している。チームはLean 4による形式化コードも同時に公開したが、形式検証は、ミレニアム懸賞問題の解決が数学界に受け入れられたことを意味しない。
推論系統
Unsloth Desktopは、Strix Halo、Strix Point、およびROCmを利用できないAMD iGPUでVulkanを使用するようになり、MLXのKV cacheとインストールパッケージの容量も削減した。性能値は公式テストに基づくが、アップグレード後も画面にROCmと表示されるとのユーザー報告があり、自動バックエンド選択については実機での検証が必要だ。
代理工具
新バージョンでは、複数プロバイダーのモデルおよびトランスポート設定を整理し、再現可能なOllama/Qwenツール呼び出しsmoke testを提供する。診断スクリプトはファイルの副作用を独立して検証し、エージェントが応答内で作業の完了を主張しただけなのに成功と誤判定するリスクを低減する。
推論系統
新しいオープンソースプラグインにより、vLLMコアをフォークすることなく、同一のOpenAI互換APIを使ってTenstorrentハードウェア上で複数の言語モデルと視覚モデルを提供できる。一方、現時点ではprefillとdecodeを同じステップ内で混在させられず、LoRA、speculative decoding、マルチホストサービスも未対応という制約がある。
AI 安全
公式Python SDKは、エンドポイントの信頼範囲内に限ってリダイレクトを追跡するようになり、OAuth issuerの検証も拡大した。旧版のStreamable HTTPセッションは、デフォルトでアイドル状態が30分続くと失効し、単一サーバーが保持できるセッション数は最大10,000件となる。
最新模型
新しいプレリリース版では、候補位置ごとにKDA状態と畳み込みウィンドウを保存し、拒否されたドラフトtokenを正しくロールバックできる。初期の単一マシンテストでは、低並列の推論で高速化が見られた一方、状態メモリはロールバック深度とサービスslot数に応じて大幅に増加する。
電腦視覺
Alaya Labと東京大学はWorldSculptを公開した。マルチビュー画像内の各オブジェクトを個別に編集可能な完全なメッシュとして生成し、剛体変換によってシーンを組み立てる。モデルは単一オブジェクトのデータのみでファインチューニングされているが、93~701個のオブジェクトを含むテスト環境を処理できる。ただし、入力には依然として信頼性の高いインスタンスマスク、3D bounding box、カメラ姿勢が必要だ。