最新模型
Claude Opus 5.5がトークン単価を引き下げ、エージェントAPIに複数の非互換変更
新版では入力、出力、キャッシュ読み取りの料金が下がり、適応型思考が常時有効になる。ツール呼び出しの強制、過去のメッセージの変更、ストリーミングでの進捗表示はいずれも再検証が必要だ。
Archive
硬體
AI 晶片、GPU、資料中心、邊緣裝置與硬體安全。
最新模型
GitHub Repo
vLLM、Qwen3.8-2.4Tの分離型推論テストを公開、GPU当たりの総スループットは毎秒約5,000トークン
チームはGB300 NVL72でプレフィルとデコードを分離した構成を測定し、バージョン情報と設定リポジトリも公開した。最大スループットと1ユーザー当たり毎秒約180トークンの生成速度は異なる構成で得られたもので、実際の負荷に応じた検証が必要だ。
AI 研究
共有推論のコスト研究がH100での検証結果を公開、計測方法でテナントの負担割合が変化
unallocはクラスターとモデルの請求データを統合する。研究では、計測方法によって同じテナントの費用負担割合に約12–14パーセントポイントの差が生じた。実機検証は各ワークロードにつき短時間のテストを1回実施しただけで、結果を正しい配賦割合についての確定的な結論とみなすことはできない。
GitHub Repo
Hermes、Claude CLIプラグインを修正 引数なしツールによるフォールバック先への切り替えを解消
Nous ResearchはDirectSDKプラグインの固定先コミットを更新し、引数なしのツール、思考設定、インターフェース互換性の問題を修正した。バージョン番号は0.3.0のままで、導入時にはコミット値と実際のツール実行フローを確認する必要がある。
推論系統
NVIDIA、マルチGPUでの動画推論テストを公開、GPU 8基で生成遅延を約34秒に短縮
NVIDIAはDynamo-TritonとTensorRTを用いてCosmos 3 Nanoを実行し、GPU 8基で生成遅延を単一GPUの156.6秒から34.2秒に短縮した。テストでは同時実行時のスループットと動画1本当たりのコストは評価しておらず、品質検証も抽出したフレームに限られる。
硬體
Googlebookの予約注文が開始、エージェント開発ツールと隔離されたLinux環境を統合
GoogleはAntigravity、Linuxターミナル、オンデバイスAI向けハードウェアを新たなノートPCプラットフォームに組み込む。プロセッサーが異なる機種間でのpKVMの保護モードや、Linux内からのNPUへのアクセス方法については、引き続き製品ドキュメントと実機での検証が必要だ。
GitHub Repo
vLLMコミュニティがRDNA向けのタイリング調整を提案、W7900の埋め込み処理スループットが実測で約17～19%向上
コミュニティのテストでは、アテンションカーネルのキーバリューブロックを小さくすることで、AMD製GPU上の埋め込みサービスの性能が向上した。変更はまだ提案段階であり、カーネルの高速化倍率、全体のスループット、検索品質はそれぞれ評価する必要がある。
GitHub Repo
Ultralytics 8.4.157がCUDA Graphリプレイを導入、YOLO26nのFP16テストでレイテンシーが約20%短縮
新版は実画像によるキャリブレーションとCUDA Graphのリプレイで推論のオーバーヘッドを削減。効果は演算精度とバッチサイズによって異なり、リリースノートに記載されたSiLUの書き換えは最終レビューで撤回された。
推論系統
SemIfがブラウザ内での選択肢スコアの読み出しを実演、判断に用いる確率には別途校正が必要
このローカル推論実験は、選択肢のlogitsを直接読み出す方法と、JSONをトークン単位で生成する方法を比較し、開発者が出力形式に伴うコストを測定できるようにするものだ。結果は量子化、ブラウザ、テストの実行順序にも左右され、選択肢の確率をそのまま信頼度と見なすことはできない。
推論系統
AMD、MLPerf推論の最適化を公開、GPU 8基でのGPT-OSSサービングのスループットが約38%向上
AMDはアテンションカーネルの分離とスケジューリングの調整により、MI355X上のGPT-OSS-120Bのベンチマークスループットを向上させた。公開済みの重みと実行ガイドは再現の足がかりとなるが、環境設定やモデルカードには、なお明確化が必要な点が残る。
GitHub Repo
vLLMがNVDECのマルチGPUテストを公開、動画キャプション生成のスループットはCPUデコード方式の2倍超に
vLLMがハードウェア動画デコードのマルチGPUスケーリングテストを公開し、短いキャプションを生成する処理でCPUのボトルネックを改善した。効果はワークロードに依存し、デプロイ時にはデコードプロセス用のGPUメモリも確保する必要がある。
AI 基礎設施
AIPerfがマルチプロセスでLLMの性能測定を再構築、ストリーミング指標はカウント方法の確認が必要
NVIDIAがGenAI-Perfの後継ツールAIPerfを詳説。負荷生成、結果処理、トラフィックのリプレイをマルチプロセス構成に組み込む。推論サービスをより包括的に測定できる一方、移行時の互換性やストリーミング時のトークンのカウント方法は、依然として結果の解釈に影響する。