最新模型
GPT-6 SolとLunaが登場、トークン単価を引き下げ、エージェント向けキャッシュ制御を拡充
Solの標準入力・出力単価は前世代のプロモーション価格から半減し、Lunaも同時に値下げされた。キャッシュの更新により、エージェントが推論やツールの使用を調整する際もプレフィックスを保持できるようになるが、書き込み料金やタスクの再試行は引き続き総コストに影響する。
Archive
最新模型
新模型、開放權重、多模態、語音、影像與模型架構。
最新模型
推論系統
ComputeArena、ローカル推論のベンチマーク手順を公開 署名付きレポートにモデルと環境を記録
固定ワークロードでBaseRTとllama.cppを比較し、ファイルのハッシュと各測定の所要時間を保存する。ランタイム間のウォームアップの違いや自己申告データの信頼性が、依然としてランキングの解釈を制約する。
AI 研究
再帰モデルの推論を512ステップに延長、数独の累積正解率が向上
同じ重みのまま計算を延長した研究で、当初は解けなかった問題の一部が後に解けることが確認された。結果は停止条件の研究に手がかりを与えるが、実サービスでの費用対効果はまだ実証されていない。
AI 研究
GPU トポロジー研究でメモリ配置を調整、H200 のデコードスループットが実測で 14.3% 向上
演算ユニットの位置とメモリパーティションを推論構成に組み込み、特定の Qwen3-8B ワークロードでデコードスループットを改善。プロトタイプにはドライバの変更が必要で、コード公開と異なる環境での再現検証が待たれる。
GitHub Repo
Graphify 0.9.66、ハッシュシードを固定してコードグラフの再構築結果のばらつきを低減
新版ではグラフ処理パイプラインのハッシュシードを固定し、直接抽出した関係を推論結果より優先する。修正は再構築時の差分比較に役立つが、モデルが生成する内容の再現性やバージョン間の一貫性は別途検証が必要だ。
GitHub Repo
vLLM 0.30.0、GPU常駐の重みキャッシュを導入 エンジン再起動後も再利用可能に
Fast StartはCUDA IPCを通じて処理済みの重みを再利用し、エンジン再起動時のディスクからの読み込みを削減する。ゼロコピーモードはsleep modeと互換性がなく、導入時には並列構成やキャッシュ利用失敗時のフォールバック動作も検証する必要がある。
GitHub Repo
vLLMで外部KVキャッシュの読み込み失敗によりエンジンが終了するとの報告、影響範囲は未確認
ハイブリッドアテンションモデルを使った開発版で、単一リクエストの失敗後にスケジューラでも致命的なアサーションエラーが発生したと報告された。公式の失敗処理ポリシーでは影響をリクエスト単位にとどめる想定だが、現時点で公開された修正や複数環境での検証結果はない。
最新模型
Claude Opus 5.5がトークン単価を引き下げ、エージェントAPIに複数の非互換変更
新版では入力、出力、キャッシュ読み取りの料金が下がり、適応型思考が常時有効になる。ツール呼び出しの強制、過去のメッセージの変更、ストリーミングでの進捗表示はいずれも再検証が必要だ。
GitHub Repo
vLLM、Qwen3.8-2.4Tの分離型推論テストを公開、GPU当たりの総スループットは毎秒約5,000トークン
チームはGB300 NVL72でプレフィルとデコードを分離した構成を測定し、バージョン情報と設定リポジトリも公開した。最大スループットと1ユーザー当たり毎秒約180トークンの生成速度は異なる構成で得られたもので、実際の負荷に応じた検証が必要だ。
GitHub Repo
Transformersがggml量子化カーネルを統合、Apple Siliconで圧縮GGUFを直接実行可能に
Hugging FaceがメインブランチでのGGUF推論統合を発表。圧縮された重みを使いながら、PythonとPyTorchのワークフローを継続できる。初期の対応はApple SiliconとQwen3.5アーキテクチャが中心で、速度測定結果には比較条件の違いもある。
GitHub Repo
claude-mem 13.25.3、HTTP 経由での Claude CLI 実行ファイルパスの書き換えを禁止
新版ではローカル設定インターフェースの書き込み可能な範囲を狭め、テレメトリーのエラーメッセージのマスキング順序を調整した。ローカルリクエストには既存の信頼モデルが引き続き適用され、引用符付きの認証情報のマスキングに関する懸念も、なお確認が必要だ。
AI 研究
共有推論のコスト研究がH100での検証結果を公開、計測方法でテナントの負担割合が変化
unallocはクラスターとモデルの請求データを統合する。研究では、計測方法によって同じテナントの費用負担割合に約12–14パーセントポイントの差が生じた。実機検証は各ワークロードにつき短時間のテストを1回実施しただけで、結果を正しい配賦割合についての確定的な結論とみなすことはできない。