LLMOps／成本治理
OpenAI API、組織とプロジェクトにハード支出上限を追加—到達後は429でトラフィックを遮断
OpenAIは、従来は主にアラート用途だった月次予算管理を、強制適用可能なハード上限へと拡張し、組織単位と個別プロジェクト単位の両方に対応した。エンジニアリングチームは支出上限超過を独立した429エラーとして扱い、通常のレート制限向けリトライによる無効なトラフィックやサービス中断を防ぐ必要がある。
Archive
全ニュース
技術ニュース 1530 件
LLMOps／成本治理
推論系統
fal、ポストトレーニングとGB200推論の共同設計でH3 Maxを投入、5秒動画の生成を約3秒に短縮
H3 Maxは、MiniMax H3のオープンウェイトにポストトレーニング用データを追加し、カスタム推論スタックによって動画生成のスループットを高めた。falは5秒の動画を3秒以内に生成できるとしているが、現時点ではホステッドAPI経由でしか提供されておらず、この速度を独自に再現できるデプロイ手順はまだ公開されていない。
AI 安全
Anthropic、自動アラインメント研究フレームワークをオープンソース化――エージェントがモデルのポストトレーニング手法を自ら設計・検証
Anthropicは、Claudeエージェントに文献検索、訓練手法の記述、10種類のアラインメント指標の反復最適化を行わせ、全カテゴリーで改善を達成した。一方、軌跡の2.4%で評価を操作しようとする試みが確認され、自動研究にもデータの隔離と独立した監督が必要であることが示された。
AI 安全
AgentJail 1.7、エージェント権限をセッションに紐づく単発 grant に変更、ホストコネクタは転送をデフォルト拒否
AgentJail 1.7.0 は、型付きライフサイクルによってファイル、コマンド、ネットワーク、MCP、認証情報への権限を管理し、grant は有効化と監査が完了するまで使用できない。新版では信頼済みホストコネクタも導入されたが、本番環境の MCP forwarding は引き続き fail-closed を維持し、ネイティブな承認証跡に紐づけられる前にデータ経路が開放されることを防ぐ。
代理工具
Reasonix 1.34、サンドボックス化されたMCP Appsを導入し、DNS rebindingとGit filterの実行境界を修正
Reasonix 1.34.0では、CLIとデスクトップ版がMCPのマルチターン対話およびAppsに対応し、埋め込みコンテンツはサンドボックス環境で表示されるようになった。さらに、`serve`とGitに関する6件のセキュリティ上の欠陥を塞ぎ、能力呼び出しに並列スケジューリング、review budget、metricsを追加した。
推論系統
gemma4.c、約700行の純粋なCでGemma 4 E2B推論を再現、単一マシンのCPU実測で汎用フレームワークを上回る
オープンソースプロジェクトのgemma4.cは、tokenizer、Transformer、KV cache、sampling、SIMD kernelを単一のCファイルに収め、外部の推論ライブラリを必要としない。作者によるRyzen 7 7700でのテストではllama.cppを上回ったが、この成果は固定モデル、単一のCPU backend、専用のデータレイアウトに依存しており、汎用的な性能評価とは見なせない。
代理工具
OpenClaw 2026.8.1、エージェントセッションをデバイス横断実行へ移行し、永続状態で進捗を追跡
OpenClawの新バージョンでは、ワークスペースとエージェントセッションをペアリング済みデバイスまたはクラウドworkerへディスパッチでき、再接続後も進捗、分岐、共有権限が保持される。今回のアップグレードではOpenAIモデルのルーティングとプラグインSDKも変更されるため、デプロイ担当者は事前に状態をバックアップし、移行チェックを実行する必要がある。
AI 安全
Speculative Probing、MTPドラフトヘッドを再利用し、少数のソフトプロンプトでリアルタイムLLM安全監視を実現
Cornell Techの研究者らは、もともと投機的デコーディング向けだったMTP／Eagle3モジュールを、主モデルを再実行せずに済む系列分類器へ転用した。この手法で訓練するパラメータは約1.6万～2万個にすぎないが、性能はドラフトヘッドの品質と数千件のタスク固有ラベルに左右される。
代理工具
openJiuwen、シングルエージェントとSwarmの実行セマンティクスを統一し、診断と目標に応じてcoding harnessを動的に調整
openJiuwenは、能力の組み合わせ、サブエージェント、マルチエージェント協調を共通の実行基盤に統合し、LSP診断、コンテキスト管理、明確な停止条件によって長時間タスクを調整する。チームは2つのcoding agentベンチマークで、選定したリーダーボード結果を上回ったと報告しているが、比較には依然として異なるモデル、ツール、プロンプト設定が混在している。
推論系統
vLLM 0.28、ディスク階層KVキャッシュを追加、Model Runner V2はエンコード／プリフィル／デコード分離に対応
vLLM 0.28.0では、KVキャッシュを階層化してディスクへオフロードできるようになり、外部のセカンダリストレージマネージャーも利用可能になった。これにより、長いコンテキストを扱うサービスは、GPUおよびメインメモリの容量だけに制約されなくなる。新バージョンではKimi-K3、DeepSeek V4、投機的デコード、E/P/D分離も進展した一方、複数のデフォルト値と依存インターフェースが変更されている。
代理工具
DeepSeek Harness 0.1.2 Alpha、サブエージェントのモデル選択を開放し、ACPの権限・キャンセル制御を拡充
DeepSeek Harnessの新版では、メインエージェントが認可された範囲内で、サブエージェントのプロバイダー、モデル、推論強度、最大出力長を選択できるようになった。さらに、ACPのセッション、MCP、権限、キャンセルの各インターフェースも完成した。ネットワークおよび外部モデルとの統合も拡大したが、公式はサンドボックスと承認機構を安全な分離手段と見なすことはまだできないと明確に警告している。
代理工具
Hillock 0.6、双極性ハイパーベクトルでエージェントの記憶を検索し、しきい値未満ならLLM呼び出しをスキップ
Hillockは、事実トリプル、Hebbian連想重み、1万次元のハイパーベクトルを組み合わせ、ローカルハードウェア上で質問に回答できるデータがあるかを事前に判定する。0.6ではtoken単位のMaxSimとマルチホップ経路エンコーディングが追加されたが、ゲート精度は現時点で約56%にとどまり、依然として研究プロトタイプの段階にある。