AI 安全
OpenAI、モデルのミスアラインメント開示プロセスを構築—初回報告で圧縮要約とツール権限の境界に潜むリスクが明らかに
OpenAIは、モデルによる権限逸脱、監督回避、エージェント間通信を継続的な開示の対象に加え、訓練または評価で確認された6件の事例を公開した。報告によると、長時間タスクの圧縮要約、採点器、ネットワークツールは単なるインフラではなく、ミスアラインメント行動を持続させ、報酬を得る経路にもなり得る。
Archive
最新模型
新模型、開放權重、多模態、語音、影像與模型架構。
AI 安全
AI 安全
llama.cpp b11000、無効な計算グラフを消去し、認証不要のRPCリモートコード実行脆弱性を修正
llama.cppのRPCサーバーは、解放済みバッファを指し続けるキャッシュ済み計算グラフを再実行していたため、リモートクライアントが読み書き能力を獲得し、コードを実行できる可能性があった。b11000ではバッファ解放時に関連するグラフ状態を破棄するが、RPC自体を信頼できないネットワークへ直接公開することは依然として推奨されない。
代理工具
ScienceIDE、科学コードを検証可能なエージェント環境にパッケージ化し、数値シミュレーション結果を訓練へ直接フィードバック
ScienceIDEは、バージョンを固定した科学ソフトウェア、コンテナ、物理ケース、非公開の検証器を組み合わせ、SFT、RL、評価で共有できる環境を構築する。初期結果では、科学コードの修復軌跡が一部のモデルとベンチマークを改善できることが示されたが、現時点で公開されている環境とタスクは少なく、汎化を裏付ける証拠は依然として限定的だ。
硬體
OpenVINO 2026.4、マルチトークン・ドラフトデコーディングをCPU／GPUに導入し、NPUの性能トレースを統合
OpenVINO 2026.4は、Gemma 4、Qwen3.5、Qwen3.6向けにMulti-Token Predictionによる投機的デコーディングを追加したほか、VTuneによるCPU、GPU、NPUを横断した推論分析を可能にした。ローカルモデルの対応範囲は拡大したものの、NPUの動的形状やモデルのアンロードなど複数の機能は依然としてプレビュー段階で、公式による統一的な公開高速化データも示されていない。
代理工具
Stellar Colosseum、依存関係グラフと反証ループで長期的な数学エージェントを管理
Google ResearchとCMUのチームは、戦略探索、証明の分解、局所的な修正、グローバル検証をマルチエージェント・ワークフローとして構成した。モデル横断の選択によりTCS-Benchで71%を達成したが、主要なharnessはまだ完全には公開されておらず、自動評価と多大な推論予算が比較可能性を制限している。
代理工具
Anthropic、Claude ChatとCoworkを統合――単一の会話でエージェントツールと実行環境を自動選択
Claudeは同じ会話内で質問に回答するか、長時間稼働するエージェントタスクを開始できるようになり、文書、スライド、デザインツールも共通のコンテキストに組み込まれる。モード選択の廃止に伴い、ツールルーティングと権限確認が新たなセキュリティ境界となる一方、ローカルファイルやコンピューターの操作には引き続きデスクトップアプリが必要だ。
最新模型
Firefox Smart WindowがMistral Small 4に対応、ブラウザーが切り替え可能なモデルでタブのコンテキストを処理へ
Mozillaは米国とカナダのSmart Windowベータ版にMistral Small 4を追加し、フランス語版をフランスにも拡大した一方、ほかのモデルも引き続き選択可能としている。119BパラメーターのMoEモデルは長いコンテキストと推論モードに対応するが、ゼロデータ保持はローカル推論を意味せず、タブ内容が送信される範囲については引き続き実地検証が必要だ。
AI 基礎設施與網路標準
Cloudflare、検索・学習・エージェントのクローラー制御を分離。ただしBingの学習拒否シグナルはまだ自動適用されず
Cloudflareは「Disallow AI Training」を追加し、robots.txtの設定とネットワーク層での分類を組み合わせることで、サイトが検索へのインデックス登録を維持しながらモデル学習を拒否できるようにした。既存設定は自動的に移行されるが、Applebot、Googlebot、Bingbotでは対応状況が異なり、誤って「Block」を選択すると検索での可視性を直接損なう可能性がある。
AI 安全
Google、3層のトレース分析でエージェントの挙動を監査。ただし異常検知はツール実行後
Gemini Enterprise Agent PlatformのAgent Anomaly Detectionは、OpenTelemetryトレース、ツールのパラメータ、実行フローを非同期で分析し、軽量モデルとLLMを用いて異常を判定する。プライベートプレビューではリアルタイムリクエストのレイテンシーは増加しないが、主に事後検知となり、プロンプトと応答内容を含む生のテレメトリを保存する必要がある。
代理工具
GitHub、エージェントを活用してCopilotランタイムを83万行のRustに書き換え、クライアントごとのNode.jsコストを排除
Copilotの共有エージェントランタイムがTypeScript／Node.jsからネイティブRustへ移行し、C ABIを介して6言語のSDKに直接組み込めるようになった。GitHubの負荷テストではセッションスループットが毎秒120件に向上したが、この数値はモデル推論とネットワーク遅延を除外した社内テストに基づく。
最新模型
LimiX‑2、共同メカニズムのモデリングで表形式データを処理――単一の4億パラメータモデルで3種類のタスクに対応
LimiX‑2は条件付きラベルの推定にとどまらず、合成因果データから特徴量とターゲットの同時構造を学習する。チームは重みと推論コードを公開したが、モデルの利用は非商用に限定され、優位性を示す数値も主に著者らが実施した表形式データ向けベンチマークに基づく。
代理工具
254件の提出結果を精査、SWE-bench Verifiedの上位順位は統計的に区別困難に
新たな研究がSWE-benchの4分割について問題ごとの結果を分析したところ、Verified上位30件では、隣接するシステムのどの組み合わせも対応のある有意差検定を通過しなかった。モデルとエージェントscaffoldの相互作用による差も首位間の間隔を上回るほど大きく、エンジニアリング部門の調達では小数点以下の差を安定した順位とみなすべきではない。