全ニュース

技術ニュース 1523 件

代理工具

Meta、推薦システム研究エージェントによるサーバー間での数日間にわたるGPU実験の引き継ぎを実現、運用上の修復回数を1ラウンド当たり0.5回に削減

Auto-RecSysは、研究アイデア、分散トレーニング、障害復旧、結果分析を、セッションをまたいで継続できる二重ループとして統合する。31ラウンドの社内実験では、運用上の修復回数が1ラウンド当たり4.0回から0.5回に減少したが、エージェントが提案するモデル変更によって推薦品質を安定して改善できることは、まだ実証されていない。

AI 安全

LiteLLMの実測で公開ゲートウェイの9.6%がデフォルトキーを受け入れ、MCPの脆弱性により任意のtokenが有効なセッションに

Wizが公開されている3,074件のLiteLLMインスタンスをスキャンしたところ、294件が`sk-1234`を受け入れるか、認証をまったく要求しておらず、そのうち191件は認証自体が設定されていなかった。新たに公開された実環境での測定結果は、旧バージョンのMCP認証バイパス、Pythonを実行可能なguardrail、クラウドメタデータへのアクセスを連鎖させ、レイヤーをまたぐ攻撃経路を構築できることを示している。

最新模型

Nemotron、3モデルによる生成・検証・修正プロセスでIMO金メダルを獲得、ただし競技全体で23.1億tokenを消費

NVIDIAは、2つのNemotron 3 Ultra数学特化モデルのweight、学習データ、中断後に再開可能な自然言語証明pipelineを公開した。公式スコアは42点満点中30点だった。一方、この結果はモデル検証器に共通する盲点も浮き彫りにした。内部評価では2問を過大評価しており、高いprecisionは大量のfalse rejectionと計算コストとの引き換えで達成されていた。

GitHub Repo

Edge0、MoEエキスパートをSSDからストリーミング――35Bモデルの短いコンテキストで必要なアクティブメモリはわずか2.9 GiB

新しいオープンソースフレームワークは、予測ルーティングによって次のステップで使うエキスパートを先読みし、Recover-LoRAでint4量子化による損失を補償する。これにより、23GBのcheckpoint全体をメモリに常駐させる必要がない。公式測定ではM4 Pro上で毎秒14.9~17.7 tokenを記録したが、現時点ではApple Siliconのみをサポートし、メモリ使用量と品質に関するデータも独立した追試で再現されていない。

最新模型

Azure Speech LLM 2607が音声認識を自動更新、フレーズリストで2,000超のエンティティを提示可能に

Microsoftはマネージド型LLM Speechを更新し、混合言語、固有名詞、数字の認識を強化したほか、一部の条件では2605版と比べてレイテンシを最大3分の1に短縮したとしています。新版は既存のFast APIとリアルタイムAPIを引き続き使用する一方、サーバー側で自動デプロイされるため、既存の音声エージェントでも独自に回帰テストとバージョン監視を整備する必要があります。

推論系統

NVIDIA Dynamo、マルチモーダル推論を3段階に分離し、混合トラフィックの初回トークン遅延を最大42.2%短縮

Dynamoでは、視覚エンコード、LLMのprefill、decodeを独立したworkerや異なるグレードのGPUに割り当てられるようになり、画像リクエストがテキストのみのトラフィックをブロックするのを防げる。公式テストでは初回トークン遅延とエンドツーエンド遅延がそれぞれ最大5倍、7倍改善した一方、出力が長い場合や大規模なdense modelでは、分離による利点が相殺される可能性がある。

推論系統

エージェントワークフローで準備済みターンの投入を遅延、混雑時のP95完了時間を最大71.4%短縮

新たな研究は「ターンの準備完了」と「推論エンジンへの投入」を分離し、CVaRによるテールリスクと動的ワークロード予算に基づいて投入順序を決定する。SWE-benchの軌跡リプレイではP95を最大3.5倍高速化したが、結果は固定されたエージェント軌跡、単一の到着乱数シード、A100/vLLM環境に限られる。

AI 安全

RAG-Safety-Bench、検索品質の変動要因を切り分け、安全微調整が回答を含む文書に耐えられるとは限らないことを示す

新たなベンチマークは検索内容を固定し、4つの条件でRAGが5つのオープンモデルによる有害な質問への応答行動をどう変えるかを測定した。回答を含む文書は、すべてのモデルで正確だが危険な内容を生成しやすくし、安全性判定器間の一致度も中程度にとどまった。

具身 AI 與機器人

Show-Harness、離散的な意味行動で異なるロボットを制御、10タスクで成功率89%を達成

Show-Harnessは、汎用VLMに方向移動、把持、解放などのシンボルを出力させ、各ロボットのインタープリターがそれを制約付きの運動に変換する。10種類の実機タスクにおいて、Geminiのゼロショットとファインチューニング後のQwen 2Bは、それぞれ89%と86%を達成したが、評価は依然として卓上でのピック&プレースが中心だ。

最新模型

Xiaomi-CocktailASR-1、声紋プロンプトで混合音声から対象話者を特定 AliMeeting遠距離収音の文字誤り率を20.63%に低減

Xiaomiは、1~4秒の参照音声と混合録音を同一の音声エンコーダーに入力し、事前に音声分離を行わないエンドツーエンドの対象話者ASRを提案した。対象話者が不在の場合には空文字列を出力できる一方、学習は非公開データに大きく依存しており、初版の報告では検証可能な重みやコードもまだ提供されていない。

推論系統

PELM、DVFSと投機的デコーディングを協調制御し、エッジLLMの消費電力を最大52.4%削減

PELMはプロセッサの周波数を調整するだけでなく、投機的デコーディングの設定と検証深度も動的に選択し、熱制約下でハードウェアとモデルの処理量を協調制御する。論文では最大23.1%の高速化と52.4%の省エネルギーを報告しているが、ピーク値をスマートフォンや他のモデルへそのまま外挿することはできない。

AI 安全

Datasette、マルチモデルのコーディングエージェント監査で権限・キャッシュの脆弱性を発見、1.0a39と0.65.4で同時修正

Datasetteは初めてClaudeおよびGPTシリーズのエージェントを用いた包括的なセキュリティ監査を実施し、その後、2人の開発者が相互にテストと修正コードを作成した。新版では非公開データの権限、SQL/HTML escaping、認証、HTTPキャッシュを強化したが、一部の再現テストは公開が延期されており、外部から脆弱性の範囲を完全かつ独立に検証することはまだできない。