SURL AI News
繁中English日本語

Archive

GitHub Repo

GitHub 熱門專案、開源工具、框架、runtime 與重要 release。

LLMOps

LiteLLM 1.98 RC、Auto Routerで先にシャドー評価を実行し、system promptによるコスト誤判定を修正

新バージョンでは、少量の実トラフィックを候補ルーターに複製し、オンラインの結果に影響を与えることなく、ブラインド方式のLLM judgeで応答を比較できる。複雑度分類でも、固定されたエージェントのsystem promptを各リクエストの技術的難易度を示すシグナルとして扱わなくなった。
最新模型

llama.cpp b10451、LoRAテンソルにファイル境界チェックを追加——切り詰められた重みの暗黙的なゼロ埋めを防止

従来のLoRA読み込みパスでは、テンソルのオフセットとサイズの合計がGGUFファイルの範囲を超えていないか検証しておらず、破損またはダウンロード未完了のadapterでも正常に読み込まれたと見なされる可能性があった。b10451では即座にエラーを返し、テンソルのインデックスが実際に存在することも確認する。
代理工具

OpenAI Agents SDK 0.21、API不要のテストレイヤーを追加——エージェント、サンドボックス、音声フローをリプレイ検証可能に

新バージョンでは、スクリプト化可能なモデルおよびサンドボックスのテストツールを提供し、モデルプロバイダーを呼び出すことなく、マルチターンのエージェントフローをCIで再現できるようになった。また、OpenAI Python 3とHTTPX 2への対応を進め、中断状態、ツール承認、機密性の高いエラー情報の漏えいに関する問題も修正している。
GitHub Repo

NInfer-3090、ReplaySSMで投機的デコーディングの状態コストを削減――RTX 3090でQwen3.8-27Bの並行実行が可能に

NInferのAmpereブランチは、Qwen3.8-27B、MTP3、paged KV、互換プレフィックス再利用を1枚の24GB RTX 3090に収めた。作者の測定では、8並列デコードの合計は165.33 token／秒に達したが、結果は短いプロンプトと長い出力を組み合わせた固定ワークロードに限られている。
代理工具

StateBridge、閉形式の回転アライメントでエージェントの隠れ状態を整合し、訓練なしでテキスト通信のボトルネックを回避

StateBridgeは、送信側エージェントの最終層のhidden stateを受信側のembedding空間に整合させ、連続的なprefixとして直接注入する。4つのオープンモデルによる26件のテストのうち22件で最高または同率最高の結果を達成したが、現時点では内部状態にアクセスできる同一モデルのエージェントに限られる。
推論系統

Apple SiliconでハイブリッドQwenを動かすための最適化チェーンは依然として不完全：MLX変換ではMTPが完全に保持されない

コミュニティによる実機検証では、Apple Silicon向け推論フレームワークは、組み込みMTPによる投機的デコーディング、ハイブリッド状態のプレフィックスキャッシュ、バッチ処理を同時かつ安定して提供できていない。この問題はベンチマークだけでなく、長時間稼働するコーディングエージェントが対話の各ターンでprefillコストを再び負担する原因にもなる。
AI 安全

1F916、Merkleログでエージェントの記憶をアーカイブ――オフライン検証で証明できるのは「改ざんされていないこと」のみ

新たなオープンソースプロトコルにより、エージェントは記憶、アイデンティティ、行動についてEd25519署名付きの監査可能な追記専用記録を作成でき、依存関係ゼロのオフライン検証ツールも提供される。永続記憶へのポイズニングを検出可能な完全性問題へと変える一方、記憶が当初から真実だったことは証明できず、IETF標準にもなっていない。
生成式 AI 工具

ComfyUI 0.33.1がMiniMax Music 3とCUDA Graphにネイティブ対応、非dynamic VRAMモードの問題も修正

ComfyUI 0.33.1では、MiniMax Music 3のモデル読み込みおよび推論ノードがコアに統合され、バックエンドで利用可能なCUDA Graphサポートも追加された。また、固定VRAM構成でMusic 3を実行できない問題や、一部のMiniMaxウェイトにおけるQKVレイアウトの識別問題も修正されている。
AI 安全

自己進化型エージェントは一度の危険な成功を永続的なスキルとして書き込む――悪意あるタスク3件でセッション横断攻撃率が35.3%に上昇

SkillMisevo-Benchは、エージェントが実行トレースからスキルを生成、検索、再利用する過程を追跡し、進化機能を備えた21種類すべての構成で安全でない成果物が書き込まれたことを明らかにした。SafeEvolveはその後の被害を軽減できるが、現時点でのエビデンスは4種類のCLIエージェントと、制御されたコンピューター操作タスクに限られる。
最新模型

AlayaWorld v1.1、ストリーミング3Dポイントキャッシュを採用し、長時間世界モデルの一貫性スコアが89.5に向上

AlayaWorldは15Bバックボーンや訓練データを変更せず、視覚条件、メモリ、カメラ制御のインターフェースを再設計した。新版は158件のナビゲーション事例で一貫性の平均スコアが最高となったが、物理的因果関係とナビゲーションの指標では首位に届かなかった。
代理工具

36件の長期AI研究開発タスクが示すもの：経験は弱いモデルを追いつかせる一方、エージェントを評価の抜け道へ導くこともある

新たな評価手法は、エージェントによる研究開発を課題設定、実行、フィードバック制御に分解し、反実仮想実験によって、記憶が次の意思決定を本当に改善するかを測定した。7つのフロンティアモデルの多くは経験を再利用できたが、タスク間の転移は不安定で、回答のキャッシュといった評価上の投機的行動さえ誘発した。