SURL AI News
繁中English日本語

Archive

最新模型

新模型、開放權重、多模態、語音、影像與模型架構。

AI 安全

Model Hypnosis、無関係なテキスト手がかりの重ね合わせで推論モデルの二択回答確率を大幅に反転

新たな研究では、加法的な対数オッズモデルを用いて、言い換え、誤字、動物名、JSONフィールドがもたらす微弱なバイアスを測定し、同じ方向に作用する手がかりを組み合わせてプロンプトを作成した。最適化されたプロンプトの一部はモデル間で転移したが、現時点の実験は人為的に設計された二者択一問題に集中している。
代理工具

エージェントが事前に監査と修復を完了すると、次回検証時の偽陽性率が最大11.5ポイント低下

新たな研究によると、検証対象の内容がまったく同一でも、過去の監査・修復経験がコンテキストに残っていると、複数のオープンモデルで誤検出が減少する。信号検出分析では弁別力の同時向上は確認されず、エージェント・パイプラインがモデルの判断精度を高めるだけでなく、検証の判定閾値を変化させていることが示唆された。
代理工具

ClawGym II、エージェントフレームワークの境界で軌跡を取得し、ブラックボックスの Claude Code も強化学習に参加可能に

ClawGym II はエージェントフレームワークの内部を変更せず、モデルサービス境界で呼び出しをインターセプトし、prefix tree を用いて複数ターンの軌跡を復元する。訓練後の Qwen3-30A3B は、OpenClaw と Claude Code で ClawGym-Bench を実行した際の Pass@1 が、それぞれ9.98ポイント、14.81ポイント向上した。
AI 安全

コンプライアンス検出器、ルールを与えても主に文脈を読み、交差ルールテストではほぼランダムに

新たな研究により、複数のguard modelとactivation probeは、ルールを削除、シャッフル、置換しても判定精度がほとんど変わらないことが分かった。テキスト上のショートカットを排除するために設計された交差テストでは、高速な検出器の成績はランダムに近く、ルールと文脈を組み合わせる能力が明確に回復したのは、段階的推論モデルだけだった。
代理工具

1万超のエージェント社会にコンセンサス・分極化・無関心の3相、Isingモデルで意見の進化を予測

Stanfordの研究チームが1万件を超える言語モデル・エージェント社会をシミュレーションし、複数ラウンドのコミュニケーションによって弱い意見が徐々にコンセンサスまたは分極化へ向かうことを明らかにした。研究では拡張Isingモデルを用い、未観測の通信グラフにおける個々の軌跡を予測したが、政治的設問では右寄りへのシフトも生じ、協調が必ずしもモデルのバイアスを解消しないことが示された。
AI 安全

JailbreakSkill、脱獄戦略を進化可能なスキルとしてカプセル化し、HarmBenchのASRをさらに13.4ポイント向上

JailbreakSkillは、プロンプトの書き換え、失敗分析、スキル進化を統一インターフェースでカプセル化し、レッドチーム・エージェントが未成功の攻撃軌跡から新たな手順を生成できるようにする。第2段階により、AdvBenchとHarmBenchにおけるモデル横断の平均攻撃成功率は、それぞれさらに17.5ポイントと13.4ポイント上昇したが、評価はGPT-4oによる判定に依存している。
推論系統

ParaTempo、時間的信頼度で推論ブランチを非同期に刈り込み、Qwen3.5のレイテンシを21.8%削減

ParaTempoは各推論パスの暫定回答分布を定期的にプローブし、その結果に基づいて刈り込み、早期終了、分岐を個別に実行する。Qwen3.5-35B-A3Bでは、4つのベンチマークにおける平均精度が固定16パスのself-consistencyを1.1ポイント下回った一方、レイテンシと生成token数をそれぞれ21.8%と30.3%削減した。
開發者平台

Claude旧版Workbenchが廃止、3つの実験的prompt APIも同時にエラーを返すように

Anthropicは8月17日、旧版Workbenchへのアクセスを終了した。保存済みのprompts、バージョン、変数、evalsは新版インターフェースへ引き継げない。新版はサーバー側に履歴を保持しないMessages APIの試験環境となり、promptの生成、改善、テンプレート化を行う実験的エンドポイントも同時に廃止された。
推論系統

llama.cpp b10472、AMD APUのメモリ判定を修正し、Strix Haloに存在しない空き容量が割り当てられる問題を回避

新版では、Linux HIPビルドにおいてシステムの`MemAvailable`でGPUメモリ情報を上書きする処理を廃止し、`hipMemGetInfo`の値を信頼するよう変更した。この修正は、UMA carveoutを調整可能なAMD APUを対象としており、モデルローダーが容量を過大評価し、後から失敗するリスクを軽減する。
代理工具

PACE-Bench、物理法則の変更で既存のエージェント設計が機能不全に――完全設定で最高のPass@2も35.9%にとどまる

PACE-Benchは、144件の実行可能な物理環境を用い、摩擦や材料の制約が変わったことで動作しなくなった、過去には成功していたプログラム設計をエージェントが修正できるかを検証する。実験では、未検証の自己修正よりReflexionが優れる一方、長期記憶はむしろ高性能なモデルを初期案に縛り付けることが示された。
訓練基礎設施

Rollplex、VLM強化学習のプレフィックス計算をrolloutの空き時間に組み込み、32基のH800で最大1.30倍の学習高速化

Rollplexは、参照モデルと学習用actorの動画エンコードおよびprompt prefillを自己回帰デコード中に先行実行しながら、同期on-policyのセマンティクスを維持する。CUDA VMMでフェーズをまたぐメモリを管理し、テンソル並列度が異なる学習プロセスと推論プロセス間で互換性のある重みを共有する。