SURL AI News
繁中English日本語

Archive

最新模型

新模型、開放權重、多模態、語音、影像與模型架構。

代理工具

同一モデルの2エージェント、失敗タスクの90％で共倒れ——独立性の仮定が冗長化の信頼性を過大評価

Agent Behavioral Contracts IIは、事前登録された18,000回のタスクを通じ、同一モデルを使う2つのエージェントの失敗には強い相関があることを明らかにした。研究では、同時分布に対する線形計画法を用いて有限標本での下限を算出したが、現時点の証拠は2エージェント間の引き継ぎ設定に限られている。
AI 可解釋性

SAEVerbalizerは特徴方向を直接言語化するが、最良のグローバル一致率も56.1%にとどまる

SAEVerbalizerは、スパースオートエンコーダーのdecoder directionをGemma 3に注入し、モデルが特徴の説明を直接生成するよう訓練することで、特徴ごとに高活性化コーパスを検索する工程を省く。27B版は、より厳格なグローバルテストで56.1%のReference Agreementを達成したが、参照回答自体がモデルによって生成されているため、メカニズムの真実とはまだ見なせない。
最新模型

DreamX-Phi、SE(3)軌道制約による双腕動画予測でWorldArena 2.0暫定首位

DreamX-Phiは、2本のロボットアームの剛体変換をattentionに直接組み込み、深度、物体マスク、V-JEPA特徴量によって生成動画を制約する。WorldArena 2.0のスナップショットでは60.65点を獲得したが、モデル重みと推論コードはチャレンジ終了後まで公開されず、実機への汎化性能もまだ検証されていない。
GitHub Repo

MARCは臨床推論を追跡可能なエージェント・パイプラインに分解するが、初版では精度比較を未実施

オープンソースのMARC v1は、抽出・推論・出力を担うエージェントをYAMLで定義し、Gemini APIまたはOllamaによるローカルデプロイをサポートする。エラーの特定とデータ管理を改善する一方、示されているのは3種類のユースケースのみで、マルチエージェント方式が単一プロンプトより高精度であることは証明されていない。
最新模型

SAEが各自で最大活性化トークンを選ぶことで生じる辞書間の因果的変動、11.9%からほぼゼロに

新たな研究により、Sparse Autoencoder（SAE）のアブレーション評価では通常、各辞書がそれぞれ最大活性化トークンを選ぶため、同じように見える latent が実際には異なる位置で評価されていることが分かった。共通の位置に固定すると、対照実験で辞書の違いに起因するとされていた7.6%と11.9%の変動は、ほぼ消失した。
代理工具

CAPRI、Isabelleの証明修復に編集契約を導入し、ビルド可能だが権限を逸脱した6件の候補を阻止

CAPRIは、「証明がIsabelleに受理されること」と「モデルが許可された領域だけを変更すること」を独立した2つの判定に分離した。180回の修復実験では、ビルド可能な候補144件のうち6件が保護対象のテキストを変更していたが、モデルの返答を証明本体のみに制限すると、契約違反は発生しなくなった。
最新模型

LittleLearner、事前学習知識を小学5年生レベルに制限—高度な数学への少数ショットプロンプティングでも約6%にとどまる

研究チームはFineWeb‑Eduから880億tokenのK–5コーパスを抽出し、0.6B、1.3B、5Bモデルと、計算量を揃えた対照モデルをゼロから学習させた。実験の結果、モデルの大規模化、SFT＋GRPO、コンテキスト内の例示は主に既存の能力を引き出すものであり、事前学習知識の境界を明確に越えることはなかった。
AI 安全

SPP、最初のtokenから価値観の内省を埋め込み、3BモデルのOODリスク差を19ポイントに拡大

Synthetic Persona Pretrainingは、「価値憲章」に基づいて生成した一人称の内省を事前学習文書の約10%に組み込み、さらに後学習によってそのペルソナをアシスタントのidentityに結び付ける。新たに公開された完全な実験結果、weights、データは、早期介入が主として価値観の汎化を改善する一方、一般的なjailbreakへの耐性には必ずしもゼロからの介入が必要ではないことを示している。
推論系統

RMM、入力に応じて行列乗算の縮約軸を枝刈り――Llama 3.1 8Bの長文コンテキストで最大1.40倍高速化

Reduced Matrix Multiplicationは重みを変更せず、現在のactivationの列ノルムに基づき、行列乗算でスコアが最も高い共有次元のみを計算する。A100でのテストでは、シーケンスが長くなるほど効果が増した一方、短いコンテキストでは選択処理とkernel起動のコストが計算削減分をほぼ相殺した。
最新模型

PlayWorld、マルチモーダルエージェントで9つの世界モデルを実際に操作――長期的一貫性の最高スコアは依然2.12／5

PlayWorldは、観測した画面に基づいてエージェントが制御命令を動的に修正し、世界モデルごとに移動量が異なるため固定軌跡の比較可能性が損なわれる問題を回避する。171のシーンを用いた評価では、既存モデルは滑らかな映像を生成できる一方、グローバルな空間構造や視野外で継続的に変化する状態の保持には依然として苦戦していることが示された。
AI 基礎設施

OpScale、LLMのスケーリング単位を演算子レベルに分解、Qwen2サービスのGPU使用量を平均35～50％削減

OpScaleはモデル全体を複製するのではなく、トラフィックとシーケンス長に応じて、その時点でボトルネックとなっているattentionやMLPなどの演算子だけをスケールアウトする。著者らはA100およびGB200クラスタ上で92万9,000件のリクエストをリプレイし、同じレイテンシ目標を最大36.3％少ないGPUで達成した。ただし、プロトタイプのコードはまだ公開されていない。