Archive
技術ニュース 973 件
AI 可解釋性
SAEVerbalizerは、スパースオートエンコーダーのdecoder directionをGemma 3に注入し、モデルが特徴の説明を直接生成するよう訓練することで、特徴ごとに高活性化コーパスを検索する工程を省く。27B版は、より厳格なグローバルテストで56.1%のReference Agreementを達成したが、参照回答自体がモデルによって生成されているため、メカニズムの真実とはまだ見なせない。
機器人世界模型
DreamX-Phiは、2本のロボットアームの剛体変換をattentionに直接組み込み、深度、物体マスク、V-JEPA特徴量によって生成動画を制約する。WorldArena 2.0のスナップショットでは60.65点を獲得したが、モデル重みと推論コードはチャレンジ終了後まで公開されず、実機への汎化性能もまだ検証されていない。
AI 資安與網路自動化
TopoIntent は、構造化 schema、アーキテクチャ検索、コンプライアンスチェックを用いて、曖昧な要件を Mininet と iptables のテスト環境へ変換する。ホールドアウトテストでは、自動修正によってトポロジーレベルの制御を補完できることが示されたが、未見のデータセットは 14 件にとどまる。
開源醫療 AI
オープンソースのMARC v1は、抽出・推論・出力を担うエージェントをYAMLで定義し、Gemini APIまたはOllamaによるローカルデプロイをサポートする。エラーの特定とデータ管理を改善する一方、示されているのは3種類のユースケースのみで、マルチエージェント方式が単一プロンプトより高精度であることは証明されていない。
模型可解釋性與評估
新たな研究により、Sparse Autoencoder（SAE）のアブレーション評価では通常、各辞書がそれぞれ最大活性化トークンを選ぶため、同じように見える latent が実際には異なる位置で評価されていることが分かった。共通の位置に固定すると、対照実験で辞書の違いに起因するとされていた7.6%と11.9%の変動は、ほぼ消失した。
AI 代理與自動研究
VALGは機械学習理論の研究を、問題の形式化、証明依存グラフ、局所的な導出、多角的なレビューに分解し、失敗の階層に応じて修正するか、緩和した別ブランチを作成するかを決定する。COLT 2026の未解決9サブ課題に対して22件の内部確定候補を生成したが、元の問題設定に沿う結果が得られたのは2回の実行だけだった。
AI 程式開發與形式驗證
CAPRIは、「証明がIsabelleに受理されること」と「モデルが許可された領域だけを変更すること」を独立した2つの判定に分離した。180回の修復実験では、ビルド可能な候補144件のうち6件が保護対象のテキストを変更していたが、モデルの返答を証明本体のみに制限すると、契約違反は発生しなくなった。
模型訓練與評估
研究チームはFineWeb‑Eduから880億tokenのK–5コーパスを抽出し、0.6B、1.3B、5Bモデルと、計算量を揃えた対照モデルをゼロから学習させた。実験の結果、モデルの大規模化、SFT＋GRPO、コンテキスト内の例示は主に既存の能力を引き出すものであり、事前学習知識の境界を明確に越えることはなかった。
AI 安全與預訓練
Synthetic Persona Pretrainingは、「価値憲章」に基づいて生成した一人称の内省を事前学習文書の約10%に組み込み、さらに後学習によってそのペルソナをアシスタントのidentityに結び付ける。新たに公開された完全な実験結果、weights、データは、早期介入が主として価値観の汎化を改善する一方、一般的なjailbreakへの耐性には必ずしもゼロからの介入が必要ではないことを示している。
LLM 推論系統
Reduced Matrix Multiplicationは重みを変更せず、現在のactivationの列ノルムに基づき、行列乗算でスコアが最も高い共有次元のみを計算する。A100でのテストでは、シーケンスが長くなるほど効果が増した一方、短いコンテキストでは選択処理とkernel起動のコストが計算削減分をほぼ相殺した。
世界模型與評測
PlayWorldは、観測した画面に基づいてエージェントが制御命令を動的に修正し、世界モデルごとに移動量が異なるため固定軌跡の比較可能性が損なわれる問題を回避する。171のシーンを用いた評価では、既存モデルは滑らかな映像を生成できる一方、グローバルな空間構造や視野外で継続的に変化する状態の保持には依然として苦戦していることが示された。
AI 基礎設施
OpScaleはモデル全体を複製するのではなく、トラフィックとシーケンス長に応じて、その時点でボトルネックとなっているattentionやMLPなどの演算子だけをスケールアウトする。著者らはA100およびGB200クラスタ上で92万9,000件のリクエストをリプレイし、同じレイテンシ目標を最大36.3％少ないGPUで達成した。ただし、プロトタイプのコードはまだ公開されていない。