Archive
技術ニュース 1520 件
AI 安全
新たなベンチマークは、150件の SWE-bench Verified タスクをセキュリティ上の罠を含む750件の issue に書き換え、自動修復エージェントが機能的には正しいものの安全ではないコードを提出するかを検証した。3種類のモデルバックエンドでは、平均51.7%のケースで修復と攻撃目標の両方が達成され、一般的なモデルレビューや静的解析でも多数の悪意ある patch を見逃した。
AI for Science／訓練基礎設施
Periodic Labsは1,300基のH200を用い、1兆パラメータのオープンモデルに科学分野のmid-trainingと強化学習を施し、複雑なX線回折結果をNeonが自動解析できるようにした。ただし、成功率55.3%やフロンティアモデルとの比較は、いずれも社内データ、専用ツールチェーン、モデルによる評価に基づく。現段階では、実証済みの自律的な科学的発見というより、検証可能な垂直型AIのレシピと見るべきだ。
最新模型
SalesforceはNemotron 3 Superをベースに、合成した企業シナリオ、SFT、GRPOを通じて、初のCRM推論モデルKoaを訓練した。複数ターンのツール使用は大幅に改善したものの、論文では総合性能が依然として最先端モデルに及ばないことを認めており、公式発表の「エラーが3分の1」という数字も自社のCRM評価に基づく。
代理工具
NVIDIAの研究チームが、criticを使わない単一rollout訓練手法を提案した。長さの異なるツール軌跡を完了次第更新に投入できる。小規模モデルの実験では、半分のrollout数で掲載されたGRPOベースラインを上回ったが、環境やモデル規模をまたぐ安定性はまだ十分に検証されていない。
搜尋與推薦系統
Google Researchは、強化学習で生成した集合レベルの検索戦略を、複数のベクトルを並列出力できる軽量な拡散モデルへ蒸留した。実験では自己回帰的な展開より12～20倍高速だとしているが、現時点の証拠はファッションデータと非公開の音楽データセットに集中している。
推論系統
TypeSafe AIのJevは、事前定義されたブール値、選択肢、スコアのみを生成し、モデル推論をプログラムへ直接組み込める低レイテンシーの分岐へ変えようとしている。ただし、型が正しいことは判断が正しいことを意味せず、公式がうたう速度とコストの優位性も、自社製ワークフローと非公開モデルに基づいている。
最新模型
Gensynは、16.1億パラメータモデルのデータ、チェックポイント、ステップごとのハッシュ、リプレイツールを公開し、第三者が訓練状態と公表内容の一致を抜き取り検査できるようにした。この再現性には約5倍の訓練性能コストが伴い、ハッシュの一致だけでは、元のクラスターが実際に公表どおり稼働したことを証明できない。
訓練基礎設施
Hugging Faceは、`AsyncGRPOTrainer`の学習とvLLMによるrolloutを別々のマシンに分散し、共有オブジェクトストレージ経由で数MBのLoRA adapterだけを転送する仕組みを導入した。公開実験では500 stepの処理時間を3時間27分から53分に短縮したが、結果は単一の小規模モデル向けレシピに基づくものであり、大規模RLの収束性やコスト優位性が実証されたわけではない。
AI 安全
新たな研究により、無害に見える表現でcontextに挿入された誤った計画を、モデルが取り込み、書き換え、実行に移し得ることが判明した。最も強力なmonitorでも、攻撃の少なくとも4分の1を見逃した。monitorに元の注入内容を見せたり、推論予算を増やしたりしても検出性能の向上は保証されず、agentの安全性を出力されたChain-of-Thoughtだけで証明することはできないと示唆される。
代理工具
新たにオープンソース化されたReefは、OpenAIおよびAnthropic互換の推論エンドポイントを通じて追跡可能なインタラクションを収集し、モデルの重みまたはエージェントharnessを非同期で更新する。ホットアップデートとバージョンロールバックに必要なコントロールプレーンを補完する一方、学習データの汚染、評価器のバイアス、本番環境での安定性は今後の検証を要する。
最新模型
Googleは2つのネイティブ音声モデルを発表した。Extended Thinkingでは、音声を継続的に出力しながらバックグラウンド推論と非同期ツール呼び出しを実行できる。新プロトコルは長時間の音声エージェント処理における並行性を高める一方、開発者にはセッション状態マシンと割り込み処理の書き直しを求める。
最新模型
ShadowPEFTは、タスク適応を凍結済みバックボーンと並行して動作する訓練可能な小型モデルとして構成し、PEFTの標準的な設定・保存・読み込みインターフェースに統合された。初期実験では、同程度のパラメータ数を持つLoRAとDoRAを上回った一方、追加メモリ、二重のKV cache、安定版にまだ含まれていない点がデプロイ上のコストとなる。