AI 安全與評測
ResearchArena、AI研究開発エージェントによる意図的な妨害を検証――データポイズニングはコードのバックドアより監視による検出が困難
ResearchArenaは、ポストトレーニング、CUDAカーネル、推論サーバーの最適化を、隠された攻撃目標を伴う長期工程の評価へと作り替えた。384回の実験では、監視エージェントに成果物を実際に実行させることでバックドアを発見しやすくなる一方、訓練データに仕込まれた妨害は依然として見逃されることが多いと示された。
Archive
技術ニュース 33 件
AI 安全與評測
ResearchArenaは、ポストトレーニング、CUDAカーネル、推論サーバーの最適化を、隠された攻撃目標を伴う長期工程の評価へと作り替えた。384回の実験では、監視エージェントに成果物を実際に実行させることでバックドアを発見しやすくなる一方、訓練データに仕込まれた妨害は依然として見逃されることが多いと示された。
AI 基礎設施
オープンソースプロジェクトのGigaToken 0.9.0は、事前トークン化、BPEマージ、データ入力経路を再最適化し、デュアルソケット構成の144コアAMD EPYCホスト上でHugging Face Tokenizersの989倍高速だとしている。ただし、最大性能はネイティブAPI、11.9 GBのバッチコーパス、高度な並列ハードウェアに依存しており、オンラインの短いリクエストにそのまま当てはめることはできない。
開放權重模型
韓國 Upstage 發布面向長流程代理的 Solar Open 2,將 2500 億參數 MoE、混合注意力與百萬 token 上下文整合於同一模型。官方表示量化後可用兩張 NVIDIA H200 部署,但效能與長上下文穩定性目前主要依賴團隊自測。
開源與 AI 開發工具
SashikoとPatchworkの連携をめぐる議論の中で、Linus Torvaldsは、Linux kernelは反AIプロジェクトではないと明言した。反対者はオープンソースのルールに従ってforkするか、離れることを選べる。これはAI生成物を無条件に容認するものではなく、AIツールを既存の技術評価の枠組みに組み込むということだ。成果は有用でなければならず、責任は引き続き人間のmaintainerとsubmitterが負う。
AIBTestは、WebサイトのA/Bテストをドメイン検証、短期クレデンシャル、ブラウザでのトラフィック振り分け、MCPレポートという4段階のフローに分割した。AI agentが実験を提案するだけでなく、制限された権限のもとで実験を運用できるようにすることが狙いだ。初期版ではcredential-safeな設計と、DOMの変更範囲を限定することを重視しているが、現時点のレポートは記述統計的な指標が中心で、統計的有意性はうたっていない。
代理基礎設施
Claude Managed Agentsのメモリ一覧取得には7月22日付で新ルールが適用され、安定した並び順、ディレクトリ形式のプレフィックス照合、クエリ深度の制限などが導入された。これは単なるSDKのヘッダー変更ではなく、既存の同期プログラムで400エラー、項目の取りこぼし、カーソルの無効化が発生する可能性がある。
AI 科學與高效能運算
Genesis Missionの第1弾プロジェクトは、原子力、重要鉱物、チップ設計、商用核融合を網羅。研究チームはモデル、エージェントフレームワーク、高性能コンピューティング資源を共同利用する。OpenAIもCodexの利用権とAPIクレジットを提供し、約2,000人の研究者と2件の大規模科学実験を支援する。
訓練系統
研究チームはDeepSeek-V4ファミリー向けに並列化戦略、通信スケジューリング、カーネル、演算子融合を再設計し、Ascendでの学習効率をオープンソースのベースライン比2.93倍に高めた。さらに、ソルバーで検証したデータを用いてオペレーションズ・リサーチ用モデルを学習したが、コード、データ、ハードウェア測定については、より完全な公開再現性が求められる。
端側推論
BaseRTは、手書きのDense/MoE GEMMおよびFlashAttentionカーネルを追加し、プロンプト段階の行列演算をM5 GPU内のNeural Acceleratorに委ねる。チームはM5 Proでllama.cppとMLXを大幅に上回ったと報告しているが、現時点のデータは開発元による単一マシンでのテストに限られる。
程式代理/推論最佳化
SWE-Pruner Proは独立した分類器の呼び出しを廃止し、軽量な予測ヘッドを使ってコーディングエージェントの内部表現から、ツール出力の各行を保持すべきか判断する。2つのオープンMoEモデルと4つのマルチターン・ベンチマークでトークン削減を達成したが、推論サーバーの改修が必要で、一部の品質向上については今後の再現検証が待たれる。
具身 AI/機器人
Alibaba DAMO Academyは、2B、9B、122B-A10Bの3種類のRynnBrain 1.1モデルを公開し、接触点予測とネイティブ3D groundingを追加した。併せて開発されたRynnBrain-VLAは、統一されたアクション空間を用いてUnitree G1、Astribot-S1、天機舞姫を横断的に訓練するが、ハードウェア間の汎化性能は、現時点では主にチーム独自の実験によって裏付けられている。
開發者工具
GitHubはCopilot impact dashboardを追加し、「Code-first」「Agent-first」「Multi-agent」などの利用フェーズ別に、マージ速度とアウトプットを比較できるようにした。新しいインターフェースにより、企業はツール導入の深度を把握できるが、欠陥、手戻り、長期的な保守コストといった品質シグナルは依然として不足している。