AI 安全
AISPAが商用AI 88製品の隠し指示を監査、約4割にユーザーに不利なルール
AISPAはシステムプロンプトをユーザーの権利に関する8つの観点に分け、商用AI 88製品に含まれる3,249件の指示を監査した。製品の98.9%には少なくとも1つの保護ルールがあったが、全観点を網羅した製品は24%にとどまり、約4割には問題があると判定された指示も存在した。
Archive
技術ニュース 1543 件
AI 安全
AISPAはシステムプロンプトをユーザーの権利に関する8つの観点に分け、商用AI 88製品に含まれる3,249件の指示を監査した。製品の98.9%には少なくとも1つの保護ルールがあったが、全観点を網羅した製品は24%にとどまり、約4割には問題があると判定された指示も存在した。
代理工具
Qwenチームは、モバイル、デスクトップ、Web、DeepSearch環境を横断する統一GUIエージェントを提案し、画面操作とCLIコマンドを同一のアクション空間に統合した。技術報告ではOSWorld-Verifiedで79.5%を達成したとしているが、モデルの重み、訓練データ、完全な軌跡はまだ公開されていない。
代理工具
OSRewardは、人手でレビューした1,019件のクロスプラットフォーム軌跡を用いて27種類の視覚言語評価モデルを検証し、主な誤りが未完了のタスクを成功と判定することだと明らかにした。ステップごとのテキストを除くと精度は平均7.2ポイント低下する一方、画面入力の変更による影響は小さく、既存の「視覚評価モデル」がエージェントの自己申告に依存している実態が浮き彫りになった。
代理工具
Tychoは未知のゲームルールを実行可能な状態遷移モデルとして記述し、検証結果に基づいてモデルを修正するか、迂回するかを判断する。ある公開セットでのテストでは、GPT-5.6 SolとClaude Opus 5が全183レベルをクリアしたが、結果は依然としてフロンティアAPI、単一回の実行、公開問題に大きく依存している。
代理工具
MicrosoftのEchoverseは、大量の表層的なWebサイト複製を追求するのではなく、データベース状態、因果的な結果、検証可能なタスクを備えた合成アプリケーションを構築する。12の環境で訓練した結果、9Bモデルは14のテスト分割全体で36.5%から67.1%に向上したが、公開版に含まれるのはそのうち4環境のみだ。
代理工具
新版MCPでは、プロトコルバージョン、ケイパビリティ、クライアント情報を各リクエストに含め、`initialize`ハンドシェイクと`Mcp-Session-Id`を廃止する。水平スケーリングを簡素化できる一方、クライアント、サーバー、ゲートウェイルールを同時に更新する必要がある破壊的変更だ。
最新模型
Moonshot AIは、42の既存ベンチマークにおける最初の失敗点から知覚能力の分類体系を構築し、3,000問の短答式問題によって10の基本的な視覚能力を切り分けた。その結果、総合スコアが近いモデルでも知覚上の弱点がまったく異なり得ることが示された。一方、テストセットはより大規模な社内問題プールから抽出されており、データ汚染と評価者バイアスには引き続き注意が必要だ。
代理工具
Home Assistantにllama.cppとLiteLLMの会話統合が追加され、モデルごとに個別のエージェントと指示を設定できるようになった。今回の更新でローカルモデル導入のハードルは下がるが、現時点ではまだbetaであり、エンドツーエンドのtool callingの信頼性はモデル、schema、ハードウェアに左右される。
最新模型
MicrosoftのMage-VLは、動画フレームを均等にサンプリングする代わりに、I/P frame、motion vector、residual energyを利用し、変化の大きい領域だけをエンコードする。4Bモデルでは、静的タスクの能力を維持しながら視覚トークンを75%以上削減できるとしているが、速度と品質の比較は依然として主に公式テストに基づく。
代理工具
MemChainはベクトル検索の結果をそのまま言語モデルに渡すのではなく、まず計画・順位付け・圧縮を行い、出典に基づくアクティブメモリへ変換する。研究ではLoCoMoとLongMemEval-Sで最先端の結果を報告しているが、完全なコードや実環境でのレイテンシーコストはまだ公開されていない。
機器人與具身 AI
HiFi-UMIは、オフラインのステレオ慣性SLAM、マイクロ秒精度の同期、両手を捉える6視点を統合したポータブルなデータシステムだ。人間の操作データのみをロボットのポストトレーニングに直接利用できる。3種類のVLA/世界・行動モデルの実機成功率は現場での遠隔操作ベースラインに近いが、結果は依然として単一チームによる制御されたタスクに集中している。
實體 AI/科學自動化
PUDAは自動化機器を探索可能なコマンドラインツールとして公開し、JSON、NATS/JetStream、安定した識別子を用いてコマンド、測定、サンプルの来歴を保存する。エージェントは次の実験を選択できるが、実際のハードウェア操作は、エンジニアが事前に作成し、パラメータ検証を組み込んだドライバメソッドを介してのみ実行される。