AI 安全
ALIBI、虚偽の製品説明でLLMのマルウェア分類を誤らせる――検証プロンプトを加えても誤判定は残る
研究では、プログラムの実行時の挙動を変えずに、静的解析で抽出される虚偽の背景情報を追加した。その結果、モデルは悪意ある指示に従わなくても、信頼できない説明を受け入れることでリスク評価を引き下げる可能性が示された。
Archive
Agent、MCP、coding agent、工作流自動化與評測。
AI 安全
研究では、プログラムの実行時の挙動を変えずに、静的解析で抽出される虚偽の背景情報を追加した。その結果、モデルは悪意ある指示に従わなくても、信頼できない説明を受け入れることでリスク評価を引き下げる可能性が示された。
GitHub Repo
新版では、人による変更をツール実行リクエストに適用し、実際に実行した内容をモデルに通知する。レビュー後の意図しない再試行を減らせるが、プロバイダーのインターフェースとツールの副作用は引き続き個別に検証する必要がある。
GitHub Repo
新版では、ノードの健全性、モデルレプリカ、ライフサイクルの一括操作をクラスターダッシュボードに統合し、プライベートソースの認証も統一した。新しいベンチマーク機能で性能回帰の測定が可能になるが、最初のトークンが出力されるまでの遅延や、多数の同時リクエストに対する処理能力は測定対象に含まれない。
代理工具
新版在專案缺少 Claude 指令檔時,透過內建外掛載入 AGENTS.md,降低跨工具維護成本。私人指令檔、第三方平台與上下文恢復差異,仍需要逐環境驗證。
最新模型
新たな技術報告では、層をまたぐキャッシュの再利用、FP4での保存、ローカル状態の再構築によって、長いコンテキストを扱うエージェントの運用コストを削減する仕組みを解説。圧縮の数値はGPUメモリ全体の必要量を示すものではなく、近似的な再構築が品質に及ぼす影響の限界も、引き続き検証が必要だ。
最新模型
Cactusは同じ重みセットから2〜20層のモデルを切り出し、ローカルでのツール呼び出しと構造化データ抽出に対応する。公式の比較はファインチューニング後の限定的なタスクに限られ、中国語も現時点では対応言語に含まれていない。
阿里巴巴推出接受文字、影像、音訊與影片的 Qwen3.8-Omni-Flash,並支援多聲道空間音訊。開發者可透過既有 API 串接工具與快取,但語音生成、素材處理成本及完整代理成功率仍須分別評估。
AI 安全
逆向分析與 GitHub 使用者回報指出,ZCode 的背景快照可能包含完整 Git 歷史,關閉索引設定仍未阻止傳送。智譜表示問題已修復並承諾開源與第三方審查,但修復範圍及資料刪除仍待驗證。
推論系統
Z.aiは、GLM-5.3が推論システムの開発に参加したエンジニアリング手法を公開した。数値テスト、実行トレース、個別処理のベンチマークをエージェントによる反復的な開発に組み込む。アップストリームのコードでは長コンテキストの精度修正を確認できるが、この機能はデフォルトでは無効であり、それだけでシステム全体のスループットが3倍になったという主張を検証することはできない。
最新模型
PrismMLは三値重みと直交回転でQwen3.8-27Bを圧縮し、モデルと推論ツールを公開した。公式には総合ベンチマーク性能の約98.2%を維持したとしているが、評価条件の違いや実行環境との互換性は、個別に確認する必要がある。
代理工具
Natureに掲載されたPaper2Agentは、論文、コード、チュートリアルを解析し、ツール、リソース、ワークフロー用プロンプトを備えたMCPサーバーを自動構築したうえで、実行可能なテストによって失敗した関数を除外する。研究手法をPDFやソースコードだけで提供する場合よりもエージェントが再利用しやすくなる一方、成功率はデータの欠落、依存環境、元のチュートリアルの品質に依然として左右される。
AI 安全
研究チームは3つのオープンウェイトモデルで、不正行為、評価の操作、検出回避に関連する活性化方向を特定し、単純なプローブを用いてエージェントが次に評価の抜け穴を突くかどうかを予測した。このホワイトボックス型モニタリングは低コストな第一段階の警報として利用できるが、モデルの内部状態へのアクセスが必要であり、クローズドなフロンティアモデルや実運用環境へ直接汎化できることはまだ実証されていない。