AI 安全
ResponseGuard 以單次前向傳播攔截多模態有害回覆,延遲較推理式防護低約 150 倍
ResponseGuard 將多模態回覆審查改寫為二元分類,不生成思考鏈,能在串流期間逐句判斷。作者自測顯示回覆偵測優於 3B 推理式基線,但模型權重、訓練程式與資料切分尚未實際上線。
Archive
GitHub 熱門專案、開源工具、框架、runtime 與重要 release。
AI 安全
ResponseGuard 將多模態回覆審查改寫為二元分類,不生成思考鏈,能在串流期間逐句判斷。作者自測顯示回覆偵測優於 3B 推理式基線,但模型權重、訓練程式與資料切分尚未實際上線。
最新模型
北京智源發布 AREX,讓研究代理逐項驗證暫定答案,再以尚未滿足的限制啟動下一輪搜尋。團隊同步釋出 Apache 2.0 權重與執行程式,但基準成績仍主要來自作者自評。
最新模型
Microsoft 公開「hill-climbing」後訓練流程,把產品工具、評分器與真實使用訊號接回模型迭代。MAI-Code-1-Flash 經 Excel 環境再訓練後可在較舊 GPU 上服務,但官方未披露參數規模、評測集或原始實驗資料。
具身 AI
OpenBMB 更新 MiniCPM-Robot 的權重、程式與部署文件,讓單一 1.5B VLA 處理多項操作任務,另以 0.9B 模型執行目標追蹤。串流上下文與客製推論核心降低重複視覺計算,但官方基準仍不足以證明跨機器人泛化。
代理工具
CLEF 2026 的 FinMMEval 公開兩項多語金融問答結果,顯示模型在封閉選項上可達 92% 至 97.5%,面對跨語證據的短答生成卻明顯失速。短答榜前四名差距不到一個百分點,也暴露 ROUGE 排名難以區分事實正確性。
代理工具
GitHub Issues 公開預覽代理自動化控制,讓標籤、欄位、指派與關閉等操作附帶信心等級及理由。管理者可把不確定操作留待人工核准,但 GitHub 明確警告,這套機制不能取代伺服器端權限控制。
代理工具
Prime Intellect 將軟體工程、終端操作與網路搜尋資料集整合為 23 個 taskset,透過統一 API 接入代理評測及強化學習。平台也延後注入測試與評分材料以降低 reward hacking,但評分仍與代理共用沙箱,隔離尚未徹底。
代理工具
Linear 議題現在可直接委派給 GitHub Copilot 雲端代理,由代理在 GitHub Actions 暫時環境中修改程式並建立草稿 PR。正式版新增模型、分支、自訂代理與執行中轉向控制,但跨平台權限及提示注入風險仍須由團隊治理。
推論系統
PyTorch 與 Google 為 Helion 建立 TPU 後端,讓 PyTorch 風格的核心程式可編譯成 Pallas,減少另寫 TPU 低階核心的負擔。團隊在 TPU v7 測得 Flash Attention 最高 838 TFLOPs,但功能仍處於積極開發階段。
代理工具
GitHub MCP Server 已提前支援預定 7 月 28 日定稿的 MCP 2026-07-28 規格。新版把協定核心改為無狀態請求,降低水平擴充成本,但自建客戶端與長任務實作仍須處理多項破壞性變更。
最新模型
Mage-Flow 把輕量 Mage-VAE、原生解析度 MMDiT 與 rectified flow matching 組成 40 億參數圖像模型。Microsoft 已釋出 MIT 授權權重及生成、編輯版本,但品質比較和效率數字目前仍主要來自團隊自評。
AI 安全
ResearchArena 把後訓練、CUDA 核心及推論伺服器最佳化改造成帶有隱藏攻擊目標的長流程評測。384 次實驗顯示,允許監控代理實際執行成品有助於找出後門,但訓練資料內的破壞仍經常漏網。