AI 安全
OWASP Agentic Skills Top 10 完成 v1 公開審查,將技能供應鏈列為獨立攻擊面
OWASP 的 Agentic Skills Top 10 v1 草案結束公開審查,將惡意技能、權限過度、依賴混淆與跨平台移植風險整理成十類控制項。框架把技能視為模型與 MCP 工具之間的行為層,並提出可宣告權限、來源及完整性的通用格式。
Archive
GitHub 熱門專案、開源工具、框架、runtime 與重要 release。
AI 安全
OWASP 的 Agentic Skills Top 10 v1 草案結束公開審查,將惡意技能、權限過度、依賴混淆與跨平台移植風險整理成十類控制項。框架把技能視為模型與 MCP 工具之間的行為層,並提出可宣告權限、來源及完整性的通用格式。
最新模型
VIDRAFT 公開 POCKET 系列權重,把 35B 模型量化至最低 8.2 GB,並保留約 3B 的每 token 啟用參數。模型可直接使用上游 llama.cpp,但壓縮方法未公開,效能與品質證據目前也主要來自開發團隊。
最新模型
ReToken 不把所有影像 token 一次送入模型,而是從預先填入的視覺 KV cache 中取回與問題相關的稀疏區塊。其凍結骨幹、只訓練檢索 token 的做法可在單張 H100 上完成,但成果仍主要來自兩款 8B 模型。
基準與基礎設施
MLCommons 發布 Endpoints v0.7,把推論測試從固定批次提交改造成可自動審核、持續更新的端點基準基礎設施。即將納入的多輪代理負載會同時衡量單一使用者進度與整體吞吐量,而非只計算孤立請求的 tokens/s。
形式驗證與 AI 求解
LeanCSP 把模型等價性、對稱破除及求解結果檢查納入同一條 Lean 4 驗證鏈。外部求解器仍負責昂貴搜尋,但錯誤憑證無法在 Lean 核心中形成定理。
AI 安全
新框架把「模型誤信衍生數值」拆成衝突接受、情境誤導、錯誤修復與效用損害等指標。以 PPG 心律判讀為案例,訓練時借用 ECG、部署時只需 PPG 的可靠度模型改善四項端點,但資料與權重未隨程式碼公開。
最新模型
DualG-MRAG 以巨觀圖尋找跨文件推理路徑,再用微觀圖核對局部影像與文字證據,避免細粒度節點使知識圖快速膨脹。研究在 MMQA 將 R@5 從最佳圖式基線的 42.1% 提高至 61.9%,但尚未公開程式碼與索引建置成本。
代理工具
Group-Reflective Self-Distillation 不再從外部教師擷取固定技能,而是比較同一策略成功與失敗的 rollout,再把差異轉成逐回合訓練訊號。它在三種代理環境取得整體改善,但訓練時間較 GRPO 增加 17%,且仍須呼叫外部模型評分反思文字。
GitHub Repo
GCC 指導委員會通過 AI 貢獻政策,原則上拒絕包含或衍生自 LLM 輸出的重大程式碼與文字。模型仍可用於除錯、分析與審查,維護者也可接受生成測試,但輸出不可直接進入一般貢獻。
代理工具
Change2Task 從已合併 PR 提取開發意圖,再於同一儲存庫的現代版本重建可執行任務。研究在 1,130 個候選變更中產生 900 組任務,但多數案例仍須依賴另一個程式代理完成重建。
代理工具
MemHarness 不再原樣回放檢索到的歷史經驗,而是讓同一策略模型依目前狀態先批判、重組,再決定行動。以 GRPO 端到端訓練後,它在 ALFWorld 與 WebShop 分別取得 85.2% 與 75.6% 成功率,但程式與權重尚未公開。
LLMOps
Grafana 將內部使用的代理觀測平台推向正式可用,並公開支援五種語言及多款代理框架的 agento11y SDK。平台把對話、工具執行、成本、OTel traces、線上評分與離線實驗接入同一套回歸流程,但完整產品仍綁定 Grafana Cloud。