AI 安全
RAG-Safety-Bench 隔離檢索品質變因,顯示安全微調未必能承受答案型文件
新基準固定檢索內容,以四種條件測量 RAG 如何改變五款開放模型回答有害問題的行為。含答案的文件讓所有模型更容易產生正確但危險的內容,而安全裁判之間也只有中度一致性。
Archive
新模型、開放權重、多模態、語音、影像與模型架構。
AI 安全
新基準固定檢索內容,以四種條件測量 RAG 如何改變五款開放模型回答有害問題的行為。含答案的文件讓所有模型更容易產生正確但危險的內容,而安全裁判之間也只有中度一致性。
具身 AI 與機器人
Show-Harness 讓通用 VLM 輸出方向、夾取與釋放等符號,再由各機器人的直譯器轉成受限運動。Gemini 零樣本與微調後的 Qwen 2B 在十項實機任務分別達 89% 與 86%,但測試仍集中於桌面取放。
最新模型
小米提出端到端目標說話者 ASR,把一至四秒參考語音和混合錄音送入同一音訊編碼器,不先執行語音分離。模型也能在目標缺席時輸出空字串,但訓練大量依賴未公開資料,且首版報告尚未提供可驗證權重與程式。
推論系統
PELM 不只調整處理器頻率,還動態選擇推測解碼設定與驗證深度,在熱限制下共同控制硬體和模型工作量。論文報告最高 23.1% 加速及 52.4% 節能,但峰值結果不能直接外推到手機或其他模型。
AI 安全
Datasette 首次以 Claude、GPT 系列代理執行完整安全稽核,再由兩名開發者交叉撰寫測試與修補程式。新版收緊私有資料權限、SQL/HTML escaping、認證及 HTTP 快取,但部分重現測試暫緩公開,外界尚不能完整獨立驗證漏洞範圍。
推論系統
SageMaker 即時推論端點新增 `PREFIX_AWARE`,讓相同系統提示、文件或對話歷史盡量落到同一實例。官方七節點測試顯示長前綴工作負載明顯受益,但序列化差異、熱門前綴與快取容量仍會左右實際成效。
地球觀測與應用研究
Google 與 NASA JPL 讓視覺 Transformer 直接結合 EMIT 的光譜及空間脈絡,同時估算濃度、羽流邊界與排放源位置。公開模型找回約八成專家標註案例,但更高敏感度也帶來地表混淆與假陽性風險。
AI 安全
AgentAudit 不只計算任務是否完成,而是從執行軌跡分別檢查規劃、記憶、工具選擇、安全與執行完整性。五款模型的綜合信任分數差距很大,但九項任務與單一模型裁判不足以支持通用排名。
生成式音訊
YuE2 把旋律與和弦的符號規劃、語意 token 和 flow-matching 音訊合成放進同一套生成流程。權重可在 24GB GPU 執行,但非商用授權及最佳八選一評測,使其與商用系統的比較仍須保守解讀。
代理工具
Φ-Bench 將評測範圍從單一 GPU kernel 擴大至跨檔案實作與端到端系統最佳化。八款前沿模型都能偶爾找到有效修改,但推理預算增加並未穩定轉化為更好的工程結果。
代理工具
Pizza Bot 將代理狀態、核准要求與排程結果保存於伺服器,使用者離開對話後工作仍可繼續。它支援多家模型、MCP 與 Agent Skills,但本機優先不代表工具安全,遠端部署與外掛仍須自行建立信任邊界。
應用研究
NASA‑IBM Lunar Foundation Model 以近 200 萬組對齊的月球資料,跨越每像素 1 公尺至 100 公尺的尺度差距。模型、資料與微調程式均已公開,但冰層輸出仍是間接推測,不能用於著陸或探勘決策。