推論系統
GCache 依全程誤差影響配置擴散快取,Wan2.1 同速下 LPIPS 降至 0.0316
GCache 不再以相鄰去噪步驟的局部相似度決定是否重算,而是搜尋對最終畫質影響最低的快取重用序列。它在 Wan2.1 維持 2.17 倍加速時大幅降低偏差,但策略搜尋需要多張 H100,實作亦尚未公開。
Archive
Agent、MCP、coding agent、工作流自動化與評測。
推論系統
GCache 不再以相鄰去噪步驟的局部相似度決定是否重算,而是搜尋對最終畫質影響最低的快取重用序列。它在 Wan2.1 維持 2.17 倍加速時大幅降低偏差,但策略搜尋需要多張 H100,實作亦尚未公開。
推論系統
新方法針對數千至一萬個合法字串預先建立 trie 狀態與 token mask,避開通用文法編譯的基數瓶頸。作者測得批次 256 時每秒處理 219 個請求,但尚未公開實作,數字也包含繞過既有 guided-decoding 路徑的整合收益。
新研究發現,混合線性注意力模型的巨量啟用並非隨機散布,而會在完整注意力層前形成尖峰,並於中間的線性層維持平台。團隊公開分析程式與受控模型,但完整論文圖表所用的逐筆輸入尚未全部釋出。
代理工具
一項新研究以廣義性理論拆解 TheAgentCompany、τ²-bench 與 AppWorld,發現代理與任務的交互作用遠大於代理本身的平均差異。作者提出 DDR 報告框架,要求選型時同時交代任務難度、留出驗證、成本與所需樣本量。
代理工具
LLNL 團隊讓代理探索 Flux、Slurm、Kubernetes 等資源,再把高階意圖轉成可驗證的工作規格。六個雲端叢集實驗顯示架構、網路與記憶體 metadata 主要能排除不能執行的機器,並非穩定的效能最佳化器。
代理工具
Graph-Structured Rubrics 在看見待評答案前,先把自然語言 rubric 編譯成具型別的判斷、轉換、聚合與閘門節點。GPT‑OSS‑120B 實驗顯示它優於平面式 Prometheus 評分,但目前未公開程式,增益亦高度依賴資料集。
最新模型
一項預先註冊研究發現,Qwen2.5-7B 與 Llama-3-8B 在多數 GPQA Diamond 題目上愈投票愈容易鎖定錯誤答案。整體平均分數仍略升,顯示聚合指標會掩蓋逐題退步。
代理工具
Harness‑IF 將規則分散到系統提示、專案檔案、使用者指令、工具與技能描述,再以實際執行證據逐條評分。12 款前沿模型面對違反自身預設傾向的規則時,準確率一致下降。
AI 安全
VICBench 以人工與代理雙重追溯,標註Python、Java及C++專案中100個CVE的漏洞引入提交。跨檔案搬移與重構令V‑SZZ及LLM4SZZ大量誤判,也暴露受影響版本資料的可靠性問題。
最新模型
阿里千問公開 Qwen3.8‑2.4T‑A95B,以 512 個專家、混合線性與標準注意力支援最長約 101 萬 token。模型可調整推理深度,但只接受文字、不能關閉思考模式,實際部署門檻遠高於一般開放權重模型。
最新模型
一項新研究把四款開放權重模型的生成上限由 64 提高至 4,096 token,三項推理基準的領先模型均曾改變。排除截斷後仍有 3%至19%題目在增加預算時由對轉錯,顯示單一 token 設定不足以支撐部署選型。
代理工具
Amazon 研究團隊把既有工具使用基準改造成可控制「重試、切換或停止」的故障環境。Qwen3-4B 加入結構化復原資訊後,受干擾零售任務通過率最高增加 16.8 個百分點,但系統尚未真正驗證不可解任務上的正確棄權。