推論系統
HPD-Parsing 將文件生成拆成並行分支,1B 模型峰值吞吐達每秒 4,752 token
PaddlePaddle 開放 1B 參數 HPD-Parsing,以全域版面分支協調多個區塊解碼器,避開整頁逐 token 生成的序列瓶頸。官方測試顯示吞吐是既有最快比較模型的 2.62 倍,但目前依賴客製 vLLM 套件,峰值數字也不能直接等同端到端 PDF 處理速度。
Archive
GitHub 熱門專案、開源工具、框架、runtime 與重要 release。
推論系統
PaddlePaddle 開放 1B 參數 HPD-Parsing,以全域版面分支協調多個區塊解碼器,避開整頁逐 token 生成的序列瓶頸。官方測試顯示吞吐是既有最快比較模型的 2.62 倍,但目前依賴客製 vLLM 套件,峰值數字也不能直接等同端到端 PDF 處理速度。
代理工具
GitHub 的 `managed-settings.json` 現在同時約束 Copilot App、雲端代理、CLI 與 VS Code,並把桌面 App 的啟用權限從 CLI 政策分離。既有企業預設仍會啟用 App,管理員若要求封閉式導入,需要主動檢查新政策及外掛白名單。
代理工具
MCP 新修訂移除初始化握手與 `Mcp-Session-Id`,讓單次請求可由任一伺服器實例處理。這是破壞性協定變更;在最終版與主要 SDK 完成同步前,部署者仍須保留版本協商及舊版回退。
代理工具
NOOA 將代理表示成單一 Python 類別,以方法、欄位、docstring 與型別標註取代分散的提示及工具 schema。官方在 SWE-bench Verified 報告 82.2% 與約一半 token 用量,但框架仍屬研究預覽,執行模型生成程式碼時必須另加沙箱。
最新模型
Moonshot AI 於 7 月 27 日釋出 Kimi K3 完整權重、模型卡與技術報告,外部團隊如今可實際部署與稽核這款三兆級稀疏模型,但至少 64 顆加速器、自訂程式碼及推理歷史相依性也形成明確門檻。
AI 安全
新研究把代理可用權限取角色上限、任務分類及禁止組合三者的交集,避免每項工作都持有完整角色憑證。公開資料集將 600 個企業任務映射至 15 類最小權限,但 93% 改善反映的是政策修訂,不是已部署系統的攻擊攔截率。
GitHub Repo
Nanbeige Lab 公開以 28 兆 token 從零預訓練的 Nanbeige4.2-3B,重複使用同一組 Transformer 層,在不增加參數下提升計算深度。官方代理評測普遍超越較大的 Qwen3.5-9B,但成績高度依賴自家執行框架,仍需獨立重現。
最新模型
SGLang 新版加入 DSpark,依草稿模型信心改變每輪驗證窗口,並把 UnifiedRadixTree 設為滑動窗口、Mamba 與稀疏注意力模型的預設快取。版本也移除數條量化後端及更改 rollout 傳輸格式,升級現有服務前必須檢查相容性。
最新模型
inclusionAI 開放 100B 級 LLaDA2.2-flash,以 Levenshtein Editing 讓平行解碼可插入、刪除及替換內容。模型在部分代理測試與吞吐上勝過自家自回歸基線,但程式修復與函式呼叫準確率仍落後,服務支援也尚未齊備。
推論系統
vLLM 0.26 讓不同 KV-cache 群組選用各自的注意力後端,並把物件儲存納入分層快取。新版也集中最佳化 DeepSeek-V4、ROCm、XPU 與推測解碼,但官方微基準不能直接代表實際服務吞吐。
代理工具
FluxBench 以統一提示、工具與製程庫測試代理從 RTL 生成一路完成合成、布局繞線及 ECO,而非只評單次程式輸出。作者報告相同基礎模型搭配不同代理框架可出現 86.27% 的效能差距,但商用 EDA 實驗範圍狹窄,論文版本也曾撤回後重發。
AI 安全
Rust 工具 dcg 在 AI 程式代理執行命令前,攔截可能破壞 Git、檔案系統、資料庫與雲端資源的操作。專案 7 月 26 日單日新增約 497 顆星,但它仍是模式比對防線,不能取代沙箱、權限隔離與備份。