推論系統
FreeBalance 提前預測 MoE 熱門專家，八張 A800 的 prefill 延遲最多降低 13.1%
FreeBalance 用上一層殘差狀態預測下一層專家負載，讓權重交換與注意力計算重疊。方法不改變最終路由與模型輸出，但目前證據只涵蓋兩款 MoE 模型、單一八卡拓撲及 prefill 工作負載。
Archive
GitHub Repo
GitHub 熱門專案、開源工具、框架、runtime 與重要 release。
推論系統
代理工具
TWIN 讓程式代理即時重建未知遊戲，ARC-AGI-3 分數由 7.8 升至 93.3
TWIN 要求代理先把未知環境寫成可執行 Python 世界模型，重播歷史完全一致後才允許採取真實動作。相同基礎模型在 ARC-AGI-3 的分數由直接操作時的 7.8，提升至 93.3。
推論系統
Ollama 0.32.14 在送入 llama-server 前轉碼 WebP，並放寬 Qwen system 訊息位置
新版修補兩個位於模型前處理層的相容性缺口：WebP 影像會先轉碼，Qwen renderer 亦不再要求 system 訊息必須排在最前。變更雖不涉及新模型或 kernel，卻可避免多模態及代理對話在進入推論核心前失敗。
代理工具
Pydantic AI 2.31 將 AG-UI 執行識別移入事件流，延遲輸入也能先建立串流
新版允許在尚未取得 `run_input` 時建立 `UIEventStream`，並讓 `AGUIEventStream` 自行持有 thread 與 run ID。它亦修正 Temporal 沙箱相容性及備援模型的 tracing 歸屬，減少長時代理流程中的診斷盲點。
最新模型
GCache 依全程誤差配置擴散快取，Wan 2.1 同為 2.17 倍加速時 LPIPS 降至 0.0316
GCache 不再只比較相鄰去噪步驟的局部差異，而是估算快取誤差對最終影像或影片的累積影響。它以動態規劃選擇快取刷新點，再用 Bayesian optimization 讓理論權重對齊實際生成品質。
代理工具
SkillShapley 逐步估算代理技能價值，99 種配置取得 206 組可重用邊際證據
SkillShapley 把 `skill.md` 的語義步驟視為合作賽局參與者，以 Shapley value 衡量每一步對任務成功率的貢獻。其 BAES 近似器優先測試能形成多組單步差異的技能配置，降低逐一執行代理的成本。
AI 安全
Claude Code 2.1.233 限制 Bash 記憶體，並封堵 Windows NTLM 憑證外洩路徑
新版可用 Linux memory cgroup 為代理執行的編譯與測試設定記憶體上限，避免失控程序拖垮整個工作階段。它亦修正 Windows 特殊路徑繞過驗證、MCP 重連迴圈及沙箱閒置佔滿單核等問題。
代理工具
OmniScientist 直接讀取原始科學資料，36 組跨領域任務皆產出可追溯論文
OmniScientist 讓感知能力貫穿假設、實驗與寫作，而非先把影像、波形或軌跡壓成文字摘要。完整系統在與僅接收預算特徵的版本盲測時取得 85% 勝率，但評分仍主要來自模型裁判。
LLMOps
LiteLLM 1.98 RC 讓 Auto Router 先跑影子評測，並修正 system prompt 誤判成本
新版可複製少量真實請求給候選路由器，再以盲測裁判比較回覆而不影響線上結果。複雜度分類亦不再把固定的代理 system prompt 當成每次請求的技術難度訊號。
推論系統
llama.cpp b10448 原生接入 Kimi K3，MXFP4 無損重排避開 5.5TB BF16 中轉
新版加入 Kimi K3 的文字模型、混合 KDA／MLA 注意力、latent MoE 與工具呼叫解析。轉換器直接重排 MXFP4 位元配置，毋須先展開整個 2.8T 模型至 BF16。
最新模型
llama.cpp b10451 為 LoRA 張量補上檔案邊界檢查，截斷權重不再靜默補零
舊版 LoRA 載入路徑未驗證張量位移加大小是否超出 GGUF 檔案，損毀或未完整下載的 adapter 仍可能被當作成功載入。b10451 改為立即報錯，並確認張量索引確實存在。
代理工具
OpenAI Agents SDK 0.21 加入無 API 測試層，代理、沙箱與語音流程可重播驗證
新版提供可腳本化的模型與沙箱測試工具，讓多輪代理流程毋須呼叫模型供應商也能在 CI 重現。升級亦接軌 OpenAI Python 3 與 HTTPX 2，並修補中斷狀態、工具審批及敏感錯誤外洩問題。