最新模型
Wan3.0 正式上線:單次生成 30 秒有聲影片,文件與網頁亦可直接作輸入
阿里巴巴把 8 月初邀測的 Wan3.0 正式推向市場,統一支援文字、圖片、影音、文件及網頁參考。API 已公開,但模型仍標為邀測,權重、架構與獨立評測均未發布。
Archive
AI 晶片、GPU、資料中心、邊緣裝置與硬體安全。
最新模型
阿里巴巴把 8 月初邀測的 Wan3.0 正式推向市場,統一支援文字、圖片、影音、文件及網頁參考。API 已公開,但模型仍標為邀測,權重、架構與獨立評測均未發布。
推論系統
llama.cpp 0.2.0 正式以語意化版本標示較慢更新的穩定版,原有 `b[編號]` 標籤則保留為接近逐提交的開發構建。新制度降低 Debian、Homebrew 與下游綁定的版本風險,但「穩定」不代表長期支援或跨硬件完整驗證。
最新模型
OpenAI 把 GPT-5.6 Sol API 輸入與輸出價格分別下調 20% 和 33%,優惠至少維持至 11 月 21 日。超過 272K 輸入後,整筆請求仍會套用較高費率,長上下文代理不能只看標準單價估算成本。
推論系統
FreeToken 不採固定卸載,而是按實測頻寬決定把未命中專家傳入 GPU 或直接交給 CPU 計算。論文亦展示單張工作站 GPU 服務 753B 模型,但完整權重仍需主記憶體,不能解讀成「753B 全放進一張卡」。
代理工具
AVO 以持久記憶、監督代理及文字網格介面,讓 Claude Opus 5 在 6,624 次環境動作內完成全部公開關卡。100 分只涵蓋公開集,不能視為通過半私有或私有競賽測試。
最新模型
北京智源研究團隊提出三階段後訓練方法,讓模型不經 RAG 也能回答固定文件集的問題。八組實驗中有七組全面勝過一般 SFT,但成果仍依賴合成問答、模型裁判及逐模型調參。
最新模型
DeepSeek 為 V4-Flash 加入圖片理解,可透過三種相容介面處理文字與影像,並維持原有 Flash 計價。官方公布的代理評測成績仍缺乏獨立重現,模型權重與視覺架構也未公開。
推論系統
新版在啟動時並行處理 checkpoint staging 與 CUDA Graph capture,官方 H100 測試較普通預設流程快 2.38 倍。它也重寫部分張量並行通訊並加入七個模型家族,但 Torch 升級與快取路徑整併帶來遷移成本。
硬體
Cactus Compute 近日完善 Needle 2 的 Python API、跨平台執行與 Apache 2.0 授權,模型卡亦持續更新。它以 28MB 峰值記憶體執行工具選擇及結構化抽取,但速度與準確率仍主要來自官方測試。
推薦系統
NVIDIA 將 HSTU、動態 embedding 與 Semantic ID 生成式推薦整理成可執行的 PyTorch 參考堆疊。它針對「長歷史、只生成數個 token、beam width 極大」的推薦負載重寫快取及解碼路徑,但數據目前限於 NVIDIA 硬件與合成配置。
推論系統
Liquid AI 為三款 LFM2.5 模型釋出約 3 億參數的 DSpark 草稿檢查點,並接入 llama.cpp 與 SGLang。官方測試顯示加速幅度會隨模型、資料分布及硬件大幅變動,不能把峰值直接視為所有工作負載的收益。
AI 基礎設施
DSX MaxLPS 以即時遙測重新分配閒置功率,NVIDIA 測得 GB200 NVL72 機櫃的配置功率可由 125 kW 降至 90 kW而維持吞吐量。方案還結合工作負載功率設定與 45°C 液冷,但核心 Dynamic Power Software 仍處於 Developer Preview。