雲端 AI/模型生命週期
OCI 同日退休十款舊 Grok 端點,既有部署須改用 `xai.grok-4.3`
Oracle 為 Grok 3、Grok 4 與多款 Fast、Mini、Code 端點設定的 8 月 15 日退休日已到。這不是模型別名的透明切換;OCI 使用者必須修改模型 ID,並重新驗證推理參數、影像限制與區域可用性。
Archive
共 968 篇技術新聞
雲端 AI/模型生命週期
Oracle 為 Grok 3、Grok 4 與多款 Fast、Mini、Code 端點設定的 8 月 15 日退休日已到。這不是模型別名的透明切換;OCI 使用者必須修改模型 ID,並重新驗證推理參數、影像限制與區域可用性。
本機推論
新版修補兩個位於模型前處理層的相容性缺口:WebP 影像會先轉碼,Qwen renderer 亦不再要求 system 訊息必須排在最前。變更雖不涉及新模型或 kernel,卻可避免多模態及代理對話在進入推論核心前失敗。
代理框架
新版允許在尚未取得 `run_input` 時建立 `UIEventStream`,並讓 `AGUIEventStream` 自行持有 thread 與 run ID。它亦修正 Temporal 沙箱相容性及備援模型的 tracing 歸屬,減少長時代理流程中的診斷盲點。
生成模型推論系統
GCache 不再只比較相鄰去噪步驟的局部差異,而是估算快取誤差對最終影像或影片的累積影響。它以動態規劃選擇快取刷新點,再用 Bayesian optimization 讓理論權重對齊實際生成品質。
代理評測與開發工具
SkillShapley 把 `skill.md` 的語義步驟視為合作賽局參與者,以 Shapley value 衡量每一步對任務成功率的貢獻。其 BAES 近似器優先測試能形成多組單步差異的技能配置,降低逐一執行代理的成本。
AI 程式工具/代理安全
新版可用 Linux memory cgroup 為代理執行的編譯與測試設定記憶體上限,避免失控程序拖垮整個工作階段。它亦修正 Windows 特殊路徑繞過驗證、MCP 重連迴圈及沙箱閒置佔滿單核等問題。
AI 程式工具/模型基礎設施
Cursor 確認加入 SpaceXAI,雙方將共同改進 Grok Build、Grok Bot、Grok API 與 Cursor。交易把 GPU 基礎設施、程式模型訓練及百萬級開發者入口垂直整合,但尚未公布模型、資料或 API 的遷移時程。
AI 代理/科學研究
OmniScientist 讓感知能力貫穿假設、實驗與寫作,而非先把影像、波形或軌跡壓成文字摘要。完整系統在與僅接收預算特徵的版本盲測時取得 85% 勝率,但評分仍主要來自模型裁判。
推論系統/自動駕駛
FlashDrive 同時重用影片 KV、平行草擬推理 token,並快取流匹配中變化較小的步驟。論文在 RTX PRO 6000 報告 4.7 倍加速且軌跡誤差近乎不變,但仍只是在模擬與單一模型堆疊上的結果。
LLMOps
新版可複製少量真實請求給候選路由器,再以盲測裁判比較回覆而不影響線上結果。複雜度分類亦不再把固定的代理 system prompt 當成每次請求的技術難度訊號。
推論系統
新版加入 Kimi K3 的文字模型、混合 KDA/MLA 注意力、latent MoE 與工具呼叫解析。轉換器直接重排 MXFP4 位元配置,毋須先展開整個 2.8T 模型至 BF16。
本機推論/模型完整性
舊版 LoRA 載入路徑未驗證張量位移加大小是否超出 GGUF 檔案,損毀或未完整下載的 adapter 仍可能被當作成功載入。b10451 改為立即報錯,並確認張量索引確實存在。