AI 基礎設施
歐洲簽約建置 LUMI-AI,採 MI430X 與 256 核 EPYC 統合 AI、HPC 工作負載
EuroHPC 與 Bull 簽署 3.878 億歐元合約,將在芬蘭部署以 AMD MI430X、六代 EPYC 為核心的 LUMI-AI。系統預計 2027 年上線,但十倍 AI 容量仍是規劃值,節點數、互連與儲存配置尚未完整公布。
Archive
AI 晶片、GPU、資料中心、邊緣裝置與硬體安全。
AI 基礎設施
EuroHPC 與 Bull 簽署 3.878 億歐元合約,將在芬蘭部署以 AMD MI430X、六代 EPYC 為核心的 LUMI-AI。系統預計 2027 年上線,但十倍 AI 容量仍是規劃值,節點數、互連與儲存配置尚未完整公布。
推論系統
NVIDIA Triton Inference Server 2.72.0 修正排程器可能在仍有請求時停止派工的問題,並恢復 `preserve_ordering` 的完成順序語義。新版同時更新 CUDA、TensorRT 與 gRPC 相依套件,但 TensorRT-LLM 映像缺席,vLLM/Ray 部署亦保留安全警告。
最新模型
清華大學團隊以 RTX 5090、區塊式 FP8 與 MuonH,從零訓練 2B 參數模型並公開權重、資料與程式碼。較低預算檢查點在團隊的 15 項評測中超越 Qwen2-1.5B,但成本只計 GPU 租用等值,不能視為完整研發預算。
推論系統
vLLM 0.28.0 可把 KV 快取分層卸載至磁碟,並開放外部次級儲存管理器,讓長上下文服務不再只受 GPU 與主記憶體容量限制。新版也推進 Kimi-K3、DeepSeek V4、推測解碼及 E/P/D 拆分,但多項預設值與相依介面已改變。
代理工具
Hillock 將事實三元組、Hebbian 關聯權重與一萬維超向量結合,在本機硬體上先判斷問題是否有資料可答。0.6 新增逐 token MaxSim 與多跳路徑編碼,但目前約 56% 的閘門準確率顯示它仍是研究原型。
硬體
Sopro V2 Turbo 將 500M 教師蒸餾至 120M 參數,再以 reflow 把聲學求解從 32 步縮為兩步。模型可在 M3 CPU 約 300 毫秒輸出首段音訊並支援瀏覽器推論,但目前只有四種歐洲語言且未公開訓練程式。
推論系統
llama.cpp b10687 針對 Snapdragon X2 與較舊 A7X GPU,避開 OpenCL 編譯器選中的低效矩陣乘法路徑。維護者測得 gpt-oss-20b 與 Gemma 3n 的提示預填分別加速約 20% 至 25% 及 9%,但逐 token 解碼並未變快。
最新模型
FastVideo 以 DMD2 蒸餾與 90% 稀疏注意力,把基礎模型的 49 次 DiT 呼叫縮減為四次,並公開完整權重與 LoRA。即時生成數字依賴八張 B200、專用 VSA 核心及暖機後測試,單卡與一般消費級 GPU 尚未達到同等速度。
AI 安全
NVIDIA 在 0.0.113 強化本地推論與狀態漂移驗證後,再把沙箱、推論服務及生命週期權限綁定至可持久驗證的身分,避免重試或復原操作接管同名但不同的執行環境。
機器人與實體 AI
Pollen Robotics 將 Microduck 的控制執行期、MuJoCo 模擬環境、PPO 訓練配方及七種出廠策略以 Apache 2.0 開放。399 美元預購價降低實體強化學習門檻,但策略泛化、硬體耐用度與量產交付仍待社群驗證。
最新模型
Puro-2B 把兩階段資料課程、區塊式 FP8 與 MuonH 最佳化整合到消費級 GPU 叢集。作者報告 4,370 美元的縮短訓練版本已超越 Qwen2-1.5B 平均分,但成本只計加速器租用等價值。
代理工具
PRAXIST 讓多個研究代理分代提出改動,再把評測結果、機制與血緣寫入可稽核證據圖,避免每輪重新探索。作者在 75 項 MLE-bench 報告 60 面獎牌及 3,054 美元模型費用,但系統剛公開,成績與成本仍主要由開發團隊量測。