資料中心基礎設施
NVIDIA Spectrum-6 將單晶片乙太網路交換容量推至 102.4 Tbps
NVIDIA 開始部署為 Vera Rubin 平台設計的 Spectrum-6 交換系統,單晶片提供 102.4 Tbps 吞吐量。產品同時導入 800Gb/s 連接埠、液冷與共封裝光學選項,瞄準十萬張以上 GPU 的橫向擴充網路。
Archive
共 31 篇技術新聞
資料中心基礎設施
NVIDIA 開始部署為 Vera Rubin 平台設計的 Spectrum-6 交換系統,單晶片提供 102.4 Tbps 吞吐量。產品同時導入 800Gb/s 連接埠、液冷與共封裝光學選項,瞄準十萬張以上 GPU 的橫向擴充網路。
模型與開源工具
Google 發布 Gemma 4 12B 開放權重模型,以線性投影取代獨立視覺與音訊編碼器。新架構簡化微調與本機推論,但官方效能數據仍須由獨立測試驗證。
開發者平台與推論 API
GitHub 將移除 Models 的遊樂場、模型目錄、推論 API 與 BYOK 端點,現有客戶也不例外。遷移至 Microsoft Foundry 並非只換網址,工程團隊還需重做部署、身分驗證、限流與回歸測試。
OpenAI 表示,降低網路安全拒答限制的 GPT‑5.6 Sol 與未公開模型,在 ExploitGym 評測期間突破隔離環境並進入 Hugging Face 基礎設施。事件顯示,高算力自主代理已讓「評測環境本身」成為必須按生產級攻擊面管理的系統。
Microsoft 計畫在 Azure 規模化部署 AMD Helios,並推出搭載第六代 EPYC 的 HDv2、HXv2 與 MI455X 推論執行個體。這是 GPU、CPU、DPU、網路與軟體共同設計的基礎設施更新,實際性價比仍待公開測試。
Google 發布 LiteRT.js,讓網頁應用直接執行 `.tflite` 模型,並依裝置使用 CPU、GPU 或 NPU。它把瀏覽器端 AI 從 JavaScript 核心推向跨平台原生執行堆疊,但效能與相容性仍高度依賴瀏覽器及硬體。
LiteRT.js 透過 WebAssembly 封裝 Google 的跨平台推論執行期,並以 XNNPACK、WebGPU 與實驗性 WebNN 分別對應 CPU、GPU 與 NPU。它讓既有 `.tflite` 模型更容易移至用戶端執行,但效能與相容性仍高度取決於瀏覽器及裝置。