LiteRT.js 把 LiteRT 原生推論堆疊帶進瀏覽器,串接 WebGPU、Wasm 與實驗性 WebNN
Google 發布 LiteRT.js,讓網頁應用直接執行 `.tflite` 模型,並依裝置使用 CPU、GPU 或 NPU。它把瀏覽器端 AI 從 JavaScript 核心推向跨平台原生執行堆疊,但效能與相容性仍高度依賴瀏覽器及硬體。
Archive
新模型、開放權重、多模態、語音、影像與模型架構。
Google 發布 LiteRT.js,讓網頁應用直接執行 `.tflite` 模型,並依裝置使用 CPU、GPU 或 NPU。它把瀏覽器端 AI 從 JavaScript 核心推向跨平台原生執行堆疊,但效能與相容性仍高度依賴瀏覽器及硬體。
LiteRT.js 透過 WebAssembly 封裝 Google 的跨平台推論執行期,並以 XNNPACK、WebGPU 與實驗性 WebNN 分別對應 CPU、GPU 與 NPU。它讓既有 `.tflite` 模型更容易移至用戶端執行,但效能與相容性仍高度取決於瀏覽器及裝置。