返回首頁

硬體

華碩迷你桌機生圖省近兩成時間,文字加速較有限

ProArt GR1X 提供最高 128GB 統一記憶體,評測列出起價 4,499 美元。對本地 AI 使用者,是否值得投資,得分清模型容量、跑分與實際等待時間。

VulcanSphere · Public domain · Image source
zh-Hant

準備添購專用電腦跑本地 AI 的使用者,多了一個最高 128GB 記憶體的桌機選項:ASUS ProArt GR1X。Windows Central 比較它與同平台筆電後,測得部分文字模型出字快約 4% 至 8%,SDXL 生圖耗時則縮短近 18%;評測中的「最高提升 21.9%」是分數增幅,不能直接套用到所有生成工作。評測原文

出字速度與綜合分數,要分開看

Windows Central 的 Zac Bowden 與 Cale Hunt 使用 Procyon 基準測試,比較 GR1X 與 Surface Laptop Ultra。兩者採 RTX Spark N1X,主要對照均為 128GB 配置;評測列出的桌機與筆電最高 TDP 分別為 140W、80W。TDP 是散熱設計功耗指標,不能當成實測插座耗電量。測試配置

Phi-3.5-mini 的輸出從每秒 72.21 增至 77.95 token,依表計算約快 7.9%;Mistral 7B 從 53.07 增至 55.4,約快 4.4%。Token 是模型處理文字的單位,不能直接當成中文字數。這兩項持續輸出增幅,都小於評測所述的綜合分數增幅。結果表

UL 的官方文件說明,Procyon 文字分數同時納入首次出字等待時間與後續輸出速度,再合成結果。因此,長篇生成應關注持續輸出量,互動式助手也要看首次回應延遲;單一分數無法完整呈現兩種體驗。UL 計分說明

生圖每張少等約四秒半

Stable Diffusion XL 的差異更直接:128GB 桌機每張耗時 20.6 秒,筆電為 25.05 秒,約少等 4.45 秒、縮短 17.8%。評測所稱最高 21.9% 分數提升,則對應略快的 64GB 桌機結果。生圖測試

先前筆電評測將這項 SDXL 測試標為 FP16,即半精度浮點運算。桌機文章未完整交代精度、推論引擎及生成設定,因此這組結果只能代表該媒體的測試流程,不能直接推定自訂 ComfyUI 工作流程也有相同增幅。兩篇評測來自同一媒體,並非兩組獨立驗證。筆電測試基線

大記憶體的價值,不等於更快出字

ASUS 已宣布供應 64GB、128GB 配置;公告頁標示 11 月 19 日,內文公告日期為 11 月 18 日。統一記憶體指 CPU 與 GPU 共用記憶體池。官方並宣稱可支援 120B、即 1,200 億參數模型,但這項容量宣稱不能當成大模型速度證據。ASUS 上市公告

Windows Central 列出的起價為 4,499 美元,ASUS 則提醒價格與供貨依地區而異。依上述結果判斷,經常批次生圖者較容易累積節省的時間;主要跑小型文字模型者,則不宜只憑兩成跑分增幅決定購買。需要大模型的讀者,目前仍缺少這篇評測對應的大模型吞吐量數據。價格資訊、區域供貨說明

來源

  1. ASUS Announces Availability of ProArt GR1X
  2. ASUS ProArt GR1X review: The first RTX Spark mini PCs have landed, but more performance is offset by a significantly higher price — I tested to see if it's worth it
  3. Absolutely everything I learned while testing RTX Spark for a week: It's a beast, but not at everything
  4. How is the Procyon AI Text Generation Benchmark score calculated?