AI 基礎設施
Etched 公開機架級推論架構，以低電壓運算與叢集共享記憶體挑戰 GPU
Etched 的首批 N4P 推論晶片已進入機架驗證，系統以低電壓運算陣列和叢集級記憶體分別處理吞吐量與延遲瓶頸。公司宣稱稀疏 MoE 可維持逾 80% 峰值 FLOPs，但尚未公布可重現的模型、功耗與端到端效能資料。
AI 晶片新創 Etched 公開首款機架級推論系統的設計方向，並表示採用台積電 N4P 製程的 A0 晶片已回片，正與客戶驗證首批產品。這套系統並非只販售單張加速卡，而是共同設計晶片、封裝、電源、液冷、互連、編譯器與機架，目標是服務多兆參數稀疏 MoE、長上下文及代理工作負載。
第一項核心技術是 Low Voltage Inference（LVI）。Etched 稱其運算區塊能以一般 AI 晶片不到一半的電壓運作，再透過可切分矩陣陣列、排程與供電設計提高 FLOPs 密度。公司宣稱執行兆參數稀疏 MoE 時可使用超過 80% 的峰值 FLOPs，避免高負載下因功耗和溫度降頻。這個指標若能延伸到完整模型，可能改善大量批次的 prefill 與吞吐量；然而矩陣單元利用率不等於每瓦 token 數，也未反映路由、通訊及 KV cache 成本。
第二項技術 Cluster Scale Memory（CSM）針對低批次、延遲敏感的 decode。其概念是讓機架內晶片存取較大的共享記憶體池，降低模型權重或 KV cache 被單卡容量切割後的資料搬移。不過 Etched 尚未交代一致性模型、記憶體頻寬、遠端存取延遲及故障域，外界也沒有可驗證的生產環境結果。
工程團隊接下來應關注實際模型上的 TTFT、TPOT、每瓦吞吐量、尾端延遲，以及軟體堆疊能否支援快速變動的注意力與 MoE 架構。Etched 已稱首批機架將於今年夏季出貨，但在第三方基準出現前，LVI 和 CSM 仍應視為廠商提出的架構主張。