AI 基礎設施
SiFive 與 AMD 展示 RISC‑V 主機執行 ROCm 10，將 Gemma 推論卸載至 Radeon GPU
SiFive 在 BigSky 伺服器上以 P870‑D RISC‑V CPU 啟動 ROCm 10，並由 Radeon AI PRO R9700 執行 Gemma4‑E2B 推論。這證明非 x86、非 Arm 主機可接入 AMD GPU 軟體堆疊，但官方尚未公開效能、可重現映像或正式支援範圍。
SiFive 與 AMD 在 AI Infra Summit 展示一套異質 AI 推論系統：BigSky SF‑2U870 伺服器以 32 顆、2.0 GHz 的 SiFive P870‑D RISC‑V 核心作為主機端，透過 PCIe 連接 AMD Radeon AI PRO R9700 GPU，並在 ROCm 10.0 上執行 Gemma4‑E2B。模型運算由 GPU 負責，RISC‑V CPU 則承擔作業系統、執行階段、資料準備與推論協調工作，因此重點不是以 RISC‑V 核心直接計算 Transformer，而是讓 ROCm 的主機端元件能在不同 ISA 上運作。
這項展示的技術意義在於 AI 加速器軟體通常不只包含 GPU kernel。HIP 執行階段、驅動介面、記憶體管理、PyTorch 或推論框架相依套件，以及容器與監控工具，都可能隱含 x86‑64 或 Arm64 假設。若 ROCm 能在 RISC‑V 伺服器完成模型載入、張量傳輸與 kernel 啟動，硬體設計者便可能把開放指令集的控制面與 AMD GPU 組合，不必連主機 CPU 一併綁定既有平台。
BigSky 本身是移植、調校與驗證用開發平台，而非針對此次展示打造的量產 AI 叢集。SF‑2U870 配備 256GB DDR5‑5600、四組 PCIe 5.0 x16、兩顆 7.68TB U.2 NVMe 與 10/25Gb 網路；充足的 PCIe 通道使它適合測試多張加速卡，但此次公告只提到 R9700 與 Gemma4‑E2B，沒有交代模型精度、批次、上下文長度、首 token 延遲、token 吞吐量或功耗，也未發布建置腳本與容器雜湊。
因此，這仍應被視為「軟體堆疊能跑通」的相容性里程碑，而不是 RISC‑V 已可取代成熟 AI 主機平台的效能證明。工程師下一步應關注 ROCm 主線是否納入 riscv64 套件與 CI、PyTorch／vLLM 等上層框架能否原生安裝、IOMMU 與 pinned memory 的穩定性，以及多 GPU、RCCL、故障遙測和正式支援矩陣。只有這些元件可重現且獲得長期維護，示範才會轉化為可部署的資料中心選項。