AI 晶片與資料中心
MTIA 300 把十二個 RDMA NIC 與 collective 引擎封裝進晶片，繞過 PCIe 通訊路徑
Meta 的 MTIA 300 將 1.2TB/s 網路 I/O 與十六個訊息引擎直接整合進加速器，讓 collective 不再佔用主要計算陣列。官方在 150B 推薦模型上報告通訊時間較對照 GPU 叢集縮短 3.9 倍，但尚未提供足以比較整體訓練成本的完整系統資料。
Meta 公開 MTIA 300 的系統設計，這是其首款針對大型排名與推薦模型訓練的自研加速器。這類模型的 embedding table 可佔逾 99% 參數，數百顆加速器之間需要頻繁執行 AllReduce、AllToAll 與 AllGather；瓶頸因而不只是矩陣乘法吞吐量，而是資料能否在晶片與機架間及時移動。
MTIA 300 在封裝內放入兩顆網路 chiplet，每顆包含六個 800Gbps RDMA NIC，合計提供 1.2TB/s I/O，不必經過傳統的主機—裝置—NIC PCIe 路徑。十二個 Ethernet NIC 可重新分配給機架內 scale-up 或跨機架 scale-out；前者最高配置約 1TB/s，後者約 200GB/s。Meta 亦加入 express doorbell，讓寫入工作請求本身觸發傳輸，宣稱每次操作可省約 800ns。
更關鍵的改動是十六個獨立訊息引擎。每個引擎包含 RISC-V 控制核心、NIC 介面及近記憶體 reduction 單元，collective 因而不必像一般 GPU 通訊核心般占用執行 GEMM 的主要運算資源。與硬體共同設計的 HCCL 會把 collective 編譯成帶相依關係的工作子圖；指令送進 HBM 後，可由裝置自主排程，並能透過 `torch.compile` 與 PyTorch c10d、torchcomms 圖形整合。
Meta 報告 GEMM 與 collective 同時執行時，計算吞吐下降不足 0.5%，其對照 GPU 超過 20%；HCCL 在單機架可達 940GB/s，40 顆加速器訓練 150B 推薦模型時，通訊時間縮短 3.9 倍。不過這是特定內部模型、拓撲與廠商自行選定的 GPU 對照，官方未披露端到端訓練時間、功耗、晶片成本或良率。MTIA 300 目前最能證明推薦系統的軟硬體共設計方向，尚不能直接視為通用 LLM GPU 的替代品；後續應觀察相同架構能否處理推理、長上下文及小訊息高頻率的代理流量。