硬體
OpenAI Jalapeño 在三款開放模型上每瓦吞吐高出 1.5 至 1.9 倍，但尚未測長上下文代理負載
OpenAI 首度公布自研推論 ASIC 的實測結果，並以單一加速器架構同時處理 prefill 與 decode。SemiAnalysis 現場核對測試過程，但數據仍由 OpenAI 提供，量產晶片與 AgentX 成績尚待驗證。
OpenAI 公布首代自研推論晶片 Jalapeño 的首批 InferenceX 測試。在 GPT-OSS-120B、DeepSeek R1 670B 與 Kimi K2.5 1T 的 8K 輸入、1K 輸出單輪負載中，Jalapeño 以單 token 預測運行，未使用多 token 預測、推測解碼或 prefill／decode 分離，峰值每瓦吞吐仍較對照系統高 1.5 至 1.9 倍，端到端延遲低 1.7 至 3.6 倍。
以 DeepSeek R1 為例，OpenAI 報告 Jalapeño 每千瓦可處理 19,641 mixed tokens/s，對照 GB300 為 11,781；端到端延遲則為 1.65 秒對 5.99 秒。這些數字按晶片額定功率正規化：Jalapeño 為 700W、GB300 為 1,400W，而 OpenAI 稱測試期間前者持續功耗不超過 550W。
架構重點並非把 prefill 與 decode 固定分配給不同晶片池，而是以同質運算資源、分片 HBM、本地化 KV cache 及專用 collective network 減少資料搬移。SemiAnalysis 指出量產版將採 HBM4，單封裝記憶體頻寬為 15.4TB/s，並以 2,048 顆 XPU 的跨機架互連域擴展。OpenAI 亦稱 Codex 協助移植三款原計畫外模型，部分注意力與 MoE 區塊核心較人工版本快 1.5 至 1.8 倍；這不是整體模型加速比。
限制相當重要。SemiAnalysis 雖在實驗室核對執行，原始數據仍由 OpenAI 提供，也未跑完整套件。現有 8K／1K 單輪負載不能代表會壓測路由器、prefix cache、KV offload 與多輪併發的 AgentX；比較對象的軟體成熟度及 HBM 世代亦不完全一致。工程團隊下一步應看量產 B0 晶片、長上下文代理軌跡、故障恢復與整櫃功耗，而不只看封裝 TDP。