#MoE 推理

推理棧分工確立：Groq 創辦人解析 GPU 與 LPU 的帕累托邊界

Groq 創辦人兼 CEO Jonathan Ross 於 2026 年 6 月 12 日公開說明推理鏈分工：預填充（prefill）交給 GPU，解碼（decode）依成本與速度需求混搭 GPU 或 LPU（語言處理單元）。