DeltaMedia
2026-07-21
晶片算力

GLM5.2 在 AMD MI355X 跑出 2626 tok/s/node,wafer.ai 宣稱推理成本比 Blackwell 低逾 2 倍

2026 年 7 月 3 日,wafer.

GLM5.2 在 AMD MI355X 跑出 2626 tok/s/node,wafer.ai 宣稱推理成本比 Blackwell 低逾 2 倍

2026 年 7 月 3 日,wafer.ai 在官方部落格發布一份測試報告:將 GLM5.2 部署在 AMD MI355X 加速卡上,單節點吞吐量達 2626 tok/s,且宣稱每單位推理成本比 Nvidia Blackwell 低逾 2 倍。這份報告主要在幫硬體選型算成本帳:同樣的推理工作量,MI355X 能用更低的費用跑完。

拆解這兩個數字,2626 tok/s/node 代表單節點吞吐量,「逾 2 倍」則是成本差距;若以 tok/s/美元 換算,MI355X 在這個模型上的效益,理論上可達 Blackwell 的兩倍以上。wafer.ai 把 GLM5.2 與 MI355X 搭配並公開測試數字,顯然是在對算力採購市場喊話。不過,這份數據目前只來自 wafer.ai 的官方部落格,還沒有獨立第三方複測,可信度仍有待外部驗證。

這份報告真正展現的,是 Nvidia 之外的替代路線。若 AMD MI355X 能在特定開源模型上跑出相近吞吐量、同時把每節點成本壓低逾一半,「GLM5.2 + 非 Nvidia 加速卡」這個組合,理論上就構成採購時的真實替代選項。採購工程師真正該問的,是這個差距能否在獨立測試環境中重現:若逾 2 倍的節點成本優勢成立,叢集規模越大,省下的預算就越可觀。目前看來,wafer.ai 的這份報告是起點,不是結論。

相關公司 Nvidia Zhipu
本文由 DeltaMedia 編輯團隊審核後發布 · 編輯原則