單晶片比拚落伍了！AI 基建大改版，電力與網路成最新決勝點

標題

AI 基建競爭的邏輯變了：機架系統取代單顆晶片，電力與網路成新決勝點

正文（已通順正確，請做編輯優化）

重點摘要

• AMD CEO Lisa Su 在 2026 年 10 月 OCP 全球峰會揭露，AI token 消耗量在過去兩年月度增幅高達 95 倍，推動整個行業重新定義基建競爭的核心維度
• 美銀證券研究團隊出席峰會後指出，AI 基建的基本計算單元已從單顆晶片升級為整機架系統，電力供應、散熱能力與網路互聯已取代晶片性能，成為核心競爭變數
• OCP 正為 1 MW 機架、GW 級資料中心乃至多 GW 園區做技術規劃，美銀證券認為 AI 資本支出的週期屬性已從產品迭代轉向完整基建建設浪潮

2026 年 10 月 14 日，美銀證券研究團隊出席聖荷西 OCP 全球峰會後發布報告指出，AI 基建的基本計算單元，已從單顆 XPU 晶片升級為整機架系統。Nvidia 在峰會上同步調整了系統設計的核心指標，從算力規格移向 token 吞吐量、每瓦 token 數與每 token 成本，三個指標全部在系統層次衡量，沒有一個是單顆晶片規格表的項目。這兩件事放在一起，清楚說明競爭重心的移轉方向：從「哪顆晶片算得快」，轉向「整套機架能以多低的成本、在多有限的電力與散熱條件下，輸出多少 token 吞吐量」。

機架為何取代晶片，成為 AI 基建的計算單元？

需求面的壓力是這場轉變的背景。AMD CEO Lisa Su 在峰會上給出的數字：AI token 消耗量在過去兩年月度增幅達到 95 倍。在這個成長速度下，任何單一環節的最佳化都跟不上需求，整個供應鏈必須從機架層次統一規劃，算力、記憶體、網路與電力要作為一個系統來設計，不能各自採購後拼湊。

美銀證券把這個轉變的資本含義說得直接：AI 資本支出正從「單一產品週期」演變為「完整基礎設施建設週期」。以晶片世代為採購節拍的邏輯，被替換成圍繞電力、散熱、網路容量的多年期規劃邏輯，兩者在採購決策鏈、建設時程與資本鎖定效應上截然不同。機架層次的選擇一旦確定，影響的是往後數年整個算力擴張的可行性，不只是下一個晶片世代的替換成本。

技術上的現實是，晶片性能依然重要，但它不再是決定勝負的核心；真正卡住系統上限的，是機架整體的電力轉換效率、散熱容量與網路互聯能力。

電力與散熱為何比晶片性能更關鍵？

Delta 與 Nvidia 在峰會上共同說明了向 800 V 直流 (800VDC) 架構遷移的技術路徑。問題的起點是功率密度：機架功率密度正從目前約 145 kW 向 300 至 500 kW 以上演進。現行直流配電架構需要多次電壓轉換，每次轉換都有功率損耗，在 145 kW 機架的年代這些損耗尚在可接受範圍，但功率密度翻了兩到三倍之後，損耗的絕對值與散熱負荷都會大幅攀升。800VDC 架構把高壓直流傳輸拉得更靠近設備端，減少轉換環節，目的是在更高的功率密度下維持可接受的實際可用電力比例。

OCP 各分論壇的討論收斂在一個共同判斷：AI 基建擴張的瓶頸，會越來越多地落在電力可用性、散熱能力與直流容量上，而不是矽晶片的供給。這個結論有一個具體的結構性後果，它讓 AI 資本支出的週期屬性更接近電廠或傳輸網路的建設邏輯：電廠容量決定選址，選址決定可用電力，電力上限決定整個園區可部署的算力規模。

Broadcom CEO Hock Tan 在峰會前已直接指出，資本是目前 AI 擴張最大的制約，但峰會現場的技術路線圖討論並未因此縮手。OCP 正在規劃的容量路線圖，從 1 MW 機架、GW 級資料中心到多 GW 園區，每個層級都對應一個基礎設施決策，不是單次採購決策。這個規劃規模說明電力可用性為什麼成了硬約束：電力基建到位，後續算力擴張路徑才能被執行；電力基建若延誤，整個算力規劃都跟著推遲。

光互聯為何從 scale-out 蔓延到 scale-up？

網路互聯是本屆峰會最具持續性的技術主題之一。Broadcom 持續主張以乙太網路 (Ethernet) 作為橫跨三類 AI 架構場景的統一互聯底座：scale-up（多顆加速器高速整合為一個邏輯計算單元）、scale-out（集群橫向擴展）與 scale-across（跨集群互聯）。過去這三種場景往往由不同的互聯技術分別覆蓋，Broadcom 押注標準化的乙太網路能降低系統整合成本，目前看來是在試圖把這條分界線推入 scale-up 場景。

光學互聯的演進路徑是峰會討論的焦點之一。Scale-up 互聯正從傳統銅纜，沿著近封裝光學（Near Package Optics, NPO）向共封裝光學（Co-Packaged Optics, CPO）的方向推進。銅纜在高速率、高功率密度場景下的信號衰減與能耗問題，讓它在機架尺度的高速互聯上競爭力持續下降，多家廠商在峰會上強調了機架內部及機架間光學元件佔比的持續增加。

Credo Technology (CRDO) 在峰會上說明，其短距光學產品 ZF ALC 在可靠性、功耗與系統總成本三個維度上，相對銅纜的優勢持續擴大。美銀證券認為市場對 CRDO 在 scale-up 光學領域的機會存在低估，並預測 CRDO FY27 年度光學業務總規模將超過 6 億美元，其 6.4T scale-up NPO 產品預計在 FY28 年度進入放量階段。須注意，這是美銀證券分析師的預測，非 Credo Technology 的官方財務指引。

記憶體架構也在同步調整。基於 CXL 與 HBF 的記憶體解聚（memory disaggregation）成了下一代 AI 工廠的關鍵技術，主要用在 KV 快取（KV cache），也就是大型語言模型推理時需要高速存取的注意力機制暫存資料。記憶體解聚把記憶體從「與算力捆綁的板載 HBF」拆解為「可按需存取的獨立資源池」，算力節點不再受單顆加速器板載記憶體容量的硬限制，推理工作負載的成本結構因此可以被重新設計。

AI 資本支出為何從產品週期演變為基建週期？

投資者對 AI 投資報酬率的爭論持續未停，但 OCP 峰會的討論並未呈現需求放緩的信號。Lisa Su 的 95 倍月度 token 成長數字清楚說明需求面沒有問題。Nvidia 把設計核心指標錨定在 token 吞吐量與成本效率，也是在把行業對話從「晶片夠不夠快」拉向「每一度電能產出多少有效 token」，ROI 爭論的框架因此有一個隱含的前提：電力才是稀缺資源，不是算力本身。

供給側的約束越來越不是晶片，而是電力可用性。這個移轉的含義是結構性的：晶片供應可以靠資本與產能投入加速，電網與電廠的擴容審批和施工週期則有其物理和政策上的下限，無法靠多砸錢直接壓縮。OCP 規劃的多 GW 園區，選址必須靠近大容量電源，整個決策鏈的複雜度遠超一次伺服器採購，這把 AI 基建投資的性質推向長週期基建邏輯。

對工程師與技術投資者來說，這個結構性移轉改變了幾個環節的市場定位。800VDC 供電設備、高功率密度散熱方案、scale-up 光學互聯元件，以及支撐記憶體解聚的 CXL/HBF 控制器，都從系統配件層次晉升為瓶頸層次，這種晉升在定價能力上會有直接反映。ROI 爭論短期不會有定論，但電力可用性是那個比晶片交期還難快速解決的硬門檻。

AI 基建下半場的核心問題已不再是「誰的晶片快」，而是「誰能在電力有限的條件下，把整機架系統的 token 吞吐量最大化」，整條供應鏈的定價邏輯都在沿著這個問題重新排列。

常見問題

scale-up 互聯和 scale-out 互聯有什麼本質差異？
Scale-out 是把更多獨立節點加入集群、橫向擴展算力，節點間的頻寬與延遲要求相對寬鬆。Scale-up 是把多顆加速器以極高頻寬、極低延遲整合為一個邏輯計算單元，對互聯的要求嚴苛許多。峰會的討論顯示，NPO/CPO 光學方案與乙太網路正試圖進入 scale-up 場景，用標準化方式取代過去各自為政的專有互聯架構。

800VDC 供電架構和現有機架供電差在哪裡？
現有機架的直流配電需要多次電壓轉換，每次轉換都有功率損耗。800VDC 架構把高壓直流傳輸拉得更靠近設備端，在機架功率密度從目前約 145 kW 提升到 300 至 500 kW 以上的場景下，減少轉換環節可以顯著降低損耗、提升實際可用功率。Delta 與 Nvidia 在 OCP 峰會上共同說明了這條遷移路徑。

美銀證券預測的 CRDO FY27 光學業務超過 6 億美元，是公司已確認的目標嗎？
不是。這是美銀證券分析師在追蹤 OCP 峰會後發布的預測數字，Credo Technology 本身尚未公開披露此一財務目標。分析師預測反映機構對市場機會的判斷，與公司管理層的正式財務指引性質不同，投資決策應以公司官方披露為準。