中國客戶棄華為昇騰搶買 RTX PRO 5500,輝達僅能滿足 5%~10% 市場需求
在中國人工智慧(AI)晶片出貨量方面,華為雖正逐漸縮小與輝達(NVIDIA)的市場差距,但包括字節跳動、阿里巴巴與騰訊等中國科技大廠仍將輝達的產品視為首選。面對美國政府的出口限制,中國企業轉向大量下訂輝達特規版的 RTX PRO 5500 晶片,來自中國客戶的總訂單量已突破 600 萬組,估計總金額高達 350 億美元。
根據路透社的報導,受美國禁令影響,輝達旗艦B300晶片已被列入黑名單禁止發往中國,H200晶片亦面臨許可證審查限制。雖然中國客戶選擇華為昇騰(Ascend)系列可避免出口限制帶來的麻煩,但包括字節跳動、阿里巴巴與騰訊等企業仍已下訂超過300萬組RTX PRO 5500晶片用於模型訓練,並準備砸下數十億美元將其投入AI推理任務。儘管RTX PRO 5500效能不及B300與H200,但因AI推理所需的算力低於大規模資料集訓練,使其成為中企規避禁令的理想替代品。
在硬體規格上,華為Ascend 950PR紙面上表現較佳,配備128GB HiBL 1.0記憶體與1.4–1.6TB/s記憶體頻寬,功耗與RTX PRO 5500大致相當。相較之下,輝達RTX PRO 5500單一GPU配備84GB GDDR7 ECC記憶體、21,760個CUDA核心及1.398TB/s記憶體頻寬。然而,不僅晶片的本身,其他如軟體生態與硬體規格也同樣重要。輝達在CUDA軟體支援與原始效能上的長期優勢,迫使華為不得不採用多晶片堆疊(multi-chip-stacked)的方式來彌補硬體限制,中國企業也普遍認定目前尚無更好的替代方案。
龐大的需求已遠超出輝達所能供應的產能,輝達已告知合作夥伴僅能滿足約5%至10%的RTX PRO 5500出貨量,無法保證交貨。另外,在晶片嚴重供不應求下,停產9年的舊款輝達Tesla V100晶片也意外重獲青睞。Tesla V100憑藉32GB HBM2記憶體,足以在較平價的設備上運行中型語言模型(LLMs),帶動二手市場價格暴漲,每組出現約200美元的溢價。
(首圖來源:輝達)