瑞銀拆解 Vera Rubin 平台成本,記憶體佔比達 62%,SOCAMM2 模組躍升關鍵
輝達(NVIDIA)開始出貨新人工智慧(AI)晶片Vera Rubin,市場對成本結構的關注也升溫。外資瑞銀(UBS)分析 1 個 Vera CPU 與 2 個 Rubin GPU 組成的超級晶片之物料清單(BOM),記憶體半導體成本占比已大幅攀升至約 62%,遠高於前代 Blackwell Ultra GB300 的 53%。
瑞銀估計,Vera Rubin 超級晶片的製造總成本為 38,902 美元。其中,HBM4 與 SOCAMM2 記憶體的總成本就高達 24,297 美元。
瑞銀進一步拆解成本結構顯示,Rubin GPU 記憶體(HBM4)成本約 4,943 美元,僅占總成本的 12.7%。Vera CPU 記憶體(SOCAMM2)成本高達 19,355 美元,占總成本的 49.8%。這代表在該平台中,CPU 端的記憶體成本遠超 GPU 端的 HBM4。雖然 Vera Rubin 超級晶片總成本約為前代的 2.1 倍,但其記憶體費用卻增加了 2.5 倍,漲幅顯著。
分析指出,記憶體成本暴增的主因是導入了 SOCAMM2 模組。每個 Rubin GPU 搭載 8 個 12 層 HBM4(共 288GB),容量與前代相同。然而,Vera CPU 支援高達 1.5TB 的 LPDDR5X,是前代 CPU 的 3 倍以上。SOCAMM2 是將行動裝置常用的低功耗 DRAM(LPDDR5X)進行 AI 伺服器模組化設計的產品。其特點是具備高能效與高容量,能以極低功耗實現大容量,且其頻寬與能源效率皆優於傳統伺服器用的 DDR5 RDIMM。
而且能彈性配置,設計上將多顆 DRAM 晶片打包置於靠近 CPU 的位置,並支援可更換設計。以 Vera Rubin NVL72 機櫃系統為例,單一機櫃內含高達 74.7TB 的 DRAM(包括 20.7TB 的 HBM4 以及 54TB 的 LPDDR5X)。光是 CPU 端的 LPDDR5X 容量,就相當於約 4,500 支旗艦智慧型手機的總用量。
目前Vera Rubin已在 Google Cloud、微軟、Oracle 等雲端服務商運行。SpaceX 執行長馬斯克也讚其為「最強架構」,並計劃將其 AI 基礎設施擴充至接近 10GW 運算規模。這促使三星電子、SK 海力士與美光科技從 HBM 延伸至 SOCAMM2 與企業級 SSD 的供應競賽。其中,三星已推出 HBM4、SOCAMM2 及 PM1763 eSSD 等產品線。而SK 海力士正量產採用 10 奈米級第六代(1c)LPDDR5X 的 192GB SOCAMM2。至於,美光則已於2026年 3 月量產適用該平台的 12 層 36GB HBM4 與 192GB SOCAMM2。
然而,據外媒 The Information的報導,因 HBM4E 產能不足,NVIDIA 考慮將次世代Rubin Ultra GPU 的 HBM 容量從原訂的 1TB 降至 192GB 或 256GB 進行測試。市調機構TrendForce 也指出,由於 LPDDR5X 缺貨可能持續至 2027 年,NVIDIA 已將 Vera Rubin 超級晶片的 SOCAMM 容量調降至初期計劃的一半左右。
業界分析指出,向來不妥協性能的 NVIDIA 這次選擇調降規格,反映出記憶體廠商在供應端握有較強的主導權。未來各大記憶體廠在 NVIDIA 供應鏈中獲得的配額多寡,將成為決定其業績成長幅度的關鍵。
(首圖來源:科技新報攝)