576 顆 GPU 合體成一顆巨型 GPU,輝達揭露 Rubin Ultra NVL576 架構
輝達(NVIDIA)於 10 月 22 日的 OCP 2026 大會上進一步揭露了 Rubin Ultra 平台的規劃,宣布將利用新一代 CPO(共同封裝光學)技術與 NVLink 7,將 576 顆 GPU 串接成一個單一的運算域。其目標是讓整個液冷機櫃的運作模式如同一顆巨型 GPU,並主打「全球最高每瓦效能」。
這套名為 Vera Rubin Ultra NVL576 的架構,專為處理 10 兆參數以上的超大型 AI 模型而設計。NVIDIA 高層在會中解釋,這並非僅限於單一機櫃內的 72 顆 GPU,而是透過光學技術與 NVLink 技術跨越多個機櫃,將其連成一體的更大規模系統,藉此大幅擴展 GPU 之間的高速互連範圍。
根據 NVIDIA 先前在 GTC 大會公布的規格,Rubin Ultra NVL576 的目標效能可達 15 exaflops 的 FP4 推論效能與 5 exaflops 的 FP8 訓練效能,較 Blackwell GB300 NVL72 提升了約 14 倍。在記憶體配置方面,單一 Rubin Ultra GPU 最高可配置 1TB 的 HBM4E,整個平台總計可達 365TB HBM 以及 4.6PB/s 的總記憶體頻寬。
NVIDIA 同步展示了全新的 NVLink 7 CPO Switch Tray 與 Vera Rubin Ultra Compute Tray。前者負責以光學方式延伸 NVLink 的連結範圍,後者則整合了兩顆 Rubin Ultra GPU 與一顆 Vera CPU,並採用全液冷設計。公司強調,整體架構嚴格遵循 OCP 標準,延續模組化與可快速插拔的設計理念,旨在將安裝時間從數小時大幅縮短至數分鐘。
除了效能規格,NVIDIA 也將 Rubin Ultra 定位為下一代大型 AI 基礎設施的核心,強調其將成為首批充分運用整合式光學互連技術的機櫃級(rack-scale)系統之一。雖然相關規格目前仍屬於技術路線圖目標,最終商用版本可能會有所調整,但此次公開的內容已明確顯示,NVIDIA 正將整個機櫃級系統推向更高密度、更高頻寬,且更依賴光學互連技術的新階段。
(首圖來源:影片截圖)