輝達、甲骨文擴大AI合作 Rubin部署瞄準數GW
輝達(NVIDIA)與甲骨文(Oracle)27 日宣布擴大 AI 基礎設施合作,規劃將甲骨文雲端基礎設施(OCI)搭載 Vera Rubin NVL72 的超級叢集,擴展至數 GW(數百萬瓩)規模。Vera Rubin NVL72 與 Vera CPU 也同步於 OCI 正式開放使用,搶攻大型模型訓練、推論及 AI 代理運算需求。
Vera Rubin NVL72 每個機架透過 NVLink 串接 72 顆 GPU,搭配 OCI 多平面網路,可將叢集擴展至數十萬顆 GPU。甲骨文另於官方技術部落格揭露,初期將於旗下雲端區域提供共 15 萬顆 Vera CPU,擴充支援 AI 代理的運算資源。
此次合作焦點,除了擴大 GPU 部署,也涵蓋 AI 代理背後的 CPU 運算需求。AI 代理在模型推論之間,仍須呼叫工具、執行與測試程式碼,以及擷取資料;若 CPU 處理速度跟不上,便可能拉長任務完成時間,讓 GPU 等待後續工作,影響整體運算效率。
搭載 Vera CPU 的 OCI Compute,主打高單執行緒效能與高記憶體頻寬,分別加速個別工具呼叫、程式執行,以及多項任務並行時的資料存取。客戶可透過 OCI Kubernetes Engine,依工作負載分別擴充 CPU 與 GPU 資源;Oracle Acceleron 則提供硬體隔離機制,支援執行尚未受信任的 AI 生成程式碼。
在 GPU 基礎設施方面,這波擴建將以 OCI 現有 GB200、GB300 NVL72 系統為基礎,結合 NVIDIA Spectrum-X 乙太網路、Spectrum-6 交換器與 BlueField-4 DPU,搭配大型供電及冷卻設施,支援前沿模型訓練與服務。雙方也將透過 CUDA 軟體平台及持續最佳化,支援不同世代硬體上的模型與工作負載。
除機架級系統外,OCI 也規劃導入 HGX Rubin NVL8,提供較小規模的部署選項。該平台將以 NVLink 連接 8 顆 Rubin GPU,搭配 2 顆各具 64 核心的 Intel Xeon 6 CPU、4 TB DDR5 記憶體,以及 6.4 Tbps RDMA 網路,兼顧 AI 訓練、微調及推論需求,並維持與既有 x86 應用程式的相容性。
OpenAI 則是雙方合作的重要客戶。據悉,OpenAI 已在美國德州阿比林,利用配置逾 10 萬顆 NVIDIA Blackwell GPU 的 OCI 超級叢集,訓練並提供 GPT-6 Astra 服務。OpenAI 運算技術長 Uday Ruddarraju 表示,正將 OCI 上的 Vera CPU 導入正式營運環境,以支援持續成長的 AI 代理沙盒工作負載,包括執行程式碼及運行工具。
輝達超大規模運算與高效能運算副總裁 Ian Buck 表示,AI 工廠除了提供高效率運算,也須透過軟體持續進步,延長基礎設施的使用價值,並隨需求變化支援不同模型與工作負載。此次與甲骨文擴大合作,將透過 Vera Rubin 與 Vera CPU 的搭配,提高客戶現有及新增運算資源的使用效率。