NVIDIA 推出的第一代 B200 系列處理器因良率問題而面臨阻礙,同時出現數起未經證實的伺服器過熱報告。但據外媒 SemiAnalysis 報導,NVIDIA 第二代 B300 系列處理器即將登場,不僅增加記憶體容量,還能在僅增加 200 瓦熱設計功耗(TDP)的情況下性能提升 50%。
B300 系列設計經過大幅調整,並採用台積電 4NP 製程。報導稱,其運算效能將比 B200 系列高 50%,但 TDP 需要提升 1,400 瓦,相比 GB200 僅高出 200 瓦。B300 預期在 B200 系列推出後約半年上市。
第二個升級是採 12 層 HBM3E 記憶體堆疊,提供 288 GB 記憶體與 8 TB/s 頻寬。這將顯著加快訓練與推論速度,將推論成本減少最多達三倍,因為 B300 可處理更大批次規模,支援更長的序列長度,同時解決使用者互動中的延遲問題。
除了運算效能與記憶體的提升,B300 系列還可能採用 NVIDIA 的 800G ConnectX-8 NIC,與目前的 400G ConnectX-7 相比頻寬增加一倍,PCIe 通道數由 32 個增至 48 個,為新伺服器帶來顯著的擴充頻寬改善。
另一項重要改進在於 NVIDIA 供應鏈策略。與 B200 和 GB200 系列不同,B300 和 GB300 將不再嘗試銷售整個參考主機板或整個伺服器 POD。相反地,NVIDIA 將專注於提供 SXM Puck 模組、Grace CPU 和 Axiado 主機管理控制器(HMC)上銷售 B300。這允許更多公司參與 Blackwell 供應鏈,讓基於 Blackwell 的機器更容易取得。
B300 和 GB300 的推出,NVIDIA 將給予超級擴充廠商與 OEM 廠商更大自由度來設計基於 Blackwell 架構的機器,這可能影響其定價與效能。
(首圖來源:NVIDIA)
留言 1
Kevin 阿榜
鏟子越來越好 價格越來越貴 挖礦的人 到底賺錢了嗎? 還是通通被鏟子賺走了
2天前
顯示全部