理財

和碩前進SC24 端液冷GB200 NV72機櫃方案

工商時報
發布於 11月19日02:17 • 翁毓嵐

和碩(4938)將於SC24美國運算大會中,展示支援大規模GenAI(生成式AI)運算的液冷機架式(Rack)高效運算伺服器產品暨散熱解決方案,因應即時大型語言模型(LLM)運算與先進散熱基礎設施的需求,同時呼應SC24今年的展覽主題「創造高效運算」。

和碩此回展出的系列產品,與晶片大廠夥伴包括AMD(超微)、Intel(英特爾)及NVIDIA(輝達),合作設計支援高效運算的伺服器與機架級方案,並透過發表多節點高密度運算效能設計的液冷(DLC,Direct-to-Chip)伺服器產品,推助資料中心邁向增進能源效率之路。

廣告(請繼續閱讀本文)

其中,支援大規模GenAI運算的機架(RA4401-72N1),採用NVIDIA GB200 NVL72高密度機架級GPU解決方案,並搭配Liquid-to-Air Sidecar或是Liquid-to-Liquid CDU之液冷散熱機櫃方案,為GenAI運算提供動力實現30倍的即時LLM推論速度,降低25倍的總擁有成本(TCO),同時減少25倍的能源消耗。

另在採用NVIDIA MGX架構的產品部分,和碩端出可配置包括NVIDIA GH200、NVIDIA H200 NVL、NVIDIA L40S等AI GPU平台之2U(AS201-1N0、AS205-2T1),及4U(AS400-2A1)型AI伺服器產品,因應AI應用上邊緣推論的需求。

尤NVIDIA H200 NVL為主流企業伺服器解鎖AI加速,大舉推進LLM推理速度最高可加速1.7倍,同時在高效能計算(HPC)應用方面則相較H100 NVL之效能,提高1.3倍。

廣告(請繼續閱讀本文)

考量資料中心持續追求提高運算密度與增加運算效能,和碩亦結合先進DLC冷卻散熱解決方案,搭載最新AMD EPYCTM 9005系列處理器,打造多節點高密度、並符合ORv3規範的OCP伺服器 產品(MS303-4A1)。

和碩同時也展出了多台氣冷式多節點伺服器(MS301-2T1、MS302-2T1),搭配 Intel Xeon 6 處理器 E-cores 和 P-cores系列,以應付資料中心之彈性擴充與節能省電的要求。

加入《工商時報》LINE好友,財經新聞不漏接

查看原始文章