和碩前進SC24 端液冷GB200 NV72機櫃方案

和碩（4938）將於SC24美國運算大會中，展示支援大規模GenAI（生成式AI）運算的液冷機架式（Rack）高效運算伺服器產品暨散熱解決方案，因應即時大型語言模型（LLM）運算與先進散熱基礎設施的需求，同時呼應SC24今年的展覽主題「創造高效運算」。

和碩此回展出的系列產品，與晶片大廠夥伴包括AMD（超微）、Intel（英特爾）及NVIDIA（輝達），合作設計支援高效運算的伺服器與機架級方案，並透過發表多節點高密度運算效能設計的液冷（DLC，Direct-to-Chip）伺服器產品，推助資料中心邁向增進能源效率之路。

其中，支援大規模GenAI運算的機架（RA4401-72N1），採用NVIDIA GB200 NVL72高密度機架級GPU解決方案，並搭配Liquid-to-Air Sidecar或是Liquid-to-Liquid CDU之液冷散熱機櫃方案，為GenAI運算提供動力實現30倍的即時LLM推論速度，降低25倍的總擁有成本（TCO），同時減少25倍的能源消耗。

另在採用NVIDIA MGX架構的產品部分，和碩端出可配置包括NVIDIA GH200、NVIDIA H200 NVL、NVIDIA L40S等AI GPU平台之2U（AS201-1N0、AS205-2T1），及4U（AS400-2A1）型AI伺服器產品，因應AI應用上邊緣推論的需求。

尤NVIDIA H200 NVL為主流企業伺服器解鎖AI加速，大舉推進LLM推理速度最高可加速1.7倍，同時在高效能計算（HPC）應用方面則相較H100 NVL之效能，提高1.3倍。

考量資料中心持續追求提高運算密度與增加運算效能，和碩亦結合先進DLC冷卻散熱解決方案，搭載最新AMD EPYCTM 9005系列處理器，打造多節點高密度、並符合ORv3規範的OCP伺服器 產品（MS303-4A1）。

和碩同時也展出了多台氣冷式多節點伺服器（MS301-2T1、MS302-2T1），搭配 Intel Xeon 6 處理器 E-cores 和 P-cores系列，以應付資料中心之彈性擴充與節能省電的要求。

加入《工商時報》LINE好友，財經新聞不漏接