技嘉首發 推出支援 NVIDIA HGX H200平台 AI 旗艦伺服器
在生成式人工智慧與科學運算的發展之下，大規模數據集的需求日益增加，領先業者無不盼以強大算力驅動科技。因應客戶的需要，做為生成式人工智慧伺服器與先進冷卻技術領導者，技嘉（2376）子公司技鋼科技15日宣布推出兩款新的8-GPU伺服器，這些伺服器支援NVIDIA HGX H200平台，該平台非常適用於大型AI數據集、科學模擬及其他高記憶體需求等工作負載。
G593 AI旗艦伺服器系列在GPU冷卻的設計上獨占鰲頭，在緊湊的5U機箱中實現穩定且高要求的效能，並提供強大的氣流以解決驚人運算密度所帶來的熱能。
NVIDIA H200 Tensor核心 GPU與禁得起考驗的GIGABYTE G593 8-GPU基板伺服器系列完美結合。相較於NVIDIA H100 Tensor 核心 GPU，NVIDIA H200 GPU在記憶體容量和頻寬上有顯著提升，具高達141GB的HBM3e記憶體和4.8TB/s的記憶體頻寬，分別增加了1.7倍的記憶體容量和1.4倍的吞吐量。
新款技嘉GPU AI旗艦伺服器包含G593-SD1-AAX3：支援第5代Intel Xeon 可擴充處理器，及G593-ZD1-AAX3：支援AMD EPYC 9004系列處理器，多達96個CPU核心。
技嘉表示，透過精密的調整與設計，除了CPU平台之外，這些新款伺服器有著類似的布局和規格，以適應加速運算的各種應用需求。這些伺服器將列在NVIDIA合格系統目錄中，更包括先前四款已通過NVIDIA認證系統™的G593 AI旗艦伺服器系列，有極佳的功能性與效能表現。
技嘉指出，G593 AI旗艦伺服器系列具備高水準的網路和儲存能力。支援最多 8個U.2 Gen5 NVMe SSD，該系列可以使用NVIDIA GPUDirect Storage（NVIDIA Magnum IO技術之一）快速處理數據，實現從GPU記憶體到儲存的直接路徑，提升頻寬且降低延遲。為了連接叢集中的其他伺服器或進行資料中心外的數據傳輸，提供了12個擴展插槽，支援透過NIC或DPU進行NVIDIA InfiniBand或乙太網路連接。此外，更配置了4+2 3000W冗餘電源，提供充足的電力和可靠的持續運行。
近期AI帶來科技的飛速進步，從企業到學術界都在引頸期盼最新發展，大型運算叢集的設計對人工智慧的發展就顯得至關重要。技嘉自去年推出了其機架級解決方案GIGAPOD，並使用NVIDIA HGX系統的部署大獲成功。目前，GIGAPOD均使用G593 AI旗艦伺服器系列來整合NVIDIA HGX H100。隨著產品線擴展支援至NVIDIA H200 GPU，GIGAPOD將幫助客戶實現更高的效能和效率，大舉加速運算流程。