請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

黃仁勳展示史上最強AI晶片GB200 液冷技術有鴻海!劉揚偉帶隊參加輝達GTC 展示雙方合作最新AI伺服器與液冷機櫃

今周刊

更新於 2024年03月19日10:08 • 發布於 2024年03月19日10:08

作者 : 劉煥彥

圖片 : 鴻海提供

全球最大專業電子代工業者鴻海(2317)參加了在台北時間周二(19日)在加州聖荷西的輝達GTC 2024人工智慧開發者大會,現場展示了與輝達(Nvidia)合作,因應下世代需求的AI伺服器與液冷機櫃。

鴻海董事長劉揚偉親自出席輝達GTC的黃仁勳主題演講,親自見證AI伺服器新品發表,並感謝黃仁勳在去年10月鴻海科技日站台。

鴻海進軍輝達GTC 展示AI伺服器產品、AI加速器、液冷解決方案

根據鴻海聲明,隨著生成式AI席捲各個產業,滿足客戶多樣化的計算需求,提供客戶合適的人工智慧資料中心基礎設施解決方案,成為鴻海集團首要任務。

鴻海攜手子公司鴻佰科技(Ingrasys Technology Inc.)在GTC大會展出多種AI伺服器產品,包括Ingrasys NVDIA MGX伺服器,提供市場上最多樣化的1U/2U/4U NVIDIA MGX伺服器產品組合,模組化架構提供GPU、CPU及DPU組合極高的靈活性和擴充性;搭配液冷解決方案的AI加速器GB6181,能實現高效散熱,並容納八個NVIDIA H100 Tensor Core GPU,適用於高效能的AI訓練,可支援下一代強大GPU,為高性能人工智慧資料中心提供強大算力支援。

▲鴻海子公司鴻佰科技展出的Ingrasys NVIDIA MGX伺服器。

鴻佰在GTC大會也展出最新世代AI數據中心液冷解決方案GB200 NVL72,搭載72個高性能NVIDIA Blackwell GPU和36個NVIDIA Grace CPU,透過第五代NVLink互連,串聯成單一大規模GPU,大幅加快大型語言模型的推論速度。

為了下一代人工智慧基礎建設需求,鴻海推出了先進液冷解決方案,包含液態對氣態的side car解決方案,和液態對液態CDU解決方案,具備有高達1300kW的強大散熱能力,能適用不同數據中心環境。

同場亮相的還有ES2100儲存系統,此NVMe-oF存儲系統採用NVIDIA Spectrum-2乙太網交換機,提供更高的吞吐量,實現極致的網路性能。其模組化和創新的無背板設計,讓使用者更換兩片交換機模組即實現輕鬆系統升級。

鴻海子公司鴻佰科技總經理丁肇邦說:「利用NVIDIA MGX平台,我們能夠採用模組化設計,用符合成本效益的方式打造多種伺服器配置,同時縮短上市時間,滿足客戶不同加速運算需求,幫助客戶建構各種應用的人工智慧數據中心。」

NVIDIA GPU 產品部門副總裁 Kaustubh Sanghani則說:「藉由NVIDIA MGX伺服器模組化參考架構,鴻海打造出一系列多元化的加速運算解決方案,將能滿足不同產業的不同需求。透過支援NVIDIA Blackwell架構的處理器、網路和軟體,鴻海集團的新一代解決方案將加速推動生成式AI運算的新時代來臨。」

「液冷散熱技術,鴻海五年前就開始做了」

劉揚偉上周四在線上法說會就提到,鴻海在AI伺服器的核心競爭力,是從零組件、模組、整機做到資料中心的垂直整合能力,而且是全球唯一家在這方面有絕佳垂直整合能力的供應商。

鴻海掌握了AI數據中心的關鍵零組件,包括高效能的運算伺服器、儲存器、交換器、電源供應解決方案及先進的散熱技術等,是唯一可以提供AI數據中心全方位解決方案的公司。

劉揚偉特別提及高速交換機、液冷散熱技術,是鴻海早就默默布局的技術,而且是他2019年接任董事長前,鴻海就已經布局的。

「提升GPU效能的要求下,高速交換機的功能將會凸顯,而鴻海就是交換機的重要供應商。至於液冷散熱技術,鴻海五年前就開始做了。」
「集團在這方面可以提供的價值包括更佳的運算效能、機櫃整體空間設計上的優化、節能表現優於業界、散熱解決方案也可以降低客戶的營運成本、及機台運作更安靜等。」

他表示,鴻海早就在默默佈局一些前瞻技術,可能要五年或十年後才會有成果的,而鴻海在AI伺服器的相關技術,是現在才逐漸被外界看到。

延伸閱讀:

黃仁勳讓鴻海獲利飆16年新高!去年EPS衝10.25元、要發史上最高股利5.4元 因AI伺服器業績爆量

更多今周刊文章
黃仁勳公開輝達效能最強AI晶片GB200,首度採用水冷散熱!鴻海、華碩…8家台廠成代工大贏家
繁星推薦連頂大都招不滿…台大、成大、清大都缺雙位數!總缺額數1713個,淡水這間大學缺最多

加入今周刊LINE好友,掌握更多資訊!

更多科技相關文章

01

【張瑞雄專欄】機器人項莊舞劍,志在?

Knowing
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...