聯發科AI軍火庫1／直擊GPU算力中心　「金光閃閃」輝達SuperPOD每月狂吞1380億Token

打開資料中心機房的第一道門，風扇轟隆隆的運轉聲傳出，聯發科在苗栗銅鑼科學園區的研發資料中心機櫃尚未滿載，但被形容「金光閃閃」的輝達（NVIDIA）SuperPOD架構，加上連結每個運算節點的高速網路，每月已經能夠處理1,380億個Token。

聯發科表示，銅鑼研發資料中心以輝達DGX B200平台驅動，為全台首座輝達DGX SuperPOD運算叢集為核心的AI訓練與推論平台，採用Blackwell架構。根據輝達官方說明，SuperPOD是開箱即用的AI超級電腦，可擴充至數萬顆輝達GPU，因應兆級參數生成式AI模型的訓練與推論。

實際上，因為持續隨需求動態增加部署伺服器，聯發科並未公布資料中心現有機台數量。不過，聯發科指出，目前對全套系統調教已達到比標準值95%還高的99%效能，以現階段部署，銅鑼資料中心每月可處理1,380億個Token，促使模型訓練迭代超過2.4萬次。

並且，聯發科表示，透過輝達的軟體開發架構，能有效將AI模型推論速度提升40%、Token傳輸量提高60%，支持聯發科從邊緣到雲端各類高階產品的研發需求。

聯發科技資訊工程本部全球資訊服務副處長黃博揚表示，輝達的GPU生態系目前相對成熟，支援的研發和作業環境也最完善。至於未來會不會採用聯發科參與設計的Google TPU？黃博揚保留可能性，「AI產業的迭代跟變化實在太快。我們兩年前買的 GPU，現在大概也只能支持非常舊的模型，所以看新的技術，需要多加考量。TPU

現在的運算模型或者應用場景，回應到聯發科現在R＆D（研發）的工作或途徑上，目前還不是需求的解決方案，但是未來會不會有改變？這有可能。」他解釋。

此外，銅鑼研發資料中心的GPU算力機房在散熱上，採用氣冷技術。聯發科指出，透過冷熱空道的設計，加上導入高效率的行間氣冷系統，銅鑼研發資料中心將傳統的氣冷技術再進一步提升到PUE小於1.36，電源使用效率優於去年全球資料中心的平均值1.54。

加鏡LINE新聞不漏接
聯發科AI軍火庫2／資料中心首導入浸沒式液冷技術　散熱效率飆2.6倍
聯發科AI軍火庫／聯發科45MW資料中心曝光　算力半年翻倍還出動機器人巡機房