如何帶走AI晶片的熱？ 台達液冷驗證中心為資料中心尋能源解方

隨著AI晶片功率邁向2kW，傳統幾MW的資料中心已經不夠看，現在看到的許多資料中心，規模已經來到1GW或以上。除了晶片功率上升，CoWoS等先進封裝技術將大量晶片緊密封裝在一起，發熱密度跟著提高。散熱重心因此從氣冷走向液冷，再深入到晶片，讓熱能從源頭被帶走。

台達在桃園中壢六廠設有一座「液冷驗證中心」（Cooling Lab），15KW、150KW及3MW的CDU冷卻液分配裝置都在這邊完成研發與測試，並進入NVIDIA合格產品名單。《環境資訊中心》走進這座實驗室，看台達如何為AI資料中心提供散熱與能源解方。

AI晶片功率翻四倍 散熱從吹風走向液冷

「現在新的NVIDIA架構都一定要用液冷來去把熱帶走了，傳統的氣冷其實都是不夠的。」台達資料中心第一事業部總經理詹智強表示，資料中心若要導入最新一代的GPU算力，散熱系統必須轉向液冷。

台達台灣業務總經理張立業形容，傳統氣冷就像是人感到微熱時，吹電風扇把熱散掉；而最新的液冷技術，則像是發高燒時，把冰塊直接貼在額頭上冰敷。在液冷系統中，CDU冷卻液分配裝置就像是資料中心的心臟，把冷卻液輸送到晶片，把晶片的熱帶走。

張立業指出，AI晶片功率從過去單顆約0.5kW提高至2kW，翻了四倍。伺服器與機櫃所需功率也同步增加。近年的先進封裝技術（如CoWoS）將大量晶片緊密封裝在一起，更讓晶片發熱密度提高，底層載板（substrate）的熱也更容易累積、難以排出，因此散熱技術必須深入到晶片。

台達電中壢六廠近1000平方公尺的「液冷驗證中心」（Cooling Lab），是台達為旗下液冷設備打造的「一站式」驗證基地，測試產品的安全、性能與可靠度。台達表示，15KW、150KW及3MW的CDU都是在這邊完成研發測試，並被NVIDIA列為合格產品名單。未來還要擴建7MW的實驗室。

CDU將冷卻液送入伺服器，流經貼附在晶片上的水冷板，直接帶走熱量。吸熱後，冷卻液溫度可升至約45°C，再流回CDU，與冰水主機供應的低溫冷卻水進行熱交換；降溫後，再重新送回伺服器，形成循環。冷卻3MW機櫃負載所需的冷卻水流量，約相當於三輛消防車同時出水。

從晶片到太空，資料中心還有哪些能源、散熱解方？

電力從電網送到晶片，會經過多次降壓與轉換，產生能源損耗。越少的轉換，效率就越高。台達導入採用第三代半導體技術的固態變壓器（SST），整合原本分散在不同設備中的電力轉換，讓整體電力轉換效率提升約4～5個百分點，對用電規模龐大的AI資料中心而言相當可觀。

除了改造機房，降低耗能也可以從晶片本身著手。美國安卓樂資本（Andra Capital）合夥人林家振指出，推論晶片公司Groq的晶片功耗較低，第三代產品仍可採用傳統氣冷。若既有資料中心有閒置機櫃，無須大幅改造散熱系統即可導入。

根據Groq公開資料，Groq專門用於AI推論的LPU（Language Processing Unit），將記憶體與運算單元整合在同一晶片上。相較GPU需透過獨立的高頻寬記憶體（HBM）在運算單元與外部記憶體間搬移資料，LPU可減少資料往返、提升存取效率。

林家振也提到，若將算力設備部署到太空，可透過追日（tracker）設計，讓光電板持續朝向太陽，達到近24小時發電。不過散熱方式有所不同，由於太空接近真空，對流與傳導散熱效果有限，關鍵將在是否有效做到輻射散熱。他希望台灣也有能力佈局「太空散熱」，正與相關業者洽談中。