台積電技術論壇》AI超級電腦功耗兩年暴增200倍!廣達趙茂贊:未來資料中心「全光化」成關鍵
在2026年台積電技術論壇上,廣達費曼研究中心副總趙茂贊以「AI超級電腦演進與未來架構」為題發表演講指出,AI伺服器正從過去單純的GPU堆疊,快速演進為高度整合的「Scale-up AI Factory」,隨著GPU數量、功耗與互連需求爆炸性成長,未來資料中心將全面走向光互連(Optical Interconnect)、高壓直流供電(HVDC)與系統級晶圓(SoW)架構,並直言「台積電未來角色將愈來愈關鍵」。
趙茂贊回顧AI超級電腦演進歷程指出,2012年多倫多大學研究團隊利用兩張NVIDIA遊戲顯卡參加ImageNet競賽奪冠,成為AI運算的重要轉折點,也催生後續專用AI伺服器架構。他透露,廣達早期即與NVIDIA團隊合作開發DGX-1,成為第一代真正的AI專用伺服器。
他指出,目前AI資料中心正由傳統Scale-out架構,快速轉向大型Scale-up架構,尤其NVLink、UALink與Ultra Ethernet等高速互連技術,已成為下一代AI叢集核心。趙茂贊認為,未來競爭關鍵不再只是GPU本身,而是GPU之間如何低延遲、高頻寬傳輸AI參數。
他進一步揭露AI超級電腦驚人的成長速度。從2016年至未來兩至三年,單一AI Rack中的ASIC數量將從8顆暴增至超過500顆,單顆晶片功耗增加約10倍,而整體系統功耗更暴增200倍。趙茂贊表示,DGX-1時代整套系統耗電僅約5KW,但未來單一AI Rack功耗將逼近1.6MW,對供電與散熱形成前所未見的壓力。
他指出,當GPU TDP功耗從數百瓦提升至數千瓦後,資料中心供電架構勢必從12V、48V,進一步走向800V HVDC高壓直流架構,而VRM電源模組也必須更靠近運算核心,甚至未來可能需直接整合於封裝之中。他坦言,目前系統廠雖已自行開發部分方案,但「最終還是要靠台積電的解決方案」。
除供電外,趙茂贊也點出銅線互連已接近物理極限。他表示,目前大型AI Rack內部已需超過2萬條高速銅纜,訊號損耗(Loss)甚至已超過PCIe與高速互連規範限制,未來224G、448G高速傳輸世代下,「純銅方案將愈來愈困難」。
因此,他認為AI資料中心未來勢必導入大量光互連,甚至走向「全光化(All Optical)」架構。他分析,若改用光纖取代銅線,不僅可大幅降低訊號損耗,也可有效減少重量與空間占用,尤其在大型AI叢集跨Rack傳輸時,光學方案將成為必要選擇。
談到更長期架構演進,趙茂贊認為將進一步發展至系統級晶圓(System on Wafer, SoW)。他分析,未來超大型AI Switch與3D Mesh架構,可能直接在晶圓層級整合大量晶片與高速互連,以降低線材數量與傳輸延遲。他強調:「SoW非常重要,但一定要靠先進封裝與晶片整合技術。」市場解讀,呼應台積電近年積極推動的SoW-X與超大型CoWoS路線。