AI晶片變吃電怪獸! 台積電公開靠AI軟體設計製程降低耗能
用於支撐人工智慧運算的電腦晶片耗電量非常驚人,因此台積電24日在美國矽谷的一場會議上,展示了一種讓晶片更省電的策略,透過人工智慧驅動的軟體進行封裝與整合設計,將多個「小晶片」封裝成完整運算模組,大幅提升能源效率。
路透社報導,晶片耗電量有多驚人,以美國晶片設計大廠輝達(Nvidia)目前的旗艦級人工智慧(AI)伺服器為例,該伺服器在高負載任務時耗電量可高達1200瓦,如果長時間連續運轉,耗電量相當於1000戶美國家庭用電。
為了讓人工智慧(AI)運算晶片的能源效率提升約10倍,台積電在美國矽谷的一場會議上展示了新一代的晶片設計,也就是將採用不同技術製造的多個「小晶片」(chiplets),封裝整合成一個完整的運算模組。相比傳統的一整顆「單體晶片」是將所有功能都集結在一起,「小晶片」雖然是完整運算晶片的較小單元,但它們只負責整顆晶片的一部分功能,透過封裝技術把它們拼起來,組成一個「完整」的系統。
但要運用這些技術,在晶片整合、封裝等製程的複雜設計任務上,晶片公司越來越依賴人工智慧驅動的軟體,例如益華電腦(Cadence Design)與新思科技(Synopsys)這2家公司在24日都推出了與台積電密切合作開發的新產品。台積電副處長張志偉(Jim Chang)在介紹研究成果時表示,「這個工具只需要跑5分鐘,而我們的設計師卻要花2天時間。」
現行的晶片製造方式已碰到瓶頸,例如用電性連接來傳輸晶片內外資料的能力已接近極限。Facebook母公司Meta基礎設施團隊工程師維拉拉加文(Kaushik Veeraraghavan)在主題演講中表示,像是用光學連接在晶片之間傳輸資訊等新技術,必須變得足夠穩定可靠,才能在大型資料中心中投入使用。他指出,「這其實不是工程問題,」並補充,「而是一個根本性的物理問題。」
**(延伸閱讀:Intel前CEO:台積電投資千億也無法振興美晶片業 研發仍在台灣)
(延伸閱讀:「主謀小孩需錢治病」 台積電內鬼工程師洩密原因:沒想到後果這麼嚴重)**