台積電董事長劉德音：矽光子將成為半導體產業最重要技術
〔記者洪友芳／新竹報導〕台積電董事長劉德音與史丹佛大學工程學院教授、台積電首席科學家黃漢森在知名國際學術期刊IEEE網站，新發表一篇署名為《How We’ll Reach a 1 Trillion Transistor GPU》的文章，講述台積電是如何達成1兆電晶體的目標。文中強調，先進封裝扮演重要角色，且由於人工智慧應用的需求，矽光子將成為半導體產業最重要的使用技術之一。
劉德音與黃漢森在國際電機電子工程師學會(IEEE)網站發表文章中指出，從1997年IBM超級電腦「深藍」擊敗西洋棋人類冠軍，到2023年爆火的ChatGPT，再過15年，人工智慧已發展到可以「合成知識」(synthesize knowledge) 的地步，可創作詩歌、創作藝術品、診斷疾病、編寫總結報告和電腦程式碼，甚至可以設計與人類製造的積體電路相媲美的積體電路。
文中表示，所有這些奇妙的人工智慧應用都歸功於三個因素「機器學習演算法的創新、大量數據的可用性，半導體製程的進步實現節能運算」。如果人工智慧革命要以目前的速度繼續下去，「它將需要半導體產業做出更多貢獻」。「10年內，它將需要一個1兆電晶體的GPU，也就是說，GPU的裝置數量是當今典型裝置數量的10倍」。
內文表示，CoWoS 是台積電的矽晶圓上晶片先進封裝技術，目前已在產品中得到應用。例如 Nvidia Ampere和Hopper GPU。 當中每一個都由一個GPU晶片和六個高頻寬記憶體立方體組成，全部位於矽中介層上。計算GPU晶片的尺寸大約是晶片製造工具目前允許的尺寸。
HBM(高頻寬記憶體)是對AI日益重要的另一項關鍵半導體技術的一個例子，透過將晶片堆疊在一起來整合系統的能力，台積電稱為 SoIC (system-on-integrated-chips) 。 HBM由控制邏輯IC頂部的一堆垂直互連的DRAM晶片組成。 它使用稱為矽通孔 (TSV) 的垂直互連來讓訊號通過每個晶片和焊料凸點，以形成記憶體晶片之間的連接。高效能GPU 廣泛使用HBM 。
展望未來，3D SoIC 技術可以為當今的傳統HBM技術提供「無凸塊替代方案」(bumpless alternative)，在堆疊晶片之間提供更密集的垂直互連。 最近的進展表明，HBM測試結構採用混合鍵合技術堆疊12層晶片，這種銅對銅連接的密度高於焊料凸塊所能提供的密度。此儲存系統在低溫下黏合在較大的基礎邏輯晶片之上，總厚度僅為600微米(µm)。
文章指出，對於由人工智慧運用晶片組成的高效能運算系統，高速有線通訊可能很快就會限制運算速度。目前光學互連已被用於連接資料中心的伺服器架構。很快就會需要矽光子學的光學介面，並與GPU和CPU封裝在一起。這將允許擴大能源效率和面積效率的頻寬，以實現直接的光學 GPU到GPU通訊，這樣數百台伺服器就可以成為具有統一記憶體的單一巨型GPU。由於人工智慧應用的需求，矽光子將成為半導體產業最重要的使用技術之一。