AI「五層蛋糕」不夠看,華為首席科學家廖恆提「十八層寶塔」
為了中國上個月舉行的世界人工智慧大會(World Artificial Intelligence Conference,WAIC),華為 Fellow、半導體首席科學家廖恆接受當地財經和科技媒體人張小珺專訪,描述 AI 運算及其對應的半導體等基礎設施,整個是一座需要跨層協作的「十八層寶塔」。
NVIDIA 執行長黃仁勳今年在達沃斯世界經濟論壇,首度提出 AI 的「五層蛋糕」架構,令人深刻感受到現今 AI 媲美電力和網路,是動輒數兆美元規模的全球基礎設施大革命,並非曇花一現的技術熱潮。
廖恆以自身經歷和華為在半導體方面的發展,不認可「五層蛋糕」架構,而是比喻為「十八層寶塔」。由於文化差異,他說黃仁勳接觸法式甜點,所以用「五層蛋糕」來比喻;當他想到層次結構時,腦子裡容易浮現的是寶塔。無論「五層蛋糕」或「十八層寶塔」,本質上應指同一件事,都是試圖描述一個由許多層次構成、上下彼此依賴的複雜系統。
十八層寶塔
「十八層寶塔」從六大分層,進一步細分成十八層的架構。廖恆指出,最頂層是應用,比如豆包、微信、支付寶,這些產品直接面對使用者進行商業化。這部分最難的部分未必是科學方面的突破,而是產品定義、商業設計、營運和策略執行等等。
「最底層則是一些看起來非常髒的東西,比如礦石、採礦、材料提煉,因為半導體從物質來看,本來就是沙子、金屬以及各種化學材料的組合。」廖恆說,再往上一層則是元件結構設計,例如使用 FinFET 還是 GAA 電晶體,或者是把 2 條平行線路改成垂直線路,透過結構變化降低電容、提升速度。
往上層走,是怎樣在一片 Wafer 上製造出數百億個甚至上兆個電晶體。不僅要把它製造出來,還要保證它可以穩定運作 5 年、10 年,不會因為缺陷或者老化迅速失效,這是一件極其困難的事。廖恆表示,這方面的關鍵在於優秀人才,有些來自台灣、有些來自中國。「即便受到設備限制,沒有最先進的光刻機(曝光機),也缺少某些先進設備,仍然有無數人在努力製造這些設備,克服一個一個問題。」
來到第七層,差不多是晶片設計層,要做 2 件事:一方面向下充分利用既有製程能力,面對真實的物理約束;另一方面向上提前 3 至 4 年預測下一代軟體和演算法需要什麼,讓未來的晶片更容易設計程式。「因為我們的工藝(製程)條件與別人不同,別人不需要堆疊的地方,我們可能需要堆疊;別人可以透過提高頻率解決的問題,我們也許要透過平行和系統擴展來解決,所以晶片架構不能脫離下面的製造條件獨立存在」,廖恆說。
晶片之上,則是編譯器、程式語言、平行任務切分、強化學習、KV Cache 管理、模型壓縮、稀疏化、以及如何發明新的資料格式,讓人使用更低精度時,模型依然能夠正常收斂。再往上,就是模型、Agent 框架、知識庫系統和最終應用。
「七層以上,是絕大多數人比較容易看見的世界;七層以下,更像是地下室,看到的人相對少」,廖恆補充說。
▲ 華為半導體的十八層寶塔。(Source:電子工程專輯)
因此,受到華為昇騰晶片支持的 DeepSeek 從軟體層最佳化,讓改進迴圈每次可以更快看到進步,而不是只依靠晶片層升級。
張小珺提問從十八層寶塔來看,中國較有優勢的地方在何處時,廖恆認為應用層很有優勢,比如支付寶、微信支付,在很多國家都沒有這麼方便。
中國社會高度數位化,特別是在消費端這一塊,「從應用層一直到晶片之前,我覺得中國至少不比別人差。演算法層更是群星璀璨,我甚至覺得,全球非常優秀的演算法人才中,相當大的比例是中國人或者華人」,廖恆說。
(首圖來源:華為)