請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

AI「五層蛋糕」不夠看,華為首席科學家廖恆提「十八層寶塔」

科技新報

更新於 08月04日16:57 • 發布於 08月04日16:54

為了中國上個月舉行的世界人工智慧大會(World Artificial Intelligence Conference,WAIC),華為 Fellow、半導體首席科學家廖恆接受當地財經和科技媒體人張小珺專訪,描述 AI 運算及其對應的半導體等基礎設施,整個是一座需要跨層協作的「十八層寶塔」。

NVIDIA 執行長黃仁勳今年在達沃斯世界經濟論壇,首度提出 AI 的「五層蛋糕」架構,令人深刻感受到現今 AI 媲美電力和網路,是動輒數兆美元規模的全球基礎設施大革命,並非曇花一現的技術熱潮。

廖恆以自身經歷和華為在半導體方面的發展,不認可「五層蛋糕」架構,而是比喻為「十八層寶塔」。由於文化差異,他說黃仁勳接觸法式甜點,所以用「五層蛋糕」來比喻;當他想到層次結構時,腦子裡容易浮現的是寶塔。無論「五層蛋糕」或「十八層寶塔」,本質上應指同一件事,都是試圖描述一個由許多層次構成、上下彼此依賴的複雜系統。

十八層寶塔

「十八層寶塔」從六大分層,進一步細分成十八層的架構。廖恆指出,最頂層是應用,比如豆包、微信、支付寶,這些產品直接面對使用者進行商業化。這部分最難的部分未必是科學方面的突破,而是產品定義、商業設計、營運和策略執行等等。

「最底層則是一些看起來非常髒的東西,比如礦石、採礦、材料提煉,因為半導體從物質來看,本來就是沙子、金屬以及各種化學材料的組合。」廖恆說,再往上一層則是元件結構設計,例如使用 FinFET 還是 GAA 電晶體,或者是把 2 條平行線路改成垂直線路,透過結構變化降低電容、提升速度。

往上層走,是怎樣在一片 Wafer 上製造出數百億個甚至上兆個電晶體。不僅要把它製造出來,還要保證它可以穩定運作 5 年、10 年,不會因為缺陷或者老化迅速失效,這是一件極其困難的事。廖恆表示,這方面的關鍵在於優秀人才,有些來自台灣、有些來自中國。「即便受到設備限制,沒有最先進的光刻機(曝光機),也缺少某些先進設備,仍然有無數人在努力製造這些設備,克服一個一個問題。」

來到第七層,差不多是晶片設計層,要做 2 件事:一方面向下充分利用既有製程能力,面對真實的物理約束;另一方面向上提前 3 至 4 年預測下一代軟體和演算法需要什麼,讓未來的晶片更容易設計程式。「因為我們的工藝(製程)條件與別人不同,別人不需要堆疊的地方,我們可能需要堆疊;別人可以透過提高頻率解決的問題,我們也許要透過平行和系統擴展來解決,所以晶片架構不能脫離下面的製造條件獨立存在」,廖恆說。

晶片之上,則是編譯器、程式語言、平行任務切分、強化學習、KV Cache 管理、模型壓縮、稀疏化、以及如何發明新的資料格式,讓人使用更低精度時,模型依然能夠正常收斂。再往上,就是模型、Agent 框架、知識庫系統和最終應用。

「七層以上,是絕大多數人比較容易看見的世界;七層以下,更像是地下室,看到的人相對少」,廖恆補充說。

▲ 華為半導體的十八層寶塔。(Source:電子工程專輯

因此,受到華為昇騰晶片支持的 DeepSeek 從軟體層最佳化,讓改進迴圈每次可以更快看到進步,而不是只依靠晶片層升級。

張小珺提問從十八層寶塔來看,中國較有優勢的地方在何處時,廖恆認為應用層很有優勢,比如支付寶、微信支付,在很多國家都沒有這麼方便。

中國社會高度數位化,特別是在消費端這一塊,「從應用層一直到晶片之前,我覺得中國至少不比別人差。演算法層更是群星璀璨,我甚至覺得,全球非常優秀的演算法人才中,相當大的比例是中國人或者華人」,廖恆說。

(首圖來源:華為

立刻加入《科技新報》LINE 官方帳號,全方位科技產業新知一手掌握!

查看原始文章

更多理財相關文章

01

勞保給付恐領不到!4大職業工會黑名單曝光

EBC 東森新聞
02

獨家》川湖起家厝爆紅 地方耆老揭「蓮花寶穴」傳說

自由電子報
03

3.1萬股東哭了!大廠確定9/3下興櫃 股價3天挫55%

EBC 東森新聞
04

錢鏡你家2/40歲才存退休金來得及! 每月1萬有機會滾出1686萬

鏡週刊
05

零股新制12月上路!9時與整股同步開盤

NOWNEWS今日新聞
06

盤中零股交易新制!12月7日起上路 「這時間」就能下單

三立新聞網
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...