記憶體對AI有多重要?黃仁勳意外與美光總裁同天在台 直言:今年需要更多記憶體
輝達執行長黃仁勳29日抵台,不過同時還有另一位科技業大人物在台灣,也就是記憶體大廠美光總裁Sanjay Mehrotra,他於29日下午拜會總統賴清德,兩人不約而同在台灣顯示,對於兩家世界級大廠來說,台灣的重要性相當大。台灣是美光的生產重鎮,而與輝達合作密切的多家業者如台積電等都在台灣。
輝達執行長黃仁勳於29日抵台,不約而同的是,當天下午記憶體大廠美光裁Sanjay Mehrotra也在台灣與總統賴清德會面,黃仁勳得知消息後還向媒體開玩笑說:「我還以為你們大家都是為了我而來的,原來是為了Sanjay。」同時不忘大讚:「Sanjay非常出色。」
提到記憶體對於AI發展的重要性,黃仁勳表示,輝達重新定義了運算,從通用運算世界跨入AI運算世界,但最新一代的 AI 需要同時具備幾項條件,包含非常快速的處理能力,讓AI模型能迅速反應與思考,第二,AI 只有在具備「上下文感知(context awareness)」時才有用,它必須理解環境,這正是記憶體的重要性。
同時,AI還需要具備長期記憶與短期記憶。就像人類一樣,我們有長期記憶,也有短期工作記憶。因此,為了讓AI發揮效用,所需的記憶體容量正在大幅增加。黃仁勳認為,記憶體對AI的未來至關重要,且美光是一個非常、非常優秀的合作夥伴。
他透露:「我們很幸運,因為我們是世界上唯一一家與全球所有HBM供應商合作的公司。我很感謝他們的夥伴關係。」SK海力士、三星以及美光都做得非常出色,給予輝達很大的支持。今年輝達將有顯著成長,所以他們需要生產大量的記憶體。