ChatGPT是超棒的老師，不能小看中國！黃仁勳炫風來台還說了什麼？完整QA一次看
輝達（NVIDIA）執行長黃仁勳於5月30日時接受全球分析師及媒體問答，針對AI、自駕車等先進科技趨勢科技發展給出回答。《數位時代》整理出當天的精彩片段。
AI市場會大於自駕車市場，黃仁勳：安全性也很重要
Q：NVIDIA如何看待類比運算對人工智慧運算的影響，例如在記憶體中進行類比運算？這一個趨勢會不會重新定義數位運算的架構？
黃仁勳（以下簡稱黃）： 資訊產業可以蓬勃發展的主要原因就是因為軟體，從IBM System/360到x86 CPU，再到ARM CPU，所有的運算系統都是可編程的，軟體是讓這個行業如此豐富的原因，所以最重要的就是軟體要能夠被編碼。
Q：您認為未來AI的發展途徑為何？
黃： 我認為這要分成先進應用和先進產業兩個部分來回答。首先，在應用的部分，主要是將人類無法預測和分析的複雜問題，透過轉寫軟體程式來解決。
我最喜歡的兩種應用分別是透過AI幫助人類找到新藥物來克服疾病，以及分析和預測氣候變遷，我們能透過人工智慧找到答案。
其次，在產業部分，AI現在只存在於雲端和人工智慧超級電腦，未來會延伸到每一個雲端當中。不過，我對另外兩個領域也很感興趣，一個就是將人工智慧應用在企業端，像HGX H100這樣的伺服器可以在如金融、零售等任何公司中。
另一個就是人工智慧在重工業中的應用，包含汽車、製造業、倉庫和電池工廠等，都是重工業領域，重工業也是全世界最大的行業之一。
Q：您如何看待AI模型訓練、推論（inference）兩個部分的運算架構發展？雖然現在你提供的架構兩個都可行，但未來是否會有一段時間人們將耗費大量時間和金錢，著重在訓練部分的開發？
黃： 如果你在資料中心裡面耗費8至9成的時間訓練AI模型、僅有1成時間拿來推論，意味著資料中心已經變成一個AI工廠。
當然也可以使用HGX H100電腦進行推論。不過根據內容不同，AI推論的對象可能會從圖像、文字、蛋白質到影像，而根據不同的推論任務，也會需要不同種類的處理器。
就像在傳統計算中一樣，不同的應用場景需要不同大小的伺服器。在這個新的加速計算世界中，我們也會有完全相同的情況，這就是為何NVIDIA有這麼多不同版本的GPU。
Q：你覺得AI還能如何幫助遊戲開發？
黃： AI就是我最愛的機器人，它其實是一個遊戲，非玩家角色NPC。未來世界上將有數十億、數萬億的NPC，他們將會很聰明，會有自己的故事、遊戲的情境在腦海裡，而且他們會互相互動。他們可以很容易地前往各地。另外，他們都會說不同的語言，也有不同口音，所以你將能夠輕鬆地互動，創造虛擬世界也會容易得多。
Q：相較AI市場，您對於自駕車晶片市場有什麼看法？自駕車晶片市場是否會比AI還大呢？
黃： 每年只有1億輛汽車被製造，然而，AI是數位的，這個市場在產生虛擬資訊，部署在雲端，所有這些AI都在雲端，所以數量無限，這就是為什麼這個市場會比汽車市場更大。
自動駕駛市場將會非常棒，每一輛汽車都會擁有非常優秀的電腦，而且這些電腦會保護你的安全，因此須處理很多關於安全的演算法，非常困難。但無論如何，每一輛汽車都將擁有非常強大的電腦，我對此感到非常興奮。
Q：請問您對於減少未來資料中心能耗的看法是什麼？
黃： CPU不斷升級的日子已經結束了，現在我們在世界上的雲端有數億個CPU，而工作負載一直在增加。如果我們增加更多的CPU，功耗就會繼續增加。所以我們必須加速運算，這非常重要。
在我們公司，我們盡可能地加速所有東西，現在雲端廠商也都知道他們要盡可能加速運算。如果你聽過Microsoft Build，有一些關於資料處理的加速的演講。改善是的過程是量級，所以如果你把計算時間減少，運算速度加快10倍、20倍甚至是100倍，當然就節省了功耗並更快速完成工作。這是今天運算的核心問題。我們必須加速運算，否則結果無法永續。
Q：先前馬斯克曾公開指出，生成式AI將對社會造成巨大風險，您如何看待？
黃： AI有著巨大的好處，當然也會伴隨著風險。但別忘了，AI最終將會是一項產品或服務，科技無法幫助人類除非它變成產品或服務，而產品和服務都應具備安全性且被規管，就像你吃的維他命、喝的咖啡一樣。
AI未來將會有很多產品或服務型態，無論是用在醫療、交通、製造、零售、金融服務、保險或是藥品探索（drug discovery），這些領域都有像FDA（美國食品藥物管理局）、NHTSA（美國國家公路交通安全管理局）這樣的主管機關，他們會需要監管AI，所有的應用都需要被監管，我們對AI安全性相當看重。
Q：每個人都可以擁有AI，每個公司都可以使用AI，但在科技生態系之外，多數人們還是缺乏該領域的知識。舉例來說，當英國所有的機場電子門都故障了，人們得要等4個小時才能入境，等待人員前來支援。因此，對於那些沒有專業知識的人來說，AI的替代物 (Backup) 究竟是什麼？而NVIDIA在這個生態系中扮演什麼角色？
黃： 讓我解釋一下今天的電子門問題。當電子門出現故障時，可能有一段軟體有bug，而有人以某種方式與電子門互動，以一種複雜的方式觸發了一個功能性故障，便會產生系統內部的bug。
也許有一個馬達磨損了，但讓我們假設是一個軟體問題。未來，如果電子門出現故障，你會問AI說：電子門出了什麼問題？AI會透過分析，指出在這種情況下觸發了軟體中的缺陷。然後你會說：請修好它，AI就會產生一些新的代碼，並運行那些新的代碼。
隨機的機場工作人員，現在不僅能診斷一個複雜的系統，還能夠修復，我剛剛把每個人都變成了程式設計師。如果你是農民，如果你從事農業科技，如果你在工廠工作，每個人都會成為程式設計師。你只需要知道這台電腦能夠做到這一點，而且你要知道如何問它、如何提示它。
Q：現在生成式AI可以生成影像和影片，我們該如何理解這些素材能幫助AI的模型訓練，以及這種作法將如何幫助AI模型被訓練得更好？
黃： 今天我們創造一個很大的模型，不是因為我們要將模型用在所有事物上，而是會轉換成大、中和小的模型。我們用大模型來訓練中模型，然後再用於小模型，甚至是迷你模型。
迷你的AI模型可以在手機上運行，大模型則會在雲端，全都取決於應用場景的需求。這是很重要的觀點，不是AI都需要超大的模型，但你必須要從大模型開始。
首重供應鏈韌性，中國GPU新創不可小看
Q：您提到未來加速運算的需求會來是全世界的每個角落，請問當前供應鏈狀況已經跟上需求了嗎？
黃： HGX H100現在的需求相當不可思議，而我們在全球的供應鏈已進行大量採購，下半年的供應量相當龐大，與供應鏈夥伴也很迅速的在進行合作。
當人們說NVIDIA Hopper GPU時，他們指的是這個（HGX H100）。很多人誤以為它是一塊晶片，實際上它是一台超級電腦，內含35,000個元件，數百億個電晶體的組合。你可以試著舉起它，有65磅重，是世界上製造過的最複雜的超級電腦，需求量高，我們供應量也很大。
Q：您認為美國對中國的銷售禁令，會拖緩中國的科技進展，還是會讓中國的GPU製造商更蓬勃發展，甚至創造出另一個AI軟、硬體的生態環境？
黃： 這很難預測，但你必須承認，中國的科技創業者是充滿活力的。中國擁有世界上最好的雲端、消費性互聯網服務。當然，他們在電子支付也是最先進的，電動車也進步的非常快。
我們絕對會遵守規定，但我想中國會利用這個機會來培育他們所有的本地創業者，這就是為什麼中國有這麼多GPU新創的原因。現在如果你要在中國的半導體產業創業，當然會創辦GPU公司，中國現在就有一大堆的GPU公司。
我們有很多競爭者，而且到處都有優秀的工程師，因此我們盡最快的速度奔跑。Run, don’t walk.
Q：是否有計畫和台灣的軟體公司或生態系合作，深入各種產業呢？
黃： 是的。事實上在這個聯訪後，我會出席雲達科技的記者會，然後回來和台灣軟體開發者共同參與輝達開發者大會。開發者大會是希望能夠幫助生態系，台灣處在科技重要時刻，現在正面臨過去40年以來，最重大的科技革新，台灣看來有很大的機會，是黃金時機。台灣已經有資通訊產業的基石，是電腦行業發展的基礎，一定要把握機會浴火重生。
延伸閱讀：黃仁勳脫下招牌皮衣幫他穿上！幫NVIDIA打造首台AI超級電腦，雲達什麼來頭？
黃仁勳：英特爾下一代製程測試結果很不錯
Q：在創辦輝達至今的旅途中，所面臨的最大風險以及所做的犧牲是什麼？轉變哪些思維方式呢？
黃： 像Grace Hopper這樣的AI（人工智慧）加速晶片，在深度學習之前從未存在過，從晶片架構、晶片、封裝再到系統和軟體，所有東西都因為深度學習而被重新發明。因為深度學習不僅是軟體，他是一個會與人類共同撰寫軟體的電腦，作為人類的助手而被稱為人工智慧，非常驚人。
也因為我們相信所有東西要被重新發明，所以我們必須做出犧牲。人工智慧由數以萬計的工程師所成就，現在已經超過了10萬個工程年，這些工程年本來可以做其他事情，這就是犧牲。
Q：請問您對未來AI人才的培養有何看法？
黃： 首先，AI將是最好的老師，我有一個ChatGPT的帳號，我問ChatGPT很多問題，而它是一個不可思議的老師，還會反問我問題。我期待將來會有大型語言模型整合到教育中，從小學一直到大學甚至更多，如同一個互動式的教育助理，真是太棒了。
Q：英特爾首席執行官基辛格説，他們在幾年內很快就會追上輝達，您如何看待？
黃： 你必須用跑的，不要用走的。（You have to run, don’t walk.）英特爾是一間很好的公司，我有很多朋友都在英特爾工作，他們擁有很好的工程師，很多輝達的工程師也都來自英特爾，這間公司擁有不少優秀人才，你不能低估英特爾。Run, don’t walk（用跑的，不要用走的）。
延伸閱讀：被黃仁勳特別點名，還讚測試晶片「不錯」！英特爾笑收Nvidia豐厚大單？
Q：除了硬體之外，在未來幾年內，你們看到的軟體和服務營收增長的三個最大機會點是什麼？
黃： 第一，現場這些電腦，沒有一台能夠在沒有標準軟體的情況下運行，整套運算系統完全依賴軟體，NVIDIA致力於打造一整套軟體生態系，從操作系統、系統管理到分散式計算等軟體技術，使這個電腦系統能夠融合到每個雲端。
第二，我們能立即在現場佈置這樣的電腦系統。現今除了我們，沒有電腦公司能到府安裝，我們能在兩週內打造出一個AI工廠。我們把整個數據中心產品化，而且其中大部分功勞都要歸功於軟體。
Q：瑞士信貸銀行（Credit Sussie）指出，輝達控制了95%至100%的機器學習市場，這對於AI民主化來說不是好事。請問輝達會如何在AI領域保持領先的同時，也同時將AI民主化納入考量呢？
黃： 首先，我認為這個說法不精確，Google有TPU（張量處理器）、AWS有Trainium晶片，兩個都不是輝達產品，加上我知道世界上還有其他晶片用於AI訓練，我認為這個說法不精準。
其次，我們透過讓AI可以被部署在每個雲端，讓每家公司、電腦都能使用。但相對的，Trainium晶片就不是誰都能使用的產品。無論何時你想增加AI功能，我們都已經能提供AI的基礎設施，達到AI的民主化的近用性（access），任何想要用AI的人，都可以取得相關產品。
NVIDIA技術如此受歡迎，是因為它是成本最低的解決方案，加上系統的吞吐越高，電腦完成工作的時間就越短。另外，軟體和網路也是重要的因素，沒有這兩者，電腦就無法發揮功能。正是這兩個原因，讓我們的解決方案無所不在，並能夠被隨處取得的原因。
責任編輯：錢玉紘
延伸閱讀
黃仁勳炫風訪台，下一站中國？親訪騰訊、比亞迪，為何不顧美國禁令也要去？
被黃仁勳特別點名，還讚測試晶片「不錯」！英特爾笑收Nvidia豐厚大單？
黃仁勳脫下招牌皮衣幫他穿上！幫NVIDIA打造首台AI超級電腦，雲達什麼來頭？
「加入《數位時代》LINE好友，科技新聞不漏接」
留言 8