PC已死?黃仁勳:AI效能十年提升100萬倍 新布局在個人代理、AI工廠與人形機器人
輝達(NVDA-US)執行長黃仁勳在GTC柏林大會發表演講,勾勒AI產業從大型語言模型走向自主代理 (AI Agent)、AI工廠與實體機器人的發展藍圖。他指出,過去十年AI效能提升約100萬倍,遠超同期摩爾定律帶來的約100倍成長,關鍵在於硬體、軟體、演算法與系統架構的整合式設計。從可在桌面運行個人AI代理的運算設備,到可將資料中心部署時間縮短至14天的整合式AI工廠,以及人形機器人參考平台,輝達正試圖將AI從數位工具推進為能執行任務、理解企業知識並與實體世界互動的完整運算系統。
黃仁勳在演講中以一台輕薄的RTX Spark運算設備作為開場,指出這類設備具備最高128GB統一記憶體,並以此對比2016年輝達將DGX-1送往OpenAI舊金山辦公室的情景。當年DGX-1同樣具備128GB記憶體,卻是一台需要兩人搬運的大型設備;如今相近容量的運算設備已能由一人單手舉起。黃仁勳藉此說明,過去十年間AI效能提升約100萬倍,而摩爾定律同期帶來的提升約為100倍,兩者之間的差距來自整個運算系統的協同最佳化,而不只是單一晶片的進步。
輝達將這種方法稱為「極致協同設計」,涵蓋晶片、系統架構、軟體、演算法及資料中心等不同層級。隨著AI模型逐漸具備推理、規劃及使用工具的能力,產業對運算資源的需求也從單純訓練大型模型,擴展至長時間運行AI代理、存取企業資料、呼叫軟體工具,以及在模擬環境中訓練機器人。
黃仁勳認為,傳統個人電腦主要依照使用者輸入的指令執行工作,未來的電腦則有機會成為使用者的個人AI代理與工作助手。使用者不必親自操作每一套軟體,而是將任務交給AI代理,由代理自行規劃步驟、選擇工具並完成工作。輝達因此將RTX Spark定位為可在桌面端運行個人AI代理的運算平台。
依照演講中的產品規格,RTX Spark的FP4 AI運算效能最高可達每秒1 Petaflops,統一記憶體容量最高128GB,並整合Blackwell RTX GPU與Grace CPU。黃仁勳在演講中將相關超級晶片稱為N1X。這類設備希望將高效能AI運算能力帶到個人工作環境,讓使用者可以在本地端執行模型,也能視需求將較大型的工作負載交由雲端處理。演講內容指出,相關設備已於10月16日開始銷售。
輝達表示,打造這類個人AI運算設備涉及大量軟體與硬體整合,公司與微軟 (Microsoft) (MSFT-US) 已秘密合作四年,累計投入數千個工程師年。RTX Spark支援OpenGL、DirectX及CUDA等技術,目標是讓既有軟體與開發工具能在新一代AI運算環境中持續運作。桌上型電腦、筆記型電腦與工作站等PC產業產品,也正朝整合AI運算能力的方向發展。
不過,AI代理並非只要具備一個大型模型就能獨立工作。黃仁勳將完整AI代理系統歸納為五大要素,包括模型、Harness、沙箱、知識與工具。模型負責感知、推理、規劃及工具使用;Harness負責編排任務、調度活躍記憶、工作記憶與長期記憶;沙箱用來隔離代理執行環境;知識讓代理理解企業資料與私人文件;工具則讓代理能使用人類既有的軟體系統。
這套架構也意味著AI代理的運算需求不再只集中於模型本身。代理進行更複雜的推理、反覆修正計畫及呼叫工具時,會消耗更多token,進而增加GPU運算需求。輝達提出以Vera Rubin平台支援不同工作層級的設計:Vera Rubin NVL72負責模型運算,Vera MGX運算節點執行Harness,Vera CMX儲存節點提供知識資料,Vera RTX運算節點則負責執行CUDA-X函式庫等工具工作。輝達希望藉此將模型、記憶、企業資料與工具整合為完整的AI代理基礎設施。
Vera Rubin的硬體設計也著重於簡化組裝與提高部署效率。黃仁勳在台上展示一個運算托盤,表示其設計不需要傳統纜線,並採用全液冷架構。依照演講說法,上一代Grace Blackwell系統組裝一台約需兩小時,Vera Rubin系統則可將組裝時間縮短至不到五分鐘。這項改變除了減少安裝與維護複雜度,也有助於大型AI資料中心更快完成部署。
AI代理能夠自行操作文件、連接網路及呼叫工具,但自主性提高也帶來安全風險。黃仁勳指出,若僅依賴提示詞要求AI代理不要執行危險操作,並不足以構成可靠的安全防護。輝達因此推出OpenShell參考架構,將權限規則放在AI代理本身之外,並讓每個代理在獨立沙箱中運行。
透過這套架構,管理者可限制代理能讀寫哪些檔案、連接哪些網路,以及執行哪些系統呼叫。敏感密鑰也不直接交由代理掌握,而是由外部政策與系統控制存取權限。輝達並提出由BlueField-4資料處理器支援的Sentry機制,在主機系統之外監控代理行為,一旦發現越權操作,就能在毫秒級時間內隔離相關工作負載。
輝達認為,安全機制將是AI代理能否進入企業核心工作流程的關鍵。當代理開始處理商業文件、存取內部資料庫、操作業務軟體,甚至代表使用者執行交易時,企業必須能夠明確界定其權限、追蹤行為並在必要時中止操作。OpenShell試圖將這些管理機制納入AI代理的基礎架構,而不是只依賴模型本身遵守指令。
在更大規模的部署層面,黃仁勳將AI資料中心稱為「AI工廠」,並以製造業作為比喻。他指出,傳統工廠將原料轉化為產品,AI工廠則將電力、運算資源與資料轉化為智慧。企業若想成為AI經濟的一部分,不應只消費AI服務,也必須具備生產AI服務與智慧成果的能力。
依照演講中的估算,一座1吉瓦規模的AI工廠,若將土地、電力、廠房、運算設備、網路、儲存與散熱等成本納入,整體投資約需500億美元。若工廠一年可創造400億美元收入,延後投產三個月就可能錯失約100億美元收入。這項估算凸顯大型AI基礎設施的建置速度,可能直接影響企業能否及時取得運算產能並將其轉化為商業收入。
為縮短AI工廠的建置時間,輝達推出NVIDIA DSX POD。每個POD由七個液冷運算機架組成,機架之間透過總長約17公里的Spectrum-X網路線連接。整套設備會先在工廠內完成整合、佈線與測試,再裝入可運輸的貨櫃,運往資料中心。當現場的水電設施準備完成後,設備即可進行部署,並透過乾冷器散熱及800V直流電系統供電。
輝達表示,傳統大型AI系統從運送、組裝到測試,部署時間可能長達約六個月;DSX POD則將整合、啟動、驗證及老化測試等流程提前移至工廠完成,使現場部署時間最短可縮至14天。這項設計延續了輝達將整機架系統移入工廠組裝的方向,並進一步將原本需要在資料中心進行的多項工程流程納入標準化供應鏈。
能源與用水效率也是AI工廠設計的重要部分。輝達指出,在產出相同token數量的條件下,DSX MaxLPS最多可降低30%的用電量。透過閉環液冷與乾冷器設計,系統也能減少散熱過程中的水分蒸發。依照演講中的估算,若以2吉瓦規模計算,每天可節省約5,400萬公升用水,相當於約18萬戶家庭一天的用水量。對於需要大量電力與散熱資源的AI資料中心而言,如何提高能源效率、降低用水需求,將直接影響建置成本與營運可持續性。
除了企業AI工廠與個人AI代理,黃仁勳也將物理AI與機器人列為下一階段的重要發展方向。演講中的示範主角是MicroDuck機器人,該機器人由Hugging Face與Pollen Robotics相關團隊參與開發。示範展示開發者如何利用AI代理建立模擬環境、訓練機器人行走,再將訓練結果部署到真實機器上。
整個流程從RTX Spark開始。開發者先以文字描述訓練場景與機器人需要學習的技能,再由Hermes與Nemotron模型協助規劃場景及列出所需物件。接著,系統透過OpenAI相關工具流程呼叫Astra,使用FreeCAD建立3D物件、利用Blender加入材質,再透過Omniverse SimReady函式庫補上物理屬性,最後在Isaac Sim中建立模擬環境。
接下來,AI代理為MicroDuck配置關節、執行器與連桿,並透過Newton物理引擎模擬機器人的運動。訓練階段則轉移到雲端,在Isaac Lab中讓數千個虛擬MicroDuck並行訓練。虛擬機器人可反覆嘗試、跌倒並調整動作策略,直到學會指定技能。訓練完成後,策略會下載回RTX Spark,經過評估再部署至實體機器人。演講中,四隻實體MicroDuck登台展示行走、坐下、站立與翻身等動作。
這項示範呈現出輝達所主張的物理AI工作流程:一套系統負責開發及訓練AI模型,另一套系統在Omniverse等數位孿生環境中讓AI學習技能,最後再將成果部署至機器人本體。透過模擬環境反覆測試,開發者可減少直接在真實世界進行試錯的成本與風險,也有機會縮短機器人從設計到實際應用的時間。
在人形機器人方面,輝達與Agile Robots共同推出Agile ONE SN參考人形機器人平台,目標是降低開發者打造機器人時必須自行整合軟體、運算系統、感測器與機械結構的門檻。依照演講公布的規格,Agile ONE SN身高1.4公尺、體重40公斤,具備31個自由度,預先配置Isaac GR00T,並由Jetson Thor平台驅動,預計2027年初上市。
黃仁勳認為,人形機器人有機會成為下一個大型產業,但若每一種任務都需要重新設計一套機器人系統,市場將難以形成規模經濟。手機、個人電腦及大型NVLink系統的發展,都顯示標準化平台有助於擴大出貨量,再透過規模帶動技術進步。人形機器人未必適用所有工作場景,但由於外型與人類生活及工作環境相容,有機會涵蓋工廠、倉庫乃至家庭中的多種任務。
Agile ONE SN結合輝達開放的資料集、Isaac模擬平台與GR00T模型,試圖成為機器人開發者可直接使用的參考平台。輝達希望透過標準化硬體及軟體工具,讓開發者將更多時間投入任務設計與AI訓練,而不是從零開始整合整套機器人系統。
在模型策略上,輝達也持續擴大開放模型布局,涵蓋不同產業與應用領域。語言模型系列為Nemotron,世界基礎模型系列為Cosmos,人形機器人模型為GR00T,自動駕駛模型為Alpamayo,量子運算模型為Ising,氣候與物理模擬則包括Earth-2。
黃仁勳指出,這些開放模型不一定在所有任務中都位居最前沿,但輝達希望透過開放模型權重、訓練資料與復現腳本,讓企業可以使用自有資料進行後訓練與調整,使模型更符合特定業務需求。企業可依照自身的知識、流程與保密要求,建立更貼近內部工作方式的AI系統。
為進一步讓AI代理理解企業資料,輝達推出Agent Knowledge Foundation,協助代理處理各類企業知識來源,包括格式不一的文件與結構化資料庫。相關工具可透過Nemotron進行資料解析、嵌入與重排序,新的Kumo模型則可直接從資料中進行預測。輝達認為,企業AI代理的價值不只取決於模型能力,也取決於它能否在權限允許的範圍內,取得並正確運用企業內部知識。
黃仁勳在演講尾聲表示,歐洲企業也將逐步成為AI企業。這項主張反映輝達希望擴大AI基礎設施與軟體平台的應用範圍,讓AI不再只是少數科技公司的產品,而是進一步進入製造、物流、企業服務、機器人與其他產業。
整場演講涵蓋個人AI運算設備、AI代理安全、整合式AI工廠、開放模型、企業知識管理與物理AI等多個領域,顯示輝達正將競爭重心從單一GPU延伸至整套AI運算系統。隨著AI代理需要更多推理與工具操作、AI工廠需要更高密度的運算與電力供應,機器人也開始透過模擬訓練連結數位模型與實體世界,硬體、軟體、資料中心與開發工具之間的整合能力,將成為AI產業下一階段的重要競爭關鍵。
更多鉅亨報導