請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

誰多榨出token誰就贏!黃仁勳:算力就是收入,輝達憑什麼喊出最低成本?

數位時代

更新於 06月03日06:15 • 發布於 06月02日03:15

「算力就是收入。每瓦效能就是你的收入。」輝達(NVIDIA)執行長黃仁勳在GTC Taipei主題演講中,用這句話概括AI工廠的競爭邏輯。

黃仁勳認為,AI產業的商業模式正在改變。過去資料中心主要追求更強的運算能力,但當AI代理開始實際協助工作、創造價值後,AI工廠真正生產的產品就變成了token。對雲端服務商與AI公司而言,能否用相同的電力、設備與資本支出產出更多token,將直接影響營收與獲利能力。

因此,資料中心競爭的重點,也從單純比較晶片效能,轉向比較誰能以更高效率、更低成本生產token。黃仁勳表示:「如果你有1GW的電力,那麼每瓦吞吐量就是收入,因為每一個token都是有利潤的。每一個token都是收入。」這也是他在演講中反覆強調「最低成本token」的原因。

在這個脈絡下,黃仁勳宣布,下一代AI工廠系統Vera Rubin已經全面進入量產。他指出:「輝達今天的token成本是全球最低,不是只低10%,而是低了好幾倍,甚至是成倍拉開差距。」

本次黃仁勳也將Vera Rubin機櫃搬到演講會場。

AI有用了,token才成為收入單位

黃仁勳在演講一開始先談AI代理帶來的生產力變化。他指出,AI已從生成式AI走向代理式AI,也就是能觀察、推理、規劃、使用工具並完成任務的AI系統。他宣告:「有用的AI(useful AI)已經到來。」

他以GitHub提交量為例說明這個變化。根據黃仁勳說法,GitHub提交量在2023年約3億次、2024年約4億次、2025年約5億次,而2026年前幾個月已幾乎成長到3倍。這代表AI代理已經開始進入軟體開發流程,讓工程師產出放大。

當AI能協助完成工作,token就有了不同定位。黃仁勳在演講中表示,token現在已經是能帶來收入的獲利單位;因為token能帶來收益,AI公司會想生產更多token,也會建造更多AI工廠。

算力就是收入,AI工廠要比每瓦產出

黃仁勳把AI資料中心稱為AI工廠,因為它的角色不只是支撐模型訓練與推論,而是持續生產token。當token能帶來收入,AI工廠的投資邏輯也跟著改變。資料中心不再只比較誰取得更多GPU,也要比較同樣電力下能產出多少token。他以1GW等級AI工廠為例指出,電力是資料中心的上限,當電力固定,每瓦效能就會直接影響收入。

黃仁勳解釋「算力即利潤」。

黃仁勳也提到,一座1GW等級AI工廠的投資規模,已從200億、300億美元,走向500億、600億美元,未來甚至可能達到800億至1,000億美元。當單座AI工廠投資金額愈來愈高,系統效率就會直接影響雲端業者與AI服務商的投資回收,他進而帶到,輝達的最大優勢就是「最低成本token」。

延伸閱讀:黃仁勳最新背板股出列!輝達「在台AI產能翻倍」,近300家生態系夥伴名單一次看

極致協同設計,輝達喊出最低成本token

黃仁勳在演講中表示,輝達今天的token成本是全球最低,「不是只低10%,而是低了好幾倍。」他把原因歸於輝達的「極致協同設計(extreme co-design)」:從晶片、機櫃、網路、儲存、電力、冷卻到軟體,全部放在同一套AI工廠架構中設計。

這也是輝達想強調的差異。AI工廠不是把GPU放進資料中心就結束,而是要讓CPU、GPU、網路、儲存、電力與冷卻系統一起配合。當AI代理需要查資料、呼叫工具、執行程式與存取記憶,任何一個環節變慢,都會拖累token產出效率。

在黃仁勳的說法裡,晶片便宜不等於token便宜。若系統上線慢、穩定性不足,或同樣電力下產出token較少,資料中心的營收能力仍會受影響。輝達要強調的,是從晶片到系統、從機櫃到資料中心的整體設計能力。

Vera Rubin全面量產,為AI代理時代打造

在談完AI工廠經濟後,黃仁勳把焦點拉到Vera Rubin。AI代理讓token成為可變現的產出,AI工廠競爭轉向每瓦產出與token成本,Vera Rubin則是輝達把這套邏輯推向下一代資料中心的重要產品。他宣布,Vera Rubin已經全面量產,並形容這套系統不是只為AI打造,也不是只用來執行AI,而是「為了執行AI代理而打造」。它被設計成多機櫃AI工廠系統,對應AI代理帶來的新型工作負載。

黃仁勳也強調,Vera Rubin量產背後需要更大的供應鏈支撐。他表示,輝達為Vera Rubin打造的供應鏈,是Grace Blackwell的兩倍大;組裝效率也明顯提升,Grace Blackwell rack過去約需兩小時組裝,如今Vera Rubin可縮短至約五分鐘。

黃仁勳說到Vera Rubin「是從台積電開始的」,採用3奈米製程、CoWoS-R與CoWoS-L封裝。他也表示,這套系統背後有「遍及台灣的150家供應鏈夥伴」,涵蓋晶片、封裝、系統到資料中心,也牽動數百萬平方英尺的工廠面積與數百個製造據點。

本次黃仁勳也秀出「背板股」名單。

Vera Rubin全面量產,是黃仁勳「算力就是收入」論述下的最新進展。當AI代理讓token成為可變現的產出,AI工廠競爭也從晶片效能,轉向誰能用更低成本、更高效率生產token;而輝達給出的答案,是從晶片、機櫃、網路、儲存到冷卻與軟體的整體系統設計。

對台灣供應鏈來說,從台積電製程與CoWoS封裝,到伺服器系統製造與資料中心建置,早已是這套AI工廠競爭的一部分;Vera Rubin全面量產,則將進一步放大台灣在先進製程、封裝與系統整合中的角色。

延伸閱讀:
黃仁勳推出AI PC晶片,骨子裡是台灣製!RTX Spark是什麼?它能做什麼?

黃仁勳點名的台灣GMI是誰?CEO赴美6個月蓋好AI算力中心,葉威延如何打進輝達生態系?

延伸閱讀

黃仁勳兆元宴「行走版0050」齊聚!出席企業市值飆上91.17兆元,AI一年灌進54兆元
蘇姿丰來了,13檔AMD概念股跟著飆!緯創、英業達⋯為COMPUTEX AI熱潮打頭陣
白話科技|COUPE是什麼?台積電點名下一個半導體關鍵字,COUPE概念股有哪些?
「加入《數位時代》LINE好友,科技新聞不漏接」

查看原始文章

更多理財相關文章

01

獨家》黎智英家族3.3億 再賣掉大安森林公園旁一戶豪宅

自由電子報
02

台股跳空走高!早盤衝漲1649點 台積電開2325元

民視新聞網
03

史上最大IPO誕生!SpaceX募資750億美元 市值直逼1.8兆美元

anue鉅亨網
04

川普取消空襲!美股全面反彈「費半飆漲近8%」 台指期盤後大漲2.69%

民視新聞網
05

川普不炸伊朗了!台股大反彈1200點 加權指數重回4萬4

鏡報
06

不是台積電!去年「這企業」創全台最高年薪 員工平均爽領628萬

民視新聞網
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...