輝達宣告 AI 運算進入「推論拐點」，帶動長期算力擴張
輝達（Nvidia）執行長黃仁勳在今年 GTC 大會上再度上修 AI 商機預測，估算 Blackwell 與 Vera Rubin 系統截至 2027 年的累計需求達至少 1 兆美元，較一年前約 5,000 億美元的預測翻倍。黃仁勳並表示，過去兩年 AI 運算需求已增加百萬倍，顯示產業正快速進入以推論為核心的新階段。
黃仁勳在會中強調，輝達已不再只是聚焦大型模型訓練，而是明確轉向推論規模化，因為 AI 系統如今必須即時思考、閱讀並執行工作。他指出，這個推論拐點已經到來，持續運作的 agentic AI 工作負載將帶動長期算力需求擴張。
在產品布局方面，Vera Rubin 平台預計於今年下半年開始出貨，Bernstein 估計其推論效能可較現行系統提升約 5 倍，訓練效能提升約 3.5 倍。輝達同時推出新一代機架級系統、專為 AI 代理（agentic AI）設計的 CPU，以及結合 GPU、網路與儲存的一體化架構，試圖改善大型 AI 推論所面臨的資料移動與上下文記憶體瓶頸。
儘管競爭也在升溫，包括 Google 探索與 Marvell 合作打造 AI 推論晶片，以及超大規模雲端業者持續投入客製化晶片，輝達仍受惠於 AI 算力供不應求的局面。公司認為，AI 供給仍落後於需求，雲端業者與企業客戶都在爭奪有限算力資源。黃仁勳的 1 兆美元預測因此被視為一個仍可能持續上修的移動目標。
（首圖來源：Unsplash）