請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

理財

超級處理器之戰:為何 AI 的運算單元不再是 GPU,而是資料中心?

TechOrange 科技報橘

更新於 13小時前 • 發布於 21小時前 • 廖紹伶

過去幾年,AI 效能競賽的焦點幾乎圍繞在 GPU 世代更替與算力數字的提升,但美國市場情報機構 SiliconData 近期研究顯示,這樣的理解方式正在快速過時,因為真正限制 AI 效能的,已不是單一晶片的浮點運算能力,而是整個系統如何被設計、整合與運作。

《SiliconANGLE》引述一項由 SiliconData 進行、並由 theCUBE Research 分析的獨立研究指出,在實際生產環境中,即便使用完全相同的 GPU,加速器最終呈現出的效能表現往往出現巨大差異,關鍵並不在晶片本身,而在於包覆它的整體系統架構。

效能差距,來自系統而非晶片

這份研究採用名為 SiliconMark 的系統級 AI 基準測試平台,並非單獨測量 GPU,而是同時評估運算吞吐量、記憶體頻寬、節點互連、功耗行為與效能穩定性。結果顯示,在超過上千次實際測試中,相同加速器在不同系統架構下,表現落差顯著。

theCUBE 研究團隊因此得出結論,AI 的「運算單位」已不再是 GPU,而是整個系統,甚至是資料中心本身。《SiliconAngle》分析,這樣的轉變,來自 AI 工作負載本質的改變:無論是大型模型訓練還是推論,現代 AI 幾乎都是分散式運算,往往需要數千甚至上萬顆加速器協同工作。在這樣的情境下,效能不再取決於單點算力,而是資料能否被快速、穩定地傳遞與同步。

資料傳輸,成為真正瓶頸

NVIDIA 資深副總裁 Gil Shainer 在接受《theCUBE》訪談時指出,分散式 AI 唯有在數千顆加速器能夠像一台超級電腦般運作時才成立,而這仰賴的是低延遲、低抖動且具確定性的高速互連,否則 GPU 只是在等待資料。

研究也觀察到,今日的 AI 應用不再是單一長時間訓練任務,而是涉及頻繁資料匯入、檢索增強生成流程、模擬與代理系統協作。在這些情境中,GPU 停滯往往不是因為算力不足,而是資料沒有及時送達。

因此,提升節點互連效率、記憶體階層設計與系統平衡,反而成為提高實際可用效能與能源效率的關鍵手段。研究直指,AI 效能的限制正逐步從技術問題,轉為營運與系統設計問題。

資料中心,正在變成一台超級電腦

這種「系統先行」的思維,也正在重塑硬體供應商的競爭方式。在 CES 2026 上,NVIDIA 推出以 Vera Rubin 平台為核心的 DGX SuperPOD,強調的就不只是 GPU 規格,而是將運算、網路、記憶體與軟體整合為一個高度一致的 AI 引擎。

根據《TechRadar》報導,這套 DGX SuperPOD 僅由 576 顆 Rubin GPU 組成,就可達到 28.8 Exaflops 的效能,關鍵在於 NVLink 高速互連、液冷模組、統一記憶體架構,以及由 Mission Control 軟體統一調度的系統設計,使整個機櫃如同一顆超大型處理器運作。此外,其 6 晶片平台設計,納入了 Spectrum-6 乙太網路交換器、Quantum-X800 InfiniBand 和 ConnectX-9 SuperNIC 晶片,增強了連接性、支援高速 AI 資料傳輸。《tom’s Hardware》也指出,NVIDIA 每個 GPU 只是 AI 資料中心的組成部分。

相較之下,Huawei 的 Atlas 950 SuperPod 則採取以硬體數量堆疊為主的策略,凸顯出兩種不同系統哲學的對比,也說明 AI 基礎架構競爭已從晶片轉向整體架構效率。

算力需求暴增,能源基礎設施成關鍵

從另一個角度來看,這場轉變也解釋了為何 AI 算力的討論開始與資料中心、能源供應密不可分。AMD 執行長 Lisa Su 在 CES 2026 的演講中預測,未來五年全球將需要超過 10 yottaflops 的運算能力,相當於 2022 年的 10,000 倍。

她同時坦言,真正的瓶頸不只是晶片,而是能源基礎設施能否支撐這樣的規模。換言之,即便運算需求呈指數成長,沒有為 AI 設計的資料中心,算力也無法真正落地。

這樣的觀點顯示,AI 工廠不只是加速器的集合,而是一種營運模式,涵蓋電力、散熱、記憶體、互連、調度與可靠度的整體協同設計。

從 GPU 世代競賽,到資料中心系統工程,AI 正式進入以「整體設計能力」為核心的競爭階段。誰能打造出兼顧效能、穩定性與能源效率的 AI 工廠,誰就能真正釋放算力潛能。

*本文開放合作夥伴轉載,資料來源:《SiliconAngle》《theCUBE》《Techradar》《Business insider》,首圖來源:Unsplash

加入『 TechOrange 官方 LINE 好友』 掌握最新科技資訊!

查看原始文章

更多理財相關文章

01

法拉利為他打造全球唯一訂製車 台灣詐騙犯變賣神車賠償受害者

三立新聞網
02

竹科老廠爆掏空3/成敗都是宅經濟 光耀科4年內樓起樓塌

鏡週刊
03

聰明將變廉價!黃仁勳揭生存新法則:擁有「這4種」人格特質能超越AI

三立新聞網
04

美對台關稅15%、台積電再建5晶圓廠?政院:調降且不疊加已有大致共識

自由電子報
05

台積電法說先探/黃仁勳搶爆全年產能 台積電今年仍是一個人武林

鏡報
06

1公克黃金4712元 黃金博物館「大金磚」創新高價10.38億

自由電子報
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...