從GPU打到CPU!蘇姿丰帶Venice單挑黃仁勳Vera 狠戳三大罩門
「蘇媽」帶著超微最新伺服器處理器Venice單挑輝達!黃仁勳推出號稱代理式 AI 時代最強的處理器Vera後,超微董事長蘇姿丰今日在自家Advancing AI發表會上強勢反擊,她不僅宣告Venice在單核效能與核心數上全面碾壓Vera,更重擊Vera在企業軟體相容性上的罩門,強調x86生態系才最適合企業部署代理式AI。
與AI模型訓練、推論時靠GPU就夠了不同,代理式AI運作時,會大量應用CPU以操作各種軟體工具,這也是今年以來超微、英特爾的伺服器x86 CPU大缺貨的主因,而看好CPU需求暴增,輝達也在今年首度切入CPU市場,原本都是搭配自家GPU使用的ARM處理器,今年開始獨立銷售,Vera就是第一款。
不過,x86 CPU與ARM CPU在代理式AI領域孰優孰劣,卻是爭論不休的議題。黃仁勳在GTC Taipei演說中就特別強調,處理器的核心數不是越高越好,每一個核心的效能強大才是重點,意思是,ARM處理器每一個核心都很強,越快把資料跑完、就可以越快將資料移交回GPU做下一步處理,免得昂貴的GPU在旁邊乾等,而Vera以單執行緒效能著稱,每個核心比x86處理器快約1.8倍,能顯著提升AI代理與GPU間的數據處理能效,也讓Vera成為代理式AI時代最強大的伺服器用處理器。
蘇姿丰則在今天稍早的Advancing AI演說中,為了超微的伺服器處理器Venice,以完全不同的敘事單挑輝達Vera。她表示,處理器每一顆核心都很強,只是「一部分的故事」,事實上,伺服器處理器要管理資料庫、向量儲存、做工作流程的編排,而且,這幾個任務必須同時完成,所以,處理器不只要有強大的單核心效能,更必須兼顧處理器的密度、效率。
也因此,蘇姿丰很開心地向大家宣佈,超微Venice在上述每一項指標都領先,單核心處理效率比Vera高20%,吞吐量也比Vera多2.2倍,所以不論客戶在意的是單核心效能、還是整個處理器的效能,Venice都是第一名。
她更在台上重擊輝達Vera在實際應用時的痛點,那就是,ARM處理器到現在還是與許多軟體不相容。蘇姿丰說,大家可以把代理式AI想像成在公司多聘請了好幾千個新員工,他們要操作電腦裡的軟體來跑企業裡的各種流程、報表,過去這麼多年來「這些軟體都是在x86處理器上跑的」,x86處理器這項優勢並不會出現在效能測試軟體上,卻是在企業內部每天真實上演,Venice「有這種軟體相容性是超級大加分」。
蘇姿丰也從機櫃的角度繼續單挑輝達Vera。目前輝達的Vera伺服器機櫃只有一種規格,也就是每個機櫃有22528顆處理器核心,但她說,每個資料中心的設計與需求都不同,電力供應、散熱能力、空間也不一樣,每個推出超微Venice伺服器機櫃的品牌都有好幾種不同的配置,單櫃核心數從2.5萬到5萬顆都有,核心數越多、每個機櫃可以處理的代理式AI就越多,方便客戶自由搭配、選擇。
更多鏡報報導
CPU大戰開打!老黃催票輝達Vera 台廠全出動 OpenAI、SpaceX搶著要
代理式AI爆發!AMD蘇姿丰:2030年AI GPU市場達1.4兆美元 伺服器CPU成長更驚人