今年CES 輝達AMD AI劃重點! 陸行之：AMD與輝達AI競爭最接近的一年
AI天王輝達黃仁勳、天后AMD蘇姿丰今年CES爭秀最新AI GPU。知名半導體分析師陸行之今天表示，雖然在訓練，推理計算效能上，AMD的 Helios 還略遜一籌，但也是AMD在跟輝達AI競爭上，目前看起來最接近的一年，現在就看否有更多數據中心客戶從Nvidia only轉而採用AMD Helios 多一些。
AMD 今年祭出包括 Helios 機櫃平台、MI455X/MI500 系列 GPU 以及 Ryzen AI PC 處理器。NVIDIA 重點在 Vera Rubin 機櫃平台、Rubin GPU 架構與整體 AI 計算系統。
陸行之指出，從輝達和AMD大秀AI GPU晶片和CES的演講來看，覺得今年AI市場的重頭戲大就是AI機櫃 Vera Rubin NVL 72 跟 Helios 規格的比拚。
陸行之指出，雖然在訓練，推理計算效能上，AMD的 Helios 還略遜一籌，但也是AMD在跟Nvidia AI競爭上目前看起來最接近的一年，不但HBM4記憶體總量拉到滿，也配置了18顆連Intel都打不過的2nm/256顆核心/512 channels的Venice CPU（vs. 3nm Vera CPU’s 88顆核心/176 channels), 拉高到機櫃對機櫃的競爭。
陸行之分析，雖然更強的CPU不會直接提高GPU的理論算力，但可以顯著提高「GPU的有效算力利用率（effective utilization）」與整體吞吐（throughput），尤其在大模型訓練，多任務AI工廠，高速網路密集Scale-out等場景特別需要。現在就靜待看否有更多數據中心客戶從Nvidia only轉而採用AMD Helios 多一些。