AI需求超載 輝達結盟台灣生態系擴增產能

記者陳建興∕台北報導

ＡＩ晶片大廠輝達新一代架構Vera Rubin進入全面量產。輝達ＡＩ與資料中心ＧＰＵ產品行銷總監納拉辛漢三日表示，市場對ＡＩ算力的需求，已遠遠超過目前能提供的運算總量，輝達需要台灣生態系協助將產能擴增到量產階段，以供應全球的ＡＩ工廠。

納拉辛漢在GTC Taipei大會指出，台灣生態系從一開始就與輝達並肩同行，是非常棒的夥伴，並促成了許多不可思議的技術，讓輝達能夠擴展現場看到的新系統。

他強調，台灣供應鏈具備非常努力工作與技術極度先進兩大核心優勢，是不可或缺的夥伴。輝達也大幅簡化Vera Rubin平台的設計，過去在Blackwell架構上需要花費二小時的製造步驟，Vera Rubin平台能以二十倍的速度完成，大幅提升生產吞吐量。

納拉辛漢直言，ＡＩ技術演進正引發硬體架構的變革，為因應代理式ＡＩ的工作負載需求，每次進行推論時都必須去驗證答案。輝達為此在新平台配備搭載八十八個核心的獨立中央處理器（ＣＰＵ），專門用來處理工具調用與答案驗證，並將回饋即時傳送到繪圖處理器（ＧＰＵ），形成更高效的算力協同體系。

針對輝達執行長黃仁勳經典名言從三年前的「買越多、省越多」，轉變為如今的「買越多、賺越多」，納拉辛漢也給出自己的解讀。

他分析，這兩句話背後代表的是營收、獲利與降低成本的綜合效益。對當前的ＡＩ工廠而言，一方面需要Vera Rubin平台來實現最低的Token（詞元，指ＡＩ模型的最小運算單位）成本，另一方面則需要最高的Token吞吐量。