請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

【產業動態】AMD Instinct平台與輝達Nvidia Grace Hopper GH200超級晶片系列,在大規模AI硬體建置一較高下

CMoney

發布於 2023年06月28日03:18 • 熊天行 Teddy

AMD為CPU、GPU設計廠,輝達則專注於GPU設計

AMD(Advanced Micro Devices,超微半導體)(AMD)是一家美國的半導體公司,主要生產和銷售處理器(CPU)、圖形處理器(顯卡、GPU)、晶片組、記憶體和其他相關產品,並提供相應的軟體和解決方案。

輝達Nvidia(NVDA)是一家美國科技公司,總部位於加州的聖塔克拉拉市。輝達是全球領先的加速運算(Accelerated computing)技術公司之一,其核心業務是設計和銷售用於遊戲、專業視覺化、人工智慧、自動駕駛和數據中心的GPU和其他半導體產品。

輝達與AMD相繼推出針對AI、大型語言模型設計的GPU及企業級解決方案

繼CMoney研究團隊先前出具的報告 【產業動態】超微AMD發布MI300系列GPU,能打敗Nvidia H100嗎?後,我們這次要比較的是兩家廠商提出的,更應用層面的解決方案。

輝達在2021年即提出了自行研發Grace架構CPU搭配其GPU運行,以在進行各種加速運算(例如人工智慧、語言模型訓練等)時,能有更強的算力表現與能耗。經過輝達不斷的研發與推出GPU為主的解決方案,其終於在2023/5/29的COMPUTEX大會上宣布Grace Hopper Superchip正式投產。

而AMD也不落人後,AMD在2023/6/13舉行AMD資料中心與AI首映會(AMD Data Center & AI Technology Premiere)除了推出伺服器等級CPU EPYC、AI運算專用的MI300 GPU系列產品,對標輝達的H100外,AMD也宣布AMD Instinct 平台,以供客戶快速部署。

AMD推出高規格MI300X,與輝達H100一較高下,但輝達完整生態系占優勢

CMoney研究團隊在上篇報告提及,AMD在6月的發表會推出了MI300X,不包含CPU。其記憶體大小、頻寬均優於Nvidia H100的表現,浮點運算能力也預期將比H100表現好。 然而,Nvidia擁有的CUDA(Compute Unified Device Architecture,統一計算架構)開發工具提供了工程師完善的開發平台來建置模型,且具有先行者優勢,被大多數開發者所使用,相較之下AMD的ROCm(Radeon Open Compute platform)則仍在努力追趕,雖已盡力降低兩者的轉換成本,但目前普及度還不高。

AMD推出集結多8顆GPU的Instinct Platform,而輝達坐擁多款不同面向的解決方案

AMD Instinct Platform是6月發表會同樣值得留意的焦點,這項產品集結了8顆AMD最新的資料中心GPU MI300X,並且符合開放運算計畫(OCP,Open Compute Project)的規格,讓企業客戶可以隨插即用,但AMD目前還沒有列出詳細的規格與運算表現。

輝達方面則對此著墨頗深,下表我們列出了幾款輝達最新的企業級解決方案,其中DGX H100與HGX H100均是針對人工智慧、模型模擬以及資料分析所設計的平台,兩者的差異主要是DGX H100具有CPU,而HGX H100則沒有,因此CMoney研究團隊認為AMD的Instinct Platform與Nvidia HGX H100較有可比性。

輝達提供了多種不同配置的硬體組合,同時軟體也符合大多數開發者所習慣,各大科技公司(如OpenAI)、學術機構、醫療單位均使用輝達產品已久,因此雖AMD MI300系列即將上市,但我們研判還無法威脅到Nvidia的地位。

Nvidia Grace Hopper超級晶片為H100的進化版,是AMD MI300A的強勁敵手

而Nvidia Grace Hopper Superchip則是由ARM架構的Grace CPU(Intel、AMD等主流CPU為x86架構),以及Hopper架構的H100,透過NVLink switch相連而成,型號稱為GH200。

GH200也是輝達專攻生成式AI與高性能運算而設計的晶片,帶來更高的算力與頻寬,並且透過輝達的NVLink達到節能、快速的數據傳輸效果。

由於Nvidia GH200擁有CPU與GPU,CMoney研究團隊認為可以跟AMD的MI300A進行功能與效能比較,算力應由較新款的AMD MI300A佔優勢,但GH200的記憶體則多上許多,且CPU與GPU的記憶體可以共用,兩者各有優缺。

另外,Nvidia還進一步推出提供企業運算大型模型的解決方案DGX GH200,串接了256個Grace Hopper Superchip,成為一台巨型的超級電腦,可以讓企業直接使用。CMoney研究團隊考量目前AMD的市場定位,AMD應該短期內不會推出這種等級的產品,畢竟在AI等模型開發的市場,仍為輝達的天下。

AMD和輝達Nvidia在AI GPU的競爭、市場定位與發展機會,各有發展空間

總結起來,輝達的市場定位具有明顯優勢,但AMD展現出強大的競爭力。AMD則推出了MI300企業級GPU系列,具有優越的記憶體和浮點運算能力;而輝達推出了Grace Hopper Superchip,結合了自家研發的Grace架構CPU和Hopper架構的H100 GPU,提供高算力和節能的效果。

軟體生態部分,Nvidia憑藉CUDA開發工具在開發者使用上佔有先行優勢,AMD的ROCm則較為冷門。

CMoney研究團隊認為短期AMD在AI市場仍需追趕輝達,具有發展潛力,然Nvidia的軟硬體整合,明顯較符合開發者需求,因此其地位仍難以撼動。

(延伸閱讀:【產業動態】超微AMD發布MI300系列GPU,能打敗Nvidia H100嗎?

(延伸閱讀:【美股研究報告】AI需求推動輝達Nvidia FY24Q2展望強勁、大幅打敗預期,股價一飛沖天衝破歷史新高!

(延伸閱讀:【美股研究報告】超微AMD 23Q1營運落底,傳與微軟合作開發晶片,潛力可期!

版權聲明

本文章之版權屬撰文者與 CMoney 全曜財經,未經許可嚴禁轉載,否則不排除訢諸法律途徑。

免責宣言

本網站所提供資訊僅供參考,並無任何推介買賣之意,投資人應自行承擔交易風險。

查看原始文章

更多理財相關文章

01

台積電200萬股東準備領錢 將發1556億股息

NOWNEWS今日新聞
02

台泥重訊證實 服務逾50年大將呂克甫病逝

NOWNEWS今日新聞
03

PCB史上首檔「千金股」!金像電從10元股價浮沉,楊長基父子「十年磨一劍」,苦命代工如何迎來大翻身?

今周刊
04

1111人力銀行鬧家變!少東暴打姑姑 總裁老爸急聘保鑣護妹

太報
05

股民注意!PCB大廠剛解禁再被抓去關 二度處置至4/21

EBC 東森新聞
06

家樂福跟進!祭「耐熱袋、垃圾袋」限購令 每人限購一組

經濟日報
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...