請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

科技

AMD:發電技術若無法突破「AI 算力恐難提升」,三價值成關鍵

科技新報

更新於 05月17日16:06 • 發布於 05月17日15:12

研調機構 TrendForce 今(17 日)舉辦 AI 伺服器串聯供應鏈商機,會中邀請多位重量級業界人士開講。AMD 台灣區商用業務處資深技術顧問張歐佑豪指出,隨著生成式 AI 興起,全球對於 AI 運算力的需求急速上升,目前模型參數量已達上百億、上千億,未來運算能耗值得關注,若發電技術無法突破,AI 算力恐無法達到所需的提升。

張歐佑豪指出,AMD 針對每個應用場景所需,提供不同加速晶片,最適合的加速器晶片有助於優化能耗,使效能達最好平衡。因此,AMD 提供從資料中心(Data center)、邊緣(Edge)到終端(End-point)都有不同產品相對應。

首先是資料中心,還有很多企業尚未導入,過去舊資料中心電力嚴重不足,企業更新需要盤查舊設備,才能更新並騰出更多 AI 空間進行運算。星展銀行在 2019 年與 AMD 合作,選擇 AMD 做為核心業務系統 X86 供應商,就是看到系統只需要一半電力,剩餘空間可承載未來 10 倍成長等優勢。

在最新案例中,AMD 第四代 EPYC 處理器對比英特爾第五代 Xeon 處理器,可大幅減少所需裝置數,支援最節能的 x86 伺服器,提供卓越效能並協助降低能源成本,降低客戶採購成本。AMD EPYC 處理器在伺服器市占達 31%,張歐佑豪認為,「對客戶來說,AMD 省錢、省電、省空間的這些價值主張就特別重要」。

此外,目前美國橡樹嶺國家實驗室(ORNL)的 Frontier 超級電腦搭載 AMD EPYC 處理器與 Instinct 加速器最新版,連續三屆稱霸全球最快電腦榜首。

另針對 AI 晶片,AMD 也提供相對應解決方案「MI300X」,與 AMD 與台積電合作,採用 3D 小晶片(Chiplets)堆疊架構。AMD 表示,公司未來也將持續使用 3D 封裝技術,而這款晶片在訓練和推論上可與 H100 有相同效能,但所需的 GPU 伺服器數量更少,有助採購成本下降,減少設備數量,使能源更有效運用。

目前 MI300X 加速器也和技嘉、華碩、英業達、緯創、緯穎、聯想等 OEM 和合作夥伴合作。

(首圖來源:科技新報)

立刻加入《科技新報》LINE 官方帳號,全方位科技產業新知一手掌握!

0 0
reaction icon 0
reaction icon 0
reaction icon 0
reaction icon 0
reaction icon 0
reaction icon 0

留言 5

  • Makoto
    AI是吃電怪獸,這些歐美國家,一方面說要節能減碳,另一方面又要發展耗能的AI,很雙標
    05月18日04:18
  • Tien
    快來台灣love love就有電啦,全世界果然跟不上台灣,哈哈哈
    05月18日06:16
  • 風之痕 ( fu Cheng )
    全力發展 新核能
    05月18日10:29
  • 黃君華
    人類真的儍了
    05月18日09:07
  • 我是誰(思妮)
    AI最後變成廢物排出
    05月18日08:30
顯示全部