處理器大廠 AMD 在舊金山舉行的「AMD Advancing AI 2024」活動上，由執行長蘇姿丰正式宣布，針對下一代人工智慧提供動力的最新 GPU 加速器和大規模網路解決方案基礎設施。其中，包括 AMD Instinct MI325X GPU 加速器、AMD Pensando Pollara 400 NIC 和 AMD Pensando Salina DPU 等產品。
在備受關注的 AMD Instinct MI325X GPU 加速器上，其搭載 256GB HBM3E 的記憶體容量將提供 6.0TB/s 的傳輸速度，相較於競爭對手輝達 (NVIDIA) 的 H200 GPU 加速器，記憶體容量增加 1.8 倍，頻寬也增加 1.3 倍。另外，AMD Instinct MI325X GPU 加速器也較 H200 在FP16 和 FP8 計算性能上提高 1.3 倍，這使得在執行 Llama 3.1 的推理時效能可以提高 1.2 倍，執行 Mixtral 8x7B 的推理表現則是提高 1.4 倍。
蘇姿丰表示，Instinct MI325X GPU 加速器目前預計在 2024 年第四季量產出貨，以提供在廣泛平台上的應用搭載。而提供這些平台搭載的企業包括 Dell Technologies、Eviden、Gigabyte、Hewlett Packard Enterprise、Lenovo、Supermicro 和其他公司，而搭載 Instinct MI325X GPU 加速器的各平台將於 2025 年第一季開始問世。
除了，Instinct MI325X GPU 加速器，AMD 更介紹了下一代 AMD Instinct MI350 GPU 加速器。該 GPU 加速器在以台積電 3 奈米製程生產，並且採用 AMD CDNA 4 架構，相較採用 AMD CDNA 3 的 GPU 加速器，預計將可以把推理能力提高 35 倍。另外，每個 AMD Instinct MI350 GPU 加速器還將內建高達 288GB 的 HBM3E 記憶體，成為業界記憶體容量的領頭羊，預計 AMD Instinct MI350 GPU 加速器將於 2025 年下半年正式推出。
除了新一代的 GPU 加速器之外，AMD 也正在利用超大規模部署可程式 DPU 來發展下一代人工智慧網路。其中，在前段將資料和資訊傳遞給人工智慧叢集中，藉由管理 GPU 和 GPU 之間的資料傳輸，以及確保 CPU 和加速器在 AI 應用中有效利用關鍵基礎設施的部分，因此 AMD 推出了 AMD Pensando Salina DPU。
蘇姿丰強調，AMD Pensando Salina DPU 是世界上效能最強的第三代 DPU，藉由可程式 DPU與上一代傳統的 DPU 相較，效能、頻寬和規模高達 2 倍。AMD Pensando Salina DPU 支援 400G 傳輸量，使其成為 AI 前端網路叢集的關鍵元件，透過最佳化數據以帶動人工智慧應用程式的效能、效率、安全性和可擴展性。
另外，在後端的部分 AMD 也提出 Pensando Pollara 400，其支援超乙太網路聯盟標準 (Ultra Ethernet Consortium，UEC)，並且是由 AMD P4 可編程處理器來提供支援核心引擎，還支援下一代 RDMA 軟體。AMD Pensando Salina DPU 和 AMD Pensando Pollara 400 均已提供樣品，預計 2024 年第 4 季開始向廠商發貨，預計 2025 年上半年正是在市場上問世。
(首圖來源：科技新報攝)
留言 0