請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

搶攻 AI 應用浪潮!TrendForce 論壇大秀 AI 伺服器、算力新解方

科技新報

更新於 2025年06月23日12:23 • 發布於 2025年06月23日11:45

研調機構 TrendForce 週五(20 日)舉辦《CompuForum 2025 智鏈驅動,釋放 AI 算力》,邀請華碩電腦、數位無限、群聯電子與美超微(Supermicro)及集邦科技分析師等專家開講,聚焦 AI 伺服器最新架構趨勢與供應鏈創新應用,分析市場變革以及供應鏈技術、需求及最新商機。

除了論壇精彩外,這次資料儲存大廠希捷(Seagate)、是德科技「Keysight Technologies」正式授權經銷商克達科技,以及智慧錄音裝置品牌 PLAUD.AI 也前來參展,分享公司最新的產品和解決方案。

華碩打造企業 AI 工廠完整解決方案

華碩不只是硬體供應商,也是軟體提供者,結合 NVIDIA 在內先進技術和軟硬體產品,打造一整套解決方案。

企業導入 AI 必須面對資料集、硬體架構、後端串接 AI 工具及需要 AI 知識的專業人才進行操作這 4 個門檻,發展 AI 應用缺一不可。

為此,華碩整理出應對方向,幫助企業順利導入 AI。華碩電腦 AI / HPC 產品技術經理周煜軒舉例,如果客戶手上資料不足,透過以數位孿生為基礎的 NVIDIA Omniverse 可在虛擬環境創造資料集。企業需要了解自身需求並藉由 ASUS AI Factory 架構加以打造,還能利用 NVIDIA AI Enterprise 將上層軟體導入,就能上線服務提供用戶使用。

NVIDIA 今年提出來 AI 工廠的概念,希望每家企業如果要導入 AI 都能建一個 AI 工廠,不只是部署 GPU 等硬體設備,更將資料集結合 AI 工具,在 ASUS AI POD 這樣的頂尖設備創造應用服務,提供用戶使用。

從 GPU 叢集、儲存叢集、網路架構加上管理平台和應用軟體,華碩將軟硬體深度整合在一起,讓企業客戶透過單一介面做到管理和監控。

華碩如何做到伺服器叢集的部署和檢測?今年推出 2 套軟體──ASUS Infrastructure Deploy Center(AIDC)和ASUS Control Center(ACC),前者透過一台設備進行大量部署,後者可監控硬體設備情況。

AI 建置算力調度成關鍵!數位無限 AI Stack 助攻 GPU 利用率升至 90%

隨著 AI 和算力需求提升,全球進入高效能 AI 建設時代,企業對高效能運算資源的需求激增,GPU 採購成本更較以往增加 10 倍,但實際應用是否能充分發揮其效益,成為企業面臨的核心挑戰。如何有效調度 GPU 資源、提升使用效率,已是 AI 基礎建設關鍵課題。

數位無限執行長陳文裕指出,AI 基礎設施不僅需考量算力與儲存配置,如何有效利用並發揮 AI 算力最大效果,成為重要方向。若無法精準掌握使用狀況,將導致優先次序混亂、難控制、能見度不足、利用率低和成本高等問題,最終使客戶仍需投入更多 GPU 成本。

為解決上述挑戰,數位無限推出 AI Stack 平台,具備 GPU 切割與聚合技術,能將一張 GPU 切分為多個小單位或整合多張 GPU 應對大型 AI 模型訓練,實現資源動態分配與隔離管理,有效提升 GPU 使用率,減少資源閒置,並提高開發效率。

AI Stack 亦支援分散式訓練架構,可將任務分派至多個節點平行處理,顯著縮短模型訓練時間。此外,平台具備即時排程與負載調度能力,可依各部門需求靈活調整,實現資源即釋即用、使用率最大化。

陳文裕強調,透過 AI Stack,企業不僅能將 GPU 利用率提升至 90%、工作負載執行效率提升 10 倍,更能將開發環境建置時間從兩週縮短至僅需 1 分鐘,全面強化 AI 導入效益與決策效率,降低投入門檻,對企業導入 AI 服務可說是必備的關鍵工具。

群聯推 aiDAPTIV+、美超微推 DCBBS 解方搶市

由於 AI 伺服器硬體成本高昂,往往動輒數百萬,讓中小企業與教育機構望之卻步,加上資料上雲端存在資安疑慮,對此,群聯推出「aiDAPTIV+」解決方案,主打邊緣地端 AI 模型訓練與推論的工作站,成為低成本、可控又具效能的替代方案。

除了企業應用場景,群聯也將目光投向 AI 教育領域。群聯執行長潘健成指出,現在的大學生根本沒機會碰到 GPU,因為太貴了。要普及 AI 教育,不能只是講理論,還要有實作機會。群聯也表示,公司 AI Training PC(AI TPC),計畫部署至各大專院校,讓 AI 教學真正落地。

美超微(Supermicro)解決方案架構師許銘德介紹,公司推出的資料中心建設模組化解方(DCBBS)被譽為 AI 資料中心最佳選擇,可滿足現代企業對高效能計算的需求。

該解決方案幫助建置 AI 液冷資料中心更簡單,降低建置和營運成本,讓客戶能以最快的上市與上線速度輕鬆建構資料中心基礎設施,最快只需三個月即可完成部署。此外,該方案涵蓋所有關鍵基礎設施元件,包括伺服器、儲存設備、網路、機架、液冷系統、軟體、服務與支援,可簡化並加速 AI 資料中心的建置,進而降低成本並提升品質。

TrendForce:AI 伺服器年複合成長率 24%,2028 年將占市場 2 成

TrendForce 集邦科技研究經理龔明德表示,預期 2025 年全球 AI 伺服器市場將持續強勁成長,全年出貨量上看 210 萬台,年增率高達 24.5%。然而,地緣政治風險與美中政策變化仍是供應鏈最主要的不確定因素。

系統散熱部分,隨著 GB200 NVL72 與 GB300 NVL72 等平台於 2025 年持續擴大部署,液態冷卻技術的滲透將明顯提升,預計從 2024 年 14% 成長至 2025 年的 31%。

超大規模雲端服務供應商(Hyper CSP)仍是今年 AI 伺服器市場的主要成長驅動力,北美前四大 CSP 平均資本支出成長率達 38%。為降低對 NVIDIA 與 AMD 的依賴,CSP 業者加快自研 AI ASIC 開發進程,也成為 NVIDIA 積極推廣 NVFusion 關鍵原因之一。

隨著高效能運算(HPC)與 AI 應用成為伺服器市場的兩大主軸,AI 伺服器的出貨成長速度將持續領先一般伺服器。TrendForce 預期,2023 至 2028 年間,全球 AI 伺服器市場年複合成長率(CAGR)將達 24%,到 2028 年,AI 伺服器出貨量將占總出貨量 20%。

(首圖來源:TrendForce)

立刻加入《科技新報》LINE 官方帳號,全方位科技產業新知一手掌握!

查看原始文章

更多理財相關文章

01

我的勞保年金可領多少?勞保局:活越久領越多 有空先試算

自由電子報
02

股神巴菲特最後出手! 10大持股名單曝光

中廣新聞網
03

台客早懂的7-11生活圈澳客買不買單? 熱食服務翻身戰將成打開歐洲拉美市場關鍵

鏡報
04

黃仁勳預告3月發布「前所未有」的晶片 強調AI泡沫不存在

anue鉅亨網
05

輝達+Meta超級訂單來了 受惠台廠伺服器代工廠曝光

新頭殼
06

買投資型保險 金管會3點提醒避免踩雷

NOWNEWS今日新聞
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...