請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

AI 算力需求爆發,台灣大攜 GMI Cloud 搶攻國際算力市場

科技新報

更新於 06月04日13:58 • 發布於 06月04日13:47

全球 AI 推論需求快速升溫,帶動高階 GPU 與 AI 資料中心(AIDC)需求持續擴大。台灣大哥大今日於 COMPUTEX 宣布,與 GMI Cloud 簽署合作備忘錄(MOU),雙方將結合台灣大在機房建置、維運與電信基礎設施管理的能力,以及 GMI Cloud 在 GPU 算力平台、跨國算力調度與國際客戶開拓上的優勢,共同布局東南亞、東北亞、美洲及歐洲等海外市場。

台灣大與 GMI Cloud 去年已合作 AI Factory,並於桃園龜山打造總供電量達 25MW 的 TAIDC 機房。台灣大哥大企業服務事業商務長朱曉幸受訪時表示,雙方一開始其實是客戶與基礎設施合作商關係,GMI Cloud 原先承租台灣大的 AIDC 機房,用來建置 GPU 算力平台;但合作後發現彼此能力互補,因此進一步討論將台灣模式複製到海外市場。

朱曉幸指出,台灣大的強項在於機房建置、維運與管理,GMI Cloud 則是 NVIDIA Reference Platform 雲端合作夥伴,全球僅七家,具備高階算力平台調度、優化 Token 效率與國際銷售能力。她形容,雙方合作有點像「強強聯盟」,未來將從桃園案例出發,逐步進軍亞洲,甚至美洲與歐洲市場。

GMI Cloud 共同創辦人暨執行長葉威延也表示,台灣大在機房與網路基礎設施上具備天然優勢,GMI Cloud 則專注於 GPU 叢集建置,雙方在桃園的第一個基地合作順利,接下來希望將類似模式擴展至更多國家與市場。

對於海外布局進度,朱曉幸透露,目前東南亞有多個地點正在討論,美國、日本也都有在評估,快的話可能明年初會有進一步成果。她指出,AIDC 選址與一般資料中心不同,必須同時考量土地、電力與網路連線三大要素;土地條件、水電供應是否充足、周邊是否具備足夠的光纖部署與連線品質,都會影響算力中心能否有效運作。

葉威延補充,海外據點會優先評估能源與電力條件,同時也會看光纖部署、客戶分布、延遲表現、電力價格,以及當地政府配合度。朱曉幸則表示,東南亞的可能性較高,包括印尼、馬來西亞、泰國等市場都可能是候選地點,但實際優先順序仍要視條件成熟度與雙方共同討論結果而定。

台灣大指出,目前桃園龜山 TAIDC 機房與相關算力資源需求強勁。朱曉幸透露,GMI Cloud 一開始希望承租整棟機房,但台灣大仍希望保留部分容量服務本地企業客戶,因此雙方最後在配置上做出調整。不過目前 GMI Cloud 已承租大部分容量,整體資源幾乎銷售完畢,台灣大預計明年 1 月再透過技術調整擠出部分容量,供台灣企業使用。

葉威延也提到,桃園 AI 工廠第一批 GB300 機櫃已於上週進場,預計 7 月底正式啟用第一期 48 櫃,後續將一路交付到年底,總計約 100 櫃。他並指出,第一波客戶主要來自美國大型推論服務業者,需求集中在生成式 AI 服務背後所需的高頻推論運算。

朱曉幸進一步說明,外界常以為第一波 AIDC 需求會來自金融、製造等傳統企業,但實際上更快湧現的是擁有大量線上使用者的服務供應商。她舉例,過去網路服務的瓶頸可能是頻寬,現在隨著電商、影音、社群、遊戲等服務導入 AI 助理與生成式功能,瓶頸逐漸變成算力。這類非超大規模雲端業者、但又擁有大量消費端使用者的中型服務平台,會是第一波最需要大量推論算力的客戶。

她認為,金融與製造業等企業內部 AI 應用仍會成長,但比較像第二波需求,因為這些產業多半先從內部流程、資料治理與模型導入開始,與消費者互動頻率未必像線上平台那麼高。相較之下,面向大量會員與消費者的線上服務業者,因 AI 問答、推薦、購物助理與內容生成等需求快速增加,對 GPU 推論資源的壓力更直接。

台灣大表示,未來雙方將持續擴大海外據點布局,合作模式會依不同國家與當地條件調整,可能與在地或國際合作夥伴共同開發,也可能採取不同建置與承租模式。朱曉幸強調,台灣大擅長的是機房建置、維運與管理,GMI Cloud 則負責算力平台與全球算力調度,雙方將以此分工,共同爭取國際 AI 基礎設施市場商機。

(首圖來源:科技新報)

立刻加入《科技新報》LINE 官方帳號,全方位科技產業新知一手掌握!

查看原始文章

更多理財相關文章

01

蝦皮爆全球大裁員!數百工程師丟飯碗 AI布局成焦點

CTWANT
02

黃仁勳訪韓過後!釋影片感性告白喊「台灣就像家一樣」 點名5家台廠

三立新聞網
03

川普一句話股市繼續跌!台股靠台積電穩盤翻紅 重新站回4萬3

鏡報
04

坐擁3100萬豪宅也焦慮!75歲貴婦5年燒光半數存款 晚年危機浮現

CTWANT
05

〈美股盤後〉川普稱將「非常猛烈」打擊伊朗 道瓊狂瀉超過950點 費半重摔逾3.5%

anue鉅亨網
06

小叔中風燒光存款,大嫂竟問「怎麼死比較快」!地政士給單身者4個人生備援計畫:晚年尊嚴不能靠運氣

幸福熟齡 X 今周刊
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...