請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

d-Matrix採用NVIDIA NVLink Fusion 實現機架級XPU部署加速AI推論

Zeek玩家誌

更新於 09月13日14:41 • 發布於 09月13日14:41

人工智慧(AI)推論晶片製造商d-Matrix於今日宣布使用NVLink Fusion,將其新一代Raptor XPU連接至NVIDIA AI基礎設施平台,加入日益壯大的NVIDIA AI平台合作夥伴陣容。

透過NVLink Fusion降低部署風險

透過將Raptor連接至NVIDIA NVLink垂直擴展(scale-up)網路、Spectrum-X水平擴展(scale-out)網路、NVIDIA MGX機架架構,以及更廣泛的NVIDIA AI平台,NVLink Fusion為d-Matrix提供一條更快速且風險較低的途徑,協助其從客製化晶片邁向大規模部署。

d-Matrix執行長Sid Sheth在媒體分享會上表示:「推論需求正急速攀升,但資金、時間與能源仍然有限。透過NVLink Fusion和MGX,我們能將Raptor XPU整合至已廣泛部署的液冷架構中,讓客戶能以更快速、風險更低的方式部署並擴展超低延遲推論。」

NVIDIA AI平台具垂直整合和水平開放的特性。NVLink Fusion將這項開放性進一步延伸至XPU與CPU,讓晶片公司能專注於處理器創新,同時運用NVIDIA基礎設施,以AI工廠級規模部署其產品。

從客製化晶片邁向機架級部署

打造XPU僅是第一步。若要以AI工廠規模部署XPU,還需要一套涵蓋網路、機架架構、電力、散熱、軟體及成熟供應鏈的完整平台。從取得晶片、整合高速介面、驗證垂直擴展網路解決方案,到設計並認證機架架構,每個環節都會增加時間、成本與風險。NVLink Fusion讓晶片創新業者能夠直接連接至NVIDIA經過驗證的平台。這項高頻寬、低延遲技術可將客製化XPU與CPU連接至NVIDIA技術堆疊。

透過採用NVLink Fusion,d-Matrix得以利用NVIDIA MGX生態系成熟且經過驗證的機架設計、供應鏈,以及電力與冷卻基礎設施。透過採用標準化的通用機架,資料中心只需建置一次,即可同時支援GPU、CPU與XPU,無需針對每種處理器類型分別設計不同的機架架構。

將d-Matrix XPU整合至AI工廠

d-Matrix計畫運用NVIDIA NVLink,將其XPU連接至單一高頻寬、低延遲的垂直擴展網域中。其機架亦能與NVIDIA Vera Rubin NVL72等基於NVIDIA GPU的系統協同運作,以支援解耦式推論。

d-Matrix也計畫整合NVIDIA Vera CPU、NVIDIA ConnectX-9 SuperNIC、NVIDIA BlueField-4 DPU與NVIDIA Spectrum-X乙太網路。結合NVLink與MGX,這些技術為d-Matrix提供經過驗證的基礎,讓其能在靈活、統一的AI工廠中,與NVIDIA系統並行部署專用推論運算。

專用XPU架構進入NVIDIA AI工廠

NVIDIA全端AI工廠平台包括NVIDIA Vera Rubin NVL72、Groq 3 LPX、Vera CPU機架、Vera BlueField-4 STX儲存系統,以及Spectrum-6 SPX乙太網路。該平台設計上具備高度通用性,可執行各種AI工作負載、模型與模型架構,同時提供最佳的每瓦效能與最低的每詞元成本。

NVLink Fusion讓客戶能在共同的AI工廠平台中,依據不同工作負載靈活搭配最適合的運算資源,同時使用NVIDIA的網路、系統、軟體與全球供應鏈。d-Matrix等晶片創新業者可利用NVLink Fusion提升效能、加速產品上市時程,並降低部署半客製化AI工廠的風險。

玩家總結

d-Matrix宣布透過NVIDIA NVLink Fusion將新一代Raptor XPU導入NVIDIA AI基礎設施平台,此舉不僅能享有NVIDIA MGX標準化機架與高頻寬、低延遲的網路優勢,更能大幅降低建置與部署超低延遲AI推論架構的時間與風險,實現高效的機架級XPU部署。

延伸閱讀:
Hyundai Staria迎小改款!新增1.6T渦輪油電動力、五款車型166萬起展開預售
Monster Energy又來送大家出國!指定購買抽泰國雙人行、前進曼谷感受電玩熱潮
寵物護膚品牌「歸毛家族」進駐誠品生活480!歡慶開幕祭限定優惠
告五人、范逸臣開唱助陣!Gogoro首創千台電車騎進桃園機堡秘境、SpaceX股票抽獎一人獨得

更多理財相關文章

01

過世前仍在投資!日51歲名醫「塔醬」癌逝 曾靠10萬本金滾出16億

太報
02

快訊/這家老牌「車燈龍頭」大廠突發重訊!董事長宣布辭任 原因曝

三立新聞網
03

魏哲家又給暗號?台積電股價「這句話」兩派解讀 網友樂翻:訊號來了

太報
04

美光桃園工會稱「勞資調解破裂」 宣布推動罷工投票

太報
05

砸400萬住豪華養老院!79歲翁入住第1天撞見「這1幕」 1個月心寒逃離

自由電子報
06

台股驚爆聯茂3.19億元違約交割 創今年上市櫃單次最高紀錄

anue鉅亨網
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...