請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

Marvell推CXL控制器導入硬體壓縮 AI伺服器記憶體效率最高提升3.64倍

優分析

更新於 07月02日12:27 • 發布於 07月01日04:51 • 優分析

隨著大型語言模型(LLM)持續擴大,AI伺服器對記憶體容量與頻寬的需求快速攀升,如何提升記憶體使用效率、降低硬體擴充成本,成為資料中心的重要課題。

Marvell近日推出Structera X與Structera A兩款CXL(Compute Express Link)控制器。CXL是一種高速互連標準,可讓CPU、GPU及其他加速器共享與擴充記憶體資源,提升伺服器的記憶體調度效率。

此次新產品最大的特色,在於將硬體即時壓縮功能整合至CXL控制器。系統可在資料寫入DRAM時即時壓縮、讀取時同步解壓縮,在不增加實體DRAM容量的情況下,最高可將有效記憶體容量提升至實體容量的3.64倍,緩解AI模型對大容量記憶體的需求。

Marvell表示,新產品採用客製化LZ4壓縮演算法,支援DDR5與DDR4記憶體標準,壓縮與解壓縮均由控制器內建硬體完成,不需占用主機CPU運算資源,且對作業系統及應用程式完全透明,可直接部署於既有伺服器架構。

相較於傳統由CPU執行的軟體壓縮方案,硬體透明壓縮可避免額外運算負擔,讓相同容量的DRAM存放更多資料,提升記憶體使用效率,同時減少資料搬移需求,有助於改善AI訓練與推論過程中的記憶體容量及頻寬瓶頸。

近年來,CXL主要應用於記憶體擴充與記憶體池化(Memory Pooling),透過共享記憶體資源,提高資料中心的資源利用率。Marvell此次進一步將硬體壓縮功能整合至CXL控制器,顯示CXL技術正從記憶體共享,進一步朝提升記憶體使用效率發展。

隨著AI模型持續推升記憶體需求,市場預期,未來資料中心除了擴充DRAM容量,也將更加重視記憶體管理與最佳化技術,以降低硬體投資成本,提升AI伺服器整體運算效率。

查看原始文章

更多理財相關文章

01

熱到冷氣罷工、民眾不出門!Uniqlo宣布關閉部分歐洲門市

鏡報
02

韓國麝香葡萄跌到白菜價 專家揭敗因

NOWNEWS今日新聞
03

AI泡沫要破了?美光股腰斬記憶體股集體崩跌

NOWNEWS今日新聞
04

勞退新制變革1/8月新制上路 5大改變一次看:月領可反悔、自提不得擋

鏡週刊
05

巴威急休市「台股開盤跌or漲」?法人警告「1未爆彈」藏大變數

民視新聞網
06

假借錢真搶劫!駭客改寫「這數字」 搬走加密金庫近3億元

三立新聞網
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...