請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

這款AI伺服器竟然不用GPU?Majestic Labs推出「普羅米修斯」架構,塞進128TB LPDDR6記憶體

T客邦

更新於 08月28日02:11 • 發布於 08月13日08:00 • janus

新創 Majestic 發表普羅米修斯 AI 伺服器,捨棄傳統 GPU 改採巨量 LPDDR6 記憶體。普羅米修斯憑藉 LPDDR6 的高性價比與能源效率挑戰輝達霸權,這款創新的 AI…

近年來,生成式人工智慧的爆發帶動了底層硬體架構的劇烈變革,市場上對算力的渴求幾乎達到了前所未有的高峰。目前由輝達(Nvidia)所主導的 GPU 搭配 HBM 高頻寬記憶體架構,雖然能提供極致的運算效能,但其高昂的建置成本與供不應求的產能瓶頸,讓許多企業在推動 AI 專案時面臨巨大壓力。

就在這波技術浪潮中,一家名為 Majestic Labs 的新創企業近期投下了一枚震撼彈,正式對外發表名為「普羅米修斯(Prometheus)」的全新 AI 伺服器架構。這款新世代設備不僅完全捨棄了傳統的圖形處理器設計,更首度將史無前例的超大容量 LPDDR6 記憶體陣列導入運算核心。這項大膽的技術嘗試是否能夠真正撼動當前固若金湯的 AI 硬體版圖,已成為全球科技圈高度關注的焦點。

創新架構與記憶體配置

「普羅米修斯」伺服器最引人注目的核心設計,在於其完全屏棄了市面上主流的 GPU 加速器,轉而採用自家研發的 Ignite AI 處理單元(AIU)。

這款客製化晶片巧妙地將 Arm 核心架構與 RISC-V 向量及張量運算引擎進行深度整合,專門針對當前大型語言模型的推論與訓練需求進行最佳化。每台伺服器最多可擴充安裝十二個 AIU 節點,透過這種高度模組化且異質整合的運算單元,能在處理複雜神經網路任務時展現出極高的平行運算效率,同時大幅降低了對於單一強效晶片的依賴。

除了運算核心的革新,這款伺服器在資料吞吐量上的設計更是顛覆了業界常態。Majestic Labs 替每台伺服器配置了驚人的 8TB 至 128TB LPDDR6 記憶體容量,徹底跳脫了 HBM 記憶體的高昂成本與封裝限制。這種基於海量 LPDDR6 的記憶體池架構,不僅能夠輕易將數千億參數等級的巨型 AI 模型完整載入記憶體中運行,有效避免了頻繁的資料交換延遲,更在整體系統的性價比上取得了極大的優勢,為未來大規模人工智慧部署提供了一條極具潛力的全新道路。

卓越的能效表現與散熱設計

在資料中心等級的大規模部署情境中,能源消耗與散熱管理往往是決定營運成本的關鍵因素。

根據 Majestic Labs 官方釋出的規格資料,標準配置的 40U 伺服器機櫃最多可以容納四台「普羅米修斯」伺服器,而整座機櫃的總功耗被精準控制在 120kW 左右。相較於傳統基於頂級 GPU 叢集所建構的運算機櫃,這樣的功耗表現在提供同等甚至更高記憶體容量的前提下,展現出了極為優異的能源使用效率。

官方甚至大膽宣稱,單一 Majestic 機櫃所能提供的記憶體總容量,足以匹敵多達二十五個輝達 NVL72 Vera Rubin 機櫃的驚人規模。

為了因應高密度運算所帶來的龐大熱能,這套系統全面導入了先進的液冷散熱技術,徹底捨棄了傳統氣冷方案在極限狀態下的物理瓶頸。液體冷卻不僅能夠更迅速地帶走核心晶片與巨量記憶體模組運作時產生的廢熱,還能大幅降低資料中心在空調維持上的額外電力開銷。

這種從底層硬體架構到散熱系統的全面革新,顯示出該公司在追求極致硬體規格的同時,也充分考量了現代企業對於綠能與永續營運的實際需求,進一步提升了產品在企業級市場的綜合競爭力。

一款創新的硬體平台若要取得商業上的成功,軟體生態系的支援程度絕對是成敗的關鍵。

「普羅米修斯」伺服器全面遵循開放運算計畫(OCP)的硬體設計標準,確保能夠無縫融入現有的大型資料中心基礎設施。在軟體相容性方面,該系統更直接支援了包含 PyTorch、vLLM 以及 OpenAI Triton 等當前最主流的開源人工智慧框架。這意味著開發者與企業用戶無需耗費鉅資重新編寫底層程式碼,即可將現有的 AI 模型平滑轉移至這套新平台上運行。

想看小編精選的3C科技情報&實用評測文,快來加入《T客邦》LINE@

查看原始文章

更多科技相關文章

01

輝達發布新AI安全工具 稱可阻止Hugging Face遭駭事件

路透社
02

輝達庫藏股計畫追加1500億美元 規模創紀錄

路透社
03

比爾蓋茲籲美國國會立法 稱AI業者自我監管不夠

路透社
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...