SOCAMM 不再只屬於輝達，AMD、高通跟進評估導入
根據韓經報導，隨著 agentic AI（代理型 AI）應用快速擴張，AI 系統對記憶體的需求正出現結構性轉變。業界最新消息指出，AMD 與 Qualcomm 正評估在下一代 AI 產品與機櫃架構中導入 SOCAMM 記憶體模組。
SOCAMM（System On Chip Advanced Memory Module）最初被視為專為輝達打造的記憶體標準。與傳統焊接在主機板上的 LPDDR 不同，SOCAMM 採用模組化設計，可更換、可升級，並兼顧容量、功耗與系統彈性。
在 agentic AI 架構中，模型不再只是單次推論運算，而是需要長時間維持上下文、狀態與任務記憶，使系統對「短期但大容量」記憶體的需求顯著放大。
相較單純依賴 HBM，業界逐漸意識到，必須引入另一層在成本、功耗與容量之間取得平衡的記憶體設計，因此 SOCAMM 受到關注。
相關人士指出，SOCAMM 可讓單一 CPU 或加速器平台配置達到 TB 等級記憶體容量，使 AI agent 能同時維持數百萬個 token 的活躍狀態。儘管其頻寬與吞吐量不及 HBM，但在功耗效率與系統擴充性方面具備優勢，被視為適合搭配 HBM 使用的記憶體層級。
市場亦傳出，AMD 與高通在 SOCAMM 的模組設計上，可能採取不同於輝達的路線。兩家公司正評估以方形模組形式配置 DRAM，並將 PMIC（電源管理 IC）直接整合於模組本體之上，使電源調節可在模組端完成。此一設計有助於在高速運作下維持穩定性，同時也能降低主機板端供電電路的複雜度，簡化整體系統架構，對大規模 AI 機櫃與資料中心部署具有吸引力。
在產品進度方面，輝達已規劃於 Vera Rubin 世代 AI 叢集中導入新一代 SOCAMM 2，並預期隨著出貨規模放大，SOCAMM 將成為 AI 系統的重要記憶體配置之一。
另外根據先前報導，業內消息指出，輝達已向 DRAM 廠提出 SOCAMM 的年度需求規畫，三星電子為 SOCAMM 記憶體的主要供應來源，其次為 SK 海力士，美光則位居其後。
隨著 AMD 與高通也開始評估導入 SOCAMM，相關需求後續動向備受市場關注。
（首圖來源：美光科技）