Credo 提案為 AI 系統建立開放式小晶片互連標準，致力打破「記憶體牆」瓶頸
Credo 宣布，將在開放運算計畫（Open Compute Project，OCP）社群內推動一項全新的互連標準化工作，鎖定解決 AI 系統面臨的「記憶體牆」（Memory Wall）瓶頸。Credo 指出，在現代 AI 推論環境中，限制系統效能的往往不再是單純的運算能力，而是記憶體頻寬與容量不足，導致昂貴的運算資源被迫閒置，無法充分發揮效益。
為此，Credo 已成立 OCP 開放小晶片經濟（Open Chiplet Economy，OCE）輕量級序列互連（Lightweight Serial Interconnect，LSI）工作小組，著手開發可緩解資料基礎設施中 AI 推論記憶體瓶頸的互連方案。同時，Credo 計劃將自家的 OmniConnect 輕量級 AXI 訊框器（Framer）規格貢獻給 OCP，期望推動一個由 Credo 與第三方共同參與的開放生態系，支援記憶體資源解耦與晶片對晶片（Chip-to-chip）的通訊。
Credo 表示，高頻寬記憶體（HBM）雖廣泛應用於 AI 系統，但面臨成本高昂、供應受限且密度遭遇瓶頸等挑戰，因此業界迫切需要更輕量、高效率的序列互連選項。透過這項標準化工作，將能讓基於小晶片（Chiplet）的模組化 AI 系統具備更高的組合靈活性，並大幅降低對 HBM 的依賴。相較於 HBM4，相關架構預期可帶來高達 25 倍的記憶體密度提升，以及 5% 的頻寬增幅。
Credo 產品副總裁 Vishal Shah 表示，成立此工作小組是為了回應產業對創新互連方案的明確需求，旨在解決記憶體牆問題的同時，支援新一代兼具高頻寬與低功耗的模組化 AI 架構。他強調，推動開放式輕量封裝與序列互連，對於未來 AI 推論所需的彈性小晶片整合至關重要。
OCP 開放小晶片經濟子專案共同負責人 Anu Ramamurthy 則表示，歡迎 Credo 協助定義開放框架與標準。Credo 擬貢獻的輕量級 AXI 訊框器規格，是讓產業在 AI 互連架構上形成共識的重要一步，將有助於提升互通性、降低系統複雜度，並滿足下一代 AI 基礎設施的高效能需求。
Credo 補充，這項 LSI 工作小組隸屬於 OCP 開放小晶片經濟子專案下的伺服器專案（Server Project）。其 OmniConnect 架構則是基於多功能 AXI-over-VSR（極短距離）SerDes 匯流排，可透過外部小晶片連接多個運算引擎，全面支援裸晶間（Die-to-die）的互連與向外擴展（Scale-up）的網路通訊。
（首圖來源：Credo）