AI推升記憶體需求NVIDIA於FMS大會展示加速運算與創新儲存技術

人工智慧（AI）需求急增，帶動對大量資料集與情境窗口的需求，其規模已突破系統記憶體的容量限制。然而，單純增加儲存容量，並不足以因應日益成長的需求。真正需要的是來自AI工廠、實用且符合現實需要的洞察，以及能夠實現這些洞察的高效、安全儲存架構。

加速運算驅動儲存技術革新

在本週登場的Future of Memory and Storage（FMS）大會上，NVIDIA發表多項儲存技術進展，並展示AI的下一波躍進，不僅取決於運算能力本身，也同樣仰賴為加速運算供應資料的儲存基礎架構。隨著AI代理消耗大量資料，加上GPU現在已能夠直接發出儲存請求，並產生數千項並行作業，儲存基礎架構所承受的壓力也持續加劇。為了處理這些請求，儲存系統必須持續對資料進行加密、壓縮、驗證與重建。當數千個代理同時存取儲存空間時，這些關鍵資料服務可能成為瓶頸。

NVIDIA技術部落格所列出的基準測試顯示，作為NVIDIA Vera BlueField-4 STX一部分的NVIDIA Vera CPU，在兩階段壓縮與加密管道中，其輸送量最高可達x86 CPU的3.21倍。這代表採用Vera後，儲存平台能更有效率地承接大量湧入的AI資料，在大幅減少所需運算基礎架構的同時，提供更高的輸送量。

開源cuFile API實現儲存解決方案互通性

NVIDIA於FMS大會宣布，將開源其cuFile應用程式介面（API）及其下層垂直整合的儲存軟體堆疊，讓GPU不再只能透過CPU，而是能直接讀取儲存裝置中的資料，或將資料寫入儲存裝置。cuFile是NVIDIA GPUDirect Storage的開源套件。

運用數十萬個GPU執行緒、高速高頻寬記憶體及其他技術方法，cuFile讓系統能在短短數微秒內安全地存取儲存裝置中的資料。這體現業界如何依循Linux最佳實務，打造以安全為優先的統一儲存堆疊，實現GPU與資料間的互通性。此外，快速且安全的資料與儲存存取，也是推動預防性與偵測性資安措施的基礎要素。

NVIDIA與業界領袖共同推進Storage-Next計畫

NVIDIA與儲存產業領導廠商正透過名為Storage-Next的計畫，共同最佳化記憶體與儲存解決方案。這項由NVIDIA推動的計畫匯集儲存設備製造商、控制器供應商、散熱設計、冷卻與調度管理業者，以及標準制定組織，共同確立GPU驅動儲存空間應有的運作方式，再將相關技術進展轉化為具互通性且開放的產業標準。

Storage-Next匯集超過40家領先的儲存與快閃記憶體供應商，包括DDN、KIOXIA與美光科技。各家業者皆與NVIDIA共同投入下一代AI儲存技術的發展。這項計畫的核心在於加速大型AI資料集的存取，並推出了SCADA（規模化加速資料存取）框架，讓具大規模平行處理能力的GPU，僅將應用程式所需的資料直接從儲存裝置讀取至自身高速記憶體。

SCADA實現高速且安全的AI儲存

提升儲存層的速度也伴隨一定風險。讓應用程式直接與儲存裝置通訊固然快速，但若處理不慎，應用程式可能覆寫其他程序的記憶體，形成安全漏洞。NVIDIA SCADA將任務分成兩部分，以安全且穩健的方式實現大規模直接存取：

• 應用程式中需要原始速度的使用者端部分，維持在可信任運算基礎之外。
• 一個具特權權限的獨立元件，會在初始設定階段，於使用者應用程式與其獲准存取的儲存資源之間配置受保護的存取機制，落實安全控管並有效保護資料。

玩家總結

NVIDIA在FMS大會中透過開源cuFile API、推動Storage-Next計畫與SCADA框架，大幅升級了AI時代下的儲存架構。這些技術不僅讓GPU得以直接且安全地高速存取儲存裝置中的資料，更透過軟硬體的極致協同設計，突破傳統系統記憶體的容量瓶頸，為大規模AI應用與智慧成果的產出奠定堅實的效能與安全基礎。

延伸閱讀：
生日大手筆！李多慧把50萬物資裝滿一整台大卡車 帶領團隊深入台灣偏鄉送暖
Sandisk於FMS 2026秀出次世代NAND與HBF技術 全力驅動AI推論新時代
Toyota、Lexus車主App洗車地圖支付升級！點數搭配信用卡購券更便利、限時回饋購券現折50元
GAME FREAK全新動作角色扮演大作《轉世之獸》正式發售！一人一犬的末日冒險旅程全面展開