請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

群聯前進GTC 發表aiDAPTIVTM重新定義邊緣AI推論

鏡報

更新於 03月17日07:43 • 發布於 03月17日07:43 • 鏡報 謝承學
群聯電子執行長潘健成。(圖/鏡週刊提供)

NAND控制晶片暨NAND儲存解決方案大廠群聯電子 (8299) 於今日宣布將於GTC展會119號攤位展示其aiDAPTIVTM多層級記憶體架構技術 (multi-tier memory architecture),如何在由 NVIDIA 平台驅動的本地邊緣AI系統中,支援更大型AI模型與長上下文(long-context)推論。

群聯表示,目前產業正面臨日益嚴峻的記憶體供給短缺狀況,而對AI就緒平台 (AI-ready platforms) 的需求卻持續快速攀升。由於針對專有資料 (proprietary data) 進行微調 (fine-tuning) 與推論 (inference) 需要大量運算與記憶體資源,也使得企業在投資AI基礎設施與邊緣AI設備時面臨挑戰。隨著AI解決方案成本上升與AI工作流程瓶頸增加,也進一步拖慢企業將AI創新轉化為實際營收的上市時程。為了解決此問題,群聯推出 aiDAPTIV多層級記憶體架構技術,專為邊緣AI應用打造。透過搭載aiDAPTIV技術的群聯企業級Pascari SSD 作為全新的 AI 記憶體層級,aiDAPTIV 技術能夠在 GPU 記憶體、系統 RAM 與NAND Flash快閃記憶體之間,智慧延伸並管理 AI 運算的工作記憶體。

隨著 NVIDIA的AI基礎設施持續提升GPU記憶體能力以支援資料中心推論工作負載,本次群聯發表展示了aiDAPTIV技術如何將多層級記憶體架構 (multi-tier memory architecture) 導入地端邊緣AI系統。aiDAPTIV 技術利用專為持續分頁(sustained paging)與上下文保存(context retention)而優化設計的高耐久度快閃記憶體 (high-endurance NAND flash),支援在固定GPU硬體配置下進行記憶體密集需求的AI推論 (memory-intensive inference) 與AI模型微調工作負載。透過 aiDAPTIV 的多層級記憶體架構技術,企業可在本地邊緣系統上運作日益成長的 AI 工作負載,並同時兼顧資料隱私並提升長期AI基礎設施投資效率。

群聯執行長潘健成表示:「傳統記憶體管理機制並非為 AI 應用所設計,而今日的 AI 基礎設施也已無法再依賴通用型的記憶體管理方式。透過 aiDAPTIV 多層級記憶體架構技術,我們打造了一個具備 AI 感知能力的記憶體架構 (AI-aware architecture),能在多層級記憶體之間延伸AI有效記憶體容量,使本地邊緣 AI 平台在不增加 GPU 硬體的情況下,也能支援更大型模型與長上下文推論,協助企業在維持邊緣 AI 工作負載的同時,更可有效地規劃AI基礎設施投資。」

在NVIDIA GTC 2026展會現場,群聯將展示多項合作夥伴設備,包括搭載 NVIDIA GB10 Grace Blackwell處理器的筆記型電腦、工作站與系統,以及採用 NVIDIA GeForce RTX 50 Series 與 NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition GPU 的平台。

展示內容將涵蓋長上下文推論(long-context inference)、重複利用 KV cache 的代理式 AI(agentic AI) 工作流程,以及記憶體密集需求的大型AI模型微調等應用,說明 aiDAPTIV 技術如何透過 GPU 記憶體、系統 RAM 與快閃記憶體之間的多層級架構來延伸AI有效記憶體容量 (AI effective memory),讓原本可能超出系統記憶體容量限制的 AI 工作負載得以順利運行。

加入《鏡報》官方帳號,精彩新聞不漏接

更多鏡報報導

黃仁勳親曝這款輝達主晶片不是台積電操刀!業界揭三星奪大單背後真相
GTC來了!黃仁勳說的前所未見晶片是它 台積電A16率先力挺

查看原始文章

更多理財相關文章

01

不買10年後會後悔!外媒點名「現買2檔股票」 台積電入列

CTWANT
02

AI泡沫化要來了?「邊緣運算」成市場大趨勢 簡立峰曝台灣未來驚人可能

風傳媒
03

台積電入列!外媒點名「現在就必須買這2檔」十年後絕對會感謝自己

三立新聞網
04

不只台積電!外媒點名2檔個股:買了10年後會感謝自己

民視新聞網
05

台塑麥電 擬復活2部燃煤機組

自由電子報
06

超越義法!台灣外匯存底達19兆全球第7 南韓首度跌出榜單前10名

三立新聞網
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...