AMD 收購 MK1,提升 LLM 推論速度、最佳化 Instinct 記憶體架構
AMD 宣布正式完成對美國人工智慧公司 MK1 的收購,藉此強化高速推論與推理技術的研發實力,並優化旗下 Instinct™ GPU 的 AI 效能。
MK1 總部位於加州山景城,專精於針對大型語言模型(LLM)與推理型 AI 的高效能演算法設計。其核心產品 Flywheel 平台支援包括 AMD Instinct MI300X 在內的多種 GPU 架構,具備低延遲(low latency)、高吞吐(high throughput)與可追溯推理(traceable reasoning)特性,目前每日可處理超過 1 兆 token。該技術特別針對 AMD 的記憶體架構進行優化,能有效降低推論延遲並提升能效表現。
AMD 表示,MK1 團隊將併入 Artificial Intelligence Group,負責推進公司在高速推論(high-speed inference)與企業級 AI 軟體堆疊 的整合開發。透過結合 MK1 的軟體演算法與 AMD 的硬體算力,將可加速 AI 模型在雲端及邊緣環境中的部署,協助企業以更低成本執行自動化決策與知識檢索任務。
此次收購也代表 AMD 在 AI 全棧(AI stack)布局上再下一城。過去,AMD 先後收購 Mipsology、Nod.ai、Silo AI 等公司,逐步補齊 AI 模型轉換、部署到推論端的軟體鏈條,而 MK1 的加入則讓 AMD 在推理與記憶體優化領域具備更完整能力。
(首圖來源:AMD)