創鑫智慧攜手高登智慧、超恩 推出企業級一站式生成式AI解決方案
因應工業場域對邊緣AI部署的迫切需求,創鑫智慧(Neuchips)26日宣佈,與超恩(Vecow)、高登智慧(GSH)共同推出企業級「一站式生成式AI整合方案」。此方案結合創鑫智慧Viper系列AI加速卡、超恩ECX-3100 RAG超強固工作站,以及高登智慧ShareGuru SLM解決方案,以高能效、低功耗的軟硬體整合設計,賦能企業在地端快速部署生成式AI應用。
創鑫智慧Viper系列AI加速卡搭載自主研發的Raptor N3000 LLM加速晶片,可於平均功耗僅45瓦下,支援運行高達120億參數的大型語言模型(LLM)。結合超恩ECX-3100 RAG工作站,該平台整合Intel Core i9/i7/i5/i3處理器、96GB DDR5高速記憶體,並支援10G USB、2.5G有線網路及5G無線傳輸,具備寬壓電源輸入與車用級強固設計,能適應嚴苛工業環境。
高登智慧ShareGuru SLM解決方案則透過自然語言轉換SQL查詢(NL2SQL)技術,讓用戶以直覺指令直接提取企業資料庫與商業智能(BI)分析,無需額外訓練模型即可生成圖表化決策洞察,大幅簡化流程並降低雲端依賴。
創鑫智慧執行長劉景慈表示:「在2025年德國嵌入式世界展中,此方案將展示其獨特價值——透過離線處理與硬體加密,滿足工業資安需求,同時以超低功耗實現即時決策支援。」他強調,Viper加速卡為高登智慧ShareGuru QA 2.0提供動力,透過Mistral-Nemo 120億參數模型,僅單卡即可高效運行,突破傳統雲端GPU的高成本與複雜性。
超恩執行副總黃聖凱指出:「企業需快速提取數據價值,卻面臨雲端延遲與資安風險。我們的整合方案讓用戶直接以自然語言交互,即時獲取關鍵分析,兼顧效能與成本效益。」
高登智慧技術長林志哲博士補充:「Viper加速卡原生支援BF16精度,無需模型壓縮即可保持高準確度,在數據安全與運營成本間取得平衡,尤其適合製造、能源等需在地處理的產業。」