輝達柏林 GTC 發表七大開放權重模型家族,搶攻歐洲主權 AI 需求
輝達(NVIDIA)21 日於柏林 GTC 大會發表一系列開放權重模型,涵蓋語言、檢索、結構化資料、機器人、自駕車、蛋白質設計與量子運算七大家族,鎖定重視資料主權的歐洲企業與政府。
大型模型開發商有資源從頭打造模型,但多數企業做不到,只能拿 Mistral、H Company 等業者的開放權重模型搭配自家資料微調。歐洲 AI 採購愈來愈重視資料落地與部署掌控權,可下載權重、自行託管推論的模型,比 OpenAI、Anthropic 的封閉旗艦模型更符合需求。
此次重點之一是以 Nemotron 3.5 為基礎的 Nemotron Retriever 嵌入與重新排序模型,支援 34 種語言的影像與文字嵌入,參數規模 10 億至 80 億,並提供適用 Blackwell 加速器的 NVFP4 量化版。輝達宣稱,80 億參數版本在 ViDoRe V3.1 基準測試名列密集模型第一。這類模型是檢索增強生成(RAG)的核心,負責將文件轉為向量並依相關性排序。針對難以解析的 PDF,新版 Nemotron Parse 以單張 H100 每秒約可處理 10.5 頁。
旗艦模型 Nemotron 3.5 Super VL 為可處理文字與影像的視覺語言模型,由 Mistral、Black Forest Labs 等歐洲業者參與開發,SAP、Salesforce 等企業也正運用 Nemotron 模型或資料集;740 億參數的混合專家(MoE)模型 Nemotron 3.5 Bolt 最低只需 24 GB 視訊記憶體,10 月 23 日開放下載。
其他新品包括處理交易、庫存等表格資料的 Kumo,可用於預測與詐欺評分,Coinbase、Databricks、Revolut 已是早期用戶;在 DRIVE AGX Thor 平台即時處理影像與感測器資料的自駕模型 Alpamayo 2 Edge;生成速度約為 RFdiffusion3 13 倍的蛋白質設計模型 BioNeMo RFD4-Proteina;以及用於量子處理器校準與錯誤更正的 Ising,AWS 計畫將其整合至 Parallel Computing Service。
與多數只釋出權重的「黑箱」模型不同,輝達通常一併公開訓練資料與方法,讓客戶能深入檢視模型,甚至依 Nemotron 架構打造完全客製化的模型。不過,企業採用後多半仍須仰賴 CUDA、輝達 GPU 與 NIM 微服務,等於將更多 AI 技術堆疊集中單一供應商,規劃架構與採購時應納入考量。
(首圖來源:NVIDIA)