請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

輝達柏林 GTC 發表七大開放權重模型家族,搶攻歐洲主權 AI 需求

科技新報

更新於 1天前 • 發布於 1天前

輝達(NVIDIA)21 日於柏林 GTC 大會發表一系列開放權重模型,涵蓋語言、檢索、結構化資料、機器人、自駕車、蛋白質設計與量子運算七大家族,鎖定重視資料主權的歐洲企業與政府。

大型模型開發商有資源從頭打造模型,但多數企業做不到,只能拿 Mistral、H Company 等業者的開放權重模型搭配自家資料微調。歐洲 AI 採購愈來愈重視資料落地與部署掌控權,可下載權重、自行託管推論的模型,比 OpenAI、Anthropic 的封閉旗艦模型更符合需求。

此次重點之一是以 Nemotron 3.5 為基礎的 Nemotron Retriever 嵌入與重新排序模型,支援 34 種語言的影像與文字嵌入,參數規模 10 億至 80 億,並提供適用 Blackwell 加速器的 NVFP4 量化版。輝達宣稱,80 億參數版本在 ViDoRe V3.1 基準測試名列密集模型第一。這類模型是檢索增強生成(RAG)的核心,負責將文件轉為向量並依相關性排序。針對難以解析的 PDF,新版 Nemotron Parse 以單張 H100 每秒約可處理 10.5 頁。

旗艦模型 Nemotron 3.5 Super VL 為可處理文字與影像的視覺語言模型,由 Mistral、Black Forest Labs 等歐洲業者參與開發,SAP、Salesforce 等企業也正運用 Nemotron 模型或資料集;740 億參數的混合專家(MoE)模型 Nemotron 3.5 Bolt 最低只需 24 GB 視訊記憶體,10 月 23 日開放下載。

其他新品包括處理交易、庫存等表格資料的 Kumo,可用於預測與詐欺評分,Coinbase、Databricks、Revolut 已是早期用戶;在 DRIVE AGX Thor 平台即時處理影像與感測器資料的自駕模型 Alpamayo 2 Edge;生成速度約為 RFdiffusion3 13 倍的蛋白質設計模型 BioNeMo RFD4-Proteina;以及用於量子處理器校準與錯誤更正的 Ising,AWS 計畫將其整合至 Parallel Computing Service。

與多數只釋出權重的「黑箱」模型不同,輝達通常一併公開訓練資料與方法,讓客戶能深入檢視模型,甚至依 Nemotron 架構打造完全客製化的模型。不過,企業採用後多半仍須仰賴 CUDA、輝達 GPU 與 NIM 微服務,等於將更多 AI 技術堆疊集中單一供應商,規劃架構與採購時應納入考量。

(首圖來源:NVIDIA)

立刻加入《科技新報》LINE 官方帳號,全方位科技產業新知一手掌握!

查看原始文章

更多理財相關文章

01

台積電運動會取消!員工大紅包每人領3萬

NOWNEWS今日新聞
02

太恐怖了!台灣旅客親吐歐洲住宿驚魂 保險箱遭打開、近20萬不翼而飛

自由電子報
03

〈美股早盤〉 美油價格突破100美元 重燃市場憂心 主要指數下挫

anue鉅亨網
04

中國市場急凍、單季由盈轉虧!Volvo股價崩跌30% 再裁員2500人止血

鏡週刊
05

別人退場他們掃貨 江蘇首富夫婦一路抄底買對了什麼?

anue鉅亨網
06

更新/台積電運動會取消但獎金照發 每人加碼3萬元

鏡報
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...