地端 AI 誰先卡位?資料成企業 AI 落地關鍵:醫療、金融法規優先,製造業人力密集墊後
大家都在談 AI 模型、算力與 GPU,但真正決定企業 AI 能否落地的關鍵是資料。當資料因法規、隱私或營運需求無法上雲,AI 就必須靠近資料運算,地端 AI 因此成為近年企業關注的新方向。
以下 Q 為《數位時代》總編輯王志仁提問,A 為 QNAP 總經理劉文義回答。劉總經理將從企業實務出發,解析地端 AI 的真正門檻,以及企業是否具備足夠的導入條件。
Q1:NAS 是什麼?
A: 所謂 NAS(Network Attached Storage),它是一台類似 PC 的機器,但可以插很多顆硬碟,並用 RAID 技術把多顆硬碟組合起來、讓資料同時分散備份在不同硬碟上,防止任何一顆硬碟壞掉時造成資料毀損(視 RAID 等級而定)。
一台機器可能有 4 顆、8 顆,甚至 16、24 顆硬碟,當其中 1、2 顆壞掉時,只要把壞硬碟拔掉、換上新硬碟,資料就會從其他硬碟寫回新硬碟,確保機器內的資料不會損毀,而且是熱插拔、不需要停機。
這裡談的 Network,指的是企業內部的區域網路(LAN),資料在受控環境下使用,通常在區域網路中運行。不過隨著技術演進,現在也有遠端備份與遠端應用技術,使用者甚至可以透過手機從外部連到公司內的區域網路 NAS 來存取資料。
Q2:AI 浪潮下,儲存架構的地端與雲端邏輯有什麼轉變?
A: 儲存產業分成兩大區塊,一個是雲端儲存,一個是地端儲存。QNAP 這類 NAS 廠商主要做的是地端儲存裝置,當資料因為法規或營運需求無法上雲、需要落地時,就必須透過這類產品把資料存在最靠近使用端的地方。
隨著 AI 運算量增加,Edge AI(地端 AI)落地的需求也帶動所有 NAS 裝置商開始往 AI Agent 應用發展,QNAP 也是其中一環,因此必須導入很多新技術來面對接下來 Edge AI 蓬勃發展的市場。
威聯通科技(QNAP)小檔案
- 董事長: 張明智
- 成立年: 2004 年
- 定位: NAS 儲存與網通設備廠商,近年聚焦 Edge AI 應用
- 核心產品/服務: NAS 網路儲存裝置、AI NAS、網路影像監控(NVR)等
- 市場布局: 主要分布於歐洲(泛歐體系)、美洲、亞太(含日本、澳洲、台灣、香港、東南亞)三大區域;劉文義說明,其中歐洲約占近半數業務比重,主要因當地企業對資料安全與資料主權要求較高。
- 官方網站
Q3:客戶的儲存需求跟過去相比有何不同?企業選擇地端儲存而非雲端的判斷標準是什麼?
A: 以現在這個階段來看,差別並沒有很大,大家考慮的重點還是成本。資料上傳到雲端可能是免費的,但要把資料拉下來時是按流量收費,費用相當可觀;換算一家公司一整年、兩三年在雲端處理資料量所需花費,很可能回推發現,買一台一樣容量的 NAS 還可以用 7 年、10 年,所以以資料量來看,成本考量仍居多。
進入 AI 環境普及後,成本仍是最重要的一環,但第二個關鍵是「應用」。如果公司內部資料需要經過雲端 AI 運算才能更有效率地使用,企業可能會覺得這筆錢值得花。不過以現在技術發展來看,地端裝置的 CPU 運算量還非常有限(不含外接 GPU),短時間內不太可能取代雲端的大量、高速運算,因此模型訓練或程式開發這類功能可能還是得留在雲端。所以主要關鍵有兩個:一個是成本,一個是技術面還沒到位。
至於選擇地端而非雲端的判斷標準,主要來自客戶本身的合規性問題,或是資料敏感度不允許上雲。例如醫療業因病患個資敏感度高,上雲需符合個資法與衛福部相關規範;金融業、保險業受主管機關委外規範約束,部分業務資料上雲須事前核准;甚至一些大學院校、設計類別公司,也不希望資料被雲端存取,這些情況下就會找 NAS 裝置商來擴充儲存需求。
延伸閱讀|雲端、地端成本差多少?導入 AI 流程怎麼安排?企業避坑指南一次看
Q4:QNAP 的客戶類型、產品價格範圍與銷售通路是什麼樣貌?
A: QNAP 的產品範圍非常廣,從大約新台幣六、八千元的入門款,到部分高階產品可達新台幣三十萬元,不同等級面對的客戶完全不同。比較便宜的是消費級,面向一般家用使用者;一大半是 SMB(中小企業)客戶;還有面向大型企業的入門級企業產品。以上都是空機價格,加上硬碟後價格可能還要再翻倍。
家用使用者的需求通常是照片、影片儲存,希望透過手機等裝置很方便地存取日常資料;中小企業客戶則需要協同工作工具,可能是 3 到 20 人共用同一台 NAS 做共編或存放開發資料;到了大型企業,例如連鎖店或跨國銷售企業,可能需要在每個分據點放一台 NAS 做本地儲存,總部再放一台大型企業級裝置彙整全球各地資料,應用面與軟體需求都是完全不同的等級。
中大型企業除了會找 Dell EMC(戴爾)、NetApp 這類大型企業儲存公司之外,也很樂意嘗試像 QNAP 這樣的入門級企業產品,因為台灣廠商做出來的產品,成本與 CP 值通常都比歐美廠商高出許多。
銷售通路方面,一般電商通路主要銷售消費級與 Prosumer(進階/專業級使用者)產品;部分交由系統整合商(SI)拿產品搭配客戶需求做 POC(概念驗證),再導入客戶環境;另外還有政府標案等專案業務,會有前期技術面對談或客製化開發,這類案子有時是由 QNAP 總公司出動研發人員直接處理。
Q5:企業想用自己的資料訓練 RAG、小語言模型、掌握資料主權,這股需求如何帶動 AI NAS 發展?導入時該考量哪些因素?
A: 過去企業想做的 AI 應用,大多只能推去雲端,但要在企業內部自建大型模型並做微調,成本、時間都相當可觀。對一般中小企業來說,最理想的狀況是既有 NAS 本來就已經在儲存專屬資料,如果能在上面加一些 AI 應用來滿足需求,會是更好的選擇。
但目前 NAS 硬體的 AI 運算能力還很有限,一般企業希望達到的應用等級,大概需要 300~800 TOPS,甚至到 1000 TOPS 的運算量,所以大部分人會拿 NVIDIA 的顯示卡來做這樣的應用,1 張卡可能要新台幣 10~12 萬元,若算力不夠要用 2 張、4 張卡,整體成本可能是傳統 1 台 NAS 的 5~10 倍,並不是大部分中小企業能負擔,還需要一定的程式背景與 AI 應用知識。
因為有這樣的需求,QNAP 今年在 Computex 發布了不同等級的 AI NAS:一類維持在傳統 CPU、幾十 TOPs 等級,供基礎應用程式開發;另一類機種可以加裝 1 張或 2 張 NVIDIA 顯示卡,運算量更大,QNAP 也同步開發配套軟體,讓 NAS 能有效率地透過 AI 工具應用機器上儲存的資料。
這會是一個快速成長的市場。傳統儲存當資料量累積到一定程度,例如 10 萬、20 萬張照片,要從中找出幾張特定內容的照片,不可能靠人工一張一張找,勢必要用強化過的 AI 工具,因此在 NAS 裡放上 AI Agent 會越來越必要,一般家用使用者、Prosumer 甚至 SMB 客戶對這類需求都會越來越急迫。
企業評估導入地端 AI 架構時,成本永遠是企業主最優先的考量,其次是資訊安全,因為資料放在地端之後,企業自己必須有能力維護資料安全性。像 QNAP 產品基本上都導入了大量資安措施,也通過多項 ISO 認證,並搭配防駭客應用軟體,這些對中小企業主來說,會是比較優先考量的作法。
王志仁: 企業自建 RAG(檢索增強生成)、訓練屬於自己的小語言模型,呼應了現在越來越受重視的「資料主權」概念——資料最好是由產生資料的企業自己擁有,避免外流或遭竊取,這也需要相應更多的儲存裝置與基礎設施配合。這正是地端 AI 除了市場成長預期之外,還有很基本的剛性需求在支撐:每家公司都需要用自己的資料做訓練、產生 RAG、產生自己的小語言模型,並掌握資料主權。
A: 理想狀況下,QNAP 希望能把開源大型語言模型做微調(fine-tuning)或蒸餾(distillation),縮小模型規模後,用較低價位的硬體在地端執行,這是最完美的狀況,只是需要一段不短的時間,短期內 QNAP 會很專注在這類產品的開發上。
延伸閱讀|企業部署 AI,500 萬搞定!專屬 AI 是什麼?雲端、地端有什麼差異?
Q6:哪些工作或產業最容易看見地端 AI 的投資效益?哪些情境其實還不適合?
A: 前面提到醫療、金融保險這類產業因為法規限制,比較需要導入地端 AI;再往下看,一些科技行業使用落地 AI 環境,可以加速工作效率或處理資料的速度;像會計、律師這類行業,裡面有很多重複性的文書工作,這樣的公司都很容易馬上導入落地 AI 應用。
工廠生產線也是很容易想見的應用場景。一條生產線可能有十台、二十台機器,每台機器處理資料的方式或儲存資料的協定(protocol)都不一樣,可能都要對應一台類似的 NAS 裝置去儲存資料。
再往機器人與實體 AI(Physical AI)的方向看,這類環境會產生大量影像資料,甚至一些生產過程中的資訊需要記錄,只要持續生產,資料量就會不斷累積,甚至可能需要儲存三到五年;而且因為資料儲存量大,要呼叫使用時,就需要透過 AI Agent 這樣的技術才能達到需求。
零售賣場、餐飲現場,以及家用服務型機器人這些場景,隨著影像技術演進、解析度提高,影像或照片的資料量也會越來越龐大,想從中找到特定片段,都會越來越需要 AI 工具幫忙快速達成目的。
反之,需要靠大量人工處理的製造業,會比較沒那麼快能夠馬上導入落地 AI。
Q7:AI Agent 生態布局上,權限管理、資料安全和使用者控制上有什麼設計思考?
A: 最好的做法,是 QNAP 開發一套 Agent 軟體並放在自己的 NAS 上執行,這樣可以同時兼顧資安與資料儲存性,連帶原本該有的備份服務、資料安全也都能一併兼顧。如果客戶已經在使用其他家的 Agent,也可以相容並存,兩者是平行架構,使用者可以自行選擇要用哪一個。
我們甚至發布白皮書,教導使用者如何把其他家的 Agent 掛載到我們的 NAS 上,但使用時必須服從 NAS 本身的資安管理規則,否則很容易遭到駭客攻擊。
Q8:未來三年 NAS 在 AI 基礎設施中的角色會如何發展?能否舉一個客戶實際導入地端 AI 的案例?
A: 地端 NAS 現在最大的問題還是基礎運算硬體能力不足,要達到能普遍使用的條件,CP 值必須到一定程度,就像過去筆電賣 3~5 萬元時買的人最多,一旦漲到 20、30 萬元,買的人就會變少,普及與成本息息相關。以目前來看,地端應用要能順暢運作,運算量至少要到 300~600 TOPS,甚至 800 TOPS 這個等級,價格最好落在新台幣 5~8 萬元的區間,但現在的硬體方案還非常有限。
接下來 2~3 年,硬體技術會持續演進,QNAP 這類公司也會跟著技術演進的步調,盡快把對應的實體產品與軟體應用做出來,預期應該可以看到符合一般大眾期待 CP 值的產品,那個時間點就會是 Edge AI 落地最蓬勃發展的時候。
以 QNAP 曾協助一家約 50 多人規模的能源公司為例,這家公司原本用桌上型 NAS 搭配雲端 AI 做內部資料庫,但員工查詢時效能經常卡頓,加上公司的專利、技術資料、合約等內容敏感度很高,高層不願意把這些資料上傳到公有雲。後來他們找到 QNAP 的旗艦機種 QAI-h1290FX,搭配顯示卡與全快閃儲存架構,在地端部署私有 LLM,把過去封存多年的靜態檔案全部放上 NAS 讓 AI 呼叫,進行跨檔案摘要與精準搜尋,讓員工省下大量查資料、翻找合約的時間,也確保核心機密不外洩,進而加速決策速度。
這類地端應用不一定需要雲端大型模型的參與,靠地端機器的基礎運算量就可以達成需求,但仍需要一段時間的 POC,由技術人員協助客戶評估如何達成目標。
未來這類案子會越來越多,但因為很少有通用軟體能讓沒有 AI 知識的客戶快速上手,若沒有像 QNAP 這樣的技術公司協助進行 POC,這樣的推廣並不容易,這也凸顯出專業 AI NAS 公司存在的必要性。
收聽完整 Podcast|《數位時代》EP302. AI 時代下的地端儲存、Edge AI 與 AI NAS
(本文初稿為 AI 編撰)
延伸閱讀
Nvidia 官方養蝦場 NemoClaw 登場!讓 AI 代理替你寫程式、查資料、管信件,敏感數據不出防火牆
製造業不再「黑箱」!邁特電子靠地端 AI 揪出產線死角,作業時間狂減 7 成
1 張圖成本從 10 萬變 2 元!夢想動畫砸千萬自建地端 AI,1 分鐘速出百張圖