理財

中小企業AI解方來了!群聯力推「平民邊緣AI」:沒有輝達金鏟子,也能挖到大商機

數位時代
更新於 20小時前 • 發布於 20小時前

「現在的半導體業,還不是M型,是『N型』,好的那一塊都是NVIDIA(輝達)體系,跟它沒有關係的都很慘!」群聯電子創辦人潘健成話說得一針見血,只是不少零組件廠大概心有戚戚焉。

AI浪潮席捲之下,幾家歡樂就有幾家愁,潘健成說通常和GPU(圖形處理器)無直接關聯的半導體零件商,要積極轉向系統開發,才有辦法開創新市場。

廣告(請繼續閱讀本文)

以儲存型快閃記憶體(NAND Flash)為看家本領的群聯,屬於「愁」的那一家,想分到AI的一杯羹,潘健成把施力點放在邊緣AI(Edge AI)。

2023年,群聯發表AI解決方案「aiDAPTIV +」,以自家固態硬碟(SSD)代替高頻寬記憶體(HBM)功能,搭配常規的繪圖卡,主打的正是能以低成本在地端運作大型語言模型(LLM)。

NAND Flash大廠做起AI系統與解決方案,潘健成強調自己對邊緣AI的押注並非源於盲目的相信,而是出自分析, 「現有的AI不可能平易近人,因為雲端的成本就這麼貴,所以唯一的方法就是要走到邊緣端的AI。」

廣告(請繼續閱讀本文)

推平民版AI!為中小企的AI恐慌症提解方

確實,隨著LLM參數量增加,除了GPU的效能差異,記憶體的頻寬和容量也會影響AI訓練效果。不過,GPU和HBM價格皆高,對於資源有限的中小企業而言,不是一筆容易出手的投資。

在應用現場,精誠資訊為許多企業提供顧問與系統整合服務,國際業務發展部副總經理林宗瀛表示,目前客戶導入AI軟硬體的基本投資金額落在新台幣300~500萬元,「有客戶的應用架構比較複雜、使用的人比較多,那個預算一下就增加到2,000~3,000萬。」

林宗瀛也觀察到,出於對資料上雲的資安考量,台灣絕大多數企業和政府單位更願意在地端使用AI,「如果要去對接OpenAI或者是Google Gemini等,他們都不放心。」

潘健成相準了這道邊緣AI應用普及化的缺口,推出新台幣12萬元的教育訓練機,以及符合企業需求的150萬元4卡、300萬元8卡的邊緣AI工作站,「中小企業的老闆都會有AI恐慌症,很急著要做,但不知道怎麼做,因為要花很多錢。」

潘健成表示,「aiDAPTIV +」主要用來解決庶務性工作,像是藉由AI整合公司內、外部資料,建立企業流程自動化。

至於降低硬體規格,可能影響運算速度?潘健成強調對於一般企業來說,重點在於先取得AI入場的敲門磚,群聯所做的是降低第一道門檻,讓企業可以循序漸進、慢慢疊加投資。

潘健成解釋:「就像是要從台北出發到高雄,騎腳踏車雖慢,但終究也會抵達。以後有錢了,可以買機車、汽車,以縮短路程時間。但如果一開始沒有腳踏車方案可選擇,北高往返只有搭飛機一途,那就完了!」

群聯推出3種定價策略的「aiDAPTIV +」方案,潘健成希望提供企業能循序漸進投資AI的選項。

夥伴不挺、客戶不信,卻加大投資百人團隊專責AI

不過,AI的話語權集中在國外雲端與伺服器大廠,當群雄爭搶著展示先進武器,群聯喊出「平民版腳踏車方案」,收穫的迴響並不多。

「我們也很辛苦,本來只是期待賣一個存儲方案,但硬體公司、軟體公司都在看戲,那樣不行啊,我們就賣整機。」潘健成說,經歷了一段媒合不到製造鏈夥伴、客戶對新產品概念也半信半疑的階段,去年6月開始,群聯自己包辦「aiDAPTIV +」的伺服器設計和軟體開發,以一體機銷售全方位解決方案。

潘健成更是逢人就推銷自家產品,目前包含政府部門、醫療院所和企業在內,不少單位透過 POC(Proof of Concept,概念驗證)試用「aiDAPTIV +」;另外,截至去年底,群聯自己的工作站規模機台,在台灣和馬來西亞兩地總計賣出逾50台,亦出貨數千顆AI SSD給硬體整合系統廠。

「過去元宇宙我一毛錢都不花,因為我不相信它是真的,可是這個我是All in(全押),我相信這個生意一定會發生,就要把自己準備好 。」

潘健成透露,群聯內部有一支超過150人的團隊,專門負責「aiDAPTIV +」產品市場,其中50人專責為企業導入產品進行客製化軟體開發與系統整合,只是這樣的規模還不夠, 「這個單位要人我們是盡量增加,因為我們的軟體是從無到有,這條路很難走。」

「市場成熟再進就來不及了!」提前卡位、搶當平價地端唯一方案

推動「aiDAPTIV +」的路之所以不好走,也因為潘健成還有內憂與外患要克服。

「這個狀況就像黃仁勳講了10年AI都沒人理他,直到ChatGPT發生之後,大家都相信了,我們就在等這個契機。」要說賭注也好、先知也罷,這筆AI伺服器的生意,潘健成說自己並沒有事先召開董事會決議,因為外部環境變化太快,沒辦法每件事都等待董事會。

只不過,2016年群聯爆發財報不實事件,根據群聯重訊,投保中心於2019年主張潘健成有「不適宜擔任董事之情事」,向法院訴請裁判解任其董事職務,而潘健成也於2021年自行卸任董事長暨董事職務。因此,潘健成的信念,能不能獲得群聯董事支持,是為隱憂。

而外患則是東風究竟什麼時候吹來?林宗瀛表示,目前企業端購買GPU,多數用途仍是實驗性質,「實驗做完了,應用也出來、成熟了,當大家都了解這些應用是要做什麼之後,才會再有下一波硬體的投資。」

林宗瀛認為,目前AI的早期採用者仍是少數,最成熟的通用時機點大概會落在2026年。

不過屆時在市場等待的,也可能不只群聯一家地端方案,像是NVIDIA執行長黃仁勳在1月7日的美國消費性電子展(CES)開幕演講上,就發布和聯發科合作開發的個人AI超級電腦「Project DIGITS」,揭示將AI推進至筆電、自駕車與機器人等邊緣應用的野心。

好消息是,去年下半年起,邊緣AI開始出現討論聲量,NVIDIA的投入事實上也讓鎂光燈聚焦在這塊市場,潘健成看好「aiDAPTIV +」今年會進一步被市場接受、為群聯貢獻營收。在那之前,他的態度倒也坦然,「生意到哪裡,就做到哪裡囉!」

延伸閱讀:羅智先,3年入主4家公司!圖解統一帝國:如何從1家小麵粉廠煉成6千億營收母艦?

責任編輯:李先泰

延伸閱讀

馬來西亞邁向科技強國關鍵2步:拉大咖攻IC設計、新創黃金通行證上路
2025 CES|除了黃仁勳、AI之外,全球科技業關注哪些事?3大趨勢一次看
「加入《數位時代》LINE好友,科技新聞不漏接」

查看原始文章