你無法忍受任何1秒的網路延遲,但未來網速有可能愈來愈慢。
「生活想要更智慧化,要連上網路的東西也會變多,」滿拓科技創辦人暨執行長吳昕益(首圖右)提到,當愈來愈多智慧化設備有連網需求時,來回傳輸的資料量也會變大,所以容易造成網路的塞車。
網路塞車也影響到AI處理的速度,現階段的作法,是把AI技術的演算法放到雲端,現場搜集到的數據再上傳到雲端,得到結果後再把結果回傳到現場,但是數據過多造成的延遲性以及高昂成本,是AI難以快速普及化的原因之一。
「因此,我們認為AI會從雲端運算往邊緣運算發展,滿拓科技就是要把大型演算法可以部署在現場的終端裝置中,不僅提升60%的運算效能,更省下了近百倍的成本。」吳昕益說。
從2大面向著手,讓演算法輕量再輕量
他們是如何做到的?
像是手機、監視器等等的終端裝置,存在著硬體上的限制,包含晶片運算能力以及記憶體的量體大小,都不足以應付大型的AI演算法以及大量數據。
目前的解方,大多是以壓縮演算法的方式讓AI可符合終端裝置的運算能力,然而壓縮法會把某些相對不重要的運算節點省去,所以無可避免地,容易發生運算結果失準的狀況。
為了避免失真的問題,滿拓科技不使用傳統剪枝或量化的壓縮法,而是直接縮小演算法的運算單元。
滿拓科技行銷總監楊育明(首圖左)解釋,目前的大型演算法都是以32位元的運算架構設計的,為了能夠符合邊緣裝置的運算能力,滿拓科技透過專利的「微型化技術」把原本32位元的運算架構,改成4位元或者8位元的運算架構,這樣一來就可以節省許多運算空間,使得運算效能大幅提升,更降低了90%的資料傳輸與運算複雜度。
然而,採用不同的運算架構的同時如果還要維持準確度,勢必要對原本的大型演算法進行調整,「我們的微型化技術就是讓演算法從大轉小的一個工具,可以對大型演算法的參數以及權重進行調整,使得最終得出的結果與原本的誤差低於1%。」
簡單來說,可以把滿拓科技的微型化技術想像成多啦A夢的縮小燈,過去大企業都是以南港展覽館這種等級的場館規模在設計鋼鐵人模型的,但是如果想要放一個符合家庭大小的鋼鐵人模型,就要靠滿拓科技的縮小燈把模型縮小,但是鋼鐵人模型的所有細節仍能無失真保留下來。
從強調技術走到產品落地,熬過技術商轉的艱難
雖然技術聽起來很美好,但是吳昕益坦言,滿拓科技的創業之路走得坎坷。會出來創業,是因為受到幸虧有兩度在美國創業成功的蔡仁松教授的創業課薰陶,「我們決定在2018年把在清大實驗室磨了10年的技術拿來創業,但是投資人想知道的不只是技術。」
吳昕益表示,一直以來滿拓科技不斷嘗試以「技術優勢」打動投資人,但是投資人希望看到的是完整的商業模式、客戶以及現金流等等,所以一路走來也學到了很多技術以外的商業運作模式。
「蔡仁松教授一直鼓勵我們:創業沒有一次就中的,再加上這個技術是我們自己發明的,也捨不得放棄,所以還是一路堅持著,幸好在教授的支持下,我們找到了方向。」吳昕益說,目前滿拓科技開發出兩個產品:
DeepLogMaker:一款搭載9種微型演算法的SaaS low-code服務,可以快速部署到x86、ARM等主流的終端伺服器,為企業省下清洗數據、挑選演算法的流程
DMAI 900邊緣運算伺服器:提供給尚未擁有終端伺服器的企業使用,讓企業可以享有其DeepLogMaker的服務
目前滿拓科技的客戶來自包含智慧零售、智慧製造、智慧醫療、居家長照等領域,應用範圍非常多元。
以長照為例,滿拓科技與國內數一數二的門鎖製造商合作打造人臉辨識門鎖,運用邊緣裝置運算完後,透過wifi及時發出警訊,提醒長照單位長輩有突發狀況發生。至於智慧零售的例子則是社區型的藥局,藥局透過架上的鏡頭與邊緣運算系統,即時分析消費者在看什麼、看多久等等數據給藥廠,讓藥廠可以在正確的時間、正確的地點投放廣告給正確的客人,藥局同時也能分潤。
2021年底,滿拓科技更與AI新創Beyond Limits簽戰略合作,分別提供數值型AI(以數據邏輯辨認物體)與認知型AI(判斷結果好壞),攜手打入國際市場,提供更完整的解決方案。今年1月,力積電也宣布與滿拓科技簽訂合作協議,滿拓科技提供AI矽智財協助3D AIM晶片製程平台技術,以開拓邊緣運算的新興應用。
團隊快問快答
Q:最主要的客戶群?
A:客戶有IC設計公司,滿拓提供客製化、微型化的AI IP,已有多家大型上市櫃公司導入,預計2022年中量產;另外有系統整合商,如大型硬體製造商、電信業者及IPC廠商,導入滿拓微型化專業演算法及硬體設計,將現有IoT系統升級成AIoT系統在智慧交通、智慧監控、智慧工廠、智慧家庭、智慧長照及精準行銷等領域;以及針對一般類型各式用戶,滿拓提供Deeplogmaker全球一站式B2B SaaS服務,整合了微型化app AI Zoo及訓練AWS平台及硬體部署,讓想使用AI運算的各行各業,不須自己建置團隊及Server,只須專注在自身的核心能力,將AI需求交由DeepLogMaker,最專業快速地導入AI。
Q:目前該服務的獲利模式為何?
A:DeepMentor專注於B2B SaaS服務,提供客戶透過訂閱下載使用微型化演算法使用,以及進階之客製演算法微型化與優化服務。以演算法 x 裝置數收費。
破壞式創新:未來每裝置價格最低USD$1/年。
Q:長遠來看,公司想成為一家何種類型的公司?下一步的目標是什麼?你們如何完成?
A:對比國際型知名大廠在應用類似技術進行優化時,依然必須權衡面對正確率下降 5~15%的狀況,DeepMentor 主要運用專利微型化技術,真正地將雲端專業千萬參數等級的精準AI演算法落地,將資料搬移量和運算操作複雜度減少90%的狀況下,依然保持正確率在99%以上。
團隊資訊
公司名稱:滿拓科技股份有限公司
成立時間:2018/6/1
產品名稱:DeepLogMaker
上線時間:2021/12/7
官方網站、Facebook
延伸閱讀
從火星探測系統到輔助工業製程,美國工業用 AI 新創 Beyond Limits 如何在台灣做到技術在地化應用?
FiduciaEdge Technologies 聚焦邊緣運算前瞻技術,打造「微服務」可信任邊緣計算智慧平台
與豐田汽車合作的核心!耐能推出首款車規級晶片KL530,具備什麼創新特色?
Google首個AI晶片投資!SambaNova要如何提升晶片運算性能釋放人工智慧價值?