矽谷新創Expedera專訪／當世界更「智慧」 AI加速晶片IP商機有多大？

美國人工智慧(AI)加速器IP新創Expedera在2021年底成功完成A輪1,800萬美元的募資計畫，將加速產品開發與市場拓展，以滿足市場對深度學習加速(DLA)晶片IP的強勁需求。DIGITIMES專訪Expedera技術副總裁馬志華(Siyad Ma)與行銷副總裁Paul Karazuba，了解Expedera眼中的市場趨勢以及市場拓展計畫。

問：Expedera的共同創辦人們在ASIC設計以及AI軟硬體開發等領域累積了多年經驗，很明顯你們原可舒服地在其他公司擔任高階主管。是什麼激發了創業的決定？　

Siyad：2018年的時候，AI晶片非常紅，幾乎每10家新創裡面，就有9家是在做AI晶片。身為IC設計從業人員，我們當時想，嘿！這是個做半導體新創的好時機，因為矽谷灣區已經好久一段時間沒有半導體新創了。但檢視產業生態時，很快就決定不想跟大多數人一樣，只是把現有的GPU或CPU架構拿來加一些AI功能。因為到最後，神經網路的運作和單純跑圖、使用資料庫或電子製表計算是兩回事。我們認知到，市場真正需要的是專門用來執行神經網路模型的引擎架構(Engine Architecture)，這就是促使我們創業的原因。不想從眾做通用型晶片，因而開發出可快速執行AI推論、面積小且儘量低耗電的處理架構。

Expedera共同創辦人兼技術副總Siyad Ma。Expedera

問：你們想為客戶解決的痛點，是更客製化且低耗能的晶片嗎？

Siyad：AI引擎的趨勢就是所有東西規模愈來愈大，但勢必會來到某個轉折點，因為不是所有的製造商都能付得起那個價格。企業需要在面積、耗電上更有效率且能達到最佳效能的AI處理方式，更多是在邊緣端。這就是Expedera想提供給市場的，讓所有的公司、產品和使用案例都能用上AI，而不只是Google或Facebook的。

運用邊緣端處理數據，一方面是為了提升重要任務的穩定性，另一方面的確是為了省電。舉自駕車為例，AI要即時做駕駛的決定，而考慮到汽車行駛速度，要在瞬時做出決策並且執行，就代表不能依賴雲端，汽車廠已經明白這點。另外是智慧門鈴，有些能辨識住戶的臉以及陌生人，讓住戶可以不需要鑰匙就進門(但這產品可能尚未普及)。雖然智慧門鈴執行的任務可能沒有自駕車重要，但不管有沒有網路連線，都能辨識出熟人的臉，開門讓人進入。

電力很明顯是個重要考量，特別是對沒有連上電網的裝置而言更是如此，例如最小的邊緣裝置點，或大到要進行遠距離駕駛的電動車都是。邊緣AI的耗能比傳到雲端處理更有效率。提到低耗電，我們最近才發布了一個新IP，名為TimbreAI，在邊緣端如耳機進行AI運算時，用電還不到300微瓦。TimbreAI就是以省電考量為目的，把AI放到邊緣端的好例子。

問：要考慮到用電效率又要完成重大任務，會有什麼挑戰呢？　

Siyad：來找我們合作的每個客戶都有在效能、電力與面積(PPA)上想達到的特定目標，以及在特殊應用遇到的限制。在了解客戶設計的過程中，哪個PPA環節最重要，往往發現，客戶想達到的效能超越了省電和面積限制，這樣的經驗令其不敢期待太高。第一個公開發表的客戶從Expedera引擎獲得了比我們的對手高出20倍的產出量(throughput)，耗電卻只有對手不到一半的用量。以客戶所能接受的面積與耗電預算，來看用我們的產品能提升多少效能，是非常有趣的經驗。　

問：貴公司白皮書提到，DLA IP市場規模在2021年已經超過了6億單位(Units)，並預估到2025年每年將成長26%。能否分享一下你們的手機客戶如何應用產品，為智慧型手機添加什麼功能？　

Paul：智慧型手機的AI應用蠻多樣化，可能是用AI來偵測物體或人，或拿來為影片或錄音去背景噪音，還有其他用途。舉影像捕捉這個功能為例，手機品牌商在這方面特別著力想提供最好的照片和高品質影像捕捉。然而，科技進步的速度有限以及硬體方面限制，就意味著品牌商只能就現有的影像硬體與傳統的影像處理演算法來想辦法。有愈來愈多的手機品牌商運用AI把影像和串流的品質做最佳調校，以產出更好的照片和影片。

Expedera行銷副總Paul Karazuba。Expedera

問：邊緣運算市場也快速成長中，很可能會是AI加速器另一個強大需求來源。你們有看到這樣的情況嗎？　

Paul：沒錯，我們正看到邊緣裝置採用AI的需求快速成長。初步部署AI在邊緣端是為了更直接連結雲端，可是那通常很耗電，效果也沒有預期好，特別是當AI演算法要運用在一些重要任務型(Mission Critical)的應用時。現在AI已經轉移到邊緣端，包括在邊緣端進行處理。剛剛提到智慧型手機，但AI應用已經部署到愈來愈多硬體上，例如耳機、智慧門鈴、擴音機、平板電腦、門禁安全鏡頭等。　

問：可以粗估一下成長數字嗎？例如，看到那個市場每年有多少位數的成長？　

Paul：每個市場成長速度都不太一樣，例如已有產業分析師估算智慧門鈴每年成長超過20%，而門禁安全鏡頭市場成長速度則差不多是一半。對Expedera而言，在手機、汽車和資料中心使用AI的成長更加快速。AI已經成為最高階裝置的必備條件，相信在未來幾年內，大家會看到幾乎所有的消費電子裝置裡都有AI應用。

問：Expedera是否也有策略夥伴關係並合作拓展市場？有這樣的例子可分享嗎？　

Paul：Expedera有策略夥伴例如ASIC設計公司與AI演算法設計公司。我們一年前才結束潛水狀態，2021年用一年時間專心與第一個客戶合作發表其產品，並繼續增加客戶，現在將是我們拓展市場的時候了。主要客戶都在北美和亞洲(集中在台灣、日本、南韓、中國)。　

問：是因為這些市場是消費電子的大市場，還是因為消費電子裝置製造商主要都坐落在這些區域？　

Paul：兩者都是，我們是IP供應商，授權IP給IC設計公司，他們可能是傳統晶片製造商，可能是ASIC設計公司、或是有自己的IC設計部門或外包IC設計的消費電子品牌商。由於IP的獨特性，會確保與每個客戶合作，而我們專注在消費電子、汽車與數位中心的垂直鏈中。電動車或是任何型態的自駕裝置，從駕駛儀表板的低TOPS AI到PetaOPS層面的自動駕駛都適合。資訊安全和智慧城市也是目標市場。　　

問：你們有想到台灣找合作的機會嗎？

Siyad：我們看到在台灣有很多合作的機會，而策略之一就是要在亞洲設立辦公室，包括台灣，也考慮設立研發據點。　

美國AI加速器IP新創Expedera2021年完成A輪1,800萬美元募資計畫。Expedera