即將迎來ChatGPT問世的兩週年,企業運用生成式AI,已經出現不少成功案例。有些企業開放讓員工應用AI工具,有些正在進行概念測試,有些則制定出完整生成式AI戰略。導入過程中,到底是技術、資料還是業務重要?企業要如何駕馭生成式AI?相當善用AI的亞馬遜網路服務(AWS)高層提供觀察:他們指出有4個迷思,是許多企業常犯的,卻會讓花大錢與心力導入AI的創舉,最後形同做白工。你也犯了嗎?
對於導入生成式AI,已經有不少公務機關、大型財團和中小企業,從過往的觀望轉變為採取行動,因為擔心若沒跟上競爭對手的腳步,會就此落後於人。對於尚未開始的人來說,要怎麼避免「為做而做」、「為AI而AI」的陷阱?AWS亞馬遜網路服務部門,本身就是善用AI的團隊,高層提出有四個迷思需要避免,值得台灣企業借鏡。
企業導入AI迷思一:只追求技術
「你最想解決什麼樣的問題?」接受《遠見》專訪時,AWS科技副總裁布克薇(Mai─Lan Tomsen Bukovec)拋出這個疑問,這也是面對想運用AI、卻不知該從何處著手的企業主管時,她最常向對方提的問題。
經歷過運算、儲存等雲端服務的崛起,在這兩年間,布克薇也親眼目睹生成式AI掀起的風潮,在她眼中,生成式AI和雲端技術都是基礎元件(building blocks),對公司經營來說,重點都是如何運用這些工具如何幫助自己。
在AWS負責生成式AI的副總裁菲羅明(Vasi Philomin)的看法完全相同。「不要從技術出發。像是看到每個人都在客服領域中使用,就跟著做一下。這當然是一種方法,但我認為(導入AI)應該始於真正有價值的業務問題。」
AWS生成式AI副總裁菲羅明表示,他都會告訴客戶,先從業務中有價值的問題出發尋找AI應用場景。曾子軒攝
菲羅明指出,生成式AI就像其他新技術,能夠替企業提高收入,或者降低成本。以近期備受關注的推理能力來說,可能用來提升員工的生產力,也可能用在公司的新產品之上。「你完全可以進軍以前無法進軍的領域,或者極大地提高團隊的效率,這樣你就可以用更少的資源做更多的事情。」他建議初步思考時,先從降本和增效兩個問題開始。
企業導入AI迷思二:只想追求最新模型
不過,有許多客戶將雲端服務視為降低成本的解方,相較之下,AI雖然能夠創造價值,但也意味著付出更多投資。
菲羅明也注意到企業的擔憂。「以推理能力來說,現在仍舊昂貴。」若客戶一開始鎖定的問題有足夠價值,那就有能力承擔相應的試錯成本;若把重點放在相對低價值的目標,則可以先不考慮具有推理能力的尖端模型,先用輕量或者價格已經跌落的過往版本,這樣就能承擔大規模部署的費用。
布克薇指出,以摘要文章、創作內容、分析等常見應用來說,上週(11/22)剛宣布與亞馬遜深化合作、準備在既有40億美元基礎上再接受額外40億美元投資的Anthropic,旗下模型Claude的中版本模型Sonnet和輕量版本模型Haiku就很適合派上用場,衡量成本效益,表現不俗。
當企業找到問題,也調整好心態準備花錢試驗,下一步就是開始嘗試。
Anthropic和Amazon與AWS加深合作,除後者向前者追加投資40億美元外,Anthropic還將AWS當作主要訓練合作伙伴,利用其晶片訓練並部署基礎模型。曾子軒攝
企業導入AI迷思三:覺得資料品質不重要
有企業選擇梳理既有業務與工作流程,從中辨識出生成式AI發力之處;也有企業發揮生成式AI特色,帶來不一樣的服務。無論採取何種方法,資料很重要。
「如果一年半前問我,我可能不會猜到這兩個領域採用生成式AI如此快速。」菲羅明所說的,分別是金融科技、醫療保險暨生命科學。
菲羅明表示,這幾個產業相對保守且動作較慢,現在卻「瘋狂地」採用生成式AI,箇中原因便是受到監管。台灣有金管會盯著金融業、美國有證券交易委員會(SEC),醫院和生技業在台灣則受衛福部關注,美國亦有食品藥物管理局(FDA)看著,「因為必須處理監管,他們不得不將資料整理得很好。所以他們有資料策略、有上雲,還有資料治理實務。」
呼應菲羅明說法,布克薇指出,在幫助企業探索應用潛力的AWS生成式AI創新中心計畫裡,能夠打造出新應用的企業,通常是準備好乾淨資料的公司。
不只是因為擁有乾淨資料,就能快速建構起知識庫,接著透過檢索增強生成(RAG)取用資料,關鍵在於老生常談:「你知道,好的資料就是好的AI。」
AWS生成式AI中心總監斯里分享,不只是產業應用,就連公務機關也有生成式AI的創新正在發生。圖為亞馬遜辦公室,曾子軒攝
布克薇強調,她並不是想表達企業的首要任務是清理資料,而是在透過AI驅動新業務或者改善既有業務之前,先決定有哪些資料與其有關,且有著一定價值,接著才是確認資料的實際狀態。「有時AI應用的最大挑戰不在模型上,模型已經越發進步了。」
確認問題、檢查流程與產品,整理資料後就能著手進行實驗。
菲羅明分享,報稅軟體TurboTax的開發商Intuit,便全面推進生成式AI的運用。對內,Intuit運用基礎模型輔助工程師開發軟體、幫忙設計師完善使用者體驗,對外,Intuit提供智慧助理,讓使用者得到個人化的協助並制訂出行動方案。
菲羅明舉例,在報帳流程的最後一步,TurboTax會提供摘要,說明收入、扣除額、稅率以及稅款,「他們有這些資料,因此能夠替客戶提供很棒的體驗,揭示出稅款的差異。」能夠在現有產品中提供更好體驗,便是從資料出發,接著活用生成式AI,試圖創造出差異。
企業導入AI迷思四:永遠停留在測試階段
當組織實驗生成式AI應用以後,有可能確認實驗失敗決定暫緩,也可能還要持續改進才能上線。
新應用會停留在測試階段,背後有許多理由,例如現有系統太過龐雜,難以接入新服務,也可能是組織沉痾已久,不同團隊之間難以融入。布克薇就分享,從概念驗證轉移到開發、上線的最大難點之一,在於必須將其納入服務或者產品之中。
「你可以做一個關於聊天機器人有多棒的實驗,但是,若它沒有整合到你的應用程式中,那麼它將永遠無法停止成為概念測試。」
以降本增效為出發點的嘗試,有時候會發現新技術已經初見成效,有時則發現你並不需要它。最怕的就是沒有繼續向前,始終停留在測試階段。
菲羅明認為,生成式AI炒作高峰已過,企業已經開始發現哪裡適合應用、哪裡不適合。曾子軒攝
就菲羅明觀察,客戶在實驗中已能掌握在當前情況下,哪裡是使用生成式AI的正確位置。就顧能(Gartner)提出的技術成熟度曲線來說,他認為我們已經走過膨脹期或者泡沫期了。
「它已經不再是純粹的炒作,存在真實的應用案例。」雖然預期人們在試圖大規模部署新應用時,發現生成式AI並非萬靈丹,仍會感到失望,但再往後,菲羅明表達樂觀,隨後就會進入穩定狀態,最終取得成功。
從檢視業務、發掘問題,到最後的嘗試與部署,有ㄧ段不小的路要走,但關鍵在於不再抗拒,勇於挑戰未知。
隨著版本迭代,基礎模型成本下降的速度驚人,這讓兩人一致同意,企業不該停止測試的腳步。「現在就做你的實驗,看看帶來哪些好處,⋯⋯它可能比你想像的要低很多,」這是布克薇從經驗中淬鍊出的提醒。
延伸閱讀:
留言 0