《Hit AI & Blockchain》台智雲策略長李立國:從政策管控與安全角度對Agent行為進行監管,是走向商業應用的必要條件
「龍蝦這件事情可以在商業應用領域裡面不是處理『事』,是處理『人』的經驗。」台智雲策略長李立國,在第九屆《Hit AI & Blockchain》人工智慧暨區塊鏈產業高峰會中表示。
李立國從台智雲的發展脈絡切入說明,台灣早在2018年便於國網中心啟動第一套以AI發展為策略的超級電腦,如今台灣在全球算力排名第16,現有算力效能接近80個Petaflops,並計畫在2028年前擴充至約480個Petaflops。他直言,韓國、新加坡等國的建置腳步同樣積極,「這有點類似一個軍備競賽的走向。」
從會說話到會做事 模型能力三年三躍
李立國梳理台智雲在模型發展上的演進軌跡,2024年,台智雲以開源模型為基礎,著力強化繁體中文語料,補足開源模型偏重簡中的先天不足,到了2025年,隨著開源模型對繁中的理解能力提升,訓練重點轉移至模型能否正確執行功能呼叫、理解使用者指派的任務,這正是現在Agent工作的核心。
進入2026年,模型又新增了「推理能力」,讓AI能夠一步一步拆解問題、貼近產業需求思考。「你可以看到模型從一開始會講話,到現在會知道你要做什麼,以及已經深入跟你的產業整併這件事情。」李立國說。
龍蝦的衝擊 AI第一次從企業走向個人
談到近期引發廣泛討論的AI Agent熱潮,李立國認為,龍蝦最大的意義在於讓AI幫人做事這件事,第一次從企業端走向個人端。「AI不是只有跟你對話,它竟然還可以幫你處理一些個人的問題,這是從To B走到To C的關鍵一步。」
不過他也提到,一波「棄養龍蝦」的現象隨之而來,原因不在龍蝦本身,而在於記憶體容量不足,導致後續指令被忽略、執行結果不如預期。「不是龍蝦不好,是因為龍蝦的腦袋不好。」他說,解方在於為龍蝦提供具備足夠推理與記憶能力的健康運行環境。
龍蝦大軍進入商業場域,「糾察隊」不可或缺
李立國進一步描繪龍蝦在商業領域的應用場景,他指出,龍蝦與LINE、Telegram等日常通訊平台的高度整合,讓使用者只需在手機前下一個指令即可操作,這將深刻改變人們的使用習慣。
以保險業務員為例,過去每天需要逐一回覆大量客戶訊息,現在龍蝦可以作為個人助理,協助處理日常維運,甚至在客戶生日時自動發送祝賀訊息。「你可以去想像客服產業、VIP客戶群、健身俱樂部的會員管理,都是同樣的邏輯。」
然而,龍蝦大軍進入商業場域,也帶來不可迴避的風險——Agent是否會在客服過程中調用不該存取的個資、回答不該回答的內容?
李立國指出,這正是「龍蝦糾察隊」存在的必要性。他以台智雲過去協助金融業導入AI時所建置的「閘道器」為例,說明從政策管控與安全角度對Agent行為進行監管,是走向商業應用的必要條件,「你不是要綁龍蝦,你要去幫龍蝦做個糾察隊。」
Agent to Agent 醫療場域已在實踐
李立國預見,未來的AI世界將從「人與Agent對話」演進為「Agent與Agent相互協作」。他以醫療場域為例指出,台智雲已嘗試讓不同的Agent分別扮演不同專業角色,在同一個環境中協同運作,解決人員不足的現實問題,並提供更全面的專業諮詢,「這個邏輯套到很多需要共同協調的商業領域,都有同樣的情況。」
在模型布局上,台智雲今年將以「1加N」的架構推進產業應用,「1」代表符合台灣繁中需求等的主權AI基礎模型,「N」則是針對不同產業與場域客製化的專業模型,再搭配多元Agent,形成完整的AI應用生態。
Token終將免費?台灣資服業必須走出去
對於外界對Token費用高昂的憂慮,李立國給出了長遠的觀點,「也許有一天Token會變成免費。」他認為,未來的計費邏輯不會是按Token數量,而是按照使用Token所執行的「服務」收費,軟體產業最終將回歸服務業的本質。
他也對台灣資服產業提出期許,認為透過AI帶來的增效與降本,台灣軟體業者有機會突破台灣市場的規模限制,「這是台灣資服產業一定要走出去的一條道路。」