資策會產業情報研究所（MIC）4/16-4/18 舉辦第 37 屆 MIC FORUM Spring《智賦》研討會，今（17）日聚焦生成式 AI 產品應用型態發展，分析 AI 引發的資安風險與網路攻擊，衍生出的防護發展。觀察生成式 AI 市場發展，投資規模與廠商數量仍急劇增加，顯示市場抱持高度期待與信心，生態角色競合也更加激烈。產業顧問韓揚銘表示，根據 MIC 調查，2024 年臺灣五大行業有採用生成式 AI 意願或相關行動的比例已達 19%，金融保險業高達 25%、製造業（22%）居次。面對生成式 AI 正在快速改變每間公司的流程、產品創新、商業模式與生態，企業除了須能即時掌握生成式 AI 應用發展，也應思考如何導入來提高效益，並快速識別導入的手段與目的，而企業可依據生成式 AI 的三種不同應用型態，進一步思考新興產品與服務。
三大生成式 AI 應用形態，揭示未來資訊系統演變方向
綜覽生成式 AI 產品與服務，資策會 MIC 歸納出三種形態，最常見的是功能嵌入（Feature Embedding），以單點 AI 功能嵌入方式提升流程效率，如重點總結工具、協助回覆訊息等，整個流程以人為主導，部分關鍵決策點才運用生成式 AI。第二是人機協作（Copilot），應用檢索增強生成（RAG）技術，隨時取得最新資訊並即時反應，並且多模態能力將大量運用到 Copilot型態產品，以無縫接軌互動方式，如貼身助手般協助人完成工作。最後是 AI 代理（AI Agent），具有 AI 能力，可高度代理人類工作，也是邁向通用人工智慧（AGI）的階段性成果，AI 代理甚至可多角色執行不同工作任務，一同促成共同工作目標。產業顧問韓揚銘表示，這些不同應用形態展示出生成式 AI 在提高工作效率、增強用戶體驗與推動創新的巨大潛力與商機，預期將顛覆軟體產業與許多既有流程，改變產品設計模式，增加溝通介面、工具連結等需求，揭示未來資訊系統演變的方向。
生成式 AI 的潛力無窮，實踐上卻有許多挑戰。資策會 MIC 產業顧問韓揚銘表示，即使系統有不同的服務模式，要建立生成式 AI 系統仍有許多難題，包含建立可信任 AI 機制、對應新舊軟體的工程挑戰、遵循全球 AI 監管治理政策。生成式 AI 的影響也帶來許多議題思考，在提升生產力與產值、提供淨零轉型數位工具的同時，也衝擊人們就業市場，帶來能耗等問題。長遠來看，生成式 AI 是否能穩健發展，將取決於未來如何平衡技術創新與社會信任、經濟效益與環境責任，以及遵守日益嚴格的 AI 政策法律框架。
兩大類型 AI 資安威脅，驅動防護商機蓬勃發展
AI 發展帶來新的資安風險，也驅動防護發展與商機。資策會 MIC 表示，AI 資安威脅有兩類，第一類是 AI 系統為攻擊目標，包含資料處理階段的資料污染，以及模型部屬後攻擊，情境如模型遭竊導致對抗性攻擊、提示注入導致資料外洩，以及 AI 蠕蟲，特別是 RAG 技術可存取企業知識庫，形成新的攻擊途徑，加上 AI 自主行為情境複雜且管理不易，使得零信任機制面臨極大挑戰。第二類是駭客利用 AI 進行網路攻擊，如 DeepFake、識別系統漏洞、網路釣魚郵件，生成式 AI 可加速駭客學習新知與開發攻擊程式。
AI 資安新創朝治理、風險與法遵（GRC）發展，AI 網路安全應用有四大強項
不同的威脅與攻擊樣態衍生不同的資安防護與商機。關注 AI 資安防護發展趨勢，資策會 MIC 表示，資安已是國安層面的議題，推動 AI 監管法規已成為國際共識並逐漸具體化，為此，企業須配合制定策略、流程，產出符合法規要求的評測與透明度報告，驅動可信任 AI 的流程與技術發展。資深產業分析師徐暐釗分析，這將涉及 AIOps、攻擊偵測、弱點管理與紅隊演練等技術，直接影響 AI 資安新創的發展方向，觀察過去一年成長最多的 AI 資安新創，即是 AI 治理、風險與法遵（GRC）等整合型資安新創，偏重模型開發階段與攻擊偵測的新創公司，也因法遵需求而發展全面性解決方案。
因應 AI 網路攻擊，資策會 MIC 表示，AI 在網路安全、防護應用具有巨大潛力，特別是應用在四個面向：偵測異常網路行為、強化威脅情資分析能力、強化弱點管理，以及偵測 AI 生成的文字與圖像詐欺。資深產業分析師徐暐釗綜觀 AI 強化網路安全商機，預期未來 5 年內，全球 AI 網路安全市場規模將超過 350 億美元。面對 AI 資安威脅，員工也是防護的關鍵一環，企業除了採取更主動與動態的安全策略，更須強化員工資安教育與培訓，提高企業對威脅的認識與應對能力。另外，開發者在 AI 整個生命週期都必須考慮資安，即使 AI 有強大的工作代理能力，也應避免賦予不恰當的權限。
※ 五大行業說明：指金融保險業、製造業、營建業、批發零售、醫療照護業
【推薦閱讀】
◆ 【全面改變影片製作方式】Adobe 將為 Premiere Pro 導入 AI 工具，當內容全由 AI 生成，拍影片不用再怕錯過鏡頭
＊本文訊息、圖片由 資策會 MIC 提供。新聞稿 / 產品訊息提供，可寄至：pr@fusionmedium.com，經編輯檯審核並評估合宜性後再行刊登。首圖來源：Unsplash。
（責任編輯：朱靜盈）
