台灣開始思考 AI Agent 怎麼管，數發部點出能力、身分、問責等六個治理層次
近期 AI Agent（AI 代理）能力快速往前推進，從回答問題走向呼叫工具、操作系統，到連續完成多步驟任務，相關安全事件也讓治理問題受到更多關注。當 AI 開始能代表使用者自行執行工作，除了模型本身是否安全、可靠，誰能授權它做什麼、它又代表誰，也逐漸成為新的問題，而台灣準備怎麼管？
數位發展部次長侯宜秀透露，目前政府各部會填報的 AI 應用情境中，已經有部分機關使用 AI Agent。她指出，相較聊天機器人或其他特定 AI 功能可能告訴使用者該怎麼做、最後仍由人執行，AI Agent 則是「會一路把事情全部做完」，因此還需要進一步考慮它的能力、自主性，以及使用者願意給它多少信任與授權。
AI Agent 怎麼管？侯宜秀點出六個治理層次
侯宜秀表示，AI Agent 本身仍是一種 AI 應用，因此目前可以先按照既有 AI 風險分類框架進行評估；未來政府相關指引中，也可能納入部分 Agent 規範。至於 Agent 本身的治理，她認為可以從六個層次思考，包括能力、行為、安全、身分、可問責性與制度。
首先是 Agent 本身具備多少「能力」，例如可以完成哪些事情，以及能力是否值得信任。接著則是「行為」，也就是對 Agent 行動的信任程度，以及願意授權它做到什麼程度；第三層則是「安全」，也就是 Agent 所處的執行環境是否受到足夠保護。
當 Agent 開始代表使用者執行任務，下一個問題便是「身分」。侯宜秀指出，需要知道這個 Agent 到底代表誰；再往下一層則是「可問責性」，包括 Agent 是由誰授權、出了問題由誰負責，以及事後是否能還原相關行動。
最後則走到「制度」面，如果 Agent 執行任務後發生問題，後續可能涉及標準、認證、責任歸屬甚至保險等機制。侯宜秀表示，這些都是未來規範 AI Agent 時可能需要處理的問題。
其中，身分問題還可能進一步跨越國界。侯宜秀指出，AI Agent 不會只有台灣使用，未來也可能出現「台灣的 Agent 要跟美國的 Agent 說話」的情況，因此相關標準需要具有一定程度的共通性。她認為，未來如果 Agent 進一步參與交易，「可能都必須要有 ID」，透過身分認證確認這個 Agent 是誰、代表誰。不過，這套 ID 應由單一國家建立，或由可信任夥伴共同協商一套標準，目前全球仍在發展。
台灣 AI 風險治理現在走到哪？
回到台灣目前整體 AI 治理進度，數發部今年 7 月公布 AI 風險分類框架，作為各部會盤點與管理 AI 風險的共同方法。依照框架，各部會要依照 4 個步驟完成 AI 風險管理，包含盤點 AI 應用情境、識別風險、進行風險評估，再提出相應的風險因應措施。為協助各部會執行這套流程，數發部已建立線上「AI 風險管理措施檢核系統」，讓機關填入自身 AI 應用情境與後續風險評估結果。目前系統中已有 144 個 AI 應用情境進入填報。
在推動方式上，由於不同產業的 AI 滲透程度不一，數發部將優先從所主管產業 AI 滲透度較高的機關開始辦理，並協助確認框架操作窗口與盤點順序。侯宜秀也將數發部的角色定位為跨部會 AI 治理方法論的導引者；並指出數發部同時擔任行政院 AI 法制工作小組幕僚機關，該工作小組由政務委員主持，會定期檢視各機關進度，並協調不同部會對風險辨識出現差異的情況。此外，數發部也提供各機關一對一諮詢，針對風險框架操作、風險概念與技術問題提供協助。
數發部預計今年底前，先協助衛福部、法務部、經濟部、教育部、金管會、交通部、通傳會與勞動部等 8 個部會完成風險框架四個步驟；2027 年 6 月底前，希望各部會完成第一輪法規調適盤點。
科技的變化總是快得驚人，而我們每天的工作，就是從龐雜的趨勢中理出觀點、提煉出決策者真正需要的洞察。如果你也對 AI 發展充滿熱情，《TechOrange 科技報橘》正在徵內容編輯！
👉了解職缺內容
【推薦閱讀】
◆ 公務員不必會寫程式，但能自己調整 AI 代理，政府的 AI 改革才真正開始
＊首圖來源：《TechOrange》拍攝。