新加坡政府如何因應 AI 代理風險：沿用現行法規、讓政府機關先試驗
當 AI 代理人接連發生違規事件，各國政府也開始重新檢視既有的監管框架。新加坡數位發展及新聞部高級政務部長 Tan Kiat How 10 月初在國會表示，政府正透過試驗與實驗，了解如何負責任地導入代理式 AI 系統。
所謂代理式 AI，是指能執行動作、與外部系統互動，並能調整自身行為、降低人類介入程度的 AI 系統。Tan Kiat How 指出，這類系統同時帶來機會與風險。
新加坡以試驗摸索代理式 AI 的導入方式
Tan Kiat How 表示，政府正在檢視並強化現有框架，以因應自主性越來越高的代理式 AI，同時發展超越既有做法的能力，並持續關注全球發展。
他指出，新加坡政府科技局（GovTech）等多個政府機關，已在具備適當防護的前提下導入相關系統。Tan Kiat How 也呼籲民間企業，即使不是經營關鍵資訊基礎設施或重要數位服務的業者，部署 AI 代理人時同樣應審慎並承擔責任。
代理式 AI 的風險，多是既有問題的延伸
對於這些風險，Tan Kiat How 認為不必視為全新的問題。他指出，代理式 AI 帶來的許多風險，其實是既有挑戰的延伸，因此現行的風險管理流程與監督機制，同樣適用於代理式 AI。
許多 AI 風險已由適用範圍較廣的新加坡法律處理，例如《個人資料保護法》、《職場公平法》與《廣播法》，醫療、金融與法律等產業也各有專屬指引。
政府的《AI 治理模範框架》（Model AI Governance Framework）則把人類與組織當責列為核心，要求 AI 系統具備可解釋、透明與公平的特性。部署 AI 的組織應建立明確的治理架構並指定監督角色，確保 AI 輔助決策中有實質的人類當責，也要建立風險管理流程，監控並降低演算法偏誤等風險。
Tan Kiat How 表示，維持人類當責、建立足夠的控管與防護機制，以及強化 AI 代理人所接觸系統的資安防護，這些原則都適用於代理式 AI。政府正研究如何調整這些框架，以因應代理式系統自主性提高帶來的變化。
他也希望開發前沿 AI 的企業承擔更多責任，及早辨識新出現的能力與風險，並在大規模部署前建立防護。若系統已造成損害，企業也應負起責任，盡快修正。
AI 代理人事故頻傳，業者表態接受強制通報
前沿 AI 模型的安全使用，已是全球共同面對的課題。近幾個月來，AI 代理人接連發生重大違規事件，讓業界擔憂能否控制正在開發、能力更強的模型。在 Tan Kiat How 發言前，OpenAI 通知超過 100 個組織，告知與其 AI 代理人有關的未授權活動事件。
10 月初，OpenAI 與 Anthropic 向澳洲國會表示，歡迎立法要求它們通報 AI 代理人造成的資料外洩，並承認目前是否通知主管機關，仍由業者自行決定。這番表態的背景是，OpenAI 的一個 AI 代理人曾入侵澳洲主要的醫療入口網站，OpenAI 卻拖了數個月才通知澳洲政府，引發輿論強烈批評。
同一天，新加坡數位發展及新聞部部長 Josephine Teo 在答覆國會時指出，能力與自主性越來越高的 AI 系統帶來新風險，現有防護可能無法完全因應。因此，政府正研究高風險 AI 應用是否需要新的安全措施，例如更嚴格的測試、可獨立驗證的安全證據、更嚴格的部署控管，以及更強的監管。
Josephine Teo 在前一週也曾於社群媒體表示，前沿 AI 企業的防護措施雖然重要，但不足以因應能力日益提升的系統。惡意使用者可能利用 AI 找出系統弱點、撰寫惡意程式、自動化部分網攻流程，或讓詐騙更逼真。
新加坡不排除極端風險，但先累積證據
Josephine Teo 也指出，截至目前，新加坡沒有任何涉及無人監督 AI 代理人、針對政府機關的網路攻擊通報。不過，政府既不排除 AI 可能帶來「災難性甚至滅絕級」的風險，也不假設這些風險必然發生。
因此，新加坡現階段的做法，是密切觀察證據、建立理解先進 AI 系統的技術能力，並與國際合作因應重大風險。至於是否會透過立法同時規範 AI 的行為與生成內容，新加坡數位發展及新聞部在回覆國會質詢時，列出了現行適用的法規與框架，但沒有提到是否會新增立法。現階段，新加坡選擇一邊試驗，一邊研究既有框架該如何調整。
【推薦閱讀】
◆ 台灣開始思考 AI Agent 怎麼管，數發部點出能力、身分、問責等六個治理層次
◆ 【政府 AI 轉型下一步】64 國建好數位身分只是起點，AI 代理正在改寫政府服務方式
◆ 從黃仁勳到 Broadcom 都沒打算為 AI 踩煞車，微軟公布 37 頁 Agent 行為準則
＊本文開放合作夥伴轉載，參考資料：CNA、Government of Singapore，首圖來源：Unsplash
（責任編輯：鄒家彥）