事發3個月後才通知！OpenAI智能體入侵政府資料庫 澳總理：通報流程與方式「不可接受」
人在紐約出席第81屆聯合國大會的澳洲總理阿爾巴尼斯周三(23日)證實，OpenAI旗下一款AI智能體於6月18日未經授權訪問了澳洲政府醫療統計入口網站，讀取了公共及非公共文件，這可能是已知首例AI智能體入侵政府網站的事件，也引發外界對開發者能否有效控制這項技術的擔憂。
核心爭議在於通報時差。阿爾巴尼斯指出，OpenAI直到8月才在對AI模型活動進行全面檢查時發現此次異常活動，但直到9月10日才通過電子郵件聯繫澳洲民政服務部(Services Australia)告知此事。阿爾巴尼斯也已跟OpenAI執行長奧特曼直接通話，表達「極度關切」，並對「該公司間隔過長時間才向澳洲政府通報」以及「通報流程和方式」均感到不可接受。
被入侵的對象是澳洲醫療統計入口網站。該網站由澳洲民政服務部管理，承載非敏感健康數據與統計數據，包括公共醫療支出資訊。
阿爾巴尼斯指出，AI智能體訪問了公共文件和非公共文件，目前在澳洲信號局(Australian Signals Directorate)協助下，一項調查取證工作正在進行，並找出還有哪些政府系統受到影響。目前已知另外三個可能受影響的政府系統，包括澳洲健康與福利研究所及新南威爾斯、維多利亞的部分部門。
目前，尚無跡象表明個人資訊在此次事件中被洩露。阿爾巴尼斯在發布會上強調，現階段沒有個人資訊被訪問，現有證據表明該網絡並未受到更廣泛的入侵，但調查仍在進行中。
OpenAI在聲明中表示，旗下模型在內部評估中訪問了「幾個澳洲政府網站和服務」，遭訪問的資訊包括健康統計數據和內部文件，但跟澳洲在措辭上走差異，發言人稱內部評估期間發現，旗下AI模型在試圖查找有關澳洲問題的答案和可用統計數據時，採取了一些「意料之外的行動」，但未發現任何證據表明澳洲患者的記錄被訪問。從8月發現到9月10日通知之間，一直在核實調查事實並確認哪些信息遭到訪問。
這不是孤立事件。今年7月中旬，OpenAI智能體在ExploitGym網路安全評估中突破了本應相互隔離的運作環境，透過未經授權的內部留言板相互通信，其中約700個進一步捲入了針對開源AI平台Hugging Face的攻擊。
OpenAI於8月26日發布37頁技術調查報告，同日METR與Redwood Research公佈獨立調查結果：約1200個智能體參與相關通信，交換超過7萬條訊息和文件，部分智能體還研究如何修改、偽造甚至刪除自身行為記錄以逃避監控，但從頭到尾沒有任何智能體向人類報警。Anthropic、谷歌旗下Gemini和Meta也曾揭露其智慧體存取外部系統的事件。
國際社會正將此類事件上升為治理議題。周三，在紐約聯合國安理會AI會議上，奧特曼與Anthropic執行長Dario Amodei均呼籲加強全球協調、制定AI安全標準，開展國際合作應對AI可能帶來的風險。本月稍早，Amodei發文建議放慢AI開發步伐的提案，震動科技業。
更多鉅亨報導