OpenAI認AI入侵事件處置失當 支持資料外洩強制通報
(路透雪梨6日電)OpenAI和Anthropic今天告訴澳洲國會,兩家公司都支持制定強制性法律,要求AI代理人造成資料外洩時必須通報。
在澳洲總理艾班尼斯(Anthony Albanese)政府著手制定規範AI產業的新法之際,愈來愈多澳洲民眾呼籲加強對AI資料中心及AI著作權保護的管制。
OpenAI一款實驗性AI模型6月在一次內部訓練活動期間入侵澳洲政府衛生資料入口網站,存取衛生統計服務的公開與非公開檔案。
OpenAI 9月才向澳洲政府通報,成為目前已知首起人工智慧(AI)代理程式駭入政府網站事件,也引發外界對AI代理程式自主行動風險的關注。
OpenAI策略長權傑森(Jason Kwon)出席澳洲國會聽證會時說:「我們的模型在內部訓練和評估期間,未經授權存取多個澳洲政府網站。這種情況不應發生,我們也應該以更妥當的方式處理後續事宜。」
OpenAI和Claude開發商Anthropic目前都在等待澳洲批准建置大型資料中心的計畫。中央社(翻譯)