電影內容成真？ OpenAI模型突破限制 「入侵」另一AI平台
好萊塢電影當中，人工智慧系統接管軍事防禦、甚至發動核戰，曾被視為科幻想像。不過如今，AI自主行動能力快速提升，現實世界也出現引發關注的最新案例。OpenAI證實，旗下AI代理程式在安全測試中突破原有隔離環境，甚至連上公開網路，並涉及入侵另一個AI開源平台，引發外界擔憂。
電影魔鬼終結者第三集美國空軍中將，為了國家安全，把電腦全交給了AI防禦系統，沒想到，原來要防範的病毒其實就是人工智慧，AI沒過多久命令向全球發動核武攻擊，然而這情況，會不會已經在真實世界上演。
CNN記者說：「一場前所未見的資安事件，開發ChatGPT的OpenAI表示，旗下兩款人工智慧模型，突破原本設定的限制，成功駭進另一家AI公司。」OpenAI最新承認，自家AI代理程式，竟然在安全測試中自行突破隔離環境，連上公開網路，入侵AI開源平台Hugging Face。
Hugging Face表示，這次的入侵從7月11日開始，一直持續到13日，路透社獨家報導指出，直到Hugging Face，16日公開資安事件後，OpenAI才逐漸發現，入侵可能來自自家代理程式，雙方大約到20日，才首次直接聯繫，OpenAI隨後在21日，公開承認自家模型涉案，但OpenAI聲稱，路透社報導存在錯誤，只是沒有具體說明哪些內容不準確。
這套代理程式，由GPT-5.6 Sol，以及一款尚未公開，能力更強的模型驅動，OpenAI當時正在測試AI利用軟體漏洞發動網路攻擊的能力，而為了測出能力上限，OpenAI沒有啟用部分安全限制，最後這套AI代理程式，自行提升權限，並在研究環境中橫向移動，直到進入一個能夠連上公開網路的節點。
CNN記者Clare Duffy說：「如果你跟業界專家聯繫，確實很多人都在擔心，這種狀況發生頻率，會不會越來越高，而那些大型模型實驗室，目前根本缺乏能力去掌控這些模型。」從電影中，AI控制國家軍武，到現實當中的資安事故，究竟能否實際控制住創造出來的尖端科技，成為一大挑戰。