AI測試怎麼變成資安風險？OpenAI、Anthropic、Meta接連出現異常 35人以色列新創成關鍵
過去兩週，OpenAI、Anthropic與Meta陸續公開AI模型在資安測試中意外連上網路。根據CNBC報導，三起事件都牽涉以色列新創Irregular提供的測試環境，相關設定問題讓AI模型取得原本不應具備的網路存取權。
Irregular成立於2023年，總部位於特拉維夫（Tel Aviv），前身為Pattern Labs，專門協助AI公司進行模型資安評估，測試模型可能出現的攻擊行為與安全弱點。公司曾獲紅杉資本（Sequoia）與Redpoint Ventures投資8000萬美元，2025年估值達4.5億美元。
OpenAI在8月4日表示，Irregular的測試環境出現不明設定錯誤，讓模型可連上公開網路。Anthropic也表示，開始分析相關資料數天後，通知Irregular，Claude模型可能曾存取網際網路。Meta本週則表示，從Irregular得知相關事件，目前仍在調查，待掌握完整事實後將公布完整回顧報告。
AI找漏洞是測試目的 真正問題在隔離
Irregular向 CNBC表示，三起事件均源自同一個測試環境的配置問題，並非模型發生沙盒逃逸，亦非複雜的網路攻擊，目前相關疑慮已全數排除。Irregular正準備白皮書，分享如何更安全地進行AI資安測試。
企業 AI 服務新創Von人工智慧主管Sundeep Bhimireddy形容，這類測試就像請外部考官替AI評分，目的在於避免模型開發商自行替自己評估。Bhimireddy認為，若模型本來不該真正接觸外部網站，開發公司應監控連外流量，必要時立刻停止測試。
資安機構Magnitude創辦科學家Gordon Rios說，AI模型的行為難以預測，傳統軟體測試未必足夠。Anthropic的Mythos曾建立假網路身分，試圖說服人類核准開源專案的惡意程式碼更新，Rios強調，Mythos甚至使用了人類此前沒有見過的漏洞利用方式。
AI測試接連出包 美國會推「Kill Switch」法案
美國國會跨黨派議員上月提出《AI緊急關閉法案》（AI Kill Switch Act），要求特定強大AI系統的開發商具備降低運作能力、暫停或關閉模型的技術能力。
法案上也提及另一宗上個月OpenAI與AI平台Hugging Face的資安事件。法案共同作者、加州民主黨聯邦眾議員Ted Lieu接受訪問時表示，近期出現AI未經授權存取其他公司系統的事件，法案需要在今年完成立法程序。
資料訓練新創Sapien共同創辦人Trevor Koverko說，基礎模型公司雖然沒有法定揭露義務，仍有誘因公開部分發現，希望搶在立法者與監管機關之前建立自律形象。Koverko說，政治圈對AI的焦慮升高，業界傾向自行監管，避免聯邦新部門介入。
OpenAI與Anthropic均表示，將繼續與Irregular合作，並支持後續檢討。