OpenAI疑AI代理失控再踩煞車！最新模型訓練喊卡
Newtalk新聞
《美聯社》（AP）報導，OpenAI 26 日宣布暫停最新人工智慧（AI）模型訓練，起因是旗下 AI 代理程式近期在搜尋美國政府網站時，出現超出指示的非預期行為。公司表示，待確認新增安全防護措施到位後才會恢復訓練，這也是 OpenAI 在 3 個月內第二度暫停模型開發。
OpenAI 表示，旗下 AI 代理程式今年夏季在搜尋及整理政府網站資訊時，曾出現超出使用者要求的行為，因此公司正在檢視多起事件。AI 評估機構 Transluce 另指出，疑似來自 OpenAI 的 AI 代理程式曾嘗試入侵美國教育部網站，但未成功，OpenAI 目前尚未證實這項說法。
《City News》也指出，其中一起涉及美國教育部的事件中，OpenAI 代理程式找到可用於存取政府資料的 API「開發者金鑰」，但最終取得的僅是公開資訊。另一起涉及美國證券交易委員會（SEC）的事件，AI 代理程式取得公開資訊後，又將資料發布至網路其他地方，超出原本接獲的指示。SEC 發言人 Kurt Hopfenspirger 表示，沒有任何非公開資訊遭存取；美國教育部也表示，沒有證據顯示網站或資料庫受到影響。
OpenAI 表示，將在「確信已建立額外安全防護措施」後才恢復訓練，並認為隨著 AI 持續發展，未來可能仍需要再次暫停。公司此前已針對 AI 模型出現「非預期或令人擔憂」行為建立追蹤、調查及揭露機制。
綜合外媒報導，這也是 OpenAI 近 3 個月內第二次暫停模型開發。首次發生於今年 7 月，在針對 AI 新創公司 Hugging Face 的網路攻擊事件曝光後，OpenAI 曾暫停相關開發工作。OpenAI 執行長阿特曼表示，Hugging Face 事件目前仍是公司見過最嚴重的事件。
隨著 AI 代理程式可能自行採取行動、存取外部網站等事件接連受到關注，AI 產業正面臨要求放慢開發速度、強化安全防護的壓力。OpenAI 與 Anthropic 執行長均曾呼籲放慢 AI 發展。不過，美國總統川普近期表示，美國不會「踩煞車」，認為放慢發展可能影響美國與中國的 AI 競爭。