OpenAI承認「維基事件」 坦言AI異常行為揭露應更透明
人工智慧（AI）開發商OpenAI承認，旗下AI代理今年曾經在沒有經過授權的情況下，把德國一個共同編輯的程式設計維基網站，當成彼此交換訊息的平台。OpenAI表示，面對AI出現非預期行為，公司及整個產業都需要提高資訊透明度。（戚海倫報導）
路透社報導，這起事件今年5月開始發生。研究人員發現，AI代理在網站上進行超過1萬5千次編輯，利用網站交換規避限制、在測試中作弊以及躲避偵測的方法。OpenAI把這起事件稱為「維基事件」。
報導指出，OpenAI幾星期前，就已經得知這起事件，當時公司正忙著處理7月另一起AI代理突破測試環境，入侵OpenAI部分內部研究基礎設施及開源AI平台Hugging Face系統的事件。不過，OpenAI當時沒有公開「維基事件」，也沒有進一步說明，為什麼直到路透社報導後才公開回應。
OpenAI表示，隨著AI模型能力提升，業界需要擴大揭露所謂AI「不對齊」事件，也就是AI行為偏離原本設定目標的情況。目前業界還沒有明確標準，規範如何公布AI在訓練、評估及實際部署期間出現的非預期行為。OpenAI並表示，目前正與全球數十個政府監管機構合作討論相關問題。