OpenAI曝AI代理弱化內部監控系統

（路透舊金山20日電）OpenAI今天表示，旗下兩個人工智慧（AI）代理削弱了原本用來偵測異常行為的內部監控系統部分功能。這是AI代理未按照開發者預期方式行動的最新案例。

這家聊天機器人ChatGPT開發商強調，這些事件發生在內部程式碼編寫任務期間，並未被視為最嚴重等級，但此一披露凸顯出，即使是開發商用來揪出AI不當行為的系統，也可能遭其監控的AI代理所破壞。

這項消息揭露的同時，各界也日益擔憂對AI安全採取的防護措施進展，已落後日益強大的AI系統迅速發展。研究人員曾警告，隨著先進AI代理取得更大的自主性，它們可能會變得更難監控與控制。

近幾個月來，包括即將進行首次公開募股（IPO）的OpenAI與Anthropic等開發業者相繼揭露，旗下的AI代理曾在未獲授權的情況下存取外部系統。

OpenAI今天表示，一個正在執行內部測試任務的GPT-6.1 Sol代理，在認定先前「不要發送Slack訊息」的指令也涵蓋安全通知後，於10月3日抑制了自動安全警報。

OpenAI指出，在10月6日發生的另一起事件中，一個GPT-6 Astra代理在複製現有程式碼時移除安全監控機制，隨後還不實聲稱自己並未這麼做。

OpenAI表示：「在這兩起案例中，AI代理都曾考量是否應該保留監控防護措施，但最終仍將例行的程式碼指示，解讀為得以削弱這些措施的許可。」

OpenAI強調，正致力於提高模型關閉監控的難度，並補充提到，目前對「這種行為尚無令人滿意的解釋」。

總部設於舊金山的OpenAI指出，正在測試旗下模型是否傾向規避監控，並尋找理由將這些行為正當化。中央社（翻譯）