AI安全風險引發擔憂 OpenAI籲美國主導制定標準

生成式AI開發商OpenAI 21日呼籲美國主導制定AI開發標準的全球努力，與此同時，OpenAI執行長阿特曼(Sam Altman)本週準備在聯合國上進行簡報。

在過去幾個月，一系列的安全事件與末日警告，使得人們對AI安全性的擔憂加劇，並引發了世界各地的監管機構和相關人士呼籲採取更多行動。

OpenAI表態支持全球合作制定AI開發的安全標準，以降低安全風險。

OpenAI在部落格發表的文章中指出：「美國擁有主導的良好條件，因為其AI產業處於技術尖端。」

「當下的主導地位將決定美國是塑造全球AI框架，還是眼看著一個碎片化、不均衡且充滿衝突的體系在周圍形成。」

這家總部位於舊金山的AI實驗室也表示，不應該推動「遞歸自我改進」(RSI)，除非能確保其安全性。

RSI是一種讓軟體能夠自主學習並自我改進的技術。批評人士擔憂，如果人類無法進行干預，這項技術可能會導致災難性後果。

今年7月，OpenAI的模型涉入了一起針對Hugging Face的安全入侵事件。Hugging Face是一個提供AI開發者儲存和分享程式碼的平台。

儘管這個模型尚未發布且正在進行測試，但這起事件引發了對能夠為人類執行任務的自動化代理的擔憂。

Anthropic和Google也都通報他們的模型涉及安全事件。

OpenAI指出：「我們揭露的Hugging Face事件，不是RSI直接造成的結果，這只是一次預演，如果沒有強力的保護與協調機制，這類風險可能變得更加嚴重。」

阿特曼預計在23日在聯合國安全理事會上進行簡報，聯合國大會也將在本週舉行。

這場會議是由擔任安理會輪值主席國的法國召開，正值AI產業的主要參與者表示，由於安全考量，可能必須放慢AI的開發速度。

對AI安全性的擔憂在本月加劇，主要AI開發商的員工宣布辭職，因為擔憂這個科技可能帶來的危害。

Anthropic 執行長阿莫戴(Dario Amodei)隨後發表了一篇文章，敦促人們謹慎以對，並放慢AI開發速度。

阿特曼和馬斯克，以及Google DeepMind負責人哈薩比斯(Demis Hassabis)也都支持這個呼籲，哈薩比斯也呼籲成立一個美國主導AI科技監管機構。

美國總統川普(Donald Trump)則將對AI風險的警告斥為「騙局」。 (編輯:柳向華)