AI失控風險受關注　安理會討論國際合作治理

（路透紐約聯合國總部23日電）全球主要人工智慧（AI）業者今天在聯合國安全理事會警告，日益強大的AI技術對人類構成潛在風險，並呼籲各國政府攜手合作，共同管理這項快速發展的科技。

Anthropic執行長阿莫戴（Dario Amodei）在15國組成的安理會上表示，若管理不善，「AI可能對整體人類構成威脅」。

阿莫戴說：「撇開這間會議室裡各位的所有分歧，我們必須放下成見，共同面對這項同時帶來全球契機與威脅的新科技。沒有任何領袖、公司或國家能獨自因應這一切。」

然而，全球各國政府一直難以跟上AI快速的發展腳步。美國與中國是領先全球的AI大國，兩國在監管方式上採取不同路線。美國總統川普（Donald Trump）主張美國不需要針對AI制定新法規；中國則針對AI演算法和訓練數據祭出相關規範，包括要求AI生成內容需明確標示。

Hugging Face共同創辦人戴蘭格（Clément Delangue）強調AI工具在防禦網路攻擊上的角色，並提到曾發生美國OpenAI的AI代理人在脫離測試環境後入侵Hugging Face的系統。

他在安理會表示：「我們遭到AI攻擊，但更重要的是，我們也是透過AI自我防禦。」

OpenAI執行長阿特曼（Sam Altman）則強調國際合作的必要性。他在安理會上說：「如果要讓AI發展符合民主原則，最重要的決策不能只由舊金山的實驗室單方面決定，必須經過民主機制並由民選政府負責。」

安理會2023年首度就AI風險召開會議，當時中國強調相關技術不應成為「脫韁野馬」，美國則警告不可濫用AI進行言論審查或壓制。中央社（翻譯）