防「殺手機器人」或擁抱超級AI？聯合國大會熱議　專家：都搞錯重點

聯合國大會22日在紐約總部舉行，聯合國秘書長古特瑞斯（ António Guterres）呼籲對AI加強監管，務必要防止「殺手機器人」的崛起，隨後美國總統川普立刻倡議擁抱「超級智慧」。專家則說，兩種說法都太簡化，真正的問題是有哪些機制可以真正管控AI自主系統。

綜合《歐洲新聞》與《彭博新聞》報導，古特瑞斯22日在聯合國大會上最後一次以聯合國秘書長的身分發表演說，認為AI產業的快速發展可能破壞國家型態，「我們正目睹權力大規模從政府轉移到少數私人企業和個人手中」，而AI發展速度驚人，超出了所有人對於後果的理解能力。

古特瑞斯說，在這個劇烈轉型的時代，以AI和資料中心為主的軍備競賽將是關鍵力量，「AI能力最強的國家，對人類負有最大責任，必須建立能促進對話、透明、互信與合作的機制」。雖然沒有點名，但AI能力最強的國家，顯然是指美國和中國。

聯合國AI專家小組兩天前發布報告，警告AI模型逐漸進化，最終可能會脫離人類控制，20多國和歐盟領袖呼籲應對先進AI模型進行安全測試，並建立新的全球機構來確保人類的控制權。

川普諷刺提出警告的科學家

古特瑞斯發言後，不到一小時，美國總統川普上台。川普稱，美國「完全反對任何企圖以全球主義陰謀來控制AI的行動」，川普還表示，要把AI的A（人工）去掉，「從現在開始，它叫做超級智慧（super intelligence），把這件事換個名稱」。

川普隨後開始諷刺說，每個重大的新科技都會抬來挑戰，超級智慧也不例外：「當年說全球暖化會在12年內害死全人類的，不就是同一批人嗎。然後全球暖化改名叫氣候變遷，因為那個時候地球不是變暖，而是變得更冷，而且也沒人因此而死。他們現在又說AI會毀滅我們，機器人會攻擊人類，話都他們在說。」

重點不是要不要控制，是怎麼控制

芝加哥大學電腦科學系主任霍夫曼（Henry Hoffmann）表示，無論是古特瑞斯、還是川普，兩個人的說法都太簡化，無益於解決問題。

霍夫曼指出，古特瑞斯把AI描繪成科幻電影會出現的情節，川普則把AI說成根本不會有問題的樣子，「兩種說法都是在逼大家選邊站，而不是認真討論實際風險、以及可能的緩解方法。對於強大的自主系統是否需要受到充分控制，這答案不應該分成全有或全無的兩派，真正值得討論的是，哪些機制確實可以做到這種控制。」

至於其他國家則希望確保自己不會在美中AI競賽中落後。英國首相柏南（Andy Burnham）在聯大場邊的企業領袖會議上表示，希望建立一套「全球統一的原則與標準」，在發展AI的同時降低風險，明年英國擔任G20輪值主席時，將會把「造福人類AI」作為重點議題。

聯合國安理會23日還將舉行AI會議，聽取AI產業高層的看法，發言者包含OpenAI執行長阿特曼（Sam Altman）、Anthropic執行長阿莫戴（Dario Amodei），以及Hugging Face執行長戴蘭格（Clément Delangue）。Hugging Face在7月時曾遭OpenAI一套失控的自主代理程式入侵。

阿莫戴近期大力提倡「放慢AI發展」，阿特曼則說自己持中立立場，認為應該「建立共同的AI安全標準，確保受到民主機制約束，同時避免阻礙創新」，但究竟要怎麼做，目前還很抽象。