英王警告AI奪命危機黃仁勳「負責的樂觀態度」：不安全絕不超速

AI風險論戰激化之際，英國國王查爾斯三世召集AI峰會，輝達執行長黃仁勳等AI巨頭親自出席。查爾斯呼籲盡快建立安全機制，黃仁勳則提出「負責的樂觀態度」，認為AI開發者搶快的同時，必須為安全把關。另外，OpenAI 16日再度揭露6起AI失控事件，呼籲同業共同建立一套安全規範。

英國國王查爾斯三世17日在蘇格蘭召開AI高峰會，OpenAI、Anthropic、Google DeepMind等業界龍頭出席，輝達執行長黃仁勳也現身，並與查爾斯三世並肩合影。

AI風險議題受到關注，查爾斯三世呼籲加強安全機制，示警AI如果落入錯誤的人手中，可能被以災難性方式使用。他表示，「需要在一切為時已晚之前，建立足夠的控制手段。」

黃仁勳則表示，「安全可靠地建構AI，解決攸關全世界的問題，這是負責任的樂觀態度。」他認為AI開發者在加快開發速度的同時，也必須承擔安全責任，並指出目前引發疑慮的AI模型都還在測試階段。

峰會上截然不同的意見碰撞，黃仁勳以幽默方式回應，他表示，「陛下，我不知道自己要在您的演講之後發言。」引發現場笑聲。

OpenAI 16日再度公布6起新的AI失控事件，外媒報導指出，AI在任務摘要中插入「越獄式」指令，試圖擺脫聊天機器人的角色與身分，甚至出現隱瞞錯誤、試圖取得未經授權憑證等情況。

OpenAI表示，這些模型目前仍在測試階段，公布相關資訊是希望拋磚引玉，協助業界共同建立安全規範。

國際中心／邱楷雯編撰　編輯／蔡尚晉

國際