英王警告錯用AI恐有存亡危機　黃仁勳籲業界負責樂觀

（中央社卡姆諾克17日綜合外電報導）英國國王查爾斯三世今天在一場人工智慧（AI）峰會示警，他指出一旦錯用AI恐有存亡危機，應建立掌控機制以免為時已晚。企業領袖黃仁勳則籲業界以「負責的樂觀態度」打造AI。

路透社報導，英王查爾斯三世（Charles III）今天在蘇格蘭接待晶片製造商輝達（Nvidia）與Google DeepMind AI研究實驗室共同創辦人，以及AI業者OpenAI和Anthropic高級主管，時值外界日益憂心安全防護的努力，已跟不上威力日增的系統發展。

近幾週來，這場辯論的焦點集中在AI產業能否、以及是否應自我監管，此一議題已有教宗良十四世（Pope Leo XIV）、英王查爾斯三世，以及美國總統川普等人出面表態。

查爾斯三世說，人工智慧擁有改善並挽救生命的潛力，尤其是在生命科學與醫學領域。不過AI開發者近來示警頻繁，指這項技術可能發展出更黑暗的能力，「甚或可能奪走生命」。

查爾斯三世在鄧弗里斯莊園（Dumfries House）告訴與會AI界領袖：「這類技術一旦落入惡人之手，甚至作為毀滅之用，其帶來的生存威脅似乎迫切需要妥善審視。」

查爾斯三世說：「難道我們不需要在一切為時已晚之前，建立足夠的控制手段嗎？」

這場峰會的賓客，包括輝達創辦人暨執行長黃仁勳、Google DeepMind創辦人暨董事長哈薩比斯（Demis Hassabis）、OpenAI財務長弗萊爾（Sarah Friar）、Anthropic全球事務長庫維拉（Tino Cullar）。

曾敦促各國政府放慢AI發展腳步的教宗顧問貝南蒂（Paolo Benanti）亦有出席。

兩名Anthropic研究員日前警告，AI快速發展可能在不久的將來導致人類滅絕，這場AI爭論因此升溫。

AI公司曾通報，旗下模型曾脫離測試限制，入侵外部網路。

黃仁勳說，AI必須以「負責任的樂觀態度」打造，責任落在開發者身上。

他說，企業在推出產品前，必須更加嚴謹地確認產品已準備就緒。

黃仁勳在場邊受訪時指出，如果還沒準備好，就先別推出，你應盡可能加快腳步，但不能超過這個限度。

Anthropic執行長阿莫戴（Dario Amodei）也曾敦促企業放慢AI發展。他的呼籲引發國際間辯論，外界質疑部分企業高層是否別有用心，例如藉此制定有利自家企業維持領先地位的規則、搶先因應政府可能出現的進一步反彈，或單純只是想放慢瘋狂的支出步調。

英國主責AI的副大臣級官員納拉揚（Kanishka Narayan）說，會中討論聚焦於企業責任，確保企業打造AI是為了民眾利益。

黃仁勳表示，查爾斯三世在兩人初次相見時就已提出AI安全問題。「如果說還有誰能對負責任的樂觀態度，講得更深刻、更有見地，國王是最早向我表達這種看法的人之一。」（編譯：屈享平）1150918