英王查爾斯示警「AI落入錯誤之手」恐釀災難 黃仁勳：產品沒準備好就別出
人工智慧（AI）快速發展之際，安全問題再度成為科技業焦點。根據《路透社》報導，英國國王查爾斯三世（King Charles III）17日在蘇格蘭與多名AI產業領袖會面，警告相關技術若落入錯誤之手，可能帶來「生存性危險」，呼籲各界在為時已晚之前建立足夠的安全防護及控制機制。
這場會議在查爾斯三世位於蘇格蘭的鄧弗里斯莊園（Dumfries House）舉行，與會者包括輝達（Nvidia）創辦人暨執行長黃仁勳（Jensen Huang）、Google DeepMind創辦人暨董事長哈薩比斯（Demis Hassabis）、OpenAI財務長佛萊爾（Sarah Friar）、Anthropic全球事務長庫埃拉爾（Tino Cuéllar），以及英國人工智慧部長納拉揚（Kanishka Narayan）等人。
查爾斯三世表示，AI具有改善甚至挽救生命的潛力，尤其在生命科學與醫療領域，但相關技術的開發者也愈來愈頻繁警告，AI可能發展出更加危險的能力，「甚至可能奪走生命」。
查爾斯三世指出，現在有必要迫切思考這類技術落入錯誤之手所帶來的生存性危險，以及AI可能被用於造成災難性後果的風險。他並反問，各界是否應該在一切為時已晚之前，建立足夠的控制手段。
近期AI安全議題持續受到關注，相關討論也聚焦科技產業是否有能力、以及是否應該進行自我監管，包括教宗良十四世（Pope Leo XIV）、查爾斯三世及美國總統川普（Donald Trump）都曾介入相關討論。
面對AI安全及監管問題，黃仁勳則主張產業應以「負責任的樂觀態度」發展AI，並認為開發者本身必須承擔責任。
黃仁勳在會議場邊接受媒體訪問時表示，企業必須採取更加嚴謹的方式，確保產品已經準備妥當後才能推出。他直言：「如果還沒有準備好，那就先不要推出。」
談到AI發展速度，黃仁勳表示，企業應該在能力所及的情況下盡可能快速前進，但速度不能超過安全所能允許的程度。
Anthropic執行長阿莫迪（Dario Amodei）也曾呼籲企業放慢AI模型開發速度，不過相關主張引發國際討論，包括部分人士質疑，一些AI企業高層是否可能藉由制定規則維持自身公司的領先地位、提前因應更廣泛的政府監管，或藉此降低快速擴張帶來的龐大支出。
英國人工智慧部長納拉揚表示，會議討論重點包括企業應承擔哪些責任，以確保AI是為人們的利益而開發。他指出，這場會議並非一次性活動，而是一系列對話的一部分，目的在探討英國能在負責任發展AI方面扮演什麼角色。
納拉揚表示，英國具備測試AI、理解相關風險，以及進一步降低風險的能力。此次蘇格蘭會議也反映查爾斯三世持續利用自身角色，召集各界針對全球性議題展開討論。
黃仁勳透露，他首次與查爾斯三世見面時，對方就曾主動談到AI安全問題。他表示，查爾斯三世是最早向他深入表達「負責任的樂觀態度」理念的人之一。