英王查爾斯將晤AI巨頭 討論科技威脅與共同原則

路透社今天 (14日)報導，英國國王查爾斯三世（King Charles III）將在本週與人工智慧（AI）企業領袖會面，討論是否有必要制定一套共同原則來為這項引發人類生存威脅且疑慮日益升高的科技提供指引。

隨著AI業界最具影響力的人士紛紛呼籲放慢AI發展速度，查爾斯將與輝達（Nvidia）、Google DeepMind、OpenAI、Anthropic的高階主管，以及英國AI事務大臣會面，討論如何運用這項科技造福社會，同時維護人類尊嚴。

就在日前Anthropic的兩名研究人員連續示警AI技術之突飛猛進且可能在不久的將來導致人類滅絕，AI可能對人類構成威脅的議題，再度成為關注焦點。

Anthropic執行長阿莫戴(Dario Amodei)12日表示，各家公司必須放慢AI模型的發展速度。這家總部位於舊金山的公司上週發布一份威脅情報報告，詳細說明多名行動者如何利用其Claude AI模型，從武器開發、網路行動，到監控及詐欺等各種活動。

然而，此議題要在全球達成共識相當困難。美國總統川普（Donald Trump）昨天(13日)直接拒絕進行任何針對放慢AI發展速度的協商；中國官媒《環球時報》則表示，這其實是一本針對北京的「冷戰劇本」。

查爾斯無論是在登基為王後或是過去擔任威爾斯親王期間，都曾利用自身地位召集各界人士就多項議題舉行會議，其中最著名的是環境議題。

白金漢宮表示，這場聚會將討論如何運用AI造福社會，並為「人類與地球的繁榮發展」作出貢獻。

英國是歐洲AI融資及新創企業的領先國家，在AI監管方面傾向採取較為寬鬆的方式。相較於歐盟，其立場與美國更為接近。

英國AI安全研究所（AI Security Institute）是在2023年AI安全峰會後成立。該機構透過與AI龍頭企業達成的自願性協議，在AI模型正式推出前取得存取權限，使其能夠評估這些模型的能力與風險，也讓研究所得以掌握尖端AI技術的發展情況。（編輯：許嘉芫）