Anthropic 執行長警告：人類必須醒悟，意識 AI 帶來的危險
Anthropic 共同創辦人暨執行長阿莫迪（Dario Amodei）認為，人類必須清醒過來，正視未來幾年強大 AI 系統可能帶來的災難性風險。
阿莫迪新發表一篇將近 2 萬字長文〈The Adolescence of Technology〉，勾勒出如果科技在缺乏制衡的情況下持續發展，可能浮現的種種風險，範圍從大規模失業一路延伸到生物恐怖主義。他是現今 AI 產業具影響力的企業家之一，這篇長文則對現行 AI 安全防護不足發出嚴厲警告。
「人類即將被賦予幾乎難以想像的力量，而我們的社會、政治及科技體系是否具備足夠成熟度來駕馭它，仍然極度不明朗」，阿莫迪文中寫到。
阿莫迪概述他所稱的「強大 AI」出現後可能引發的風險，這類 AI 系統「遠比任何一位諾貝爾獎得主、政治家或科技專家更有能力」，而他預測這樣的發展可能會在未來幾年內發生。
其中一項風險是，個人可能具備研發能夠殺害數百萬人的生物武器能力，甚至「在最壞的情況下，毀滅地球上所有生命」。
「那個精神錯亂、獨來獨往、想要殺人卻缺乏自律或技巧的獨行俠，如今將被提升至博士級病毒學家的水準。」阿莫迪說，「我擔心可能有很多這樣的人，如果他們能輕易獲得殺害數百萬人的方法，那麼遲早會有人這麼做。」
他也提到，AI 可能失控並壓制人類，或被威權政權與惡意人士利用，最終導致全球性的極權獨裁體制。
阿莫迪所領導的 Anthropic 是 OpenAI 主要競爭對手之一，他曾就美國政府監管方向，與 AI 與加密貨幣負責人薩克斯（David Sacks）意見相左。他將美國政府計劃向中國開放銷售先進 AI 晶片，比喻成把核武賣給北韓。
值得一提的是，美國總統川普（Donald Trump）上個月簽署一項行政命令，試圖阻撓各州對 AI 公司的監管行動，並在去年公布一份AI 行動計畫（America’s AI Action Plan），擘劃加速美國創新的藍圖。
在這篇文章中，阿莫迪警告，AI 將帶來大規模失業，以及經濟權力與財富向矽谷集中等問題。
「這是陷阱所在：AI 的力量如此強大、獎勵如此耀眼，以至於人類文明幾乎難以對它施加任何限制」，阿莫迪補充說。
在一段暗指馬斯克（Elon Musk）旗下 Grok 爭議的敘述中，「有些 AI 公司在模型中，對兒童性化問題表現出令人不安的疏忽，這讓我懷疑，未來他們是否有意願或能力處理更高層次的自主風險」，阿莫迪說。
包括生物武器、自主武器與惡意國家行為人士在內的 AI 安全議題，曾在 2023 年成為公共討論焦點，部分原因正是來自阿莫迪等企業領導人的警告。他在文中指出，如今圍繞 AI 的政治決策，越來越多是出於搶占新技術的考量，而非降低風險。
「這種搖擺不定令人遺憾，因為技術本身並不在乎什麼風向，而我們在 2026 年距離真正的危險，已經比 2023 年近得多」，阿莫迪文中強調。
‘Humanity needs to wake up’ to dangers of AI, says Anthropic chief
Anthropic CEO Worries Humanity May Not be ‘Mature’ Enough for Advanced AI
（首圖為 Anthropic 共同創辦人暨執行長 Dario Amodei，來源：Flickr/TechCrunch CC BY 2.0）