人工智慧巨擘Anthropic警告AI將能「自我發展」　疾呼全球暫停研發

近年來人工智慧（AI）技術發展陸續出現重大突破，使應用領域不斷擴展，吸引全球各國爭相大規模挹注，形成軟硬體相關產業蓬勃發展的榮景，不過在帶來便利的同時，AI進化過快也引發了各界憂慮，美國新創大廠Anthropic更在4日警告，由於AI幾乎已具有無需人類介入的「遞迴式自我改進」能力，恐形成難以預料的威脅，因此呼籲全球暫停研發腳步，避免風險提前到來。

人工智慧發展不斷加速引發憂慮　Anthropic發文呼籲停下腳步

華爾街日報（WSJ）指出，美國AI新創大廠Anthropic於4日在官方部落格之中，刊登了題為「當AI開始自我進化」（When AI builds itself）的分析文章，透過針對公開數據以及該公司內部資料的檢視，明確展現AI技術發展在近年來不斷加速的趨勢，指出全球若同時減緩研發速度，讓人類有充裕時間與空間能夠因應隨著發展帶來的影響，「可能是一件好事」（likely be a good thing）。

該篇文章是由Anthropic共同創辦人克拉克（Jack Clark）與研究主管法瓦羅（Marina Favaro）聯手執筆，指出隨著人類在完成初期開發工作，並且開始將後續研發任務交給AI執行，促使技術發展的速度不斷遞增，從而使AI模型似乎正朝著取得「遞迴式自我改進」（recursive self-improvement）能力的方向快速前進，根據Anthropic研究單位的數據，該公司旗下工程師目前每一季提交的程式碼數量，已經增長到2021年至2025年之間的8倍之多。

AI若取得自我進化能力　對人類社會構成風險難以預料

作者表示，AI系統若達到「遞迴式自我改進」的能力，便可在無需人類介入的情況下，達成「自我進化」，部分業界人士認為這樣的發展恐將帶來無法預知的風險，引發人類社會劇烈動盪，因此「若全球能夠選擇放緩或者是暫停前瞻AI發展的腳步，讓社會結構以及相應研究，能獲得與技術發展齊頭並進的機會，對於這個世界而言將會是一件好事」。

因此，作者提議達成一項全球性的協議，針對如何放緩研發速度提出明確的規劃，並且建立能夠驗證各方是否遵守協議的機制，同時也表示雖然AI的「遞迴式自我改進」尚未發生，也並非必然出現，但「有可能比大多數機構預期來得更快」。

該篇文章也指出，由於AI的訓練「比飛彈發射井更容易隱藏」，且在AI發展領域「當其他人暫停時，沒有停下來的人就更容易取得領先」，因此AI研發腳步的放緩，只有在各界同時遵守的情況下才有意義，Anthropic則計畫在未來數個月內，與全球政策制定人士、研究人員以及其他組織，就此議題展開對話，強調「現今正是集思廣益，共同探討這些問題的最好時機」，並且認為對話之中，必須包括AI公司以外的各界人士才具有真正的意義。