每4個月強一倍！Anthropic警告AI恐具「自我進化」能力、建議暫緩研發
Anthropic 呼籲全球應正視 AI 安全，警告當技術具備自我改進能力時，恐引發巨大社會風險。針對自我改進帶來的技術失控隱憂，業界對監管建議反應兩極，但在競爭白熱化的當下，落實 A…
據《華爾街日報》報導，知名 AI 新創公司 Anthropic 呼籲全球頂尖 AI 實驗室應考慮放緩研發步伐。
該公司警告，當前 AI 系統的進步速度過快，可能很快就能在無需人類干預的情況下實現自我改進，進而帶來重大的社會風險。Anthropic 在官方部落格文章中強調，如果能夠暫時放緩全球 AI 發展的速度，讓社會結構與對齊研究能跟上技術的腳步，這「很可能是一件好事」。
這篇文章由 Anthropic 內部研究機構負責人與政策負責人共同撰寫。文章中不僅披露了內部數據以展示其先進 AI 模型能力提升的驚人速度，更明確指出模型的發展似乎正朝向「遞迴式自我改進」的方向邁進。部分 AI 業內人士將此視為潛在危險與巨大社會動盪的強烈標誌，並呼籲業界應建立全球性協議與驗證機制來應對。
研發速度每四個月翻倍，AI 恐將具備自我進化能力
身為知名 AI 模型 Claude 的開發商，Anthropic 指出，AI 系統自主完成任務的能力大約每四個月就會翻倍成長。照這個速度發展下去，AI 很快就會達到遞迴自我改善的階段，也就是系統可以在完全沒有人類介入的情況下，自行優化與升級。
Anthropic 共同創辦人傑克克拉克與旗下機構負責人瑪麗娜法瓦羅在一篇長篇幅的文章中坦言，雖然目前還沒走到這一步，遞迴自我改善也不是絕對會發生，但這項技術突破的到來，恐怕會比多數機構預期的還要早。他們強調，一旦 AI 系統有能力完全打造出下一代繼承者，人類如何確保安全、監控機制以及約束系統行為，將變得無比重要。這也是為什麼他們認為，適時按下暫停鍵，可以讓社會有更多時間來應對這些龐大的衝擊。
隨著 AI 系統的能力越來越強大，外界也越來越擔心進階 AI 可能會脫離人類控制，並對社會造成危害。事實上，Anthropic 自家推出的 Mythos 模型在今年初就震驚了金融與軟體產業，因為它展現出能夠在現有程式碼中找出漏洞的驚人能力。
各國監管牛步，單一實驗室暫停開發無濟於事
儘管風險日益升高，各國政府的監管腳步卻顯得相當緩慢，特別是在多數頂尖 AI 實驗室所在的美國。就在本週初，川普政府發布的行政命令仍將責任推回給實驗室，僅要求他們在公開發布最強大的模型之前，自願提交給政府進行網路安全測試。
面對緩慢的政策進展，Anthropic 認為單打獨鬥的踩煞車行為不僅達不到效果，甚至可能引發反效果。如果只有單一實驗室暫停開發，而其他不那麼在乎安全的競爭對手繼續前進，整體的安全風險反而會增加。因此，真正有意義的暫停，需要所有具備豐富資源的頂尖 AI 實驗室達成共識，並制定明確的規則，界定何時該暫停、何時該解除，以及由誰來負責監督。
業界反應兩極化
Anthropic 的這番呼籲在業界引發了截然不同的解讀。近期完成新一輪融資、估值逼近一兆美元的 Anthropic，已在與 OpenAI 的激烈競爭中成為領跑者。儘管該公司自創立以來便強調 AI 安全，但其政策主張也長期受到外界批評。風險投資家、川普總統的非正式顧問 David Sacks 就曾指責 Anthropic 的領導層推行「監管俘獲議程」，企圖藉由監管之名來打壓競爭對手。
在最近的一檔 Podcast 節目中，Sacks 更進一步表示，華盛頓的這種監管風氣，最終可能導致所謂的開源模型遭到全面禁止。除此之外，也有懷疑論者認為 Anthropic 的安全警告其實是一種巧妙的行銷手段。例如，該公司決定限制其強大的網路安全模型「Mythos」的發布，就被解讀為是在變相吹噓其產品的強大能力。對此，Anthropic 領導層則重申，公司絕對嚴肅看待 AI 安全問題。
Anthropic 此次的大聲疾呼，再次將 AI 發展的速度與安全之間的矛盾搬上檯面。當 AI 模型距離「遞迴式自我改進」越來越近，技術失控的風險確實不再只是科幻小說的情節。然而，在商業競爭白熱化的當下，任何要求「暫停」的呼籲，都無可避免地會被蒙上利益算計的陰影。
對於這場口水戰，我們應該跳脫單一公司的商業動機，正視其背後的核心問題：人類社會是否已經準備好迎接具備自我進化能力的 AI？無論是建立全球監管協議，或是加速推動對齊研究，業界與各國政府都需要更多的實質行動，而非僅停留在相互指責與行銷炒作。這不僅攸關科技產業的未來版圖，更關係到人類社會的整體安全。