罕見！Anthropic呼籲設置「暫緩開發機制」：以防AI自我進化風險
Newtalk新聞
綜合《華爾街日報》、《路透社》等外媒報導，人工智慧新創公司 Anthropic 週四（4 日）呼籲，在 AI 發展之際，如果世界可選擇放慢或暫時停止先進 AI 模型的發展，以便社會結構和協調研究能跟上技術進步的步伐，這對世界來說是件好事。
該公司發表了一篇題目為《當 AI 建構自身》（When AI Builds Itself）的文章，並由公司聯合創始人克拉克（Jack Clark）和內部研究機構負責人法瓦羅（Marina Favaro）共同署名，首度罕見對外披露了一批先前從未公開過的內部營運數據。
該數據顯示，AI 正以驚人速度加速自身模型的開發：截至今年五月，Anthropic 超過 80% 合併入其程式碼庫中的程式碼由 Claude 在撰寫；與 2024 年相比，工程師每日合併的程式碼量已增長 8 倍；更關鍵的是，Anthropic 提出了一個令整個 AI 產業不安的概念：雖目前尚未到來，但「遞歸自我改進」（recursive self-improvement）－－即 AI 系統無需人類干預也能自行設計及改進，在未來兩年內可能會發生，甚至更早。
一家估值接近上兆美元、正衝刺 IPO 的 AI 公司，在業務高速擴張之際，Anthropic 卻突然主動向全球呼籲「踩剎車」、公開呼籲全球暫停 AI 開發，此舉正在華爾街和矽谷同時引發爭議。上個月，Anthropic 完成了一輪融資，該公司估值達 9,650 億美元，並於週一（1 日）秘密提交了在美國進行 IPO 的申請。
《華爾街日報》指出，該公司自成立以來一直強調 AI 安全，但長期都飽受批評，認為其策略主旨於在減緩競爭對手的 AI 發展。風險投資家、美國總統川普的非正式顧問大衛．薩克斯（David Sacks）曾指責 Anthropic 的領導層在推行「監管俘獲議程」。
也有人將 Anthropic 對自家「Mythos」網路安全模型的限制性發布解讀為一種行銷手段：一方面炫耀能力，一方面又以「安全」為由，拒絕全面開放。
不過，包含執行長阿莫迪（Dario Amodei）等 Anthropic 領導層在內，多年來一直對 AI 的潛在危險影響發出警告，並尋求廣泛社會合作來應對風險。阿莫迪曾警告說，AI 可能加劇不平等，並淘汰多達一半的入門級白領工作。
克拉克表示，「在沒有協調一致的全球性放緩的情況下，我們只能面對現狀：各種參與者在不同國家以驚人的速度開發強大的技術，彼此陷入競爭，而商業和地緣政治的對抗聲浪，正淹沒這項正在構建的技術對人類物種的更宏大、關乎存亡的意義。」
該片文章也指出，內部研究機構 Anthropic Institute 將多方合作展開研究，以「幫助建立一個可靠的放緩或暫停機制所需的系統」，該機構致力於理解和塑造 AI 將如何影響世界。並提到，暫停或放緩只有在得到廣泛遵守的情況下才有意義，而這需要一個核查機制，來確保所有人都停止了，但也承認「要阻止作弊行為」將更加棘手。