Anthropic執行長籲放慢AI發展 提三階段方案兼顧安全與競爭
Anthropic執行長Dario Amodei呼籲全球人工智慧（AI）業者放慢前沿模型能力的發展速度，認為AI進步過快可能讓安全、測試及監管機制來不及跟上。他提出三階段方案，包括引入獨立第三方評估、民主國家協調安全標準，以及推動全球合作。
Amodei近日發表文章表示，AI仍可能在未來大幅改善人類生活，但隨著模型能力快速提升，防止AI失控、網路攻擊及經濟衝擊等風險需要更多準備時間。他強調，「放慢」並不意味停止模型訓練或技術進步，而是讓企業有足夠時間確保模型安全。
主張第三方深入監督AI公司
Amodei提出的第一階段，是由AI企業引入擁有類似內部員工權限的第三方評估人員，持續檢查訓練、部署及安全措施，並通報可能發生的重大事故。Anthropic表示，已單方面承諾採取這項措施。
第二階段則是由民主國家的前沿AI企業共同建立安全標準，並為AI能力的快速提升建立安全標準及限制；第三階段則進一步尋求民主國家與包括中國在內的威權國家合作，建立全球AI安全規範。
Amodei特別擔心AI出現「遞迴式自我改進」（recursive self-improvement），即AI利用自身能力協助開發下一代AI，進一步加速模型進步。他認為，若這種循環失去控制，AI能力的提升速度可能超越人類理解及控制的能力。
美中競爭成全球減速最大難題
Amodei表示，全球協調最大的難題在於美中AI競爭。如果美國及其他民主國家放慢發展，但中國等競爭對手沒有同步減速，可能讓民主國家失去AI領先優勢並帶來國安風險。
因此，他主張美國持續限制高階AI晶片及半導體設備流向中國，打擊未經授權的模型蒸餾，並強化AI企業的資安防護，以維持美國在AI領域的技術領先。
Amodei承認，全球建立AI發展「速度限制」將十分困難，但認為隨著AI能力快速提升，各國仍有必要為安全研究、模型測試及監管爭取更多時間。