AI發展該踩煞車？OpenAI、Anthropic憂失控風險，Meta與輝達為何反對？

全球人工智慧(AI)技術快速進步，卻讓科技巨頭對未來發展方向出現分歧。Anthropic與OpenAI主張放慢先進AI模型的開發速度，優先建立安全機制；Meta Platforms(META-US)與輝達Nvidia(NVDA-US)則認為，現有制度已能管理風險，沒有必要限制技術創新。

這場爭議的導火線，來自Anthropic執行長Dario Amodei近期發表的文章《We Must Pace the Frontier》。他指出，自2026年夏季以來，AI進步速度明顯加快，關鍵在於AI已逐漸具備協助開發下一代AI系統的能力，可能使技術演進速度超越人類建立安全防護的速度。

Amodei特別提及OpenAI與Hugging Face相關的網路安全事件，當中由多個AI代理程式組成的系統曾發動網路攻擊。他擔心，隨著AI自主能力增強，未來可能造成更大規模的破壞，因此呼籲主要AI企業協調開發節奏，並導入更嚴格的安全測試、獨立評估與國際合作機制。

這項主張獲得OpenAI執行長Sam Altman與SpaceX執行長馬斯克(Elon Musk)支持。Altman表示，OpenAI近幾週已持續討論如何控制前沿AI的開發速度，並計畫讓外部獨立評估人員取得接近內部員工的系統存取權限，定期公布AI出現異常或未經授權行為的報告。

不過，Meta執行長祖克柏(Mark Zuckerberg)持不同看法。他認為，各家AI實驗室應自行承擔模型安全責任，市場競爭與法律責任已能促使企業管理風險，沒有必要集體放慢研發。Meta也正持續規劃下一階段的AI技術發展與投資。

輝達執行長黃仁勳(Jensen Huang)同樣反對增加新監管。他認為，現有網路安全及損害賠償法律已能適用於AI產業，政府應優先落實既有規範，而非因為擔憂AI失控，就另外制定限制技術發展的制度。

相較之下，微軟Microsoft(MSFT-US)總裁Brad Smith與Alphabet(GOOGL-US)首席科學家Demis Hassabis更重視安全防護。Smith主張建立全球AI監管制度，包括獨立評估、緊急停止機制及事故通報；Hassabis則認為，近期AI代理程式涉及的網路攻擊只是早期警訊，未來需要國際安全標準，但也應避免過度限制創新。

各國政府同樣立場也不一致。

美國總統川普反對增加AI發展限制，擔心影響美國與中國的科技競爭；歐盟執委會主席馮德萊恩則支持暫緩先進AI開發的呼籲，希望與主要AI實驗室討論安全措施。中國方面，華為輪值董事長徐直軍認為，中國AI業者目前可能尚未達到美國頂尖模型的能力水準，應持續發展更強大的AI，同時兼顧安全風險。