國際大風吹｜AI失控將帶來人類末日？美國科技巨頭坦承有風險，但該怎麼控管缺乏共識

今年一連串事件，尤其是Hugging Face被駭事件，凸顯AI代理如失控，潛在損害將越來越大。前AI研究員9月中大聲疾呼，業內應正視AI可能消滅人類的可能性，放慢先進AI開發腳步，協調安全機制。三大廠Anthropic、OpenAI、SpaceX隨後呼籲各家公司應協調前沿AI開發步調，加入安全機制，政府也應立法規範，甚至聯合其他民主國家與專制國家，共同協調出AI安全準則。
不過Meta、Nvidia卻認為，各家公司自行測試與評估AI安全性即可，無需業界共同整合。美國總統川普更痛斥AI末日論是危言聳聽，不該停止AI開發腳步，以免失去AI領先優勢，落後給對手中國。