AI安全敲警鐘「2030恐殺死人類」！業界高層籲減速 輝達仍砸百億美元布局
全球人工智慧（AI）發展持續加速，卻引發業界人士對安全問題的高度關注。Anthropic前員工近期發出警告，指稱打造AI的研發人員確實相信AI可能在2030年前對人類構成致命威脅，執行長阿莫戴亦公開呼籲AI開發需要減速，讓安全措施跟上腳步，而OpenAI執行長奧特曼也表態支持放慢開發速度，承諾今年不會上市，優先處理AI安全問題。
Anthropic前研究員考克森表示，從沒看過AI安全相關貼文引起這麼大迴響，應該是因為最近幾個月接連出現網路攻擊事件。阿莫戴於12日發文強調AI開發需要減速，讓安全措施能夠跟上腳步。他在CNN專訪中進一步表示，他與前員工的看法多數一致，認為整個產業發展過快。阿莫戴認為，與其說機率是10%像在擲骰子，不如說未來有不同的路可走，選對方向出問題的機率就會很低，走錯方向風險甚至可能更高。AI研究員Daniel Kokotajlo強調，這些警告不只來自AI業界內部，獨立專家也提出警告。
儘管阿莫戴呼籲減緩發展速度，資金仍持續布局。根據路透引述消息人士指出，輝達正洽談在Anthropic上市時投資最多100億美元，但交易尚未定案。
Anthropic也揭露旗下大型語言模型Claude遭人濫用的案例。葉門胡塞組織的武器研發團隊利用Claude Code編寫飛彈導引軟體，一次火箭試射疑似失敗，相關帳號隨即遭到封鎖。英國皇家聯合軍種研究所資深研究員Louise Marie Hurel表示，必須了解如何控制AI代理，也要確認目前有哪些危機處理和緊急應變程序，包含政府層級的相關規範。
除了人為濫用，能自行執行任務的AI代理又傳失控。研究人員發現OpenAI旗下代理5月就曾攻擊軟體服務平台RubyGems，OpenAI確認事件，強調原本執行的是良性任務。奧特曼也出面支持放慢AI開發速度，承諾開放獨立評估，並表明今年不會上市，現階段優先處理AI安全問題。
立即加入《TVBS娛樂頭條》LINE官方帳號，給你滿出來的八卦和娛樂大小事！