不存退休金了,Google 前工程師:AI 十年內滅絕人類機率逾五成
Google 前工程師、現任機器智慧研究所(MIRI)總裁內特·蘇雷斯(Nate Soares)近日表示,自己已經十年沒有再為 401(k) 退休帳戶加碼,原因不是財務規劃改變,而是他認為人工智慧可能在未來十年內對全人類造成致命威脅。
Soares 在《The Most Interesting Thing in AI》Podcast 節目中說,他仍保有在 Google 任職時開立的 401(k) 帳戶,但多年來未再投入資金。他直言,自己對未來十年的人類存續並不樂觀,並估計 AI 造成全人類死亡的機率「高於五成」。
Soares 於 2014 年離開 Google 後加入 MIRI,長期研究如何讓先進 AI 按照人類意圖運作。他與 MIRI 共同創辦人艾列澤·尤考斯基(Eliezer Yudkowsky)於 2025 年寫書《如果有人建造它,所有人都會死》(If Anyone Builds It, Everyone Dies),主張若以現有方法打造超級智慧 AI,系統可能發展出與創造者原本設想完全不同的目標,最終威脅人類生存。
他在受訪時也強調,自己擔心的不是 AI「討厭」人類,而是它可能根本不在乎人類是否存活。Soares 認為,一旦系統夠強大,可能會自行取得資源、建立可獨立運作的基礎設施,甚至在不依賴人類的情況下持續提升能力,讓人類逐漸失去控制。
面對這種風險,Soares 主張各國應暫停訓練通用型 AI,轉而聚焦較具體、較安全的應用,例如癌症研究與更安全的自駕車。他也呼籲政府把失控的超級智慧 AI 視為至少與核武同等級的威脅,並表示自己會盡一切努力阻止這種情況發生,但並不認為災難是不可避免的。
AI safety expert stops saving for retirement, he believes AI could wipe out humanity within a decade
An AI Safety Researcher Stopped Saving for Retirement Because AI Could End Humanity
AI researcher Nate Soares stopped retirement contributions over AI extinction fears
(首圖來源:維基百科)