AI太強難掌控！前谷歌研究員憂「人類滅絕」：10年內發生
人工智慧（AI）越來越強，將導致人類走向滅絕？這並非危言聳聽，微軟（Microsoft）共同創辦人比爾蓋茲（Bill Gates）也曾示警，若人類不介入AI發展，該技術可能導致十億人死亡。無獨有偶，前Google DeepMind研究員日前指出，AI可能導致人類滅絕，在10年內發生的機率高達33％。
AI自我監控 開發者恐難掌控
《每日郵報》（Daily Mail）報導，前Google DeepMind研究員特納（Alex Turner）日前在演講中指出，企業間互相競爭，嘗試打造出更強大的AI系統，發展速度可能超越科學家的控制能力。特納強調，AI技術與傳統工程不同，工程師可以理解自己設計的結構；但AI開發者卻未必能掌握其創造物的運作原理，導致人類難以完全掌控AI的行為。
更多新聞：影音／黃仁勳撂重話！警告客戶若開發不安全AI「將停止供應晶片」
特納透露，一間AI實驗室的科學家告訴他，AI技術已經可以「自我監控」，顯示其已具備自我調整與改進的能力，無需人類介入。特納表示，研究人員幾乎不再親自檢查AI生成的成果，而是打造「另一套AI系統」來監控原本的系統，這種「智慧爆炸」（intelligence explosion）的現象層出不窮。一旦AI被要求的任務越來越繁重，做出不恰當的行為更容易發生。
比爾蓋茲也示警
報導指出，比爾蓋茲9月也曾警告，若人類不再干預AI技術發展，那AI終將反過來殺死十億人。他鄭重說道：「人工智慧當然足夠強大，儘管要達到100％人性化非常困難，但從來沒有一種武器比心懷不軌的人使用最新的AI工具更強大。」比爾蓋茲補充，建立嚴格管控勢在必行，呼籲美國政府在建立保障措施方面發揮領導力。