AI教父辛頓示警　30年內AI使人類滅絕可能性恐達20%

「人工智慧（AI）教父」辛頓（Geoffrey Hinton）認為，未來30年內有10%到20%的可能性出現AI導致人類滅絕的結果；他警告，科技變革的速度比預期要「快很多」。

辛頓今年因在AI方面的貢獻而獲頒諾貝爾物理學獎。

英國「衛報」（The Guardian）報導，辛頓曾說，對人類而言，AI科技有10%的可能性引發災難性後果。

英國廣播公司第4電台（BBC Radio 4）「今日」（Today）節目詢問他對可能出現的AI末日和10%的發生機率分析是否有變時，他說：「沒什麼變，10%到20%。」

節目客座編輯、前衛生大臣賈維德（Sajid Javid）說「機率增加了」，辛頓答道：「如果一定要說，你看，我們以前從未和比我們聰明的東西打交道。」

他補充說：「你知道有多少例子是一個較聰明的東西被一個較不聰明的東西控制？這種例子很少。以一個母親和一個嬰兒為例，演化費了很大力氣讓嬰兒控制母親，但那是差不多我唯一知道的例子。」

辛頓說，人類與強大AI系統的智慧相比，就像學步的幼兒，「我喜歡這麼想：想像你自己和一名3歲小孩；我們就是那個3歲小孩」。

辛頓去年辭掉在谷歌公司（Google）的工作，以更暢快地談論AI發展不受控制所構成的風險。AI安全倡議人士的主要疑慮之一是，創造通用AI或比人類更聰明的系統，可能導致這項技術脫離人類掌控，危及人類存亡。

他說，現在的狀況是多數專家認為或許能在未來20年內開發出比人類聰明的AI，「這是很恐怖的想法」。

他認為，研發AI的速度「非常、非常快，比我原本預期要快很多」，政府必須監管這項技術。

他說：「我擔心的是，看不見的手無法保障我們的安全，所以只將問題交給大企業的利潤動機，不足以確保這些公司安全地研發（AI）…唯有政府監管能迫使這些大企業從事更多安全研究。」

不過，網路科技巨頭Meta的首席AI科學家勒昆（Yann LeCun）不認為人類面臨存亡威脅，反而說AI「實際上可能拯救人類免於滅絕」。勒昆2019年與辛頓、班吉歐（Yoshua Bengio）一起獲得有「電腦界諾貝爾獎」之稱的年度圖靈獎（Turing Award）。