據外媒報道,深度學習(Deep Learning)泰斗、人工神經網絡(Artificial Neural Network)之父 Geoffrey Hinton 昨日(5 月 1 日)在 Twitter 發文,高調宣布已經辭職,不再為 Google 工作。Hinton 在接受外媒採訪時更稱「後悔投身 AI 行業」。Hinton 離職前在 Google 負責 Deep Learning 研發工作超過十年。
https://twitter.com/geoffreyhinton/status/1652993570721210372
據 New York Times 報道, Geoffrey Hinton 表示辭職是為了可以在不影響 Google 的情況下公開評論生成式 AI。同時 Hinton 亦重申,Google 在應對 AI 方面非常負責任,並表揚 Google 先前一直限制應用 AI 的決定。
2022 年起,Google 及 OpenAI (開發 ChatGPT 的初創公司)使用更龐大的數據訓練旗下 AI。Hinton 認為用於訓練 AI 的數據量實在太多,AI 在某些地方可能已超越人類的智能。
Geoffrey Hinton 表示,科技巨頭間的競爭使各大公司以危險的速度發布 AI 技術,一方面會損害工作機會,另一方面會助長假信息傳播。Hinton 稱:「現時看不到有任何預防措施可以用於限制不良份子利用 AI 來做壞事。」Hinton 認為雖然現時有很多人已開始學會用 AI 輔助工作,但像 ChatGPT 這種發展迅速的聊天機械人會導致人類失業。Hinton 亦警告,AI 可能會助長虛假消息傳播,不久以後網絡上將會充斥假消息、AI 生成的虛假影片和相片等,更指「普通人無從分辨真假」。
除此以外, Geoffrey Hinton 亦擔心 AI 技術未來會對人類生命安全構成威脅。由於很多人和公司允許 AI 在無人監督的情況下自行生成並運行電腦程式,Hinton 擔心有一天 AI 會發展成武器主動攻擊人類。Hinton 過往認為以上問題起碼 30-50 年後才會出現,但看見目前 AI 發展速度後他改變了看法。他重申,在有能力限制通用人工智能(artificial general intelligence,AGI)之前,科學家不應繼續擴大開發規模。
很多 AI 行業的專家,甚至是 Geoffrey Hinton 的學生和同事都認為 Hinton 過份杞人憂天,表示這種威脅僅存於假設性層面。 Hinton 認為,如果科技公司繼續在缺乏監管下放任 AI 發展,終有一天會出現這種威脅。Geoffrey Hinton 向外媒透露,他對研發 AI 一事感到後悔,但亦表示即使他自己沒有研究 AI,也會有其他人研究。
Geoffrey Hinton 為人工智能技術先驅,於 1972 年在英國愛丁堡大學(The University of Edinburgh)開始研究神經網絡,於 2012 年在加拿大多倫多大學(University of Toronto)與 2 名研究生開發人工智能系統的雛形,並共同創立 DNNresearch。2018 年,Geoffrey Hinton 因對神經網絡的研究獲得圖靈獎(ACM A.M. Turing Award)。
除了 Geoffrey Hinton 外,科技界亦有不少專家曾經建議放慢 AI 發展步伐。今年 3 月下旬 Elon Musk、Steven Wozniak 等業界鉅子聯名簽署公開信,呼籲業界在建立保障機制前停止訓練比 GPT-4 更強的 AI。Geoffrey Hinton 當時未有在公開信聯署,表示不希望在辭職前公開批評 AI。
首圖來源:Irish Times
資料來源:New York Times、Twitter、RTHK
• 不想錯過新科技 ? 請 Follow unwire.hk FB 專頁http://facebook.com/unwirehk/
• 要入手生活科技潮物 即上 unwire store
https://store.unwire.hk/