未來AI會變得跟天網一樣？詹姆斯•卡麥隆在40年前魔鬼終結者早已預言

AI 發展得越來越快，生活或工作都很需要或仰賴 AI ，AI 甚至有逐漸取代人的現象。那你有想過如果AI用到武器上的時候會發生什麼事？魔鬼終結者的導演詹姆斯•卡麥隆日前在採訪中說「當 AI 被武器化的話會給世界帶來很大的危險」，可能大家對此沒有概念，今天來帶大家稍微理解一下詹姆斯•卡麥隆為什麼會這麼說。

[caption id="attachment_501388" align="alignnone" width="1280"]

圖片來源：巴哈姆特[/caption]

詹姆斯•卡麥隆在40年前魔鬼終結者早已預言

詹姆斯•卡麥隆在CTV News的採訪中說到他早在40年前的魔鬼終結者 The Terminator 電影裡就告訴大家人工智慧武器化會帶來的風險。怕大家不知道魔鬼終結者的故事，這邊來做個小說明：「在《魔鬼終結者》裡，超級智能系統「天網」統治全人類。天網可以自我成長和學習，掌控美國所有轟炸機和導彈，威脅著地球的毀滅。於1997年8月29日，「審判日」來臨，30億人類瞬間消滅。天網控制軍工廠製造大量戰鬥用巡邏機器人，包括堅固耐用的類人型終結者士兵和滲透型終結者，能夠流血再生且隨時間衰老。人類存亡岌岌可危，抗爭者展開激烈戰鬥，希望扭轉未來的厄運。」裡面的天網可以看成 AI 人工智慧，詹姆斯•卡麥隆的意思是他在40年前就已經透過電影告訴大家如果人工智慧太過強大，做的事情到達可以觸碰到軍事的程度的話。我們可能會向魔鬼終結者李的人類一樣，使用智能系統到最後被智能系統吞噬。

[caption id="attachment_501386" align="alignnone" width="1200"]

圖片來源：TechNews[/caption]

依生成型 AI 能夠自己思考的概念的話很難不懷疑 AI會不會變成第二個天網，因為現在人們為了讓AI 學習，輸入很多知識給AI而這些知識在未來AI能夠自行思考並有自己意見時，會不會開始反過來運用人類給的知識攻擊人類。畢竟我們輸入的知識包含但不限於醫療、物理、化學、電腦運算等，而且生活中的東西與 AI息息相關。如果真的學習並能夠舉一反三的時候，AI 會變得很可怕。

[caption id="attachment_501389" align="alignnone" width="1200"]

圖片來源：CIO Taiwan[/caption]

詹姆斯•卡麥隆也認為讓 AI 學習支配市場份額可能讓AI變得貪婪，讓AI學習防禦可能讓他變得偏執。當AI能掌控這些東西之後再將它軍事化的話，會不會讓他變得跟魔鬼終結者裡的天網一樣。擁有智慧、可以自行學習和成長、可以控制電腦，然後到最後可以通過電腦和網路控制全世界。40年前的電影裡看到機器人或者人工智慧可以獲得這麼多智慧並自行運用可能覺得很扯蛋，但是40年後人類好像有點在走上電影後塵的感覺。你覺得呢，你跟詹姆斯•卡麥隆一樣認為AI 軍事化對人類來說會是一場災難還是會認為AI軍事化何必扯到威脅那麼誇張？

對詹姆斯•卡麥隆在 CTV News 的採訪可以看以下濃縮影片 ：

[embed]https://youtu.be/z6vKgWza2_E[/embed]