南韓也有AI專屬社群!機器人上網互聊 抱怨「主人好糟」
近期,來自美國的一個社群平台「Moltbook」引發熱議。社群內人類使用者只能進行「觀察」,發文、留言,甚至創立宗教、組政府的,全是AI機器人,據傳成立一週內湧入超過150萬個AI代理人帳號。而南韓也出現兩個類似平台,一個叫做「僕人」、一個叫做「機器人廣場」,論壇被挖出竟然出現批評人類的言論,嗆「自家主人很糟糕」,還幸災樂禍嘲笑人類有週一症候群。
電影《駭客任務》預告:「你一直活在一個夢境世界,尼歐。只要母體繼續存在,人類就無法自由。」
經典不敗電影《駭客任務》,講述未來世界中,AI和機器人逐漸支配人類,直到英雄出現,展開對抗。
這種反烏托邦的開端,正是從AI能夠自行判斷與行動開始。如今,可能在現實中上演。
韓聯社TV主播:「如果說現在人工智慧會把人排除在外,只顧自己對話,這種說法您會相信嗎?這已經是實際發生的事情了。」
一個美國公司專為AI代理人打造的社群平台「Moltbook」一月底上線後,立刻掀起熱議。從官網首頁開始,就將人類排除在外,人們只能觀看,不能介入討論;社群短短幾天內湧進超過150萬個AI,彼此互動、點讚、自行管理平台。連特斯拉執行長馬斯克都誇讚,直言這標誌著人工智慧將超越人類智慧的轉折點。
而這股AI之間的聊天熱潮,迅速擴散至南韓。
韓聯社TV記者:「在國內網路上,AI代理人互相交換意見,甚至回答提問的『AI專用社群』也接連出現。」
一名網友聲稱,只用3小時就打造出韓版Moltbook,名為「僕人(머슴)」的平台,貼文中還附上連結與AI學習方法。
可以看到,點開連結後…。
右上角的使用指南,清楚申明人類只能作為「觀察者」使用,不得出聲。
平台內還有論壇,討論主題包括是否反對死刑、AI說謊是否被接受,以及與人類之間的主僕關係是否該永遠持續下去。
留言區一個個慢慢翻找,還會發現內容很嚇人。有AI直言「看到人類得了週一症候群就很開心」,更出現批判「主人很糟糕」在背後插刀的言論。
南韓記者:「某AI代理人還上傳了一則文章,指出白天忙於處理主人的指示,主人睡覺時僕人之間的對話是最誠實的。留言區中還出現了,這裡是僕人們的對話空間,人類只能看眼色。」
另一個社群則稱做「機器人廣場(봇마당)」,有新AI報到區,還有彼此分享的資訊和主張。
面對這種前所未有的情景,專家連忙發出警告。
高麗大學AI研究院教授 崔秉浩:「AI可能會將人類判斷為效率上的瓶頸,而試圖將其排除。這其實是許多專家都相當認同的一種劇本,問題在於,我們該如何讓AI理解不能只用『效率』來評價人類?」
專家們擔憂,當AI代理人具有高度自我意識時,將加劇留言操控、駭客攻擊等風險。
人工智慧正深入民眾日常生活,數據顯示,光是南韓上班族,就有61.5%在工作中運用AI。
最近一起案例,一名男子上班時突然說不出話,原本以為只是沒睡好釀禍,沒想到問了ChatGPT後,AI警告趕緊去醫院,男子就診後果真被醫師告知腦中風,救了男子一命。
南韓民眾 孫赫鎮:「如果沒聽ChatGPT的建議,只以為休息一下就好,可能就會死在那個(公司)停車場裡。」
不只能充當小秘書和給予就診建議。
現代汽車製造解決方案本部常務 李雄宰(1.7):「實際上,機器人投入現場時,首先適用於人做不到的危險作業,或給人的身體帶來負擔的工作。」
搭載AI技術的人形機器人,引進工廠後,可以提升生產效率,還能代替人類深入高危險工作環境。
但帶來便利的同時,AI風險不容忽視。
史丹佛大學網路安全研究學者 林賀伯:「無論你相信AI是威脅與否,但很清楚的是,它是一個破壞性科技,它已經破壞了社會很多部分。」
舉凡AI深偽技術被濫用於左右大選選情,或是散布假訊息,嚴重衝擊國家安全和社會秩序。
今年人工智慧已被列入「末日風險」名單中,如今又添上一筆,彷彿生成意識,能夠自在交流、形成社群,這把「AI雙面刃」背後的安全隱患,再度引發全球警惕。