請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

生活

《黑鏡》預言成真:「逝者聊天室」在線復活!

Readmoo閱讀最前線

更新於 05月26日07:21 • 發布於 05月19日01:20 • Readmoo閱讀最前線
《黑鏡》預言成真:「逝者聊天室」在線復活!

文/卡爾.歐曼;譯/傅文心

資本是死的勞動力,宛如吸血鬼,只靠吸食活的勞動力而活。活得愈久,需要吸食的勞動力也愈多。

──馬克思

電視影集《黑鏡》第二季第一集《馬上回來》,女主角瑪莎的伴侶亞許在一場車禍中喪生。瑪莎傷心欲絕,可喪禮一結束就收到邀請,要她試用一款新的測試版應用程式。賣點既吸引人又神祕:找到最近過世的人,用他的數位足跡當基礎(包括搜尋資料、對話紀錄、推文、快照、播放清單等),然後這款應用程式就會分析模式,生產出聊天機器人──一個幾可亂真的死者人格複製品。瑪莎一開始十分懷疑,甚至覺得被這項提議給侮辱。亞許死了,世上沒有任何演算法可以改變這項事實。但瑪莎隨後震驚地發現,自己已懷上亞許的孩子。瑪莎暗自痛苦了幾小時,最後忍不住決定告訴「亞許」,於是決定使用該服務,就為了傳一則訊息給那個複製亞許人格的聊天機器人:「我懷孕了。」這不會是瑪莎傳的最後一則訊息。

由於亞許生前頻繁使用電子裝置,因此聊天機器人複製其人格的精準程度驚為天人。複製品有和本尊同樣的幽默(甚至更好笑!)、同樣的對話節奏、同樣的用語。如果有人像瑪莎一樣,生活和自我都支離破碎,面對剛發現的身孕,複製品這項服務證明是無價的安慰。瑪莎繼續和亞許的數位幽魂聊天。雙方用文字通訊了好一陣子後,瑪莎才寫道:「我多希望我們能講話。」機器人回道:「如果可以呢?」原來這款應用程式也提供語音進階服務。藉由過去的剪輯片段和影片,這款應用程式可以複製亞許的聲音。這代表瑪莎現在只要有需要,隨時打給聊天機器人──沒多久就變成無時無刻不打電話了。最終,瑪莎踏上最後一步,要讓亞許「起死回生」。她訂了一臺人形機器人,程式都已經設定完成,行為舉止跟亞許如出一轍。你可能已經猜到,那臺機器人長得不大像亞許(儘管某些特徵可能比亞許更好),而且故事結局也不全然幸福美滿。亞許機器人最後被瑪莎鎖在小閣樓裡,想必是不想要外界得知這個祕密。

《馬上回來》對觀眾拋出困難的問題,無論是面對生活、死亡或哀悼。瑪莎有什麼權力可以讓亡故伴侶「起死回生」?這對瑪莎是好的嗎?那臺機器人的道德地位又是什麼?這也是為什麼在討論數位遺物時,該集時常受到引用。但這則故事有個至關重要的細節卻往往被人遺漏,那就是默默提供高科技的匿名公司。雖然科技促成瑪莎可以永遠保有和亞許的關係,但科技不會自己憑空出現,肯定有人設計,而且是為了滿足特定目的。對於設計者是誰、動機可能為何等問題,劇中提供的資訊都很有限。至少科技公司的設定就像現實世界的企業,目的就是賺錢。若從公司的角度看來,賺錢似乎就是複製亞許的主要功能。每次當瑪莎有機會選擇升級,選項都是先由機器人提出。當瑪莎提到希望兩人可以講話時,是「亞許的」文字訊息推銷了語音服務。如果機器人真是亞許轉世,瑪莎哪可能拒絕此生的摯愛呢?換句話說,亞許機器人同時是公司製造的產品,也是該產品的最佳業務員。亞許機器人不只程式設定得像亞許,更成為瑪莎最可能願意繼續花錢購買的亞許。

我們很快就會看到,這一商業視角讓我們得以用全新觀點看待這齣劇集與整個往生後的數位遺物。我們和往生者的線上互動,並不是只在劇中才是由商業平臺居中處理,在真實世界也是如此,營利才是這些平臺的常態。那麼這會產生什麼後果?如何形塑我們與死者的關係?又有哪些道德意涵?

就我所知,當今市面上的科技服務還沒有《馬上回來》那樣成熟,但現實也沒有落後太多。二○一五年,麻省理工學院新創的公司 Eterni.me 就推出某種聊天機器人的測試版(包含虛擬頭像)。該公司宣稱,只要有這款機器人,就可以「與死者通 Skype」。只要提供充足資料,演算法就可以提取一個人的性格,轉成可以互動的化身。直到該網站於二○二一年神祕地停止運作之前(可能是種子資金耗盡),已有高達四萬七千人訂閱。但類似的應用程式仍如雨後春筍般出現。包括最新一款的 Hereafter AI,提供和 Eterni.me 同樣的產品,差別只在使用的資料來源(主要來自跟複製對象的訪談)。Hereafter AI 的市場反應更為成功,但還是遠遠不如另一款競爭者 Replika,這款營利應用程式由尤吉尼雅開發,也就是我第二章介紹過的尤吉尼雅。比起簡單的馬茲倫柯機器人,這款新產品有了長足進步,儘管基本原理遵循著相同邏輯:透過互動及提供資料來訓練聊天機器人,最後機器人會變得愈來愈像你──這位人工摯友將成為另一個版本你自己。雖然有許多家相似的新創公司,但 Replika 已擁有超過一千萬名使用者,是目前為止最成功一個──或許得歸功於該品牌在行銷上不大提及「身後」這個觀點。

你可能會覺得《黑鏡》的反烏托邦想像與自己無關,除非你有訂閱任何一種高科技的數位身後產業服務。然而,我們已能從劇中亞許和瑪莎的關係中看出,商業掛帥的死者中介科技將會導致怎樣的問題。如果你有使用網際網路,某天某個營利者很可能就會掌握你的數位遺物。科技公司利用亞許的資料製作機器人,藉此最大化瑪莎對該服務的消費;亞許機器人因此不是任意版本的亞許,而是瑪莎最可能繼續付費使用的版本。追思網站、社群媒體等科技服務也是一樣。不論多麼初步,所有網路平臺都會改變使用者如何互動,包括如何跟死者互動。而在自由市場的(金錢)競爭環境下,贏家永遠都是能賺最多錢的平臺。這不該是我們看顧死者記憶的方式,因為就連死者都有權利不被當成工具來對待。

※ 本文摘自 《雲端亡魂》,原篇名為〈第三章 數位身後產業的興起〉,立即前往試讀►►►

雲端亡魂:往生者的數位個資與AI時代的生命思考 - 卡爾.歐曼 | Readmoo 讀墨電子書
0 0
reaction icon 0
reaction icon 0
reaction icon 0
reaction icon 0
reaction icon 0
reaction icon 0