演算法讓悲傷更加悲傷 美國父母控訴TikTok殺死了他們的孩子

TikTok的演算法不知道查斯納斯卡（Chase Nasca）已經過世了。

查斯選擇自殺時才16歲。在他去世一年多之後，你會看到在他的TikTok頁面，有一連串有關沒有回報的愛情、絕望、痛苦，以及美化自殺、將自殺化為最終解脫的貼文。

如今，他的父母一狀告上法院，要讓全世界都知道，TikTok殺死了一個年輕孩子。

演算法正在將我的孩子逼向絕路

「減輕痛苦，死亡是一份禮物。」就在查斯去世一週年的前幾天，一段影片推播到他的TikTok帳號中，在另一段影片中，一名男子說：「我要把散彈槍塞進嘴裡，讓子彈從後腦勺飛出去。」女子回答：「酷。」

在查斯去世前的幾天，他的TikTok頁面看起來也是這樣。

2022年2月13日，他看到了一段標題為「去散步清理一下腦袋」的一段火車逼近影片。五天後，查斯停在紐約灣口（Bayport）小村莊穿過的長島鐵路軌道上，距離他家約800公尺。他將自行車靠在籬笆上後，走上鐵軌，向朋友傳送一段訊息：「對不起，我受不了了。」 一列火車拐了彎，查斯就此消失了。

誰都無法知道查斯為什麼結束了自己的生命？自殺往往涵蓋許多因素，而他沒有留下任何遺言。

打開潘朵拉的盒子，不見希望

當警察將查斯的東西交還給他的母親米雪兒（michelle）時，儘管手機螢幕已破碎，但米雪兒仍試圖用「忘記密碼」的方式，解鎖他的社群帳戶。米雪兒不知道自己正在尋找什麼，但當她打開TikTok帳戶時，她好像知道兒子自殺的原因。

查斯的TikTok影片收藏庫，裡面有超過3,000個影片，他收藏、喜歡、保存或標註喜愛的影片，像是蝙蝠俠、籃球、舉重、激勵演講等等，除此之外，她還能看到演算法給他帶來的東西：憂鬱、絕望和自殺的影片。

甚至在他自殺身亡後，TikTok仍繼續推送這些內容。

TikTok 還我兒子

根據他的朋友布蘭登·馬菲（Brandon Maffei）的說法，當新冠肺炎導致學校被迫關閉，他們和許多美國青少年一樣，開始在TikTok上花更多時間，在深夜互傳搞笑影片。

但是到了2021年底，布蘭登發現查斯分享的影片變得越來越灰暗。而在查斯去世前幾周，布蘭登再度收到查斯分享的影片，「我記得很清楚，因為這個影片的音樂很憂鬱，影片上寫著『一切都已經不值得了。』我一邊想著，為什麼他要發這種東西給我，一邊看著影片掉淚。」

最後，查斯的父母決定起訴TikTok，愴然淚下的表示：人們需要了解社群媒體的危險性。查斯沒有被欺負。他有一群很好的朋友，他在學業和運動方面都表現出色，他沒有吸毒也沒有喝酒。

那麼是什麼原因把他推向絕望？身為父母的我們，只能得出這個結論，那就是不斷出現的TikTok短影音。

TikTok一響，白髮送黑髮

不只家長提出擔憂，兒童心理學家也越來越擔心TikTok對青少年的身心影響。一項針對青少年做的調查顯示，社交媒體與憂鬱症、自殘和自殺有關。美國疾病控制和預防中心的數據顯示，在2021年，近四分之一的青少年表示他們曾認真考慮過自殺，這比例是十年前的兩倍。美國心理學協會將這個數據結果，歸因於社群媒體。

心理學家表示，由於青少年的前額葉皮層，也就是負責決策、判斷和控制衝動的部分還未完全發育，因此更難抵抗來自演算法的誘惑。

今年2月，心理學教授珍妮佛哈里格（Jennifer Harriger）看了TikTok推播給查斯的動態消息的影片錄影，長達9分鐘的影片，珍妮佛只看了幾分鐘就停下了影片，意味深長地表示：「這是一系列令人傷心、沮喪和絕望的內容。因為我知道這些影片意圖煽動他人的情緒，所以會用更理性的角度去看待。」

但是，當一個大腦與心智脆弱的青少年觀看這些內容時，可想而知，他們的反應會更強烈。這非常可怕，而且絕對不適合年輕人觀看。

過去五年裡，珍妮佛一直在研究社群媒體對青少年的影響，但她表示，由於該公司缺乏透明度，她的研究受到了限制，因為「沒有有效的方法可以實行，因為我們不知道TikTok的演算法到底是如何運作的。」

憂鬱時，別打開TikTok

自2018年起，TikTok迅速崛起成為青少年流行文化中的一部分，人們試圖了解這個短影音平台對孩子的影響。TikTok的原始推薦碼是由字節跳動（ByteDance）的中國工程師團隊設計，其他社交媒體也使用類似的演算法。

法國數據科學家吉曉姆沙洛（Guillaume Chaslot）表示， TikTok的演算法比大多數社交媒體更有內容影響力，可以進一步增加使用者的參與度，

「當憂鬱的內容對參與度有益時，演算法就會繼續積極推播相關的內容給用戶。」

當AI遇上演算法

2021年，《華爾街日報》發表了一項調查報導，他們設計了一個積極在TikTok上觀看憂鬱、自殺相關影片的AI機器人，對任何與這些興趣相關的貼文或影片按讚或重複播放。實驗結果，TikTok僅花了40分鐘就識別出機器人喜愛的影片類型，開始大量推播一連串與憂鬱相關的影片，其中有93%的影片都與悲傷、負面內容有關。

對此，TikTok官方表示《華爾街日報》的機器人並不代表人類的行為。

演算法，是邪惡還是無知

曾擔任TikTok品牌合作經理的查爾斯巴爾（Charles Bahr），在2020年底的年度會議上表示，「即使我們在TikTok上鼓勵年輕人成為最有創造力的自己，但我們仍無法知道，那些走錯路的年輕人去了哪裡。」

面對許多人質疑TikTok的演算法，查爾斯仿照《華爾街日報》的做法，開設了一個新的TikTok帳號，並與負面、悲傷內容相關的影片互動、按讚，最後僅花了17分鐘，TikTok動態消息就自動推播他相關的內容。

而當查爾斯向TikTok團隊反應自己的擔憂，對此，TikTok內部同樣沒有給予查爾斯任何的回應。

TikTok表示：沒有一間公司是完美的

今年3月23日，美國國會召開聽證會，針對TikTok數據安全與有害內容，邀請TikTok之執行長周受資作證，查斯的父母迪恩和米雪兒夫也出席了聽證會。

面對眾議員質疑TikTok會危害青少年、帶來負面的影響，周受資表示：「我們會繼續努力向其它社群媒體學習兒童安全的問題，TikTok非常認真地看待這一切，我們會繼續努力，但，沒有一間公司是完美的。」

TikTok的黑暗面，誰人知

不只是TikTok，自2022年以來包括Instagram、Snapchat、YouTube等社群媒體，都面臨應該對青少年的心理健康危機負起責任的指控。

其中，西雅圖的社群媒體受害者法律中心（Social Media Victims Law Center）的律師勞拉馬爾克斯加勒特（Laura Marquez-Garrett）認為TikTok的演算法是針對人類的弱點而設計，並表示：「TikTok的黑暗面，大多數成年人不會看到。你可以讓孩子和父母在同一個房間裡，一起在手機上看TikTok。他們看到的內容，完全不同。」

「我們的孩子正在死去。他們過度依賴這些社群，正在經歷前所未有的抑鬱、焦慮和自殺。還需要多少16歲的孩子自殺，才能讓人們意識到這是不對的？」

加入 DQ地球圖輯隊 LINE Notify ，一起看透全世界

延伸閱讀：
讓抖音畫下休止符？拜登政府要求TikTok與中國母公司脫鉤Tiktok吸睛無底線　其他社群媒體跟進卻挨批

參考資料：
Critics slam TikTok algorithm for bombarding teens with videos on suicide, depression: reportGo watch this WSJ investigation of TikTok’s algorithm / Sending bots into the rabbit holesTikTok’s Algorithm Keeps Pushing Suicide to Vulnerable KidsParents of LI suicide teen break down at TikTok hearing on Capitol Hill