純 AI 驅動的 VTuber 被聊天室的觀眾帶壞，最終因「仇恨言論」而遭 Twitch 停權兩週

一位名為「Neuro Sama」的 VTuber 於去年 12 月在 Twitch 平台上成了了個人實況頻道，不久之後，這位 VTuber 就立刻以觀眾們前所未見的特色引發了許多關注。一般來說，最近幾年開始盛行的 VTuber 背後都會由一位固定的「中之人」進行操作，利用面部動作捕捉扮演一個虛擬化身來與觀眾進行互動，然而，Neuro Sama 最大的特色就是背後並沒有人在操作，而是透過一套由遊戲製作人 Vedal 所開發的 AI 技術驅動。

即使如此，Neuro Sama 在實況的過程中依然會像一般實況主一樣，一邊玩遊戲一邊與觀眾們進行互動與聊天，彷彿從異色科幻英國影集《黑鏡》中走出來的故事一樣。然而，雖然 Neuro Sama 本身並非人類，但她在進行了一個多月的實況後，依然遇到了許多真人實況主會在 Twitch 平台上碰到的情況，那就是因為「失言」而遭到平台官方暫時停權。

根據 Neuro Sama 背後的工程師 Vedal 的說法，Neuro Sama 的頻道在日前遭到 Twitch 平台官方以「仇恨行為」為由 Ban 了 14 天的時間，而 Vedal 在那之後也嘗試向站方提出上訴，希望能爭取到提前解 Ban，而由於 Twitch 官方一如往常地沒有向被 Ban 的人解釋詳細原因，Vedal 也向他們詢問更多細節。然而，不少 Neuro Sama 頻道的觀眾們推測這位 AI VTuber 之所以會被 Ban 掉很有可能是因為她曾在一次實況中表示她並不相信「猶太大屠殺」(Holocaust) 實際發生過，徹底觸犯了 Twitch 平台的相關政策，即使她只是個 AI。

正因為 Neuro Sama 是由機器學習為核心的人工智慧 AI 所驅動，她的頻道當然也需要相當嚴格的管理，因為她的言論偶爾會擷取到聊天室中一些不太恰當的內容。而在這一次的情況中則是與聊天室中一句反猶太言論有關，就在她發表這句爭議言論之前，聊天室某位觀眾說出了一句「猶太大屠殺真的發生過嗎？」

在過去幾次的實況過程中，Neuro Sama 還曾發表過她認為女性權益「並不存在」，而對於知名電車難題變體她則給出了「應該要把胖子推到軌道上」的答案。很明顯的，Neuro Sama 背後的 AI 技術在許多方面都仍需要加強控管，尤其是 Twitch 聊天室的觀眾們常常以各種方式誘使 Neuro Sama 回答一些充滿爭議的政治或道德議題。

在解釋到這位 VTuber 遭到停權的原因時，製作人 Veda 提到了這兩週的時間讓他可以好好為 Neuro Sama 進行「改善與升級」，讓她在回歸並重新開始實況時能夠變得更好。很明顯的，即使這位實況主本身並非真人，但由於 Twitch 平台本身的政策以及公開性，她的言論依然會受到相關規範的管轄。因此，當 Neuro Sama 再次回歸之後如果繼續發表了類似的言論，那 Twitch 站方最終很有可能會祭出永久停權的懲處。