請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

Modulate用AI解決「遊戲語音謾罵」問題,被《時代雜誌》評選最具影響力新創公司

Modulate Team

2021年1月,推特與臉書停權前任美國總統川普(Donald Trump)的帳號,引發人們對社群軟體言論審查的諸多討論。儘管平台上確實不適合出現仇恨或是歧視的內容,但是究竟該如何拿捏底線,一直都不是容易的事情。

2大社群巨頭都難以掌控的界線,新創Modulate卻試圖挑戰這塊燙手山芋。

「這確實是個難題,」Modulate營運長陳雨果提到他們切入這難題的想法,「但我們是出於『保護』的角度,而不是直接禁止,這可能是我們與2大社群巨頭最大的差別。」Modulate選擇從遊戲產業進入,透過AI偵測遊戲玩家的即時對話,讓遊戲方能在第一時間做出適當的處理,Modulate甚至被《時代》雜誌評為2022年最具影響力的100家公司之一

喜歡溝通帶來的影響力,也希望溝通能不帶偏見

「我很享受與團隊溝通跟努力後的成果,以及那個成果所帶來的影響力。」陳雨果回憶自己踏上創業這條路的最初原因,然而自己的創業題目,卻是始於人們的不友善溝通。

在成立Modulate之前,陳雨果和Modulate的執行長Mike Pappas與技術長Carter Huffman做的是一個小專案:驗證新聞的真實性與中立性。

當時正值臉書的劍橋分析事件,大家對社群媒體乃至整個新聞媒體業的信任感下降,3人決定透過機器學習與文本情感分析等AI技術,試著打破「偏見的藩籬」,也就是推薦與閱聽人平時立場不相容的新聞,讓閱聽人們可以接受多方觀點與思考。

Modulate Team
Modulate團隊,左起為共同創辦人暨執行長Mike Pappas、營運長陳雨果以及共同創辦人暨技術長Carter Huffman。

「但後來這個專案算是失敗了,我們發現人們不太願意走出自己的舒適圈,代表這個服務幾乎沒有市場。」陳雨果說,那之後3人便開啟各自的其他專案,Mike Pappas與Carter Huffman轉往變聲服務(Voice Skin)發展,而陳雨果則成立了一間錄音工作室。

Mike Pappas與Carter Huffman的變聲服務主要應用於遊戲與電影產業,也成為了Modulate的前身,為了優化產品表現,2018年兩人又找了具備語音處理專長的陳雨果「回鍋」,並正式成立公司。

「我們發現遊戲產業是爆炸式的成長,不過我們把產品介紹給遊戲公司時,他們問的都是這個產品能否偵測攻擊性語言,」陳雨果笑著說,3人一開始一頭霧水,以為是自己介紹的方向錯了,後來才知道遊戲業者想要的真正服務是:改變聲音的同時也能偵測對話的內容。

除了用詞外,情緒、語氣與對話也是判斷的重點

「玩家之間的對話如果太具攻擊性的話,受到攻擊的玩家可能會永遠離開遊戲,這個比例高達28%,而曾經有83%的人感受到被傷害,有68%的人認為遊戲公司應該處理這件事情。」陳雨果表示,線上對戰遊戲的攻擊性語言的狀況其實非常嚴重。

如果玩家離開的原因不是遊戲本身不好玩,而是遊戲過程中遭到其他玩家謾罵,對遊戲公司而言是難以接受的,但是遊戲公司又無法派大量專人即時監聽每場遊戲,過去只能依賴玩家自行回報,可惜大部分的回報都是石沈大海。

Modulate的SaaS產品ToxMod能為遊戲公司擔任這樣的角色。ToxMod可以實時偵測每一場獨立遊戲的對話,如果發現不當言論就會發出警示,由遊戲官方決定處置方式,例如暫停遊戲、關掉帳號或是禁音等等。

Modulate產品ToxMod
Modulate的SaaS產品ToxMod可以即時監控遊戲室的對話,並在攻擊性語言發生時及時提醒遊戲官方。

「如何拿捏標準是最困難的,但我們的AI不是要取代人,而是一種輔佐工具。」陳雨果認為,臉書跟推特這樣的社群平台希望用戶多多互動,所以立場偏向激起討論而不是保護弱勢者,Modulate的態度則是後者,而他們判斷攻擊性語言的標準有3大方向:

  • 完整句意
    如果只是針對特定用詞示警,很容易造成誤為,畢竟遊戲中玩家難免會因為一時激動口出髒言,但不一定在罵人,因此必須從整句話來理解語意。

  • 語氣與情緒
    透過文本情感分析判斷說話者的情緒是否帶有負面意味,這對於判是否屬於攻擊性用語也有所幫助。

  • 完整對話
    如果是朋友間的互動,有些惡趣味或挖苦的語句是不可避免的,從完整的對話以及語氣判讀才能避免誤判。

陳雨果強調,ToxMod不是裁判,最終還是要靠遊戲官方認定是否屬於攻擊性語言,「元宇宙遊戲Rec Room就是我們的客戶,他們導入ToxMod後,遊戲是確實和平了很多,玩家退出率減少了70%。」

Rec Room
元宇宙遊戲Rec Room也是Modulate的客戶。

方言與新用法會是挑戰,但也代表著剛需

儘管Modulate可以說是第一個把AI監測應用在語音服務上的公司,但這仍然是個極具挑戰的領域。陳雨果分享,團隊當初運用遊戲平台Twitch與YouTube遊戲直播的內容作為數據來源,但是謾罵用語可能每隔一段時間會有新的說法,這種監測服務將是個剛需。

目前Modulate已經導入包含Rec Room在內的七家遊戲公司,接下來則會以中文、韓語為目標市場,因為使用中文的人口數量龐大,而韓國的電競產業非常成熟。不過隔語如隔山,不同語言的謾罵用語或方式,甚至偶爾可能會摻雜一些方言,這都是語音監測的挑戰。

「所以我們需要找到懂在地方言的在地人才來協助我們。」陳雨果笑著說,靠著自己與台灣的地緣關係,Modulate或許也有機會從台灣尋找優秀人才,一起為和平的交流方式而努力。

延伸閱讀

歧視言論、洩漏個資,大廠AI對話機器人演算法爭議不斷,我們該如何小心AI應用的黑暗面?
7年的等待!來自台灣的元宇宙,Highstreet要讓玩家在遊戲內也能買到潮牌衣物
科技時代瞬息萬變,MIT 學者教我們我們如何在資訊爆炸時代保持對多元性的關懷
在Meta之前早就有元宇宙!剛上市的Roblox如何打造收服廣大青少年的虛擬世界?

查看原始文章