2021年1月，推特與臉書停權前任美國總統川普（Donald Trump）的帳號，引發人們對社群軟體言論審查的諸多討論。儘管平台上確實不適合出現仇恨或是歧視的內容，但是究竟該如何拿捏底線，一直都不是容易的事情。
2大社群巨頭都難以掌控的界線，新創Modulate卻試圖挑戰這塊燙手山芋。
「這確實是個難題，」Modulate營運長陳雨果提到他們切入這難題的想法，「但我們是出於『保護』的角度，而不是直接禁止，這可能是我們與2大社群巨頭最大的差別。」Modulate選擇從遊戲產業進入，透過AI偵測遊戲玩家的即時對話，讓遊戲方能在第一時間做出適當的處理，Modulate甚至被《時代》雜誌評為2022年最具影響力的100家公司之一。
喜歡溝通帶來的影響力，也希望溝通能不帶偏見
「我很享受與團隊溝通跟努力後的成果，以及那個成果所帶來的影響力。」陳雨果回憶自己踏上創業這條路的最初原因，然而自己的創業題目，卻是始於人們的不友善溝通。
在成立Modulate之前，陳雨果和Modulate的執行長Mike Pappas與技術長Carter Huffman做的是一個小專案：驗證新聞的真實性與中立性。
當時正值臉書的劍橋分析事件，大家對社群媒體乃至整個新聞媒體業的信任感下降，3人決定透過機器學習與文本情感分析等AI技術，試著打破「偏見的藩籬」，也就是推薦與閱聽人平時立場不相容的新聞，讓閱聽人們可以接受多方觀點與思考。
「但後來這個專案算是失敗了，我們發現人們不太願意走出自己的舒適圈，代表這個服務幾乎沒有市場。」陳雨果說，那之後3人便開啟各自的其他專案，Mike Pappas與Carter Huffman轉往變聲服務（Voice Skin）發展，而陳雨果則成立了一間錄音工作室。
Mike Pappas與Carter Huffman的變聲服務主要應用於遊戲與電影產業，也成為了Modulate的前身，為了優化產品表現，2018年兩人又找了具備語音處理專長的陳雨果「回鍋」，並正式成立公司。
「我們發現遊戲產業是爆炸式的成長，不過我們把產品介紹給遊戲公司時，他們問的都是這個產品能否偵測攻擊性語言，」陳雨果笑著說，3人一開始一頭霧水，以為是自己介紹的方向錯了，後來才知道遊戲業者想要的真正服務是：改變聲音的同時也能偵測對話的內容。
除了用詞外，情緒、語氣與對話也是判斷的重點
「玩家之間的對話如果太具攻擊性的話，受到攻擊的玩家可能會永遠離開遊戲，這個比例高達28%，而曾經有83%的人感受到被傷害，有68%的人認為遊戲公司應該處理這件事情。」陳雨果表示，線上對戰遊戲的攻擊性語言的狀況其實非常嚴重。
如果玩家離開的原因不是遊戲本身不好玩，而是遊戲過程中遭到其他玩家謾罵，對遊戲公司而言是難以接受的，但是遊戲公司又無法派大量專人即時監聽每場遊戲，過去只能依賴玩家自行回報，可惜大部分的回報都是石沈大海。
Modulate的SaaS產品ToxMod能為遊戲公司擔任這樣的角色。ToxMod可以實時偵測每一場獨立遊戲的對話，如果發現不當言論就會發出警示，由遊戲官方決定處置方式，例如暫停遊戲、關掉帳號或是禁音等等。
「如何拿捏標準是最困難的，但我們的AI不是要取代人，而是一種輔佐工具。」陳雨果認為，臉書跟推特這樣的社群平台希望用戶多多互動，所以立場偏向激起討論而不是保護弱勢者，Modulate的態度則是後者，而他們判斷攻擊性語言的標準有3大方向：
完整句意
如果只是針對特定用詞示警，很容易造成誤為，畢竟遊戲中玩家難免會因為一時激動口出髒言，但不一定在罵人，因此必須從整句話來理解語意。語氣與情緒
透過文本情感分析判斷說話者的情緒是否帶有負面意味，這對於判是否屬於攻擊性用語也有所幫助。完整對話
如果是朋友間的互動，有些惡趣味或挖苦的語句是不可避免的，從完整的對話以及語氣判讀才能避免誤判。
陳雨果強調，ToxMod不是裁判，最終還是要靠遊戲官方認定是否屬於攻擊性語言，「元宇宙遊戲Rec Room就是我們的客戶，他們導入ToxMod後，遊戲是確實和平了很多，玩家退出率減少了70%。」
方言與新用法會是挑戰，但也代表著剛需
儘管Modulate可以說是第一個把AI監測應用在語音服務上的公司，但這仍然是個極具挑戰的領域。陳雨果分享，團隊當初運用遊戲平台Twitch與YouTube遊戲直播的內容作為數據來源，但是謾罵用語可能每隔一段時間會有新的說法，這種監測服務將是個剛需。
目前Modulate已經導入包含Rec Room在內的七家遊戲公司，接下來則會以中文、韓語為目標市場，因為使用中文的人口數量龐大，而韓國的電競產業非常成熟。不過隔語如隔山，不同語言的謾罵用語或方式，甚至偶爾可能會摻雜一些方言，這都是語音監測的挑戰。
「所以我們需要找到懂在地方言的在地人才來協助我們。」陳雨果笑著說，靠著自己與台灣的地緣關係，Modulate或許也有機會從台灣尋找優秀人才，一起為和平的交流方式而努力。
延伸閱讀
歧視言論、洩漏個資，大廠AI對話機器人演算法爭議不斷，我們該如何小心AI應用的黑暗面？
7年的等待！來自台灣的元宇宙，Highstreet要讓玩家在遊戲內也能買到潮牌衣物
科技時代瞬息萬變，MIT 學者教我們我們如何在資訊爆炸時代保持對多元性的關懷
在Meta之前早就有元宇宙！剛上市的Roblox如何打造收服廣大青少年的虛擬世界？
