【2023年度風雲人物2】「死後還能一直唱，是件恐怖的事」　陳珊妮示警：AI其實非常危險

不畏通膨與升息，2023年生成式AI在全球經濟異軍突起。超級運算掀起滔天巨浪，加速產業變革，也重新定義人們慣習思考、學習與創作的場景。

在這波轉型浪潮中，台灣有一群人也站上浪頭。他們或是掌握供應鏈先機的科技業大老，或是突圍出海的創業者，甚至是敲響警鐘的創作人，以及守護台灣價值的工程師與律師。他們讓AI不只是矽谷巨頭、中美大國之間的權力遊戲，也帶台灣迎向新世界。

上個農曆年，陳珊妮「團圓」聊天的對象，是自己的AI。

「我和我的AI一起工作，從大年初一到初三，我都在跟她聊。」金曲製作人陳珊妮化身導師，替「陳珊妮2.0」調細節、調口氣、調抑揚頓挫，還不能唱得太機械，「幫她配唱，像幫一般歌手配唱；我唱歌細節很多，要讓她唱這麼多技術，工程師們覺得：這真的很難。」

AI仿真唱腔　樂壇沒人發現

「我一直訓練她，一直debug（除錯），想辦法讓她update（更新），當她真的唱出來，我心想：『啊？她可以唱成這樣？』」陳珊妮忽然感到毛毛的，「我還活著耶…我還可能發專輯、有新作品。我當下就覺得，未來要慎重思考（聲音）授權機制、保障自己的人格權益。」

一首單曲，像一場行為藝術，更像一次社會實驗。3月14日，陳珊妮單曲〈教我如何做你的愛人〉上線；3月22日，她和Taiwan AI Labs（台灣人工智慧實驗室）創辦人杜奕瑾舉行記者會、揭曉「原唱不是陳珊妮，而是陳珊妮的生成式AI」，此前，沒人懷疑這首歌不是她唱的。

「AI陳珊妮」瞞過所有音樂人，這不僅是台灣第一首由仍活躍於線上的歌手提供歌聲音源的AI歌曲，就連單曲封面也完全是AI生成。「我一邊教自己的AI唱歌，一邊做AI封面。其實vocal沒那麼難；我提供母帶，工程師只要拿到乾淨素材，就可以解決，比較惱人的是視覺部分，」唯美封面並非生成得理所當然，「我同事每天都在下Prompt（下提示指令），教AI算出陳珊妮的單曲封面。過程很惱人啊！跑出一堆大胸部圖片，對我來說，這就是素材被汙染嘛。」

半年以來，她收到各式回饋。歌曲剛上線時，她的歌迷留言：「好久沒這麼感動了！」上線一週，她開完記者會，歌迷們討論的風向大變：「我就覺得，這首歌聽起來沒有那麼感動！」「我就知道，這一定是AI！」

一名原住民音樂人找上陳珊妮，表示憂心原住民語種消失太快，來不及傳承，AI既然能從無到有生成一整首單曲，那麼，能否用以保存族語？有導演找她討論，一些人們熟知的台灣老播音員正在凋零，AI能否保存人們消失中的記憶—比如，保存國寶級老播音員們播新聞的聲音？

可能指貓為狗　法律保障單薄

又有歌手興奮傳訊：「好棒喔！有了AI，那就算我死掉，我（的AI模型）還可以一直唱下去耶！」陳珊妮答：「你覺得好棒，我沒有覺得好棒。事實上，我覺得，好恐怖。」「你永遠不知道，後世的人要你唱什麼？如果別人要你去歌頌一個…你其實並不認同的人呢？」

盛世即亂世，〈教我如何做你的愛人〉上線不到兩個月，「AI孫燕姿」在中國影音平台B站（bilibili）爆紅。動動手指，AI模型瞬間可讓孫燕姿完美演繹周杰倫 〈髮如雪〉；下一秒，周杰倫又能為您演唱中國網路童謠〈挖呀挖〉。

「你知道現在可以保障孫燕姿的是什麼嗎？只有人格權耶！」陳珊妮說，人工智慧確實讓人們生活便利，但法律非但沒跟上科技發展，還處於荒蕪階段，對創作者而言，現況非常不利。「難道孫燕姿要去告B站嗎？她告不贏。而且，她沒有法源依據。」「法律要如何update？你要去告，才有先例。所以，有人問我，如果我遇到這件事，怎麼辦？吿他們啊！吿他們，然後告訴這個世界，現實就是如此。」

陳珊妮極注重數位隱私，平日不使用ChatGPT、從不與iOS人工智慧助理軟體Siri對話；出國工作若需強制人臉辨識，她會嘗試規避：「如果要刷臉，我都叫宣傳或助理幫我刷。」她數度強調，工具本身沒問題，有問題的是法律保障太單薄。

「我想說的是：AI其實是非常危險的。大家都覺得，如果有問題，就每天去問ChatGPT，我看一堆人把ChatGPT當搜尋引擎用。」她難掩憂心，「可是你要知道，要汙染素材是非常容易的。所謂AI的資訊戰就是這樣啊，AI可以告訴你貓是狗耶！」

騰訊今年邀約陳珊妮前往成都，出席一場AI圓桌論壇閉門研討會，「一走進去，我很驚訝，那是一場很認真的論壇，與會者包括所有部門主管、產品開發者、創作者、文化人，還有律師。他們非常積極認真。回台灣之後，我感到有點害怕…」

陳珊妮目前擔任文策院董事，常提醒公部門注意人工智慧帶來的倫理與法益兩難，「政府不可能總是讓人們『遇到事情之後才去申冤』。除了法律，我們該如何保護所有的素材？如果你研發一個AI模型，需不需要替它註冊？如果某AI模型危害公眾利益、國家安全，政府有沒有辦法介入？這些東西，現在完全都是空的。我覺得，喔！為什麼大家可以這麼悠哉的過日子？」

「我覺得在台灣，大家對這話題（人工智慧）都蠻chill的，」話題最後繞回創作，我們問陳珊妮，是否害怕被AI取代？是否焦慮自己從此不再獨特？「不會，」答案很肯定，「創作者的自信，還是在的。我所在意的，從來都是法律與管理。」霸氣神態與口吻，AI暫時模仿不來。

【全文】【2023年度風雲人物】台灣AI造浪者　迎向危險迷人新世界
【2023年度風雲人物3】AI代工難、搶單免拚命　林百里好樂：生意就更好玩了