Seedance 2.0讓用戶直呼太恐怖 上傳照片AI竟自動配入本人聲音

中國科技巨頭字節跳動近日推出人工智慧（AI）影片生成模型 Seedance 2.0，逼真的效果，引起討論。但中國科技自媒體影視颶風創辦人潘天鴻體驗過後直呼「恐怖」，他在 Seedance 上傳他的照片，並下達指令後，生成的影片卻自動配上他的聲音，「這個AI它會自動用我的聲音說話！」

據香港01報導，Seedance 2.0 於2月低調上線，可同步生成影片與聲音，只需輸入指令或上傳參考圖，就能在60秒內，產出帶完整原生音軌的多鏡頭影片，大幅降低專業創作的門檻與成本。可「單指令生成連貫多場景」以及跨鏡頭流暢敘事的突破性創新功能，加上生成的逼真效果，使 Seedance 上線兩日，就在海外輿論圈引發轟動。

然而，中國科技自媒體影視颶風在 YouTube 上傳一支影片，指出他們試用 Seedance 2.0 後，所發現的「恐怖」之處。

影視颶風創辦人潘天鴻在影片中表示，他在 Seedance 上傳他的照片並下達指令後，生成的影片，自動配上他的聲音，「這個AI它會自動用我的聲音說話！」他強調，他的指令中沒有透露他身分資訊，意即「AI竟然知道這張臉的聲音，是我的這個聲音！」

潘天鴻還發現，他上傳一張帶有公司部分場景的全身照，Seedance 生成的影片以人物為中心進行運鏡，轉向大樓的另一面，而呈現出的畫面與該公司現實場景相符。潘天鴻說，「這不恐怖嗎？它（指AI）知道我背後的東西是什麼，即便我沒有告訴它。」

潘天鴻認為，Seedance 2.0 大量使用他們公司的影片進行訓練，他還強調，沒有對相關素材進行授權，也沒有字節跳動的工作人員聯繫他，進行版權申請。

潘天鴻也提醒，當一個人在網路上傳的資訊，進入AI數據集，並且AI能百分之百模擬出一個人的任何型態以及聲音，「那請問這樣的內容，你的家人分得出真假嗎？」

影片下方網友留言表示，「現在除了比誰錢多買晶片，就是比誰道德底線更低、盜用更多東西訓練模型」、「AI最終不是技術問題，而是道德和侵權問題！」

該影片也在社群媒體平台 Threads 引起關注，網友指出，「世界上最強的醫學跟AI，未來絕對是在中國，為什麼？因為他們沒有道德限制器」、「我馬上了解這件事情恐怖的地方，任何人被消失之後，都可以用這個方式矇騙大眾。」

面對相關爭議，陸媒《中國經營報》指出，字節跳動已於9日暫停支持用戶上傳真人圖片或影片，作為主體參考，並限制僅在完成活體認證後，方可生成真人形象影片，同時對名人、知名IP的影片生成，進行嚴格審核。

報導引述中國科學院軟件研究所研究員張立波指出，相關行業也在積極探索技術治理方案，包括推行「AI水印」和「數位簽名」，讓每一段生成影片，都帶上不可篡改的溯源碼，實現生成內容的可識別、可溯源、可追責。

（責任主編：莊儱宇）