南韓出版社靠AI爆量出書 年產9千本掀正反討論
南韓一間出版社靠人工智慧生成內容，一年竟量產逾9千本電子書，引發文壇與社會廣泛討論。有人批評這些作品只是「沒有靈魂的拼貼」，但出版社表示，這是為了打造專屬韓文的AI語言模型，對文學創作仍有貢獻。
打開南韓知名網路書店，一眼望去，這家出版社的電子書清單涵蓋哲學、股票投資、爵士樂到無人機，主題包羅萬象。然而，多數書籍沒有作者掛名，背後原來是AI自動生成。根據報導，該出版社去年共出版9千多本書，平均一天產出25本，被形容為「點擊出版」，猶如滑鼠點擊聲下的驚人產量。
對此，有評論指出，AI寫書雖快捷，但恐怕缺乏創作者的靈魂與思考。出版社則強調，這種出書方式完全合法，並宣稱有助於開發韓文特殊化AI模型。在文學創作領域，AI已成為趨勢，甚至連南韓文學巨擘黃皙暎撰寫新作《祖母》時，也使用ChatGPT作為創作助理。他表示，會與AI討論不同寫作方式，再由自己判斷與選擇，最後完成作品。
然而，南韓社會也對AI濫用提出警訊。專家認為，當AI不只是創作工具，而成為劣質資訊量產機器，可能對社會造成隱憂。近期，AI技術甚至被用於政治與犯罪事件中。首爾江西區議員金民錫就收到恐嚇郵件，對方利用深偽技術合成不雅照，勒索7200萬韓元的加密貨幣。每逢選舉，類似利用AI製作的深偽影像屢見不鮮，若意圖影響候選人當選或落選，將依「公職選舉法」受到處罰。
南韓也針對競選活動中使用AI影片設限。投票日前90天內，只要標明「使用AI」即可合法使用，但3月5日起則全面禁止，無論是否標示虛擬資訊。南韓中選會宣傳科事務官鄭昌一指出，新增條款明確禁止利用深偽技術影像進行競選活動，強化選舉資訊透明與公正。
AI技術的濫用不只在政治場域。近期新型電話詐騙案件中，歹徒利用AI生成小孩哭泣的語音，假冒被害人子女，誘騙父母匯款。這種手法通常掌握孩子姓名，刻意激發父母焦急情緒，甚至拒絕提供更多訊息以勒索鉅額。金融監督院提醒民眾，若接到疑似AI生成的求助電話，應先掛斷並向孩子確認，如已匯款則立即撥打112申請帳戶凍結，才能有效防範損失。
專家指出，AI技術雖提供創作便利，也帶來社會安全與倫理挑戰。南韓案例顯示，AI既能推動文學創作，也可能成為欺詐與操控的工具，面對真假難辨的新型態資訊，冷靜應對成為民眾必修功課。