【觀點】AI圖是福音？惡魔的誘惑？盤點生成式 AI 產圖現況與未來隱憂
在 2023 年爆發性成長的生成式 AI 是包含動漫遊戲圈在內全球最火熱的話題。但除了能夠讓機械為人類代勞的光明未來，同時也催生出工作崗位遭到取代以及因為素材製作成本降低而可能產生的各種亂象催生的疑慮。
去年 12 月 27 日，就像是趕著在年底上演大戲的最後高潮，美國傳統大報紐約時報狀告 ChatGPT 開發公司 OpenAI 侵權的新聞，這場官司對於動漫畫遊戲圈最有關聯的 AI 產圖會有十分直接的影響，以下以這場官司整理生成式 AI 產圖在業界的現況和未來可能的發展。
紐約時報的主張與反 AI 產圖派的共通點
紐約時報主要控訴 OpenAI 在訓練 ChatGPT 工具時，資料庫包含各大新聞過去報導文章，但並未取得授權，生產出來的文章和原本文章具高度相似性，使用這類內容營利明顯有不當得利的嫌疑。
過去包含 OpenAI 在內的 AI 公司遇上問題時，多半「合理使用」主張受版權保護的資料訓練 AI 模型沒問題，在官司浮上檯面後 OpenAI 更發表官網聲明（英文）「公司尊重內容創作者和所有者的合法權利，但是現今版權相關法規並沒有禁止將資料用於訓練 AI 工具」。
若仔細看紐約時報指控的內容，會發現這和網路上反對利用 AI 產圖的人，除利用素材差異外根本一樣。這可說是生成式 AI 工具的結構性問題，得有大量資料訓練，才能夠催生出足夠實用的模型，想要使用完全免費無權利問題的資料來訓練，至少目前很不切實際。連 OpenAI 在給美國國會的文件也承認「如果無法利用受到版權保護的資料，就無法訓練出可用的大型語言模型」。
官司才剛開始，到結果出來恐怕要花上數年。目前美國法界和科技界專業人士看法兩極，有人認為在生成式 AI 公司營利前提下，很難繼續主張自己是「合理使用」；但也有人認為不可能去禁止 AI 「學習」現有資料後「創作」自己的產品，因為你也不能禁止人這樣做。
回過頭看 AI 產圖的問題，生成式 AI 工具本質就在於強悍的模仿和歸納能力，但無法無中生有，得有現成資料，基於成本問題又很難使用「乾淨」的資料來訓練，目前市面上主要幾個產圖 AI 工具，只要嚴格檢視，其訓練資料庫中都一定能找到問題。
連踩進業界時曾經大張旗鼓，宣示「使用旗下工具生產而碰上法律問題，就會全損填補損失」的 Adobe 都不例外，當作學習資料庫的商用圖庫 Adobe Stock 早已被許多來源不明的無斷轉載圖片和 AI 生產圖片「汙染」。實際上 Adobe 的聲明被許多人質疑只是在沽名釣譽，和可以直接比對使用字詞相似程度的文章不同，圖片在生產出來後就很難有可量化的基準去檢視，在現行法律跟不上科技發展的現況下，幾乎不可能以法律來阻止使用 AI 工具產圖並用來營利。
努力摸索合理使用範圍的產業界
即使還有很多疑慮存在，但生成式 AI 工具在遊戲業界其實已相當普及。遊戲界使用 AI 工具協助開發工作實際行之有年，其中有些雖然技術細節可能有所不同，但是底層邏輯與生成式 AI 產圖十分接近的項目，比如說在製作開放世界遊戲時，利用 AI 工具生成世界地形，就是差不多有十年歷史的手法。此外也有很多和圖像無關，爭議性相對較小的 AI 技術，例如隨機生成配角台詞等手法，都已經有在廣泛使用。
但因為圖像生成爭議尚未解決，又是比較新出現的公司，現在還很少有公司公開表明自己是如何在作品當中應用。其中一個例外是日本遊戲公司 LEVEL-5 在去年 12 月應日本政府單位邀約，於一場生成 AI 技術相關的座談會上，公開了目前在公司內部相關工具的使用範例。
從公開的資料當中，可以看出公司對於產圖工具的應用，完全停留在輔助的範圍，主要包含「提昇圖片解析度」、「自動生成圖片背景」以及「改變圖標配置」等等，可以說使用 AI 工具進行的工作，幾乎都還沒有觸及「創作」的範圍。
而且在只是有些微涉及創作的「變更角色 3D 模型質感」，使用的學習素材自然也全都是公司內部自備的圖片，在版權相關方面可以說是非常謹慎。
今年剛初 Steam 公開聲明開放「沒有版權問題的 AI 生成內容」，原本在去年六月時 Steam 平台針對 AI 生成技術，是表示「因為還有許多法規上不明朗之處」，所以原則上完全禁止含有 AI 生成內容的遊戲上架。
但在聲明中，平台表示經過數個月與遊戲開發商的溝通，已經對生成式 AI 技術有初步了解，並且會對使用相關技術遊戲，要求遵守平台設定的情報公開準則後才允許上架。關於事前生成的內容和現行內容一樣，必須要通過相同的內容審查。而即時生成的內容，則是要有避免生產出違法內容的機制，並且開放平台使用者特定的通報管道。但也強調由於這個領域的問題還很複雜，所以會隨時再次檢討相關的規範。
勢同水火，不共戴天的個人創作圈
但是在與二次元圖片有高度相關的另外一個領域，也就是個人創作者圈子當中，與產業界盡可能小心摸著石頭過河的氣氛完全相反，正反雙方可說是殺到紅眼，互視對方是有不共戴天之仇的仇家。
其實所謂「繪師」反對 AI 生成技術的理由倒是很好理解，在前面提到的「AI 學習資料庫侵權問題」是首當其衝的族群。另外公司旗下創作的「美工」，原本作品產權就歸屬於公司，所以相對起來更像工業製品，這點可能是產業界和個人創作圈有態度差別的主因之一。
除版權問題外，工作機會可能會被 AI 工具搶走剝奪的危機感也是主因之一，特別是在本來就很容易因為勞工權益福利而造成爭議的歐美網路上，更是相當容易看到許多因為會造成工作機會消失，而反對任何使用 AI 生產工具的發言。
另一方面，生成式 AI 工具已達到商業階段，自然會有許多人搶著嘗鮮投入，甚至自稱是「AI 繪師」，開始嘗試利用 AI 產圖謀利。由於產圖在模型完成後投入成本極低，而且生產速度快，第一波利用低價來傾銷的產品，甚至霸佔日本知名同人作品販賣網站「DLSITE」的銷量排行榜，最終讓該站 DLSITE 針對 AI 生產內容的規定（日文），在 2023 年 5 月 11 日禁止遊戲小說外的 AI 生產作品。即使允許，每個月僅能推出一款上限。
像這種新科技在第一波投入的人，高比例都帶有投機性格，從上面 DLSITE 的案例也可以看出這類人行事風格往往偏向極端，與原本就在二次原圖片創作圈，而且大多都反對生成式 AI 產圖工具的原生畫家自然就很容易發生衝突，特別是在很多人已經把 AI 產圖當作生財工具的現況下，衝突就很容易越演越烈。
最近特別常被拿出來討論，甚至是鬧出事件的就是 Stable Diffusion 模型的其中一項被稱為「LoRA」的功能。所謂的 LoRA 就是在現有模型當中添加特定新資料來調整模型，利用這種手法就可以使用少量資料，調整出有特定畫風的模型。因此非常容易就可以調整出針對特定作品、角色、甚至畫家畫風的生成模型。
利用「LoRA」鬧出的事件中，特別有名的應該是在 2023 年中的《賽馬娘Pretty Derby》色情二創事件，由 Cygames 推出的《賽馬娘》因為真實賽馬的權力關係複雜，所以官方一向禁止帶有色情成份的二創，但有人利用「LoRA」調整出《賽馬娘》角色生成模型，並在各大網站上展開收費方案謀利，雖然驚動官方後許多「創作者」被直接連帳號刪除，但直到現在仍三不五時會有新帳號出現，不能說徹底解決。
在這邊要強調，這種無視規則二創謀利的行為，其實和生成式 AI 工具並無直接關聯，是一直都存在的行為。但是生成式 AI 工具大幅降低了二次創作產圖的門檻，無疑是讓投機者更容易從中謀利的一大主因。
除了利用這種方式謀利，更極端的例子還有透過「LoRA」來針對特定畫家攻擊的案例。部份產圖 AI 使用者，會針對和自己在利用 AI 的意見上有衝突，甚至可能只是單純看不順眼的畫家，訓練出畫風和他一樣的模型，利用這種方式來攻擊畫家。
錯綜複雜，難以捉摸的網路民意
不僅「繪師「和「AI 繪師」兩方人馬在網路上戰得你死我活，單純消費者的一般群眾對於 AI 產圖的意見也非常兩極。反對 AI 的特定畫家支持者，大多是對於危害到自己偶像的 AI 不會有什麼好感。但即使是同樣在這個二次元繪圖創作市場裡的消費者，也有並不特別支持特定畫家，認為 AI 發展有利於自己獲取更多作品而支持 AI 產圖；也有雖然支持畫家，但認為 AI 產圖是不可逆的趨勢，該想著如何適應才對。
近日引起爭議，聲稱使用 AI 製圖但是有手動調整的創作
在這個風氣之下，現在要在這個圈子裡作生意的企業真的是要小心謹慎。今年 1 月 4 日，卡牌遊戲《魔法風雲會》官方 X 帳號發佈了一張官方宣傳圖，馬上被人指認有 AI 產圖工具特徵，遊戲發行商威世智公司原本堅稱誤會，是完全由人手繪製。但 1 月 7 日改口公告表示他們又再次不小心使用了生成式 AI 工具產出的圖片。特別是因為去年 12 月才因為一次類似事件，在網站上鄭重發表聲明將拒絕所有 AI 產出的圖片，因此遭到許多網民的譏笑。魔法風雲會官網聲明（英文）
1 月 3 日，手寫繪圖板大廠 Wacom 的美國 X 帳號，配合龍年發表了一張以龍為主題的圖片慶祝跨年，同樣人指出有明顯的 AI 產圖特徵。由於 Wacom 公司的產品性質，這件事在全球各地的繪圖創作者之間都引發軒然大波，事件延燒了一週後，公司才在 X 上表示這次有特別挑選標明並非 AI 生產的圖片使用，而且也有使用複數檢驗工具確定非 AI 生產後才有正式使用，但要現在重頭驗證圖片創作過程已經不可能，於是決定接納意見撤消使用這張圖片。
聲明發表後有人表示，公司大概是在 Adobe Stock 的個人賣家處購買的素材（該賣場現在已經下架），雖然賣場並沒有加入 AI 生產的標籤，但許多人都指出 Adobe Stock 充斥刻意不加標籤來混淆視聽的行為，過濾功能形同虛設。許多人對 Wacom 作為是繪圖工具廠商，但居然不知道 Adobe Stock 已經風險極高的現況感到不可思議，也有人譏笑 Wacom 從畫家身上賺這麼多錢，連出錢雇用可信的畫家都不肯。
1 月 9 日，繪圖軟體「ibispaint」加入利用生成式 AI 技術的「AI 示範功能」，馬上就引發軟體使用者的不滿，群起向官方抗議，讓事件擴散到使用者族群外，一日之間就延燒千里。最後官方在隔天 1 月 10 日，就於網站發表聲明，直接下架這個才加入一天的功能。
2024 年才過了半個月，就已經發生三件與生成式 AI 產圖有關的公關危機，可見現在這個領域的大眾敏感度有多高，未來特別是與「創作」有關的公司，恐怕在進行商業活動時，都必須將這個風險考慮進去來選擇使用的素材。
結語：生成式 AI 產圖是創作嗎？
由於和生成式 AI 有關的一連串事件都還是現在進行式，技術發展當中附隨的法律和道德風險問題有待解決，想要在此下結論，只怕在將來的好一段時間當中都很困難。
據過去經驗可以知道市場上真正的最大宗，也就是並不會積極出聲的沉默消費者，其實不是真的很在意道德風險。即使沒有生成式 AI 工具，「借鑑」市場上先行產品來降低創意成本的手法，一直以來都存在。絕大部份的「創作」，追根究底是奠基於「模仿」和「歸納」。
在推特分享圖片時，也有創作者會聲明是 AI 製圖創作
但是筆者個人認為在生成式 AI 工具可能要去思考，「創作」是建立在「模仿」和「歸納」上面，但只剩下「模仿」和「歸納」時還能不能算是「創作」？在生成式 AI 還未跨出此步前，就算能夠解決法律上的風險，又真的有辦法讓人接受嗎？