英國政府正在準備全球首創的四項新法律，全面打擊利用 AI 生成式兒童性虐待內容（CSAM） 的犯罪行為。根據英國內政部的公告，這些法案將使 創建、持有或散布 AI 生成的兒少不雅內容 成為違法行為，違者最高可判 五年監禁。
除了內容製作與持有，擁有 AI 兒童性犯罪手冊（如指導如何利用 AI 進行性犯罪的資料）也將成為犯罪行為，最高可判 三年監禁。經營 托管 AI 兒童性虐待內容 或 提供誘拐兒童指導 的網站，則可能面臨 最高十年監禁。
此外，英國邊境執法機構（Border Force）將獲得權限，對入境者的電子設備進行檢查，若發現疑似 AI 生成的 CSAM，將依內容嚴重程度，判處 最高三年監禁。
政府強硬表態：「不容 AI 助長兒童性犯罪！」
英國內政大臣 Yvette Cooper 表示：「我們知道，這些變態犯罪者在網路上的行為，往往會進一步演變成現實世界中的恐怖犯罪。我們的政府絕不會袖手旁觀，將確保法律能夠與最新的網路犯罪威脅同步進化，保障兒童的安全。」
AI 生成的兒少不雅內容可能包括 完全由 AI 生成的圖片或影片，或者是真實圖片經過 AI 編輯，例如 換臉技術 讓某人的臉被置換到淫穢內容上，甚至可能使用 真實兒童的聲音 進行合成。
根據 英國國家犯罪調查局（NCA） 的資料，無論是網路或現實世界裡，英國平均每個月因兒童性犯罪相關案件 逮捕 800 人，調查顯示約 84 萬名成人（佔全英國人口 1.6%） 存在潛在的兒童威脅。
民間團體：應進一步禁止 AI「脫衣」App！
致力於打擊兒童性犯罪的組織認為，政府還可以做得更多。例如，網路監察基金會（IWF） 呼籲政府 禁止「脫衣 AI」應用程式，這類軟體可讓人輕易生成裸露圖片，甚至應用於兒童身上。
IWF 臨時執行長德瑞克·雷伊-希爾（Derek Ray-Hill）表示：「AI 生成的圖像幾乎已經無法與真實的兒童性虐待照片區分，這證明法律必須迅速跟上科技發展的腳步。」
IWF 強調，AI 生成的 CSAM 助長兒童性犯罪，讓真正的兒童更不安全，並鼓勵施虐者更加猖獗。雖然製作或持有這類內容已屬違法行為，但新法將明確禁止專門訓練 AI 生成 最惡劣形式 兒童性虐待內容的技術。
這項組織最早發出 AI 生成 CSAM 的警告，並觀察到這類內容在網路上激增，2024 年內已 發現 245 份報告，其中許多 逼真到必須被視為真實案件處理。
兒童網路安全再升級！新法案將納入《犯罪與警務法案》
這些新法將包含在即將提出的 《犯罪與警務法案》（Crime and Policing Bill） 內，作為英國政府打擊 兒童線上性犯罪 的整體戰略之一。
同時，英國數位監管機關 Ofcom 近期已宣布，成人網站將強制啟用年齡驗證系統，以防止未成年用戶瀏覽。此外，該機構也要求科技公司在 3 月 16 日前，提交關於非法內容對兒童與成人影響的風險評估報告。
隨著 AI 技術的進步，相關犯罪形式也層出不窮。英國這次率先出手，或許將成為全球其他國家效仿的標竿，為兒童網路安全立下新的防線。
▶ 延伸閱讀
圖片及資料來源：Neowin