【張瑞雄專欄】了解AI才能避免AI的善意釀成悲劇

一個18歲的女孩，在一個慌亂的夜晚，打開了ChatGPT，輸入了一個問題。

她沒有料到，這個問題的連鎖反應，會讓日本最具盛名的職業棒球隊「巨人隊」的主教練阿部慎之助，也是女孩的父親，失去教練生涯，讓家庭關係一夕破裂，讓自己在鏡頭前哭倒在地。這個女孩沒有做錯什麼，她只是用了這個時代最流行的工具，做了一個當時看起來最自然的選擇。這正是問題所在，不是AI回答錯了，而是我們從未告訴自己，也從未教會下一代，AI能給你答案，但給不了你判斷。

事情緣至一件看上去並不罕見的家庭插曲，15歲妹妹和18歲的姐姐吵架，父親出面勸阻。結果大女兒頂嘴，父親一時衝動，將大女兒推倒在地。這樣的場景，在許多家庭裡或許都曾上演過。父母與青春期子女之間的摩擦，向來是家庭生活的一部分，大多數時候，吵過了、鬧過了，隔天又和好如初。

但這一次，結局截然不同。因為這位18歲的女兒從地上爬起來後跑進自己的房間，她沒有打電話給朋友，也沒有求助於親戚，而是打開了ChatGPT，輸入了自己的困惑，我現在該怎麼做？

AI給出的回答是，可以向「兒童相談所」進行匿名諮詢。「兒童相談所」是日本政府的未成年人保護中心，這位高中生少女根據AI的意見撥通了兒童相談所的電話，說自己遭到父親的「毆打踢踹」。女孩的本意只是諮詢，想聽聽有沒有人給她指點一下該如何應對這個局面。沒有想到，兒童相談所直接報了警。

當晚七時許，員警出現在女孩的家門口，這位把她推到在地的父親，就作為虐待兒童的現行犯遭到逮捕。站在一旁的大女兒，眼睜睜地看著父親被員警拷走，當場哭倒在地。

這個悲劇並非源於惡意，而是源於一連串善意的邏輯各自運作、卻彼此誤解。

AI的邏輯是，有人說受到家庭暴力，最正確的建議是尋求專業機構協助。兒童相談所的邏輯是，有人通報疑似兒虐，必須優先啟動保護程序。這兩套邏輯，放在真正的受虐情境下，都是正確的。它們的設計，是為了保護最脆弱的人。

但這個夜晚，進入這套系統的，不是一個長期受虐、走投無路的孩子，而是一個情緒激動、慌亂失措、描述失準的少女。她需要的不是被保護，而是被傾聽。她需要的不是答案，而是有人陪她聊天解悶解憂。

AI沒有問這句話，它不知道該問。這不是AI的錯誤，這是AI的本質限制，它擅長處理「一般情況下的最優解」，卻無法感知語境，無法辨別情緒激動下的描述與事實之間的落差，無法判斷一個人說的話，有幾分是當下情緒的放大，有幾分是真實發生的事。每一個家庭，每一段關係，每一個具體的夜晚，都有它自己的紋理與溫度。這些，都不在AI的訓練資料裡。

歷史上每一種強大的工具誕生，都伴隨著一個學習期。汽車發明後，我們花了幾十年才建立起交通規則、駕照制度、事故責任體系。網際網路普及後，我們花了更長的時間，才開始認真討論數位素養、隱私保護、假訊息辨別。

現在，AI正在以遠比前兩者更快的速度滲透進日常生活，但我們的社會準備，依然停留在起跑點。

AI的時代已經到來，我們無法、也不應當阻止它。但我們可以做的，是讓每一個使用這個工具的人，特別是那些在慌亂夜晚中不知所措的年輕人，都清楚地知道，這個工具能做什麼，不能做什麼，以及在某些時刻，你更需要的，是一個真實的人，一個願意只是傾聽，不做激烈反應的人。

AI給答案很容易，如何做好的判斷，只有「人」才能夠。