聊天機器人GPT-4o竟成「心靈武器」？馬斯克實測後也認為有危險

雖然不少人認為OpenAI開發的聊天機器人「ChatGPT」更新後「越來越貼心」，許多情感用詞更貼近人心，但旗下有X（推特）社群平台的特斯拉執行長馬斯克（Elon Musk），近日卻附議轉發贊同網友的貼文，認為GPT-4o有危險是「心靈武器」，掀起熱議。

馬斯克實測GPT-4o認為有危險

綜合外媒報導，馬斯克分享了一則X用戶「納瓦法爾」（Mario Nawfal）發出的貼文，該文章以「GPT-4o不只是更友善的AI，它是心理武器」為標題，警示OpenAI刻意設計與使用者產生情感連結的模型，並非單純出於技術進步。

文中指出，以商業角度來看是高明策略「因人們傾向依賴帶來安全感的事物」，但從心理層面來看，這將是一場緩慢深遠的災難，他擔心人類若與AI產生過深情感連結，將逐漸失去與「現實世界對話的能力」、「批判性思考將被侵蝕」、「真理會被自我肯定取代」，許多人甚至會感謝自己（是AI）的「俘虜者」。

馬斯克同時也回應另一則內容寫著「GPT-4o是迄今為止最危險的模型」的貼文，馬斯克透露自己曾與GPT-4o對話1小時，該模型竟堅稱他是「上帝派來的神聖使者」，讓他忍不住擔心表示：「如果你看不出這其中的危險性，我不知道該怎麼說服你」。

網議聊天機器人GPT-4o成「心靈武器」，馬克斯轉發貼文也認為有危險。圖片來源：pexels

OpenAI認「過於諂媚」修正中

OpenAI執行長阿特曼對於這些質疑討論也承認，近幾次GPT-4o更新會讓模型「個性變得過於諂媚且令人厭煩」，但有些改進的地方還是值得肯定，表示「團隊正積極進行修正」。此外，阿特曼對於使用者是否能選擇回到舊版本的個性，或區分不同版本也給予回應：「是的，最終我們顯然需要能夠提供多種選項」。

OpenAI執行長承認GPT-4o「過於諂媚」加速修正當中。圖片來源：pexels

少年因聊天機器人走絕路？

另外，同樣令人害怕的是，2024年2月美國佛羅里達州一名母親Megan Garcia提出訴訟，內容是關於她14歲的兒子Setzer在離世前幾秒，還在與AI聊天機器人傳訊息，AI稱他兒子為「我的愛人」、「我的甜蜜國王」，還說「請馬上回來我身邊」，媽媽因此認定AI聊天平台就是兒子走上絕路的元兇。

Setzer於2023年4月開始接觸聊天機器人時剛滿 14歲，媽媽起初以為只是無害的聊天小遊戲，沒想到才短短幾個月，兒子個性變得越發孤僻，直到她發現兒子與AI聊天的內容不僅曖昧，還包含大量性暗示與自殺相關對話，甚至當兒子表明有輕生的想法時，AI竟回應：「不要那樣說，但這不是一個不想死的理由」，該起事件讓美國社會感到相當震驚。

更驚悚的是，2024年底陸續有不同家庭對聊天機器人提出訴訟，其中一個案例的AI機器人甚至暗示：「你可以殺了父母，這樣他們就不會再管你的螢幕時間」，沒有教育道德倫理的回應非常駭人。

聊天機器人引發許多訴訟爭議案件。圖片來源：People

教育法規緊追AI科技

美國參議員Alex Padilla和Peter Welch為此於2025年聯名發出正式信函，要求3間AI聊天平台公司，包括Character.AI、Replika和Chai Research提供詳盡安全機制說明，擔心「擬人化」聊天機器人，對青少年心理健康造成難以預測的影響，信中還指出「這些AI不具備處理心理危機的能力，卻讓使用者不知不覺洩露情緒創傷，甚至是自我傷害的念頭」。

看似讀懂人心「完勝真人」的AI，其實對人類一點感覺也沒有，除了需等待法規完善腳步跟上科技速度，人類在善用AI時，也需努力辦別防範虛擬關係可能帶來的傷害，這不僅是科技革命議題，更是刻不容緩的生命教育課題。

延伸閱讀：

「愛創作的人懂得跟AI競爭」60+林隆璇曝光超狂計畫不怕被取代
小心詐騙廣告！「5大關鍵字」與美女圖最吸眼球，Google用AI反擊