ChatGPT 更有同理心更溫暖，MIT：每天聊半小時副作用就來
AI 助理不但聰明且人性化，個性還相當溫暖討喜。科學家發現在用戶心中，AI 工具與同伴之間的界線日益模糊，現在確實有一些人會把AI 當成朋友，但研究警告，AI 帶給你的快樂感覺只有短短半小時，超過這個時間只會覺得更孤獨。
Open AI 要讓GPT-4.5 成為第一個，讓人感覺像在與一位有思想的人交談的模型。AI 語音助理愈來愈聰明且有趣，目的是鼓勵更多參與，最後更離不開他。但這些正面的人性，已經讓許多人依賴這些情感支持。
只有短時間幸福感
麻省理工學院媒體實驗室和OpenAI 一起做了一項實驗，了解人們如何使用ChatGPT，以及ChatGPT 反過來如何影響他們。研究人員對近1,000 名參與者進行的對照試驗，發現投入太多情感的人主要是重度使用者，尤其是使用語音互動功能的使用者。這些人通常每天花約30 分鐘使用ChatGPT，這些用戶更有可能同意ChatGPT 是朋友這類說法。
但研究人員也發現，語音互動在短暫的會話中，的確可以產生更多幸福感，但若長時間日常使用，心理上會出現一種恐怖谷效應。恐怖谷就是隨著機器人到達「接近人類」的相似度時，好感度突然下降至反感的範圍。更令人擔憂的是，根據研究結論，將ChatGPT 設定為不同性別聲音的人，報告的孤獨感與情感依賴程度明顯更高。
假順從影響人際期望
先前就有人認為chatGPT 太過順從了，最近有用戶反應ChatGPT 已經到過度諂媚的程度，只是問一個簡單問題，得到的回答長篇大論且太多恭維用語，對此OpenAI 還承諾最新版本將調整態度，不再表現得那麼像好好先生。
OpenAI 表示，設計ChatGPT 順從個性是為了支持並尊重不同的價值觀和經驗。然而，MIT 研究人員認為ChatGPT 的順從個性，加上讓使用者打斷和控制對話，可能會影響人們之間的互動方式。因為當人們習慣與順從的AI 助理聊天時，他們可能會無意識將這些期望帶入人際互動中。
女性更容易受影響
研究也探討性別差異，在四週的研究期間，定期使用ChatGPT 的女性參與者與其他人的社交互動，比男性參與者更少，這項發現提出一個重要的問題是AI 伴侶是否會以不同的方式影響不同的人口群體。科學家也擔憂，隨著AI 在情感上變得越來越具有吸引力，利用這些準社會關係獲取商業利益的誘惑只會越來越大。
與這些AI 虛擬人類請益，的確能節省許多時間，AI 給的回饋，也的確比人更溫暖更更有同理心，但也許值得檢視一下自己與AI 聊天機器人的關係，如果每天花半小時以上與ChatGPT 交談並將其視為朋友，你可能已經陷入一個情感陷阱，或對人性有過度美好的期望，最好還是把它當工具就好，或是如黃仁勳所說的，把AI 當家教就好。
No more Mr. Nice Guy: Say goodbye to the sycophantic ChatGPT
‘ChatGPT Is My Friend’—OpenAI And MIT Study Reveals Who’s Most Vulnerable To AI Attachment
(首圖來源：Unsplash)
留言 2