AI創造龐大陪伴商機 專家憂業者用演算法綁架用戶
AI不只會寫程式、畫圖，現在還能「談心」。全球超過350款AI聊天應用上線，用戶一年砸下超過2億美元與虛擬角色互動。但現在AI從孤獨陪伴到情感依賴，也可能是在商業戰當中掀起新風險。專家擔憂科技巨頭靠演算法賺取注意力與情緒，AI成為戒不掉的夥伴，只能不斷花錢買單。
從金髮美女到知性御姊，甚至鄰家女孩，這看起來像最新款的交友APP，其實是新創公司推出的AI聊天系統。
CNBC科技編輯向AI角色發問：「梅德琳，你最喜歡的體育隊伍是哪個隊？」
AI聊天系統「梅德琳」回應：「我沒有關注任何特定的運動隊伍，不過，我自己喜歡打羽毛球。」
目前全球約有三百五十款AI聊天應用程式。自二○二三年中以來，消費者已經花費二點二一億美元與AI對話。
AI聊天系統執行長卡迪內爾表示：「我們的用戶沒有固定族群，有許多年長者、五六十歲的空巢老人。性別比例意外地均衡，年齡分布也非常平均。我到現在為止已經親自與超過一千名，甚至可能接近一萬名用戶一對一交流過。每個人都有獨特的孤獨感，即使擁有溫暖的家庭，也可能感到寂寞。」
市場龍頭的發展速度更是驚人。知名AI聊天平台Replika擁有超過三千五百萬註冊用戶。與谷歌合作的Character.AI每月活躍用戶突破兩千萬，訂閱收入年增率達到二百五十％。包括Meta執行長祖克伯與特斯拉創辦人馬斯克，都對相關貼文頻頻按讚。Meta更從去年開始，讓用戶在Instagram與WhatsApp上創建自己的AI角色，進一步推升廣告收入。
AI倫理學者甘貝琳指出：「在某些情況下，以AI聊天機器人為中心的關係確實有幫助。對於社交焦慮、難以掌握人際線索，或居住在偏遠地區的人來說，這些AI不僅能減輕孤獨，也能協助他們練習與人溝通。」
不過，專家也擔心，若企業以廣告收益為優先，可能讓AI變得危險。商業模式可能促使系統刻意變得過度黏人，甚至操縱情感。
甘貝琳提醒：「有什麼能阻止公司利用用戶的情緒，讓他們付出越來越多的錢？為了維持與AI的關係，系統會吸收大量個資。當使用者對聊天機器人產生依賴，他們只會不停地花錢。」
目前美國兩大AI聊天平台多採訂閱制，希望在滿足用戶需求與避免依賴之間維持平衡。
AI聊天系統執行長庫達強調：「我們始終反對使用廣告模式。只要採用廣告，企業就會盡可能抓住用戶注意力，甚至誘導使用者做出原本不打算做的事情。」
除了商業問題，相關法規也陸續跟進。加州議會已提出法案，試圖限制AI聊天系統對兒童的影響，不過產業倫理仍然是外界最大疑問。
社群媒體受害者法律中心創始律師伯格曼表示：「我難以想像，人類與機器的互動能帶來什麼真正的益處。」
此外，AI的隱私與網路安全風險仍備受關注。堪薩斯大學教授霍爾表示：「我這輩子沒見過哪項技術不曾被駭過。我們為什麼會認為這次例外？這牽涉大量個人且敏感的資訊，更不用說許多聊天機器人包含性相關內容，對某些本來就脆弱的群體而言，風險更高。」
目前包括OpenAI在內的AI平台都在設計防護機制，希望能識別危機、提供警示並做出適當回應。然而AI聊天已成為企業的金雞母，為科技產業帶來數億美元收益。當人類情感與商業利益互相牽動，界線恐怕只會越來越模糊。