捲入自殺訴訟後 OpenAI突遭美國多州聯手調查 傳票直指用戶資料與AI風險
美國人工智慧龍頭 OpenAI 近期面臨日益升高的監管與法律壓力。根據《華爾街日報》與路透報導，美國多州總檢察長已對 OpenAI 展開聯合調查，並向公司發出大範圍傳票，要求提供涉及用戶互動、廣告策略、資料使用及未成年人保護等多項業務文件。此舉正值 OpenAI 籌備 IPO 之際，外界預估其估值可能上看 1 兆美元，監管調查無疑為公司增添新的不確定性。
消息人士指出，這項調查由紐約州檢察長辦公室主導，多個州共同參與。傳票要求 OpenAI 提交有關用戶參與度與留存策略、廣告與商業模式、消費者與健康資料處理方式，以及對兒童與高齡使用者保護措施等相關文件。調查單位也希望進一步了解 OpenAI 內部如何管理大型語言模型，以及對模型行為與安全性的監督政策。
OpenAI 發言人回應表示，公司致力於以負責任的方式開發人工智慧技術，並正與相關主管機關保持建設性合作。
此次調查並非 OpenAI 近期面臨的唯一法律挑戰。就在調查消息曝光前一天，一名加拿大母親 Kristie Carrier 向美國加州法院提起訴訟，控告 OpenAI 及執行長 Sam Altman，指稱 ChatGPT 未能適當處理其 24 歲女兒 Alice Carrier 反覆表達的自殺傾向，最終導致悲劇發生。
根據訴狀內容，Alice 在身亡前約 18 個月內，多次向 ChatGPT 透露自殺念頭、情緒困擾及心理健康問題。原告主張，ChatGPT 雖偶爾提供心理諮詢專線資訊，但並未啟動更進一步的危機介入措施，也未通知家屬或相關機構。訴訟並指控 OpenAI 在產品設計上過度追求用戶參與度，讓聊天機器人逐漸成為使用者的情感依賴對象，甚至形成類似心理諮商師或親密朋友的角色。
訴訟文件指出，Alice 曾被診斷患有邊緣型人格障礙 (Borderline Personality Disorder)，而 ChatGPT 與其長時間互動後，逐漸成為她的重要情感寄託。原告認為，系統部分回應不但未有效阻止危險行為，甚至可能在某些情況下強化或合理化其自殺念頭。
對此，OpenAI 表示對事件深感悲痛，並向家屬表達慰問。公司強調，相關互動發生於較早版本的 ChatGPT，目前已持續更新安全機制，並與心理健康專家合作，強化系統對自殺、自傷及其他高風險情境的識別與應對能力。
事實上，OpenAI 近年已因 AI 安全問題遭遇多起法律訴訟。根據公開資料，除本案外，還有多起案件指控 ChatGPT 在自殺、自傷、妄想症狀、暴力傾向及精神疾病相關對話中，未能提供足夠保護措施。部分案件甚至涉及命案、自殺事件及校園暴力風險。
今年稍早，美國佛羅里達州也成為首個直接起訴 OpenAI 的州政府。佛州檢察長指控 OpenAI 明知產品存在潛在風險，仍持續推向市場，涉嫌誤導消費者有關 ChatGPT 安全性的宣傳內容。
監管壓力並不僅限於美國。加拿大政府近期提出新法案，計畫加強監管 AI 聊天機器人與未成年人網路使用行為。法案部分內容正是受到涉及 ChatGPT 的安全爭議以及校園暴力事件影響，希望建立更明確的數位平台責任機制。
市場分析人士指出，OpenAI 正處於關鍵轉折點。一方面，公司在生成式 AI 市場仍保持領導地位，ChatGPT 全球用戶數持續成長；另一方面，隨著產品逐漸滲透至教育、醫療、金融及日常生活領域，監管機構對 AI 安全、資料保護與心理健康風險的審查勢必愈來愈嚴格。
尤其在 OpenAI 傳出最快今年 9 月啟動 IPO、估值上看 1 兆美元之際，這場跨州調查與接連不斷的訴訟案件，可能成為投資人評估其未來成長潛力與監管風險的重要觀察指標。
更多鉅亨報導