別把AI當心理師！ChatGPT對話不具法律保密權 執行長坦言：還不知道如何處理
在面對情緒困擾或尋求建議時，現在有越來越多使用者選擇透過ChatGPT尋求協助。不過OpenAI執行長阿特曼（Sam Altman）近期在Podcast節目《This Past Weekend w/ Theo Von》上談到，當前AI產業仍未能確保這類敏感對話的隱私權利，並提醒大眾應審慎思考將AI當作治療工具的使用方式。
根據《Tech Crunch》報導，阿特曼在節目中表示，AI缺乏與醫生、律師或心理師相同的法律保密義務，也沒有受到現行隱私法的保護。
當被問及AI與現行法律體系如何互動時，阿特曼表示「人們會把人生最私密的事告訴ChatGPT，尤其年輕人會把它當作導師或情感諮詢對象。」但若與真正的治療師對話，這些內容會受到法律特權保護，而與AI對話則不適用。
阿特曼認為，目前這樣的情況在法律上可能帶來風險，例如在訴訟過程中，OpenAI可能會依法被要求交出使用者對話內容。阿特曼坦言「我們還沒想清楚該怎麼處理這件事。」阿特曼也認為，理想上，AI與使用者的對話應該享有與心理治療對話相同等級的隱私權。
事實上，OpenAI已經正面迎擊這個問題。OpenAI目前正在對一項法院命令提出上訴。這項命令要求OpenAI保留數億名ChatGPT用戶的聊天記錄，以供《紐約時報》與該公司間的訴訟程序使用。然而，這項要求不包括ChatGPT Enterprise的企業帳號使用者。
OpenAI在官方網站聲明中表示，這項命令是「越權」，並警告如果法院有權介入OpenAI對於資料保存與刪除的決策，未來恐將面臨更多法院要求交出對話記錄的壓力，特別是在執法或訴訟過程中。科技公司本就時常接到調閱使用者資料的傳票，現在又面對更多因自由權利遭限縮而衍生的新隱憂，例如墮胎權爭議。
以美國最高法院推翻《羅訴韋德案》（Roe v. Wade）為例，當女性選擇權受到打擊後，許多用戶開始改用更注重隱私的生理期追蹤App，或選擇具加密功能的Apple Health。
主持人西奧（Theo Von）也在節目中透露，自己因隱私問題而對使用ChatGPT有所保留。阿特曼對此回應表示「我覺得，在真正大量使用這項技術之前，我們確實需要對法律與隱私問題有更明確的了解。」