ChatGPT驚見殺人威脅、Discord直播涉13歲少女死亡！AI真能阻止命案？

美國佛州驚見ChatGPT疑似殺人威脅對話，巴西則傳出知名通訊平台Discord涉及13歲少女直播輕生事件。兩起案件看似分屬AI聊天機器人與社群直播平台，背後卻指向越來越不容忽視的科技治理難題：當平台發現使用者可能對自己或他人造成致命傷害時，究竟該尊重使用者隱私、封鎖帳號，還是主動通知警方？從AI安全、平台責任到個人隱私，科技平台究竟該介入到什麼程度？當安全紅線逐漸從「封鎖」走向「報警」，也讓AI治理、兒少保護與社群平台責任成為無法迴避的全球議題。

ChatGPT驚見殺人威脅字句　

一名25歲男子被指在ChatGPT對話中不僅留下殺人威脅訊息，還上傳槍械及前女友照片。依據起訴書與逮捕報告，他曾向ChatGPT描述疑似犯案計畫，包括在前女友常去的健身房埋伏、持槍控制對方，甚至提及殺人後自殺。這些內容搭配具體的個人資訊與行動細節，使案件從單純的危險言論，進一步被視為可能具有現實風險的可信威脅。

OpenAI通報FBI 警方介入逮捕男子

2026年5月，OpenAI將相關ChatGPT對話通報聯邦調查局（FBI），警方隨後確認前女友安全並逮捕男子。男子後續被控加重跟蹤、書面恐嚇殺害等罪名，並在8月認罪。法院最終判處8年緩刑，前2年須接受電子監控，另須接受施暴者輔導與精神評估，且被禁止持有槍械及接觸前女友。

巴西13歲少女直播45分鐘 遭教唆自傷

另一場引發關注的事件發生在巴西。一名13歲少女在網路直播期間遭到其他使用者施壓，起初對方要求她傷害動物；當她未能完成要求後，群組成員進一步慫恿少女自殘，最終釀成死亡悲劇，引發巴西政府及兒少保護機構強烈關注。根據外媒報導，警方形容事件如同「現實生活中的恐怖片」，並逮捕多名涉案青少年。不過，少女死亡是否發生在Discord直播期間，平台與外界說法並不完全一致。Discord表示，相關直播在少女死亡前已遭終止。

巴西下令Discord暫停直播

事件發生後，巴西監管機關將矛頭指向Discord的兒少安全措施，連巴西第一夫人都公開敦促「司法機關將這個可怕的網路平台下架」。外媒報導也指出，巴西當局認為Discord未能充分建立兒童保護機制，並認為其直播功能存在被利用於暴力、騷擾及自我傷害內容的風險，因此要求平台採取限制措施。Discord隨後宣布配合要求，暫停巴西用戶的直播服務；相關措施涉及直播及視訊功能，而文字與部分語音功能仍可使用。平台則表示，希望與巴西政府合作改善安全措施，並在符合相關要求後恢復功能。

該報警還是守護隱私？AI社群陷兩難

ChatGPT出現疑似殺人威脅、Discord直播涉及未成年受害事件，讓AI安全、兒少保護與使用者隱私再次成為焦點。OpenAI從封鎖帳號到必要時通報執法機關，反映科技平台正從單純的內容管理，逐步走向現實傷害的風險預防。但問題也隨之而來：平台如何判斷危險言論何時成為「可信威脅」？什麼情況應封鎖帳號，什麼情況又必須通知警方？這背後不只是AI技術，更牽涉隱私權、言論自由、公共安全與平台責任。

上述兩起事件也凸顯科技平台面臨的共同難題：介入不足，可能錯失阻止悲劇的機會；介入過深，又可能侵犯使用者權益。如何建立透明、一致且可被監督的安全標準，將成為科技平台無法迴避的課題。當AI與社群平台深入日常生活，「該不該報警」已不只是單一平台的決定，而是科技治理如何在安全與隱私之間取得平衡的全球治理問題。

• 造咖關心您
  珍惜生命，自殺不能解決問題，生命一定可以找到出路。若須諮商或相關協助，可撥台灣衛福部專線「1925」、生命線專線「1995」或張老師服務專線「1980」。

延伸閱讀：

消防AI短劇爆紅！黑白無常「接人變救人」5大火災危險行為你中幾個？
AI短劇成癮？長輩狂追停不下來，子女崩潰「角色對調」！專家警告恐陷腦腐