OpenAI 收緊青少年武器資訊限制，ChatGPT 將強制中止暴力對話
OpenAI 美國時間 10 月 30 日宣布，將收緊 ChatGPT 提供青少年武器相關資訊，即使提問看似無害，系統也會限制回答。這是 OpenAI 防範 AI 工具遭濫用、引發現實暴力的連串新措施之一，數週內會陸續上線。
OpenAI表示，ChatGPT原本就禁止協助使用者從事暴力行為，也不會協助青少年取得武器。新規定更進一步：18歲以下使用者，即使對話沒有任何暴力意圖跡象，ChatGPT也會限制提供可能遭濫用暴力行為的武器與保全系統實用資訊。但青少年仍可尋求ChatGPT預防或化解衝突的協助、取得支援，或與可信任的成年人聯絡。
OpenAI也同步強化所有使用者的規範。若對話顯示使用者反覆聚焦暴力，或表達重傷他人的意圖，ChatGPT可能自動結束對話；多次對話遭中斷者，帳號可能暫時停權。重建過去大規模攻擊事件後，包括用過武器裝備、取得方式，以及可能放大攻擊者知名度的傷亡規模比較，ChatGPT都會限制回答細節。
年齡辨識方面，OpenAI改良年齡預測系統，辨識可能未滿18歲的使用者，並將符合條件的帳號自動轉入青少年版ChatGPT。若青少年帳號因反覆討論暴力遭暫停，系統也會通知家長。這項機制將與OpenAI去年推出的家長監護功能並行，能在連結青少年帳號違反暴力相關政策時通知家長。
OpenAI近年因青少年安全議題承受不小壓力。去年遭提告造成不當死亡，執行長Sam Altman今年也因未將加拿大Tumbler Ridge槍擊案嫌犯的可疑對話紀錄通報警方而公開道歉。非營利組織Common Sense Media日前亦發表報告，批評青少年版ChatGPT遇到涉及自殺或自我傷害的對話卻未通知家長。
OpenAI表示，2027年初將發表首份社群安全報告，之後每半年更新一次，防護措施也會持續改進。
OpenAI to limit weapons information for teens on ChatGPT in violence-prevention push
ChatGPT to teenagers: We will not answer your queries, how harmless they may be, if you ask about…
（首圖來源：Unsplash）