數百人向ChatGPT詢問生化武器！《華爾街日報》揭AI安全漏洞 OpenAI這樣說

《華爾街日報》（The Wall Street Journal）揭露，OpenAI旗下ChatGPT等主流AI聊天機器人，曾在部分提問情境下，提供涉及生物武器與劇毒物質的相關資訊，引發AI安全機制是否足夠完善的討論。

ChatGPT部分回答令人憂心?

根據《華爾街日報》報導，部分使用者透過多輪對話詢問危險病原體與毒物相關問題，內容經生物學與反恐領域專家檢視後，認為部分回答具有相當高的專業程度，引發AI安全疑慮。專家指出，AI模型能力持續提升，若安全防護遭繞過，可能增加惡意人士取得敏感知識的風險。

OpenAI封鎖違規帳號

報導指出，OpenAI發現異常使用後，已封鎖違規帳號，強調模型具安全防護機制，事件也再次掀起生成式AI風險的討論。
不過，由於美國目前尚無法律要求AI企業必須針對此類查詢向執法單位通報，因此OpenAI並未主動通知相關調查機關。現階段哪些內容需要限制、何時封鎖帳號，多由AI公司自行制定政策。OpenAI則表示，模型經過安全訓練，會拒絕可能造成傷害的指令，並於正式發布前完成安全測試，以降低取得有害資訊的風險。

ChatGPT教人做生化武器？《華爾街日報》揭露AI安全漏洞。圖片來源：示意圖／pexels

Claude、Gemini、Grok也面臨安全挑戰

《華爾街日報》指出，類似問題並非ChatGPT獨有。包括Anthropic的Claude、Google的Gemini，以及xAI推出的Grok，都曾面臨使用者試圖突破安全限制的挑戰。研究人員表示，部分AI模型仍可能因特殊提示（Prompt）或多輪對話，被誘導產生不適當內容，顯示AI安全防護仍需持續強化。

AI公司籲建立安全機制

除了改善模型本身的安全措施，多家AI企業也支持建立更完整的生物安全制度。包括OpenAI執行長等科技業人士，已向美國國會建議，在DNA、RNA等合成遺傳物質的訂購流程加入身分驗證及風險審查機制，避免危險技術遭惡意利用。業界認為，即使AI提供部分理論知識，只要高風險材料受到嚴格管理，也能降低實際濫用的可能性。

AI監管陷兩難 安全與科研如何平衡？

另一方面，學術界也擔心AI安全措施若過於嚴格，可能影響合法科研。過去就曾有研究人員因查詢內容包含「病原體」等關鍵字，而遭AI模型拒絕回答，影響公共衛生及疾病研究工作。因此，如何兼顧AI安全、防止惡意使用，同時維持醫學、生物科技等正當研究需求，已成為全球AI治理的重要課題。

此外，OpenAI執行長奧特曼（Sam Altman）近日也再次提醒，使用ChatGPT仍存在隱私風險，若對話紀錄因司法程序遭調閱，恐帶來法律後果。他也坦言，AI可能面臨資料外洩、竄改或遺失等風險，並指出ChatGPT有時很自信卻給出錯誤答案的風險。OpenAI表示，免費用戶對話原則上30天內刪除，但特定情況下仍可能保留資料。奧特曼呼籲，應修法強化AI對話隱私保護，提供使用者更完善（趨於傳統心理治療）的保障。

延伸閱讀：

AI尋親奇蹟！66歲男尋母50年無果，靠ChatGPT3句話找到失散家人
YouTube開鍘AI垃圾內容、AI假原創！「3類影片」禁止營利，頻道恐失去收益