劍橋研究：恐怖組織將ChatGPT、Claude納入作戰 AI濫用風險升高
隨著生成式AI快速發展，恐怖組織濫用人工智慧的風險也日益受到關注。根據《紐約時報》報導，英國劍橋大學最新研究發現，奈及利亞極端組織「博科聖地」（Boko Haram）近年已將AI聊天機器人廣泛應用於戰術規劃、武器維修及作戰分析，顯示AI正逐漸從宣傳工具，演變為協助恐怖組織執行作戰任務的工具。
研究團隊過去一年訪談27名前博科聖地成員，發現組織內部已設有專責AI人員，利用ChatGPT、Claude、Gemini、Grok及DeepSeek等生成式AI模型，協助整理公開資訊、分析戰術及支援作戰決策。研究指出，AI已被運用於任務準備、行動執行及事後檢討等不同階段，而非僅用於宣傳、翻譯或招募等用途。
研究也發現，相關成員會交叉使用不同AI平台，比較各模型回覆內容，並嘗試繞過平台安全限制，以取得原本受限制的回應。研究人員認為，這反映極端組織已逐步建立系統化的AI使用模式，而非零星個人行為。
對此，多家AI業者均強調，其產品禁止用於暴力或恐怖活動，並設有安全防護機制。Anthropic表示，Claude設計上會拒絕涉及攻擊規劃及暴力內容的請求；OpenAI則指出，濫用平台從事暴力行為違反使用政策，公司將持續強化防護措施；Google也表示，Gemini設有嚴格政策，防止模型造成現實世界危害。
不過，研究人員認為，目前AI安全機制仍存在被繞過的風險。非營利組織Tech Against Terrorism近期測試多款主流AI模型後發現，面對取材自真實恐怖主義案例的測試提問，各模型並非都能穩定拒絕回應，顯示現行防護措施仍有改善空間。
研究指出，AI目前仍不足以徹底改變恐怖組織的運作模式，也無法取代組織運作所需的人力、資金及實戰經驗，但可能降低部分技術門檻，提升低階成員的行動能力。專家呼籲，政府、AI企業及研究機構應加強合作，持續改善模型安全設計，並建立更完善的資訊共享與風險評估機制，以降低AI遭惡意利用的可能性。