OpenAI 已移除來自中國和北韓的特定使用者帳戶，他們被認為利用 OpenAI 的技術進行惡意行動，包括監控和影響輿論等。
OpenAI 一份報告指出，這些行動是威權政府利用 AI 對抗美國及其國民的手段。OpenAI 是利用 AI 工具偵測到這些行動，但未透露具體封鎖多少帳戶，以及這些行動究竟何時發生。
OpenAI 舉出一個案例，特定使用者利用 ChatGPT 生成西班牙語新聞文章，文中抹黑美國，並以一家中國公司的名義對拉丁美洲主流媒體發表。
另一個案例是，疑似與北韓有關的惡意人士利用 AI 生成假造的求職者履歷和個人線上檔案，企圖以詐騙手段獲得西方公司的職缺。
還有一批 ChatGPT 帳戶，似乎與柬埔寨的金融詐騙活動有關，他們利用 OpenAI 技術生成、翻譯評論，並在 X、Facebook 等社群平台散播。
OpenAI 開發的 ChatGPT 是受到全球使用者青睞的 AI 聊天機器人，每週活躍用戶數已有4 億，也有助於 AI 應用普及，深入人們生活。美國政府則對中國涉嫌利用 AI 控制人民、散播假訊息、破壞美國和盟友的安全表示擔憂。
（首圖來源：Unsplash）