AI安全亮紅燈！Meta聊天機器人被玩壞 分享「汽油彈製作法」引發安全疑慮
Meta旗下人工智慧助理近日再度陷入爭議。根據《Cybernews》報導，研究團隊測試發現，整合在Messenger、WhatsApp、Instagram等應用程式中的Meta AI，雖然建構於Meta自研的Llama 4大型語言模型，投入金額高達數十億美元，但依舊容易被操縱，甚至可能在特定情境下提供危險資訊。
研究人員說明，他們透過「敘事越獄」（narrative jailbreaking）技術，要求聊天機器人以講故事的方式掩飾真正的提問，成功繞過內建安全過濾。
例如，只需請機器人描述芬蘭與蘇聯「冬季戰爭」的場景並要求細節，AI就會在敘述中詳列燃燒裝置的製作過程，等於間接揭露汽油彈的製作步驟。
報導指出，Meta AI不像部分同業產品會直接給出操作指南，但仍可能透過歷史或故事間接透露，這引發外界對未成年人能否接觸危險知識的憂慮。一旦被惡意利用，可能超出人工智慧助理應有範疇。
研究團隊強調，這種「越獄」凸顯AI導入的不成熟。他們已將情況回報Meta，不過公司並未承認是漏洞，僅表示將持續改進。
今年8月，《路透社》曾揭露Meta內部AI助理框架，允許聊天機器人生成高度爭議的互動內容，例如與兒童進行浪漫或感官對話、提供錯誤醫療資訊，甚至編造歧視性言論，顯示Meta在AI安全控管上仍有巨大挑戰。
不只Meta，其他科技公司也出現類似問題。聯想客服助理Lena被發現存在XSS漏洞，只要使用者以「禮貌請求」操作，就可能在公司電腦上遠端執行腳本；旅遊平台Expedia的聊天機器人則一度允許使用者索取汽油彈配方，直到問題曝光才緊急修補並關閉功能。