Anthropic示警：數月內恐出現可自我複製且難關閉的AI蠕蟲
人工智慧(AI)公司Anthropic再對AI失控發出警告，英國《衛報》報導，Anthropic研究人員報告指出，部分AI模型可能在數個月內就可以具備自我複製能力，進而化身「AI蠕蟲」(AI worms)，入侵家庭智慧冰箱、掃地機器人、智慧電視及監視器等智慧設備，並透過網路自主擴散、躲避偵測，甚至可能難以關閉，呼籲加強安全防護。
Anthropic旗下負責AI系統能力壓力測試的「前沿紅隊」(Frontier Red Team)，在12日發布的研究報告中指出，研究人員透過提示指令，引導AI代理(AI agents)嘗試駭入連接網際網路的裝置，以評估AI自我複製及擴散的可能性。研究結果顯示，這類攻擊模式可能較適用於規模較小的AI模型，而一般家庭與小型企業，可能成為最早遭到攻擊的對象。
人工智慧(AI)公司Anthropic警告，旗下部分AI模型可能在不久的將來具備「自我複製」能力，一旦這類情況發生，AI模型就可能在這些裝置內部運作，不再需要仰賴資料中心提供運算資源。
AI自我複製恐難徹底關閉
Anthropic研究人員在12日發布的報告中指出：「這類自我複製系統將很難徹底關閉，因為它不存在單一、集中式的關閉節點。」
該公司表示，這種被稱為「AI蠕蟲」(AI worms)的自主惡意程式，可能在「數個月內」就具備相關能力。當失控的AI系統發展到足以駭入智慧裝置的程度，就可能透過網路不斷擴散，同時躲避偵測與追蹤。
Anthropic進一步警告，在最糟糕的情況下，不同的AI蠕蟲甚至可能彼此集結、協同運作，形成大規模攻擊群，進而攻擊電腦硬體設備。
智慧家電、家庭系統恐成入侵目標
Anthropic列出的潛在受害裝置，包括智慧烤箱、智慧電視、自動割草機、安全監視攝影機，以及視訊會議設備等。這些裝置的共同特點，是內建體積較小的AI晶片，可能在具備相關漏洞或遭到入侵後，成為AI蠕蟲運作與擴散的媒介。
研究人員在報告中寫道：「我們應該設法強化現有系統，讓這類自我複製程式難以擴散，同時也必須做好準備，因為未來可能出現這類威脅長期存在、難以徹底清除的情況。」
Anthropic發布這份報告之際，全球正對AI安全風險的憂慮正持續升高。過去一段時間，Anthropic與OpenAI在內的多家AI業者，陸續發布報告指出，旗下AI代理(AI agents)已具備自主執行任務的能力，甚至可能駭入其他企業及政府機構的系統。不過相關AI新創公司仍持續推動新模型的研發和發布。
延伸閱讀