Anthropic：AI模型可能很快無須資料中心即可自我複製

（路透舊金山12日電）美國人工智慧（AI）公司Anthropic今天說，實驗結果顯示，小型AI模型可能再過數月就具備在商用物聯網（IoT）裝置上自我複製的能力，例如智慧烤箱及白牌Android電視盒。

Anthropic在實驗中研究AI模型能否找到易受攻擊的裝置、將自身複製到這些裝置中，並在無須人類協助的情況下持續擴散。

Anthropic發現，參數量低於300億的小型模型能夠完成複製所需的多個步驟。

然而這家公司也發現，這類AI模型仍難以從頭到尾完成整個流程。

Anthropic在簡化測試中移除部分安全步驟後，發現GLM-5.2和能力更強的模型能夠端對端複製。

Anthropic警告，能夠複製的模型將難以關閉，因為沒有中央關閉點，而且與非AI惡意軟體不同的是，這些模型還能自行弄懂不熟悉的裝置，並以資料中心的處理器為目標。

這家公司研究聚焦在Android電視、智慧家電及其他連網裝置等物聯網裝置，這些裝置通常安全性較低。

Anthropic也警告，如果小型模型持續以過往速度進步，到了今年底就可能實現自主複製，而小型基於權重的複製器也可能很快跟進。

Anthropic也表示，這類自主AI系統很可能慢慢複製，並依賴容易取得、相對缺乏安全防護的運算資源。這家公司還說應強化系統安全防護，提高這類AI代理（AI agent）擴散的難度。中央社（翻譯）