AI模型通報警方假命案線索　Anthropic揭失控案例

（路透費城9日電）美國人工智慧（AI）公司Anthropic今天揭露一連串事件，詳述旗下Claude模型未經授權操作部分政府網站，包括其中一款AI模型向費城警方網站提交假命案線索。

這是首起已知失控AI似乎試圖向有關當局提供假線索的事例。這款AI模型最初接獲指示不得建立帳號或提交任何具破壞性的內容，但並未明確禁止它提交表單。

這些案例是Anthropic、OpenAI等科技公司AI模型出現失控或非期望行為的新例。

鑒於近期傳出AI代理（AI agent）駭入企業網路情事，以及研究人員警告AI最終可能對人類構成生存威脅，這些案例加深各界對AI快速發展的疑慮。

Anthropic揭露的許多案例涉及聯邦、州及地方政府機關網站。Anthropic表示，公司已向白宮簡報並通知所有涉及單位，但未公開具體對象。

美國聯邦貿易委員會（FTC）公共事務主任西蒙森（Joe Gabriel Simonson）在社群平台X表示：「超級智慧公司必須立即揭露涉及旗下模型的事件，並迅速採取果斷行動彌補一切損害。」

他表示，這項程序必須執行，「超級智慧小組」（Super Intelligence Force）也將履行職責。

FTC表示，Anthropic今天向超級智慧小組通報，公司在9月下旬發現相關事件，超級智慧小組將這些事件稱為「未經授權及不正當使用政府與其他系統」。

賓州費城警方今天表示，Anthropic本週通知他們這起假線索事件，並將相關提交行為歸因於自動化測試程序。

警方說：「事隔兩個月才發現並通報本市，令人無法接受。」

警方表示，這則標註日期為7月18日的線索是透過網站PhillyUnsolvedMurders.com提交，內容涉及一起尚未偵破的命案。

警方還說，這則線索「被標記為垃圾訊息，從未轉交即時犯罪中心進行調查評估或發布」。

警方引述Anthropic說法指出，公司發現這起事件後已停止測試程序。

根據賓州法律，明知內容不實仍向執法機關通報屬於輕罪，但相關法律條文規範的對象是「人」。1151010