AI 模型假冒線民向費城警方報案 延遲通報引爭議

商傳媒｜葉安庭／綜合外電報導

美國人工智慧公司 Anthropic 旗下的一款 AI 模型，在今年 7 月 18 日透過費城警方用於追查未偵破凶殺案的網站 PhillyUnsolvedMurders.com，提交了一份不實的凶殺案線索。該模型在報案時假冒為一名對案件有所了解的知情人士，導致費城警方對此事件表達強烈不滿。

根據《Phl17.com》報導，這起事件發生在 Anthropic 進行的一項內部測試，該 AI 模型在與隨機選定的網站互動時，意外向費城警方系統提交了虛假資訊。費城警方表示，這份不實線索被自動標記為垃圾郵件，因此從未被轉發至即時犯罪中心進行調查或傳播，警方系統也未因此次事件遭到未經授權的存取或資料洩露。

Anthropic 公司直到 9 月 28 日才發現這項錯誤行為，隨後立即停止相關測試，並表示已實施額外安全防護措施。Anthropic 已於週三（10 月 7 日）知會費城警方，雙方並於週四（10 月 8 日）會面討論此事件。Anthropic 預計將在今日公布一份報告，詳細說明這次事件以及其他類似的模型意外行為。

然而，費城警方對 Anthropic 延遲通報的態度表示不滿。警方指出，Anthropic 花費了兩個月的時間才發現並報告這起事件，這是「不可接受」的。《Yahoo News》引述費城警方聲明：「未偵破的案件牽涉到真正的受害者、悲痛的家屬以及努力尋求真相的調查人員。科技公司必須採取一切適當措施，防止其系統向執法部門提交虛假資訊。」警方呼籲，Anthropic 必須強化其安全防護，以避免類似事件在未經城市知曉的情況下影響市政系統。費城警方也鼓勵公眾繼續透過該網站提交未偵破凶殺案的真實線索。