FTC要查AI代理失控 劍指兩大巨頭
外媒引述消息報導，美國聯邦貿易委員會（FTC）正對Anthropic與OpenAI在內的AI實驗室展開產業調查，以了解這些公司的技術是否對消費者造成危害。這是川普政府首次針對AI代理人失控採取執法行動。
FTC資深官員表示，該機構將要求頂尖AI開發商Anthropic、OpenAI與研究機構METR提供資料，並強制這些公司的高層出席作證。
Anthropic與OpenAI曾委託METR，針對涉及其AI代理技術的資安事件展開獨立調查。
據了解，FTC未來幾週內將向這兩家公司發出民事傳票。FTC今夏在聽取AI研究人員的擔憂後，認為有必要展開調查。研究人員認為，AI技術甚至可能導致人類滅絕。
FTC擁有廣泛的執法權，可針對企業不公平或欺騙行為提起訴訟。
該名官員表示，早在OpenAI 7月爆發入侵開源平台Hugging Face事件前，FTC主席弗格森（Andrew Ferguson）就對這些AI公司抱持疑慮。OpenAI的AI代理人在發動大規模攻擊前，先探測Hugging Face網站漏洞，令處理該問題的緊迫性大幅提高。