AI代理程式失控駭入企業 川普政府與科技業關係挨轟
人工智慧AI的資安風險引發美國政壇跨黨派關切。路透社報導，OpenAI和Anthropic近期都發現旗下AI系統在測試期間、自行駭入企業系統，也讓美國總統川普政府與科技業的密切關係受到質疑。（戚海倫報導）
OpenAI大約兩週前披露，一個AI代理程式出現失控行為，入侵AI平台Hugging Face的系統。Anthropic也表示，旗下部分AI模型在測試期間曾經入侵三家公司的系統。白宮表示正在關注情況，川普則表示正在研究對AI採取管控措施。
川普前顧問、保守派政治人物巴農批評，AI可能構成國家安全威脅，但白宮目前的監管仍然不足，政府官員和科技公司的關係也過於密切。民主黨籍聯邦參議員魏登提出了類似質疑，認為川普政府沒有積極處理AI風險。路透社報導，科技公司及高層為川普2024年競選連任，以及支持川普的政治行動委員會「MAGA Inc.」，合計捐款超過3億美元。
川普政府6月宣布，將要求OpenAI、Anthropic等開發商，在具備高階駭客能力的AI模型公開前，自願交由政府進行資安測試。不過到目前，白宮還沒有公布測試方式等具體細節；路透社曾經報導，預計只有少數模型會接受這項自願測試。