美政府啟用Anthropic Mythos 稽核政府程式碼揪出資安漏洞
美國網路安全暨基礎設施安全局(CISA)近來多了一位特殊稽核員,不是人類專家,而是Anthropic研發的AI模型Mythos。根據《Reuters》獨家報導,三名知情人士透露,美國政府正利用 Mythos 掃描政府程式碼儲存庫,尋找可能遭外國間諜或網路犯罪分子利用的安全漏洞。這項計畫已投入運作,稽核已發現大量漏洞。,只是相關細節尚未公開。
CISA 啟動AI程式碼稽核 報導指出,這項掃描工作由 CISA 旗下的「攻擊面評估團隊」(Attack Surface Evaluation)負責。該團隊長期執行政府機關的數位安全評估與滲透測試,如今進一步導入 Anthropic 的 Mythos,直接分析政府程式碼儲存庫,尋找可能成為攻擊入口的程式缺陷。
兩名消息人士表示,稽核過程已找到大量漏洞。不過尚無法確認目前完成多少政府程式碼掃描,也無法確認漏洞種類、嚴重程度或是否已完成修補。Anthropic 未回應相關詢問,CISA 發言人曾於上月表示將確認是否有資訊可以分享,後續未再回覆媒體提問。
Anthropic、白宮一度對立 Mythos 獲國安機構採用 Anthropic 與美國政府的關係近幾個月歷經明顯轉折。報導指出,Anthropic 已秘密遞交美國公開募股(IPO)申請文件,卻在今年 2 月因拒絕移除 AI 防護措施而與政府爆發衝突。當時 Anthropic 堅持禁止模型用於自主武器與國內監控,美國國防部隨後將 Anthropic 列為正式供應鏈風險對象,這項措施過去多半用於涉及間諜疑慮的外國企業。
法院於 3 月阻止這項黑名單措施,Mythos 私下發布後,雙方關係也逐漸緩和。知情人士表示,Mythos 特別擅長找出並驗證漏洞,成為政府資安工作的重要工具。
NSA早已測試 Mythos 除了 CISA,《Axios》先前報導,美國國家安全局(NSA)早在 4 月便開始使用 Mythos,即使當時 Anthropic 仍被列為供應鏈風險對象。《紐約時報》也於上月底報導,NSA 分析師已在機密環境測試 Mythos,並對模型能力留下深刻印象。
Anthropic 隨後推出公開版 Fable 5,並加入官方所稱的網路安全防護機制。報導指出,白宮於今年 6 月 12 日要求 Anthropic 禁止外國人士使用 Fable 模型,導致模型一度在全球停止服務,直到上週才恢復。針對相關報導,NSA 與白宮均未立即回應置評請求。