美國以國安理由下令停用 Anthropic全面關閉Fable 5與Mythos 5
美國政府6月13日以國家安全為由,要求Anthropic暫停旗下最新模型Claude Fable 5與Mythos 5對所有外國人士的使用權限。Anthropic表示,由於無法即時區分使用者身分,為確保符合出口管制要求,公司已全面關閉兩款模型的存取權限,影響範圍涵蓋全球客戶與部分外籍員工。
Anthropic於聲明中指出,美國政府並未說明具體國安疑慮,但公司研判,相關措施可能與Fable 5遭發現存在潛在「越獄」(Jailbreak)技術有關。對此,Anthropic表示已檢視相關技術報告,發現所謂漏洞僅能找出少量已知且影響有限的軟體弱點,且其他公開AI模型同樣具備類似能力,並非Fable或Mythos系列獨有。
在安全防護立場上,Anthropic強調該公司在Fable 5上市前,已與美國政府、英國人工智慧安全研究所(UK AISI)及多個第三方機構合作,對模型進行總計數千小時的紅隊演練。Fable 5是以Mythos技術為基礎推出的公開版本,其網路安全與生物研究相關能力已受到嚴格限制,而Mythos 5則是非公開的完整版本,原本僅開放政府機構及少數企業夥伴使用,以協助保護關鍵軟體與基礎設施安全。
Anthropic強調,目前尚未發現能大規模繞過系統限制的「通用越獄」技術。公司認為,現階段任何AI業者都難以做到百分之百防範越獄攻擊,因此採取「縱深防禦」(defense in depth)策略,包括強化安全分類器、監控異常行為,以及要求Fable 5保留30天用戶資料,以便追蹤和修補潛在漏洞。
不過,Anthropic對政府決定表達異議。公司指出,若僅因單一、有限範圍的潛在越獄案例就要求下架已向數億用戶提供服務的商業模型,恐對整個AI產業造成重大衝擊。「若這項標準適用於所有業者,前沿AI模型的部署幾乎將全面停擺。」
近年來,美國政府持續強化對先進AI模型的監管。由於Mythos系列被視為具備前所未見的網路攻防能力,相關模型已成為美國AI監管討論的重要案例。Anthropic表示,正與政府積極溝通,希望儘速釐清爭議並恢復服務。