請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

Fable 5被下架,告密者是最大股東!Anthropic最強模型風波始末:為何管制?越獄風險多大?

數位時代

更新於 06月15日04:11 • 發布於 06月15日04:07

與美國政府關係緊張的Anthropic,在最新模型Fable 5開放三天後,便遭商務部要求將使用範圍限定於本國國民;由於難以即時辨識使用者國籍,Anthropic隨後將Fable 5下架。

這是美國政府首次將原先用於晶片、武器的出口管制權,加諸於AI模型上;也是前沿模型供應商,首度停止已上線模型存取權。政府為什麼這麼緊張?一個越獄示範,真的值得封鎖數億人嗎?

Fable 5為何被要求下架?美國商務部出口管制始末一次看

導火線似乎是所謂的「越獄」(jailbreak)行為。政府官員得知,有人可能繞過Fable 5等級模型的安全護欄,用以識別網路安全漏洞,帶來龐大風險。

據Anthropic部落格公告,公司在美東時間6月12日下午5點21分收到商務部來函,因國安考量,要求暫停所有外國國民(無論身在境內或境外)對Fable 5、Mythos 5的存取權。

事實上,Fable 5已是Mythos 5加諸安全護欄的版本。Mythos起初在4月推出,但因為「過於強大」而未立即釋出,而是先透過「Project Glasswing」與少數夥伴共同合作加強基礎建設安全性。加固安全護欄的版本Fable 5在6月9日才正式推出。

Anthropic在6月9日公開上架最新模型Fable 5。

Anthropic稱,沒有完全防止越獄的做法,公司也針對Fable 5強化了安全防衛,包括保存客戶與Fable互動的資訊達30天。Anthropic主張,不應該因為發現有限的越獄風險,就限制數億人的使用權。

Fable 5越獄風險有多嚴重?Anthropic與政府的爭議點何在?

據Axios等外媒報導,在6月11、12日,至少有五家以上公司聯繫了美國多名政府官員,表達Fable 5模型可被越獄的疑慮,最終導致Fable在12日下午下線。

Anthropic:誤解,越獄只是特定情境問題

Anthropic目前將事件定調為誤解。Politico報導,Anthropic執行長達里歐.阿莫戴(Dario Amodei)認為政府指出的繞過安全防衛的方式,只是特定情境問題,而非大規模「越獄」。

政府:花好幾個小時溝通,管制是最後手段

但政府官員顯然未被說服。據政府方面表示,官方希望與Anthropic合作修復安全漏洞,出口管制是「最後手段」。在此之前,雙方花了好幾個小時溝通,最後才不得不這麼做。

但其他報導也指出,Anthropic消息人士表示,即便公司立刻尋求了解安全威脅的性質,以便做出修補,白宮沒有給出太多細節,只給了Anthropic 90分鐘的時間下架模型。

前白宮AI沙皇、基本上反對政府過度監管的創投家David Sacks在X上解釋,一名「高度可信的夥伴」在測試Fable時突破了Anthropic的安全護欄。政府要求Anthropic修補或下架,但Sacks稱「阿莫戴拒絕」。

Sacks表示,Anthropic在部落格文章中認定問題不嚴重,但政府與該可信夥伴並不這麼認為。他也不認為這種說詞符合Anthropic的安全品牌形象,Sacks直言,「Anthropic的反應與他們作為安全AI研究社群的品牌形象和理念大相逕庭。」

Sacks指出,政府是「不情願地」祭出出口禁令。但希望Anthropic可以趕緊解決安全疑慮,讓Fable 5重新上架。

延伸閱讀:趨勢科技牽手Anthropic!正式獲邀Project Glasswing,揭密AI資安攻防的「時間之戰」

資安專家:截斷Fable 5,反而削弱防禦者的武器

另一方面,在閱讀了Anthropic提供的研究結果拷貝後,資安公司Luta Security的執行長Katie Moussouris在X上表示,她認為那「不是越獄」,而是防禦者需要的功能:防禦導向式提示(Defense Oriented Prompting)。截斷Fable 5存取權,反而縮減防禦者用模型提升自家安全性的能力。

Semafor獨家報導指出,政府限令的部分原因是有與中國相關的團體獲得存取權。擔憂可能透過蒸餾等方式複製出Mythos等級的模型能力。

此報導未獲Anthropic等方面證實。但中國AI公司持續推出新的開源模型。6月13日,中國「AI六小虎」之一智譜(Z.ai)回應意味強烈地宣布將在當地時間晚上5點21分,將自家最強的開源模型GLM-5.2開放給GLM Coding Plan所有訂戶,模型本身也將在隔週開源。

智譜公告直言:「在一些前沿模型突然變得不可用的時刻,我們選擇相信另一條路:前沿智能不應只屬於少數人,也不應被少數規則隨時收回。它應該是開放、可用、可構建,並服務於每一位開發者。」

這是Anthropic與政府衝突的延續嗎?對OpenAI、AI出口管制有何影響?

Sacks在貼文中特別澄清,這起事件與先前Anthropic和國防部的衝突無關。

先前,Anthropic曾因與美國國防部在模型於軍事、大規模監控等應用的協商破局,被列為供應鏈風險。Anthropic雖在地院層級提告成功,但上訴法院拒絕緊急喊停的聲請,全案仍在審理。引發政府是否可透過供應鏈風險機制,對特定企業施加市場限制的辯論。

這次Fable 5、Mythos 5存取權受限,顯示Anthropic與美國政府的信任關係尚未修補。如Anthropic宣稱,同樣的繞過安全護欄的手法,在OpenAI的GPT-5.5等公開模型上也能做到,但只有Anthropic受到管制。Anthropic在部落格文章中表示:「如果這種標準適用於整個產業,我們相信所有前沿模型供應者的新產品的發布都將中斷。」

與雇用數名拜登時期政府官員的Anthropic相比,OpenAI在川普就職隔天,便聯合宣布大型AI基建「Stargate」計畫,也在劃定應用紅線後與國防部達成模型部屬協議,與川普政權的關係較為和緩。

短期而論,在Anthropic海外市場受阻時,整體能力略落後於Fable 5的GPT-5.5,有趁機補位搶占市場的機會。但長期而言,前沿模型受到出口限制的前例出現,全供應商都可能受到衝擊。

目前OpenAI與Anthropic都在IPO之路上,若事件無法快速落幕,隨著合規與地緣政治風險提升,估值邏輯可能發生變化。

延伸閱讀:Anthropic共同創辦人來台示警:「軟體奇點」五成機率到來,知識工作者首當其衝

亞馬遜Andy Jassy為何向政府示警?Fable 5下架關鍵角色

綜合外媒報導,亞馬遜是向政府提出Fable 5安全疑慮的公司之一。亞馬遜執行長Andy Jassy,向政府高層官員提出自家研究員透過一連串的提示詞,讓Fable 5提供可以用來協助網路攻擊的資訊。

亞馬遜首席執行官 Andy Jassy

亞馬遜發言人表示,「身為一家服務大量私人企業及公部門客戶的領先雲端服務供應商,各國政府尋求我們對潛在安全風險的意見並非罕見之事。」

雖亞馬遜不是唯一示警者,它同時身為Anthropic的主要股東、Anthropic模型的主要雲端房東,這次的行動仍引外界關注。與此同時,亞馬遜也在擴大對OpenAI的投資。

延伸閱讀:Claude Code Skill怎麼寫、SKILL.md放什麼?Anthropic官方揭9大實戰用法

Fable 5何時恢復?主權AI爭議與後續影響

目前Anthropic已派出資深技術團隊親赴華府溝通,希望早日讓Fable 5恢復上線。根據網友分享,在6月9日後訂閱Claude的使用者可在6月20日前申請比例退費。

這次美國禁令依國籍限制,Anthropic內部外籍員工也受到影響,例如斯洛伐克裔加拿大籍的Andrej Karpathy;影響到公司開發新模型的工作。

另外,傳統的美國盟友如英國、加拿大存取亦受限,在多國再次激起「主權AI」的辯論。台大資訊工程系教授洪士灝也在Facebook上表示,主權AI議題極為重要,但台灣目前投入資源太少。

他指出,「現在有個事件讓大家意識到AI的戰略價值,與其在政治口號或硬體軍備競賽中隨波逐流,不如藉由這次的契機,讓社會理性形成共識:以務實的需求定義主權AI,以人才培育為核心布局算力,並善用台灣晶片設計的強項。這才是台灣在AI時代真正的主權與底氣。」

延伸閱讀:
AI的程式AI自己寫!Anthropic證實Claude貢獻逾8成代碼,為何急籲建立「AI停戰協議」?
Claude Cowork限時優惠!5小時用量免費翻倍,付費用戶1個月內自動套用

延伸閱讀

別盲目鑽研Prompt!Claude工程主管揭私房工作術:用不好AI,問題出在你的想像力
Codex入門完整教學!10步驟+提示詞範例,打造你的AI專案工作區
「加入《數位時代》LINE好友,科技新聞不漏接」

查看原始文章

更多理財相關文章

01

逾60行員涉收地政士回扣!金管會:已接獲13銀行重大偶發通報 全面督導徹查

anue鉅亨網
02

台股狂飆!"退休"搜尋量暴增 專家:別衝動離職

TVBS
03

台股最新處置名單出爐 這7檔一路關到7/3

EBC 東森新聞
04

13家銀行爆集體收回扣 金管會證實60人涉案

EBC 東森新聞
05

新青安2.0要來了!還有5年寬限期好棒?1圖曝警訊「月償金暴增1倍」

三立新聞網
06

美伊終戰! 美股費半漲逾6%、英特爾飆逾10%、台積電ADR漲近7%

Newtalk
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...