限制資安防護功能 Anthropic公開版新AI模型上架
(路透舊金山9日電)在今年早些時候的預覽版因具備尋找軟體漏洞的能力而震驚全球後,Anthropic目前正推出其Mythos AI模型的公開版本,但設有防護欄以禁止其在網路安全等風險領域的使用。
這家新創公司今天表示,全新Claude Fable 5是Anthropic有史以來為更廣泛使用所打造的最強大模型,並吹捧其在軟體工程和數據分析方面的表現。
Anthropic在4月宣布Mythos發現了數千個軟體漏洞後,迄今為止一直將該模型的存取權限制在包括美國政府在內、參與「玻璃之翼計畫」(Glasswing)的約200個組織內。
將其功能更廣泛地提供給大眾,可能會讓這家市值9650億美元的公司得以延續其勢頭,這股勢頭已使其估值超越了競爭對手OpenAI,此時這兩家處於人工智慧產業核心的新創公司正競相準備上市。
該公司表示,已進行了廣泛的測試,以確保使用者無法操縱新模型來繞過其指南並執行受限的操作。中央社(翻譯)