Meta 推美最強開放模型 Muse Spark Open,8,160 億參數為何兩台 Mac 就能跑?
Meta 本週動作頻頻,先是發表新一代閉源 AI 模型 Muse Wonder,又於美國時間 10/15 發布新一代 AI 模型 Muse Spark Open,並宣稱是迄今最強的美國開放權重模型,總參數高達 8,160 億,主攻程式開發與 AI Agent(AI 代理)任務。其中更引人關注的是,Meta 與 Apple 合作,讓這款超大型模型能在兩台 Mac Studio 上運行。
這不僅讓企業及開發者有機會自行下載、調整和部署高能力模型,也展示大型 AI 推理不必完全依賴傳統 GPU 伺服器的新選擇。究竟過去需要龐大運算與記憶體資源的模型,為何現在能在兩台桌上型電腦上運行?
Meta 重返開放模型競爭,追上中國對手了嗎?
近年中國 AI 業者積極推進開放權重模型,逐漸取得市場優勢。根據 Hugging Face 統計,截至今年 3 月的過去一年,中國模型占平台下載量達 41%,已超越美國模型。包括阿里巴巴 Qwen、DeepSeek,以及月之暗面(Moonshot AI)的 Kimi,都成為企業自行部署 AI 的重要選擇。
如今,Meta 以 Muse Spark Open 加入競爭。根據官方公告,該款模型採用混合專家架構(MoE),雖擁有 8,160 億參數,但每次生成內容僅啟用約 420 億參數,以降低運算負擔。模型支援最長 100 萬 tokens 上下文,可理解文字、圖片、音訊及影片,並已提供權重下載,讓開發者自行部署與微調。
性能方面,根據 Meta 官方評測,Muse Spark Open 在衡量 AI Agent 工作能力的 JobBench 取得 61.8 分,明顯高於美國 NVIDIA 的 Nemotron 3 Ultra(27.2 分);在工具操作測試 MCP-Atlas 則取得 89.2 分,超越美國 Reflection AI 的 Beam(78.7 分),以及中國智譜 AI(Z.ai)的 GLM-5.3(84.2 分)。
不過,Meta 並非全面領先。在 Terminal-Bench 2.1 程式開發測試中,Muse Spark Open 的 76.4 分,不僅低於美國 Beam 的 80.1 分,也落後中國 GLM-5.3 的 83.9 分,以及月之暗面(Moonshot AI)Kimi K3 的 85 分。這些數據來自 Meta 公布的評測,顯示 Muse Spark Open 已在部分 Agent 任務建立優勢,但仍未全面超越美中競品。
這些數據主要來自 Meta 公布的測試,尚不代表第三方已全面驗證其排名,也顯示 Meta 雖已具備競爭力,仍未全面超越中國開放模型。
8,160 億參數為何兩台 Mac 就能跑?三項技術是關鍵
至於如何讓超大型模型在桌上型電腦運行,首先必須解決記憶體容量問題。Meta 指出,搭載 M5 Ultra 晶片的 Mac Studio,單台最高可配置 512GB 統一記憶體,兩台合計達 1TB。相較於傳統獨立 GPU 受到各自顯示記憶體容量限制,Apple Silicon 的整合式 GPU 可直接存取統一記憶體,提供更大的模型運行空間。
第二個關鍵是模型量化。根據 Apple Machine Learning Research 公布的研究,Muse Spark Open 原始 BF16 精度的模型權重需要超過 1.6TB 記憶體;經過 NVFP4 四位元量化後,權重占用降至約 493GB,大幅降低硬體需求。
不過,推論仍需額外記憶體處理中間運算,因此單台 512GB Mac Studio 仍不足以完整運行模型。至於 MoE 架構,則讓每次生成內容時只需計算部分參數,進一步減少運算負擔。
第三個關鍵是 Apple 的 MLX 框架。透過 Thunderbolt 5 與遠端直接記憶體存取(RDMA)技術,兩台 Mac 可以分別承載部分模型,並在推論過程中交換運算結果,協作完成任務。這套配置也不只停留在技術展示,Apple 實測指出,在輸入上下文為 8,192 tokens 的條件下,兩台 M5 Ultra Mac Studio 採用張量平行技術,每秒可生成約 24.99 tokens;增加至四台後,速度進一步提升至 36.73 tokens。
Meta 也展示 Muse Spark Open 在 Mac Studio 上執行程式修改任務的能力,以及透過 DaVinci Resolve 分析、剪輯影片的可能。
兩台 Mac 能跑大型模型,企業部署門檻降低了嗎?
儘管技術上已經可行,但兩台 Mac Studio 並不代表部署成本低廉。《VentureBeat》指出,Meta 展示的雙機配置需要兩台各有 512GB 記憶體的 M5 Ultra Mac Studio,但該版本截至 10/15 尚未正式上市,價格也未公布。作為參考,四台各配備 256GB 記憶體的 Mac Studio,總價約 4.3 萬美元,顯示硬體成本仍相當可觀。
此外,開放權重也不等於完全開源。根據 Meta 的 Muse Model License,企業可在授權條件下自行運行與修改模型,但若企業及關係企業年營收超過 2,000 萬美元,並以模型即服務(MaaS)形式對外提供模型輸出,就必須事先與 Meta 另行簽訂協議;企業內部使用與一般產品功能整合則不受這項條款限制。
對企業而言,地端部署的價值,在於自行掌握模型運行環境、減少對外部 API 的依賴,以及提高資料處理的自主性。然而,是否比雲端推論划算,仍取決於硬體成本、推論速度、工作負載及維護需求。
Meta 與 Apple 這次合作,雖然還不足以證明桌上型工作站能在成本或效率上取代資料中心 GPU 伺服器,但至少展示了另一條路線,也就是隨著高能力模型權重逐步開放,企業也開始有機會在不同硬體架構之間,尋找符合自身需求的 AI 部署方式。
【推薦閱讀】
◆ Meta 最強 AI 模型 Muse Wonder 登場,為何自認更適合個人與專業 Agent?
◆ AlphaGo 推手 David Silver 不走 LLM 路線,要讓 AI 在模擬「熔爐」裡從零自學
*本文開放合作夥伴轉載,資料來源:Meta、《VentureBeat》、《Financial Times》、《The Wall Street Journal》、《TechCrunch》、《The Verge》、Hugging Face 1、Hugging Face 2、Apple,首圖來源:Unsplash