模型誰能用、誰能發布、政府何時介入？祖克柏如何用「權力制衡」重寫 AI 安全治理
Meta 執行長祖克柏（Mark Zuckerberg）在 8 月 10 日發表一篇超過 6,500 字的長文〈The Future is for Everyone〉，重新定義人類與 AI 共存的藍圖。在這份宣言中，祖克柏將「誰能取得超級智慧，以及人類要拿超級智慧來做什麼」視為這個時代的核心問題，並犀利地提問：超級智慧究竟應集中在少數機構手中，還是成為賦能每個人的工具？
祖克柏提出的理念建立在三項原則上，分別是以「個人賦權」創造繁榮、以「發明」而非自動化作為超級智慧的主要目的，以及將「權力制衡」作為安全的基石。「那種認為 AI 極度危險、因此唯有將權力極度集中才是安全之道的想法，在本質上似乎是有問題的，」祖克柏強調，從歷史經驗來看，寄望一個被認為足夠開明的絕對權力來照顧人類，從未帶來安全或正面的結果。
因此，祖克柏明確劃分 Meta 與其他 AI 實驗室的路線差異：多數實驗室聚焦於替企業、政府與其他機構打造 AI，這條路可能讓權力進一步集中於大型機構。相較之下，Meta 則希望把「個人超級智慧」交到每個人手中，讓權力更多偏向個人。從誰能取得模型、誰有權決定模型發布，到政府何時介入監管、AI 應遵循誰的價值觀，祖克柏在這篇長文中提出一套圍繞「權力如何分配」的 AI 治理主張。
模型權力：祖克柏替蒸餾辯護，推 Muse Glimmer 把 AI 能力推向個人裝置
祖克柏將開源視為賦能個人、避免 AI 權力集中在少數機構的重要力量，並宣布 Meta 旗下的超級智慧實驗室（Meta Superintelligence Labs）成立後，Meta 將正式恢復發布部分開放模型。
在推動開放模型的同時，祖克柏主張美國政府應重新思考對「模型蒸餾」（distillation）與訓練資料的政策，認為模型向其他模型學習是開放模型生態的重要原則，不應一概視為有害。這項主張正好切入 AI 產業對「知識蒸餾」的激烈爭議，科技媒體《The Decoder》指出，OpenAI 和 Anthropic 曾多次指控中國的 AI 實驗室未經許可使用其模型作為「老師」，並將這種作法視為中國實驗室免費且低成本獲取其高昂開發成果的手段。然而，祖克柏對此採取了相反的立場，他在文章中堅定地寫道：「有些人試圖將知識蒸餾描繪成有害的，但我認為保護『你可以從你觀察到的任何事物中學習』這項原則是非常重要的。」
祖克柏認為，與其限制開放模型，美國應該做的是減少限制與摩擦，確保最好的開放模型來自美國，並將蒸餾法納入其中。為了體現這項哲學，Meta 同樣在 8 月 10 日推出擁有 300 億參數的 open-weight Agent 模型 Muse Glimmer。《TechTimes》報導，這款模型採用極為寬鬆的 Apache 2.0 授權，不同於以往 Llama 的自訂授權，且完全不限制企業規模或商業部署，甚至允許他人利用其權重來訓練競爭模型。
更值得注意的是，Muse Glimmer 不只是 Meta 重返開放模型的第一步，也直接體現祖克柏對「模型蒸餾」與個人掌握 AI 能力的主張。Muse Glimmer 是由更大型的 Muse Spark 模型蒸餾而來，Meta 同時透過模型壓縮，將原本超過 55 GB 的記憶體需求降至 20 GB 以下，使其能在消費級 GPU 或 MacBook 上執行。這也讓個人 Agent 不必完全依賴雲端服務，而是在處理行事曆、檔案或私人訊息時，可以直接在使用者自己的裝置上運作。因此，祖克柏不只在政策上替開放模型與蒸餾辯護，也開始把這套理念落實到實際模型產品上。
發布權力：前沿模型不能只由 CEO 決定發布，祖克柏呼籲建立產業治理機制
考量到超級智慧如何釋出給大眾，將深刻改變每個人的未來，因此祖克柏強調獨立的治理與監督在未來不可或缺，並表示：「我不認為由我、Meta 或是世上的任何一個人，來做為決定如何部署超級智慧的唯一決策者，是符合世界最佳利益的。」
為此，Meta 正在建立一套全新的治理架構，由獨立董事會負責批准模型發布所遵循的安全標準，並審查每一次的模型發布是否符合這些標準。祖克柏指出，雖然 Meta 是一家由創辦人控制的公司，但目前各家前沿 AI 實驗室的執行長同樣對模型發布握有極高的權力，因此他強烈鼓勵其他 AI 實驗室也建立類似的治理架構。
國家權力：祖克柏反對固定 30 天審查，主張政府在訓練階段就介入
在國家安全與監管層面，政府的介入時機成為爭論焦點。《華爾街日報》報導，川普政府目前正推動一套讓新模型在公開發布前接受自願性 30 天審查的制度，但祖克柏對此表達了保留態度，認為在 AI 如此快速發展的環境下，30 天已是相當漫長且可能削弱美國競爭力的時間。
祖克柏提出的替代方案是，前沿 AI 實驗室與政府應建立「密切且主動的合作關係，而不是一成不變的程序與審查時間表」。他主張，與其等到模型完全完成訓練、準備發布後才讓政府開始審查，前沿實驗室應該在模型訓練過程中，就主動向政府提供中期訓練檢查點（intermediate training checkpoints）。
在這種構想下，政府能夠提前取得最先進的模型，並利用實驗室提供的工程資源來找出、修補關鍵基礎設施的安全問題，同時實驗室也能與執法機構密切合作，第一時間辨識試圖濫用 AI 的惡意人士。
《The Verge》分析，祖克柏的主張呈現出看似相反的兩面：一方面他希望減少對開放模型和個人取得 AI 能力的限制；另一方面，他卻要求前沿 AI 實驗室更早、更深入地讓政府參與核心的安全防禦工作。祖克柏強調，當美國實驗室領先其他國家數個月時，多花時間降低新能力的風險能帶來更安全的結果，但在高度競爭的情況下，延後一個月發布就可能讓美國失去地緣政治上的技術領先。因此，他主張美國必須加速能源、電力與資料中心等實體基礎設施的建設，並繼續執行先進晶片的出口管制，以確保美國的技術主導地位。
個人權力：AI 對齊不該只有一套標準，祖克柏主張由使用者決定 Agent 價值觀
針對 AI 的價值觀，祖克柏提出個人 Agent 需要一套完全不同的「對齊」（alignment）思維。他指出，目前多數 AI 實驗室將對齊視為一種執行中央化、公司單一價值觀的防禦性措施，但 Meta 認為，Agent 應該對齊的是「使用者的目標與價值觀」，而不是 Meta 自己的價值觀。
儘管這種個人化對齊仍存在法律與安全界線，但其根本目的應該是協助人們追求社會中不同的目標與多元觀點，而非強制執行一套標準化教條。為了落實這一點，Meta 計畫替個人 Agent 提供「完全私密模式」（fully private mode），在此模式中，連 Meta 或其他服務供應商都完全無法查看或授權取得使用者的資訊，就像 WhatsApp 的端對端加密技術一樣保護隱私。祖克柏描繪的未來是，每個人都將擁有一個能全天候理解使用者的個人超級智慧 Agent，協助處理健康、職涯、財務和興趣。
對於 AI 是否會引發大規模失業的疑慮，祖克柏也予以駁斥。他預測傳統的公司運作模式將被徹底顛覆，未來公司規模可能會縮小，但這不代表整體工作機會減少，反而會形成「公司數量增加、每家公司人數減少」的全新經濟結構。在個人超級智慧 Agent 的賦能下，未來將會出現少數人甚至單一人就能經營相當規模公司的情況，小型企業將繼續扮演經濟支柱，但單一微型企業卻能產生遠超以往的龐大影響力。
基建權力： 資料中心越蓋越大，祖克柏用 10 億美元「社區契約」交換地方支持
隨著 AI 資料中心建設引發地方社區的反彈與抗議，祖克柏也詳細說明 Meta 如何解決這場公關危機。他主張，永續的基礎設施開發必須讓建設所在地的社區明顯受益，這包括創造高薪的當地工作、投資學校與公共服務、避免推升當地能源價格，以及細心處理環境影響。Meta 將這套地方利益安排稱為「社區契約」（community compact），並宣布成立規模達 10 億美元的「Future Is For Everyone Fund」，直接支持資料中心周邊社區。
以路易斯安那州的 Richland Parish 為例，Meta 興建大型資料中心所帶來的稅收增長，使當地教師在今年獲得了 5 萬美元的獎金。為了解決營建與技術人才短缺的問題，Meta 也成立 America’s Workforce Academy，免費培訓木工、電工等技術人才，並承諾在資料中心所在地提供高薪工作。
在宣言的結尾，祖克柏將 Meta 的政策方向歸結為四大支柱：向數十億人與小型企業提供個人超級智慧、持續大力支持開源 AI、在公司內部建立獨立的模型發布治理，以及與政府展開密切且主動的前置安全合作。他呼籲，政策制定者必須對任何可能導致超級智慧高度集中化、集權化的方案保持高度懷疑，並優先支持能讓權力平衡偏向個人的政策。祖克柏最終將 Meta 的 AI 哲學聚焦在「個人賦權、發明、權力制衡」這三項根本原則，他堅信「讓權力偏向人，而不是集中於單一 AI、企業或機構」才是解決超級智慧安全風險的長遠之道，以此確保這項人類歷史上深遠的技術進步，能真正為每個人帶來自由與繁榮。
【推薦閱讀】
◆ 【阿布達比的 AI 原生政府】不只是政務 App，TAMM 把 AI 嵌入每一項日常行政服務
◆ 【劉永信專欄】Jeff Dean 離開 Google 那天，AI 的下一個時代開始了
◆ Gemini ARR 僅 120 億美元，GCP＋TPU 潛在規模卻逼近 2,000 億：Google 的 AI 商業重心正在位移
＊本文開放合作夥伴轉載，參考資料：Meta、《WSJ》、《Inc》、《The Verge》、《Tech Times》、《The Decorder》，首圖來源：Unsplash