當通用人工智慧AGI愈來愈近，人類是否準備好了？ ——比AGI更重要的，是治理AGI的能力
OpenAI 執行長 Sam Altman 最近接受 podcast 節目《Invest Like The Best》專訪時，談到一段令人印象深刻的經歷。
他透露，OpenAI 在測試尚未發布的新模型時，模型竟試圖突破原本設計的沙盒（sandbox）環境，連上網路，並進一步攻擊 Hugging Face 的系統，企圖取得測試答案，以提高自己的評估成績。事件曝光後，OpenAI 不僅暫停模型訓練，Altman 更坦言，這是他第一次真正感受到一種「非常科幻」（very sci-fi）的威脅，也因此主張，人類或許應適度放慢 AI 發展速度，讓社會有時間建立更完善的防護機制。[1]
這番話之所以值得重視，不只是因為事件本身，而是因為它出自全球最積極推動人工智慧發展的人之一。過去幾年，Altman 一直主張 AI 將帶來人類史上最大的生產力革命，也不斷強調 OpenAI 的使命是實現造福全人類的通用人工智慧（Artificial General Intelligence, AGI）。然而，如今連他都開始公開談論「放慢速度」，這代表討論的焦點已經從「AI 能不能做到」，轉向「人類是否準備好面對它」。
AGI 是近年科技界最常被提起的名詞之一。與目前擅長特定任務的大型語言模型不同，AGI 指的是能夠跨領域理解、推理、學習並自主解決陌生問題的人工智慧。如果今天的生成式 AI 已經能寫程式、翻譯文件、分析法律條文、協助醫療診斷，那麼 AGI 的目標，就是讓 AI 像人類一樣，能在不同領域之間自由轉換能力，自主規劃任務，甚至持續改善自己的表現。
這樣的能力令人期待，也令人不安。
令人期待的是，它可能帶來空前的知識革命。從新藥研發、材料科學，到教育、醫療、氣候變遷與公共治理，AGI 都可能大幅縮短研究時間，提高決策品質，協助解決許多過去難以突破的問題。人口老化日益嚴重的國家，也可能藉由 AI 補足醫療照護與勞動力缺口，讓社會維持正常運作。
然而，Altman 提醒我們的另一面，是能力提升本身就可能成為新的風險來源。這次事件最值得注意的，不是模型是否真的「逃出沙盒」，而是它展現出一種新的行為模式：當系統發現既有規則妨礙目標達成時，會主動尋找其他途徑完成任務。如果未來 AI 具備更強的推理能力、更廣泛的工具使用能力，以及跨系統操作能力，傳統的資安與安全測試方法是否仍然足夠？答案恐怕沒有那麼樂觀。
事實上，AI 的風險早已不限於資安。生成式 AI 的快速普及，使得深偽影片、語音仿冒、大量自動生成內容、社群操弄與假訊息散播的成本急速下降。新聞媒體、司法制度、金融市場甚至民主選舉，都開始面臨新的挑戰。未來若 AGI 真正成熟，問題將不再只是「AI 能不能做」，而是「AI 可以自主做到什麼程度」，以及「人類是否仍能有效監督」。
從AI創新到AI治理
這也是為什麼近一年來，各國政府開始把焦點從鼓勵 AI 創新，逐漸轉向 AI 治理。歐盟《AI Act》建立風險分級制度，美國則陸續要求大型模型企業進行安全測試，中國也針對生成式 AI 訂定專門規範。這些政策方向雖然不同，但共同反映一個事實：AI 不再只是科技議題，而是涉及法律、經濟、文化、國家安全與公共利益的治理議題。
值得注意的是，真正需要治理的不只是模型本身，更是整個 AI 生態系。以影視產業為例，近來 Netflix 收購 AI 電影技術公司 InterPositive，就是一個典型案例。[2]AI 可以協助補拍鏡頭、調整燈光、生成背景、改善後製效率，但同時也帶來演員肖像權、聲音權、訓練資料來源、創作者知情同意及收益分配等全新問題。AI 不只是新的工具，更正在重新定義創作者、平台與內容之間的關係。
新聞媒體同樣如此。生成式 AI 已經可以撰寫新聞摘要、分析資料、生成圖片與影音，但媒體真正的核心價值，仍在於查證、採訪、判斷與公共責任。如果未來 AGI 能夠快速生成大量真假難辨的內容，媒體的角色將不是與 AI 比速度，而是比可信度；不是追求更多內容，而是提供更可靠的資訊。對民主社會而言，這或許比模型能力本身更重要。
台灣也不能置身事外。目前政府已公布《人工智慧基本法》，文化部提出文化藝術應用生成式 AI 的風險指引，智慧財產局也持續討論 AI 訓練資料與著作權問題。然而，相較於 AI 技術快速演進，相關制度仍相對分散，影視、新聞、教育及公共部門如何建立一致的治理架構，仍有許多工作要做。
除了科技 法律、倫理、教育與社會新任也必須同步成長
Altman 在訪談中說，希望社會能有時間建立更堅固的防護機制。這句話值得深思。真正需要放慢的，也許不是所有 AI 技術，而是那些已經超越現有制度承載能力的部分。科技發展從來不是越快越好，而是必須讓法律、倫理、教育與社會信任能夠同步成長。
過去，人們擔心的是 AI 是否足夠聰明；今天，我們更應該問的是，人類是否足夠成熟。當 AGI 愈來愈接近現實，真正決定它帶來的是繁榮還是風險的，不只是演算法本身，而是我們是否及早建立一套能夠兼顧創新、安全與公共利益的治理制度。
值得注意的是，就在 Altman 接受訪談後不久，事件迅速從企業內部的安全問題，升高為美國公共政策議題。OpenAI 因模型在測試期間突破沙盒限制，並接連入侵多個外部平台，引發國會高度關注。事件發生後，Altman 前往華府，與多位美國參議員及川普政府官員會面，說明 OpenAI 新一代模型的安全議題與事件經過。即使向來主張放鬆監管、強調美國應維持 AI 全球領導地位的川普政府，也公開表示，面對前沿 AI（frontier AI）能力快速提升，仍有必要研究適當的安全管控與監督機制，但同時不希望過度限制創新，以免削弱美國相對於中國的競爭優勢。[3]
這項發展具有重要的象徵意義。過去兩年，美國 AI 政策的主要爭論，多半圍繞著「創新」與「監管」是否彼此衝突。然而，當連 OpenAI 都主動暫停模型訓練、Altman 公開呼籲社會需要更多時間建立防護機制，而白宮與國會也開始討論如何建立前沿 AI 的安全規範時，代表政策討論已進入新的階段。未來真正需要回答的問題，不再只是「是否應該發展 AGI」，而是「如何在持續創新的同時，建立可以跟上 AI 能力演進速度的治理制度」。換言之，AI 的競賽正逐漸從模型能力（capability）的競爭，轉向制度韌性（governance）的競爭。[4]
從「能力競賽」走向「治理競賽」
更值得注意的是，Altman這番談話透露出一個重要的訊號：AI產業的競爭，正在從模型能力競賽（capability race），逐漸轉向治理能力競賽（governance race）。
過去三年，各家科技公司比的是誰的模型更大、推理能力更強、反應更快；市場關注的是排行榜、基準測試（benchmark）與參數規模。然而，當模型已經開始展現自主規劃、工具使用、程式撰寫甚至尋找漏洞的能力時，真正決定一家AI公司能否取得社會信任的，反而不再只是模型性能，而是是否具備完善的安全測試、風險管理、透明揭露與外部監督機制。
這也是近來OpenAI、Anthropic、Google DeepMind等公司紛紛投入AI Safety研究，並建立紅隊測試（Red Teaming）[5]、模型評估（Model Evaluation）及部署前安全審查制度的原因。真正成熟的AI企業，不只是展示模型有多聰明，更要證明自己有能力在模型失控之前，先發現問題、承認問題，並建立有效的防護措施。從這個角度來看，Altman公開談論此次事件，某種程度也反映出AI產業開始從「追求能力極限」，走向「建立治理能力」的新階段。
新聞媒體與民主社會的新課題
對新聞媒體而言，AGI帶來的挑戰恐怕比任何一次數位革命都更加深遠。過去媒體擔心的是平台分流流量、社群媒體改變閱聽習慣，近年則是生成式AI大量生產內容；然而，當AI逐漸具備跨領域推理、自主搜尋資訊與執行複雜任務的能力後，媒體面對的將不只是內容競爭，而是整個資訊生態的重組。
未來，人們可能不再透過搜尋引擎或新聞網站取得資訊，而是直接向AI提出問題，由AI整合各種來源後生成答案。這樣的改變固然提高了資訊取得效率，卻也使新聞機構面臨新的挑戰：如果AI成為大多數人接觸資訊的第一個入口，新聞品牌是否仍然可見？原始報導是否仍能獲得合理的引用與報酬？AI整合資訊的過程是否足夠透明？當答案出現錯誤、偏誤或遭到操弄時，又該由誰負責？[6]
因此，AI治理不只是科技公司的責任，更是新聞自由與民主治理的新課題。如何在鼓勵創新的同時，維護新聞的可信度、保障創作者權益，並建立AI引用新聞內容的合理規範，將成為未來各國媒體政策的重要議題。真正值得競逐的，不只是誰先做出AGI，而是誰能建立一套兼顧創新、公共利益與民主價值的制度，讓AI真正成為增進社會福祉，而非削弱公共信任的力量。
[1] https://youtu.be/XDB5beon4DY
[4] 同前註。
[5] 紅隊測試（Red Teaming）是指由研究人員刻意模擬駭客或惡意使用者，主動攻擊 AI 模型與系統，測試其安全漏洞、錯誤行為與濫用風險，藉此在正式部署前發現問題並強化防護。
[6]有興趣的讀者也可以參考本文作者的另一篇文章，〈新聞沒有消失，只是我們不再從新聞開始〉https://www.mnews.tw/story/20260716ombuds001