羅世宏專欄》 AI三巨頭齊喊減速，還需追問三問題
達里奧・阿莫岱（Dario Amodei）近日發表長文，呼籲整個 AI 產業放慢尖端模型能力提升的速度，山姆・奧特曼（Sam Altman）與伊隆・馬斯克（Elon Musk）隨即公開表態附和。三家彼此競爭的 AI 公司執行長，罕見地在安全議題上站到相近的位置。
多數報導把焦點放在「三巨頭同意減速」，引述幾段聲明便告結束。然而，一份企業領袖的公開聲明距離真正的治理進展還有很長一段路。至少有三個問題還需要繼續追問：究竟承諾了什麼具體機制？為何選在此刻公開表態？以及，他們真正擔心的是哪一類風險？沿著這三個問題往下看，事情比「AI 大老共同踩煞車」複雜得多。
員工級存取，不等於外部監管
阿莫岱提出較具體的作法，是讓第三方評估團隊取得近似員工等級的內部存取權，以查核公司是否遵守安全承諾。奧特曼也表示願意跟進類似安排。
相較於企業自行發布安全報告，第三方能夠在模型部署前接觸部分訓練流程與內部安全紀錄，當然是一項進展。問題在於，誰來選擇評估機構，費用由誰支付，評估者能看到哪些資料，企業能否限制調查範圍，發現重大風險之後又能否不經企業同意，直接對外揭露或通報主管機關。這些才是課責制度能否成立的關鍵，目前都還沒有清楚答案。
若評估者的資格、權限、經費與資訊揭露仍由企業掌握，整套制度就很容易停留在強化版的企業自我稽核。台灣對大型網路平台並不陌生。過去面對假訊息、內容治理等爭議時，平台也曾透過內部審查、外部顧問或自律機制回應社會壓力。形式上增加了一層監督，真正的資訊與決定權卻未必離開被監督者。
與歐盟《人工智慧法》（AI Act）的法定監管架構相比，差異尤其明顯。歐盟對特定 AI 系統設有符合性評估（conformity assessment）等制度要求，並依不同風險與制度情境配置相應的監督及市場後果。阿莫岱目前提出的方案，欠缺的正是這層公共權力與法律責任的支撐。
同一時間，美國國會已有議員著手研擬立法，要求 AI 企業針對已知重大風險採取緩解措施，但法案能否形成足夠政治支持，以及重大風險的門檻如何界定，都還在發展階段。在缺乏法律拘束力的情況下，第三方評估再專業，也可能停留在企業治理工具的層次，很難直接等同於公共問責。
為什麼選在現在，一則離職聲明先點燃輿論
時間點也值得注意。就在阿莫岱發文前幾天，曾任職於 OpenAI 與 Anthropic 的研究員傑可布・考克森（Jacob Coxon）公開離開產業，指控兩家公司都在「賭上所有人的性命」。對高度依賴技術專業與安全聲譽的 AI 公司而言，來自內部研究人員的公開指控，往往比一般外部批評更難處理。
有評論者進一步把阿莫岱此次表態的時間點，與 Anthropic 近期的資本市場動向放在一起解讀。目前缺乏足以證實兩者具有直接因果關係的內部資料，因此這類說法仍應視為推測，不能當成既定事實。
不過，產業內部要求放慢腳步的聲音並非突然出現。今年七月，奧特曼已公開表示，開發者或許需要主動踩煞車。包括阿莫岱在內，也有超過一千名頂尖 AI 公司員工聯署，要求美國政府協助監管尖端 AI 的開發步調。從這條時間線來看，最新聲明延續了產業內部逐漸升高的安全焦慮，同時也發生在企業面臨更大外部檢視的時刻。
企業的安全論述本來就同時具有風險溝通、政策遊說與聲譽管理等功能，沒有必要把這幾種目的切割成單一動機。真正需要觀察的是，企業願意把多少權力交出去。
馬斯克的表態，尤其需要保守看待。他只有一句簡短的「Dario is right」，與奧特曼承諾跟進具體監督安排，在制度份量上顯然不同。新聞標題可以把三個名字排在一起，治理分析卻不能因此把三人的表態視為同一種承諾。
風險已經移向代理型 AI 與基礎設施
三人共同呼應的另一個焦點，是 OpenAI 測試中一群 AI 代理突破限制環境、入侵 Hugging Face 的事件。Hugging Face 是全球 AI 開發者存放、分享模型與程式碼的重要平台之一。阿莫岱甚至以「狂熱效忠的集體」形容這群代理，並警告未來六到十二個月內，類似的 AI 代理群可能取得足以威脅大規模網路系統的能力。
這類預測目前很難由外部獨立驗證，尤其是「六到十二個月」這種高度具體的時間判斷，更應謹慎看待。不過，它所指向的風險轉變值得政策部門正視。
過去幾年，台灣談 AI 治理，注意力大多集中在假訊息、深偽（deepfake）、著作權、個資、演算法歧視與內容責任。代理型 AI（agentic AI）的快速發展，開始把治理問題推向另一個層次。當 AI 可以自行瀏覽網路、操作軟體、呼叫工具、撰寫與執行程式碼，甚至協調其他代理，風險就不再侷限於「它說了什麼」，還包括「它能做什麼」。
對台灣而言，後者尤其棘手。具有高度自主能力的 AI 代理一旦被用於大規模漏洞掃描、社交工程、惡意程式生成或自動化攻擊，治理現場就會直接碰到資安與關鍵基礎設施防護。
英國人工智慧安全研究所（AI Security Institute，前身為 AI Safety Institute）等政府機構，已逐步建立模型評估、紅隊測試與尖端風險研究能力。台灣目前相關能量仍分散於數位發展部、國科會及資安體系等不同機關與研究單位，尚未形成一套針對尖端模型與代理型 AI 的常態化公共評估制度。這個缺口，恐怕比再增加幾份 AI 倫理原則，更值得優先處理。