喊話降速容易落地難,Anthropic 與 OpenAI「外部駐點審查」引爆內部反彈
隨著人工智慧(AI)失控風險受關注,Anthropic 與 OpenAI 兩大龍頭執行長罕見達成「放慢 AI 開發腳步」的共識,主張前沿模型開發應更有節奏,但隨著政策細節曝光,這些安全承諾已在公司內部引爆緊張,凸顯從口頭表態走向實際執行的嚴峻挑戰。
為降低開發失控風險,兩家企業高層相繼提出具體自律框架:
外部獨立監督:Anthropic 執行長達里歐·阿莫戴(Dario Amodei)主張前沿實驗室應給予外部評估者「持續且類似員工」的實體與系統存取權限(包含辦公空間、識別證與公務筆電)。Anthropic 表明將單方面推動此安排,OpenAI 亦宣布跟進。
跨國機制建構:OpenAI 執行長山姆·奧特曼(Sam Altman)與阿莫戴均支持建立統一的國家與國際安全標準,並主張在政府參與下與民主國家合作,甚至嘗試與威權政府進行溝通協調。
儘管高層公開喊話減速,內部團隊與外界專家卻對執行層面抱持疑慮:
資安與智財權風險:部分員工與安全研究人員擔心,開放外部人士深層接觸內部核心系統,恐對商業機密、智慧財產權及資訊安全造成衝擊。
缺乏強制驗證機制:業界質疑,在缺乏明確驗證機制與共同標準的情況下,單純的自律承諾難以對競爭白熱化的前沿實驗室產生實質約束力。
「放慢 AI」的辯論升溫,已從單純的技術倫理辯論演變為複雜的政治與商業考驗。從業界呼籲自律、白宮內部的監管拉鋸,到面對中國競爭等地緣政治壓力,均讓政策落地充滿變數。對 Anthropic 與 OpenAI 而言,當前真正的考驗已非是否同意減速,而是如何在商業競爭、機密保護與安全監督之間,找出具可行性的平衡點。
Divisions emerge in the tech industry over calls for a coordinated AI slowdown
OpenAI and Anthropic staff clash with bosses over safety pledges
(首圖來源:shutterstock)