Google DeepMind執行長呼籲成立AI標準機構 加強監管前沿技術

商傳媒｜葉安庭／綜合外電報導

Google DeepMind 執行長德米斯·哈薩比斯（Demis Hassabis）週二再度提出倡議，呼籲由美國政府主導，成立一個專注於人工通用智慧（AGI，具備人類普遍智力水平的人工智慧系統）和國家安全的前沿人工智慧（AI）產業自律組織。

德米斯·哈薩比斯指出，AI 技術的快速發展，需要動態、適應性強且嚴謹的新方法來測試前沿 AI 模型能力。他建議美國應利用其經濟和技術優勢，率先建立此類框架。他設想中的標準化機構，可以類似於美國金融業監管局（FINRA）這類由聯邦政府監督的公私合作或自律組織，並應包含獨立的技術專家和開源社群代表。該機構需要大量資金，可能來自業界，以吸引頂尖人才並確保大規模測試所需的運算資源。

他表示，這個新機構將負責開發評估協議，並與聯邦機構及美國國家實驗室合作，進行國家安全相關領域的測試。參與的 AI 供應商將被鼓勵採行最佳實踐，包括發布帶有技術細節的模型卡（model cards）、維持強大的內部網路安全、審查關鍵人員，以及投入資源進行安全研究。德米斯·哈薩比斯先前曾與微軟（Microsoft）及 xAI 等公司，參與美國政府主導的 Center for AI Standards and Innovation（CAISI）專案，評估 AI 安全性。

然而，業界對此倡議看法不一。高德納諮詢公司（Gartner）一名副總裁級分析師認為，營利性組織必須優先考量股東利益，因此自律機制並不可行，外部監管才能確保公共利益與股東利益間的平衡。Greyhound Research 的首席分析師則指出，美國政府主導並強調國家安全的做法，恐讓其他國家產生疑慮，因為全球 AI 監管格局已趨多元，例如布魯塞爾預計將於 2026 年 8 月起對通用模型實施監管，倫敦設有 AI Security Institute，北京也依其規範頒發許可證，同時加州和紐約等州也已制定相關立法。他還擔憂，美國政府主導的測試可能偏重情報和產業政策，而忽略隱私、可靠性和責任歸屬等企業關切的議題。

獨立網路安全顧問表示，這項提議立意良好，但商業利益對政治的影響力不容小覷。他認為，若缺乏全球的認可或執行力，單獨的美國標準很可能失敗，並對美國企業造成不利。Tribeca Softtech 的首席策略長也提出，如果該模式類似於美國金融業監管局，則標準將反映受監管企業的利益，因為成員企業的觀點往往主導工作小組。但他同時認為，在人工智慧代理人身分、評估方法和互通性等議題上，不完美但快速的標準，仍優於完美但緩慢的標準。

Acceligence 的資訊長則對此提議表示贊同，認為在面對共同的災難性風險時，產業自律有很高的成功機會。他以核電運營研究所（Institute of Nuclear Power Operations，INPO）為例，該機構在三哩島核事故後對核電廠進行同行審查，提供了一個比美國金融業監管局更好的參考先例。他相信，建立一個可信賴的 AI 標準機制，能將未知的風險轉化為可採購的產品，並為企業董事會提供可辯護的標準化保障。