Anthropic執行長籲限制頂尖AI模型 開放權重恐釀Web3發展隱憂

商傳媒｜方承業／綜合外電報導

人工智慧公司Anthropic執行長達里奧·阿莫代（Dario Amodei）近日再次重申，釋出頂尖人工智慧模型（frontier AI model，指能力極強、接近或超越人類智慧的AI系統）的核心參數（即開放權重），並非如部分人士所稱，能更容易建立安全防護網。他強調，一旦這些模型的權重公開，將導致營運方失去撤銷存取、修補漏洞或監控使用情況的能力，可能帶來無法彌補的危害。

達里奧·阿莫代區分了小型開放模型與頂尖系統的差異。他承認，小型開放模型在研究和競爭上確實能帶來益處。然而，他特別擔憂的是那些能力強大、一旦釋出便可能造成嚴重損害的頂尖AI系統。早在2023年，達里奧·阿莫代便曾在美國參議院作證時指出，開放釋出先進AI模型是一條「危險的路徑」。

根據《Axios》7月22日的報導，Anthropic與OpenAI在對美國政策制定者的遊說上，立場趨於一致，共同警告中國（China）若釋出不受安全限制的強大開放權重模型，將可能導致潛在的敵對勢力取得西方公司刻意加以防護的AI能力。然而，美國監管機構目前認為，沒有足夠證據證明需要對開放權重模型實施廣泛限制，同時也肯定了維持小型模型開放所帶來的競爭與研究優勢。

這場開放權重與AI安全性之間的爭論，可能對去中心化人工智慧（decentralized AI）的發展產生深遠影響。如果達里奧·阿莫代的觀點最終獲得支持，導致頂尖AI模型受到發布限制，那麼相關的監管框架可能會影響未來Web3領域的去中心化AI專案。那些在區塊鏈基礎架構上建立開源AI的專案，將可能面臨直接的監管阻力。相反地，如果開放權重模型的倡導者勝出，且美國政府繼續保持目前的放任態度，則將印證開放存取強大技術能創造更多安全性的原則。

【提醒您】

加密資產價格波動劇烈，本文僅供參考，不構成投資建議