AI終止開關成熱門議題 一鍵關閉不易專家提晶片驗證
六十年前科幻電影裡的經典對白，講述太空人要求系統打開艙門，AI卻回應「抱歉，我恐怕做不到」，這句對白至今依然令人發涼。如今生成式AI迅速滲透企業運作與政府決策，這類「AI失控」的風險不再只是電影情節。「AI終止開關」已經從螢幕上的虛構設定，一躍成為全球科技圈最熱門的安全議題。
科技巨頭憂心權力失衡 緊急煞車構想應運而生
OpenAI創辦人奧特曼表示，真正令人擔憂的是部分開發AI的公司可能掌握過大權力，進而對經濟施加不當影響，甚至向社會灌輸特定價值觀，他認為全世界對此感到憂慮是合理的。特斯拉執行長馬斯克也公開提到，連打造AI的人都認為風險正在升高。加州眾議員劉雲平認為，當機器偏離軌道時，人類必須有能力把它關掉；AI治理與身分平台執行長拉賈馬尼也提到，設置AI終止開關絕對值得認真思考。這些言論讓替AI設置緊急煞車的構想，成為各方聚焦的重點。
龐大網絡遍布全球 一鍵關機面臨現實考驗
理想很豐滿，現實卻很骨感。AI早已不是單一電腦或一座機房，想像中能停止一切的紅色按鈕，在現實世界可能根本不存在。加州大學柏克萊分校AI中心負責人尼茨伯格指出，如果像Anthropic或OpenAI這樣超大規模資料中心只有一台巨型電腦，或者一個擁有數萬台電腦的資料中心，切斷電源確實可行。但無法為所有系統設定統一的斷電開關，原因很簡單，所有系統都是分散式的，運作於數萬台機器與數千個資料中心之間。
跨國標準搭配硬體晶片 授權碼成為防護新思維
既然一鍵關機並不切實際，部分專家開始把焦點轉向國際標準與硬體層面的防護機制。尼茨伯格補充提到，一種可能方式是建立共同標準與國際協調機制，因為在一個國家關閉系統，其他國家可能仍持續運作。理想情況下可以從硬體著手，讓每顆晶片都需要持續接收授權碼，一旦失去授權便停止運作。
預留後門恐引發新風險 萬靈丹說法引發質疑
然而也有專家認為，終止開關恐怕不是萬靈丹。AI軟體遍布全球，要求所有開發商預留後門，不只執行困難，更可能衍生新的治理風險。AI代理防護資訊公司執行長華納認為，建立AI控制機制方向正確，但不認為它能解決AI帶來的所有問題。要求成千上萬家軟體公司內建終止開關，從執行面來看幾乎不可能，而且究竟該由人類還是AI來控制這個開關，這些問題都非常複雜。
安全屬於工程問題 嚴謹測試確保產品無虞
面對AI末日說討論得沸沸揚揚，包括Anthropic在內的AI實驗室透露，目前多數公司其實都已具備某種形式的停止機制。輝達執行長黃仁勳則認為，大家不會在2030年因為AI死亡，安全是一個工程問題，測試也是工程問題。應該打造產品並進行妥善測試，如果尚未準備好發布就先扣住，繼續進行測試與工程開發，直到準備就緒為止。
建構多方治理架構 邁向人機協作新時代
目前專家都樂見這樣的討論搬上檯面，認為針對AI進行管控都還算及時。專家強調，從治理架構、法律責任到國際合作，各方面都需要建立更完善的方案，才能有效降低風險，讓人們安心與AI共同合作。