Anthropic共同創辦人示警！ 未來可能強制設置AI「緊急關閉機制」
人工智慧快速發展引發安全疑慮。AI公司Anthropic共同創辦人克拉克表示，如果AI變得過於危險，企業未來可能需要依法設置可以完全關閉系統的「緊急關閉機制」，而且應該考慮由第三方驗證。（戚海倫報導）
Anthropic共同創辦人克拉克接受英國廣播公司BBC訪問時表示，目前包括Anthropic在內，多數AI實驗室都有不同方式可以「拔掉插頭」、停止系統運作。但未來是否應該強制企業設置這類俗稱「kill switch」的機制，以及能不能由第三方確認有效，都應該納入AI政策討論。
AI安全議題近期持續升溫。Anthropic執行長阿莫戴日前呼籲放慢AI發展速度並加強監督。公司研究人員休賓格則表示，他個人認為，未來10年AI導致人類滅絕的機率超過10%。有「AI教父」之稱的諾貝爾獎得主辛頓也認為，10%的風險估計並非不合理。
不過，部分科技業人士質疑，AI毀滅人類的說法遭到誇大。美國國會已有跨黨派議員提出「AI關閉開關法案」，要求特定企業具備關閉有問題AI工具的能力；美國總統川普則反對放慢AI發展。