AI恐釀10億人死亡！　比爾蓋茲示警「史無前例威脅」：政府一定要出手

人工智慧（AI）快速進化，帶來便利的同時，潛在風險也引發科技界高度關注。微軟（Microsoft）共同創辦人比爾蓋茲（Bill Gates）近日示警，AI的能力可能強大到足以引發造成10億人死亡的重大事件，尤其當先進AI工具落入惡意人士手中，破壞力更可能達到前所未見的程度。他因此強調，面對這類極端風險，不能只仰賴科技公司自律，政府、執法機關與政治人物都必須參與制定相關防護及監管措施。

比爾蓋茲的立論點？

比爾蓋茲近日接受美國國家廣播公司（NBC）節目《Meet the Press》訪問，當被問及美國國會是否有必要針對AI制定相關法律時，他明確表示「絕對需要」。蓋茲指出，人類過去從未擁有過像AI這樣強大的工具，一旦最新技術被有心人士利用，兩者結合可能形成前所未見的威脅，甚至有能力引發造成10億人喪生的災難性事件。

比爾蓋茲分析AI帶來的風險？

比爾蓋茲也認為，AI安全不能完全交由業者自行決定，執法機關與政治人物都應加入討論，共同釐清AI需要哪些防護機制及監管措施，並透過具有強制力的規範降低風險。事實上，他今年8月就曾撰文示警，隨著AI能力持續提升，有心人士可能利用相關工具對醫院、金融機構、電網及政府系統發動網路攻擊，也可能被拿來從事詐欺、散播假訊息，進而造成大規模破壞。

科技圈其他大咖對AI帶來風險的討論？

AI可能帶來的極端風險，近期也持續在科技圈引發討論。Anthropic執行長阿莫代（Dario Amodei）曾主張，可透過監管要求AI業者遵循共同規範，若要有效控制全球AI發展速度，也需要與中國合作。OpenAI執行長奧特曼（Sam Altman）近日則在聯合國相關會議上呼籲建立國際標準，包括衡量AI能力、評估可能風險、確認安全措施是否充足，以及確保人類能持續監督AI。

AI員工提出更悲觀的風險評估？

此外，Anthropic員工柯克森（Jacob Coxon）本月宣布離職時，也公開批評Anthropic與OpenAI競相發展「超級人工智慧」（super-intelligent AI），形容這樣的競爭是在「拿我們的命當賭注」；另有Anthropic員工提出更悲觀的風險評估，認為AI在未來10年內導致人類滅絕的機率超過10%。這些說法屬於相關人士對AI風險的個人判斷，也讓AI安全與監管問題再次受到關注。

科技界與政界仍無一致的看法？

不過，科技界與政界對於該如何監管AI並沒有完全一致的看法。Meta創辦人兼執行長祖克柏（Mark Zuckerberg）認為，AI風險需要由各家AI實驗室進行評估；美國眾議院議長強生（Mike Johnson）先前則表示，國會確實需要建立安全防線以避免AI失控，但目前AI業者本身尚未提出明確的解決方案，因此立法也不宜過於倉促。

加鏡LINE新聞不漏接
哈利王子回美演講「提詞機突故障」！當場卡住講不下去　尷尬離場40分鐘喊：AI害的
心情不好找AI聊天　當心個資被偷去當模型訓練資料