AI研究員辭職發出警告 AI恐失控「毀滅人類」

近期有多名AI研究人員陸續發出警告，擔憂AI可能會毀滅全人類，前Anthropic研究員考克森還因此離職，他表示，業界正加速開發能自我進化的AI系統，卻嚴重忽略安全問題。美國參議員桑德斯（Bernie Sanders）3號也提出了《禁止人工超級智慧法案》。

憂AI毀滅全人類！　研究員：10年內毀滅風險逾1成

外媒CNN引述Anthropic員工貼文指出，他們非常相信AI可能會毀滅全人類，未來十年內AI毀滅人類的機率超過10%！
前OpenAI和Anthropic頂尖研究員考克森還因此離職，並宣布退出AI產業，他指出，業界正加速開發自我改進型的AI模型，但許多企業為了商業競爭，卻嚴重忽略了安全問題，直接點名OpenAI和Anthropic沒有盡到應盡的責任，正競相研發能自我改進的超級AI。

美參議員提案要求立法 禁止「超級AI」發展

考克森和超過一千名研究人員連署，呼籲各國政府介入監管。美國參議員桑德斯3號也提出《禁止人工超級智慧法案》，要求立法禁止開發「通用人工智慧」AGI。
桑德斯在媒體上強力呼籲，不管人類滅絕的機率是10%還是2%，風險都太大了，應立即停止，現在最需要的就是禁止超級AI，暫停進階AI的發展，才不會繼續走上這些人警告我們的道路。

OpenAI宣布花88小時 破解千禧年數學難題

而除了安全跟倫理爭議，AI的資料版權問題也持續延燒。OpenAI 8號宣布，只花費88小時就破解了7道千禧數學難題之一的納維-史托克斯問題。

不過同時在進行這項研究的數學家提出質疑，認為OpenAI利用使用者的非公開資料來訓練模型，讓各界對AI發展的疑慮日益升高。

國際中心／單柏涵 編撰　編輯／陳盈真