憂「殺手機器人」發展失控 紅十字會、聯合國急籲各國訂規範

聯合國和紅十字會在25日警告，全球正「危險地逼近」距離自主武器(也就是所謂「殺手機器人」)能夠將人類當作攻擊目標的未來，並緊急呼籲國際制定相關規範。

早在2023年，聯合國秘書長古特瑞斯（Antonio Guterres）和紅十字會國際委員會（ICRC）主席艾格爾（Mirjana Spoljaric Egger）便發起號召，這次再度提出警示，提醒各國應在今年前針對快速發展的科技訂立具體禁令及限制。

兩人在共同聲明中說：「今天，我們以更迫切的態度再次呼籲」。兩人補充，雖然他們的「核心顧慮沒有變，但是現在風險更高了」「我們現在已危險地接近跨越道德底線：由機器自主瞄準人類。」

一般認為，自主武器（Lethal autonomous weapon systems）是指在沒有人類干預的情況下，選擇目標並發動攻擊的武器系統。

目前沒有任何使用全自主武器的案例獲得證實。

但在全球緊張局勢升溫、中東地區和烏克蘭的衝突不斷之下，無人機作戰成為這些衝突中的主要特徵，許多擔憂認為這樣的未來已經不遠。

針對自主武器和AI操控的武器，目前沒有具體的協定。

古特瑞斯和艾格爾說：「自主武器不在遙遠的未來；武器自主化的競賽已經開始了。」

「後代子孫會問，在自主武器快速增加到無法控制之前，當時的領導者是否有做出應變、設下限制。」

他們也強調，很多發展自主武器的科學家和工程師自己都曾提出示警。

兩人說：「當這項技術的締造者都呼籲設立限制時，各國已承擔不起繼續保持被動的後果了。」

關於管制自主武器使用的可能新協定，討論已經進行約10年。

經過3年的討論，各國得在最晚11月決定是否要全力展開協定談判。

聯合國和紅十字會首長呼籲各國拿出「政治勇氣」，並且說「不快速果決的應對，會付出人命的代價。」

兩人表示，清楚定義的規範之需求「相當迫切」，並堅持「發明是來服務人類的，不是危害人類。」