馬斯克AI與火箭事業加入軍事競標 開發無人機「蜂群」戰鬥系統
彭博新聞週二（17日）獨家報導，馬斯克旗下的人工智慧事業xAI與太空火箭事業SpaceX合併時，也參加了美國國防部的新標案，將開發可以全自動自主大舉攻擊的無人機「蜂群」戰鬥系統。
這一行動並未對外公布，而是由知情人士向彭博新聞記者透露。對馬斯克的個人哲學而言，這標誌了一個非常重大的轉折點，因為他先前曾經公開反對利用AI開發「全自動殺人機器人」。
馬斯克是在本月初宣布xAI將合併成為SpaceX的子公司。要求匿名的知情人士透露，馬斯克旗下公司是少數獲選參加這場於1月啟動、獎金高達1億美元挑戰賽的公司之一。SpaceX與xAI均未回應彭博新聞的詢問。
軍人講話下指令，蜂群無人機自動尋找目標進行攻擊
這場為期六個月的競賽，目標是生產先進的蜂群技術，能將語音指令轉化為數位指令，操控多架無人機。雖然目前的技術已能同時飛行多架無人機，但要能開發出可以引導多架無人機海空聯合組成「蜂群」，自主移動追蹤攻擊目標的軟體，仍極具挑戰性。
在當前無人機戰爭最激烈的烏克蘭戰場，AI的使用主要仍是用來開發辨識目標、簡化路徑導航等輔助性工具，尚未使用會自己下判斷、自己組成蜂群攻擊、猶如電玩的無人機。
這場五角大廈競賽是由致力引進矽谷新創公司的國防創新單位（DIU）與國防自主作戰小組（DAWG）聯合發起。DAWG是在川普第二任政府下啟動的新單位，隸屬於美國特種作戰司令部。DAWG部分延續了拜登時代「複製者（Replicator）」計畫的工作，尋求生產數千架可消耗的自主無人機。
這項計畫分為五個階段，從開發軟體開始，逐步進展到實測。一名國防官員在1月宣布這場競賽時暗示，這些無人機將用於攻擊用途，並表示人機互動（語音操作）的效率「將直接影響這些系統的殺傷力與效能」。
根據xAI官網顯示，該公司近期已開始向位於華府或西海岸，大舉招募擁有「秘密（Secret）」或「最高機密（Top Secret）」等級美國政府安全許可的工程師。招募職缺顯示，該公司正尋找慣與「政府機構、國防部或聯邦承包商合作AI、軟體或數據專案」的軟體工程師。
儘管SpaceX長期以來就是國防承包商，但該公司過去專注於製造太空火箭和衛星，用於太空探索、軍事通信和情報系統，而非直接的攻擊性武器。
AI操控自主自動武器的風險
馬斯克先前曾主張全面禁止自主攻擊性武器，即那些能夠自行選擇並攻擊目標、可不須人類控制指令的武器。2015 年，馬斯克簽署了一封由AI和機器人研究人員發起的公開信，警告自主武器的危險。
這項蜂群戰術計畫可能因為xAI與SpaceX合併更能順利進行。SpaceX長期和美國國防部門打交道，xAI則是目前美國開發人工智慧系統的巨頭之一，兩者整合，有望為蜂群攻擊系統提供AI輔助的軟體平台，並且整合可行的硬體攻擊載台。
這一國防計畫競賽的第一階段僅側重於軟體開發，隨後才會使用實體平台。根據五角大廈對任務的描述，該軟體旨在協調跨多個領域（如空中與海上）的無人機移動。後續階段則要求開發「與目標相關的感知與共享系統」，最終實現「從發射到終結」的完整程序。
xAI並非唯一參與此項新計畫的頂尖AI公司。彭博新聞先前報導，OpenAI也正支持Applied Intuition參加該專案。
據多位人士透露，儘管五角大廈急於加速採用AI與自主化攻擊武器，但把聊天機器人和語音轉文字指令整合到武器平台的前景，已引起了一些國防官員的憂慮。他們認為，應把生成式AI限制在「翻譯」功能，不允許讓其自主控制無人機行為。部分人士對於讓生成式AI在沒有人類介入的情況下就可以做出作戰決策，深表憂慮。
許多頂級研究人員最近紛紛公開宣布退出原本服務的AI公司，就是基於AI持續發展可能造成的倫理風險問題。在致命軍事攻擊上，目前由大型語言模型（LLM）開發出的生成式AI尤其有很大的風險，因為這種模型容易產生偏見與所謂的「幻覺」，即生成看似有道理但不符事實的內容。