OpenAI 點頭、Anthropic 退出：揭五角大廈「無限制部署」條款背後誤判風險
隨著 AI 技術在軍事領域的應用日益受到重視，五角大廈正積極將 AI 工具部署至更高敏感度與機密等級的網路。近日，美國國防部宣布內部企業級 AI 平台 GenAI.mil 自推出以來快速擴張，已成為推動國防部轉型為「AI 優先」文化的重要基礎設施。
一名不具名的官員向路透社透露，五角大廈現在正「採取行動將前沿 AI 能力部署至所有機密層級」，以支援更廣泛且關鍵的國防作業需求。作為此擴張計畫的關鍵一步，五角大廈正式與 OpenAI 達成合作，將 ChatGPT 整合進 GenAI.mil 平台。這項合作將使約 300 萬名國防部人員可在授權範圍內使用 ChatGPT，以支援資料整理、任務規劃與行政作業等用途。據傳，OpenAI 內部曾對此有過一番辯論，部分員工支持與軍方合作的原因之一，是為了避免讓 xAI 及其模型 Grok 取得競爭優勢。
這次合作，OpenAI 為軍方提供的是「客製化整合版」的 ChatGPT，部署於國防部既有的政府雲端基礎設施中，而非直接連接一般的消費級產品，進一步確保數據處理符合國防數據的安全規範。不過，OpenAI 發言人強調，目前的協議僅限於透過 GenAI.mil 進行「非機密（unclassified）」用途的使用，若要擴展至機密網路，則需要簽署新的協議或修改現有合約。
五角大廈要求 AI「無限制部署」，OpenAI 接受、Anthropic 退出
這項目前仍限於非機密用途的合作，並非五角大廈對 AI 的最終期待。《Semafor》報導，五角大廈在與 AI 廠商洽談合作時，明確要求模型必須能「無限制部署」，意即用於「所有合法用途（all lawful uses）」，這代表無論是基於道德或技術理由，AI 公司都不能對具體的使用場景保留最終否決權。
OpenAI 最終接受這項條件。不過，OpenAI 採取的折衷方案是提供與非軍事用戶相同的核心模型，這代表該模型仍保有既有的標準安全護欄（standard guardrails），並可能在預設情況下拒絕某些被禁止的指令。因此 OpenAI 雖然接受了「所有合法用途」的條款，但模型本身的防護機制並未完全移除。
相較之下，競爭對手 Anthropic 則因堅持對模型用途保有更大的控制權，讓談判陷入僵局。Anthropic 擔憂自身技術可能被用於不可靠或危及生命的場景，因此要求更嚴格的監管權限，但五角大廈拒絕這些額外的控制要求，這也讓 Anthropic 的 Claude 模型目前仍未被納入 GenAI.mil 平台，目前僅能透過第三方在部分機密環境中使用。
《路透社》指出，五角大廈正同步向 OpenAI、Google 和 xAI 等 AI 公司施壓，希望模型能進一步擴展至機密網路。這顯示「廣泛部署」且不受過多限制，已成為當前美國軍方評估合作夥伴的重要前提。
專家警告：AI 誤判風險在機密環境可能被放大為致命後果
儘管 AI 在軍事行政與分析上的潛力巨大，但將 AI 引入高機密與高風險環境仍引發專家強烈擔憂。《路透社》引述 AI 與國防領域專家的看法指出，生成式 AI 仍存在產生不準確或虛構內容的風險，雖然目前的應用多集中在資訊合成與決策輔助，但專家仍警告，「此類錯誤若發生在機密環境中，可能會造成致命後果」。
例如，當 AI 被部署在機密網路、用於情報分析或作業輔助時，即便模型本身並非直接用於控制武器發射，其輸出的分析結果仍可能間接影響指揮官的重大決策。因此如果指揮官過度依賴 AI 提供的錯誤情報，可能導致誤判形勢或錯誤打擊目標。
除了誤判風險，專家也提出了資安隱憂。公共公民組織（Public Citizen）專家指出，即使是在隔離的政府基礎設施中，處理敏感數據的 AI 系統仍可能成為網路攻擊的目標，這類龐大數據集的依賴性本身就存在必須審慎管理的漏洞。
面對外界質疑，OpenAI 與五角大廈皆強調安全機制仍然存在。然而，《Semafor》指出，在五角大廈要求「無限制部署」且 AI 公司無法審核具體軍事用途的前提下，AI 公司實際上難以有效監督模型在戰場或機密行動中的實際使用方式。《Semafor》科技編輯 Reed Albergotti 在評論中提到，由於 AI 是史上最通用的軟體技術，因此即使有合約規範，「也很難保證絕不會被濫用，或被用於有問題的場景」。
五角大廈正以前所未有的速度拓展 AI 應用，並將效率與戰略優勢置於核心位置。然而，這也迫使 AI 公司在商業機會、安全護欄與倫理責任之間做出取捨，因為當「無限制部署」成為合作前提，AI 能力被放大的不只是生產力，也包括誤判風險與資安隱憂。因此，這場實驗的代價，仍有待時間驗證。
＊本文開放合作夥伴轉載，資料來源：《Reuters》、《Coin Central》、War.gov、《SEMAFOR》，首圖來源：Unsplash