美國防部要求解除AI限制入駐機密網路　專家憂AI幻覺釀致命後果

美國軍方正加快將人工智慧（AI）導入作戰與決策體系。路透社引述消息報導，軍方正敦促AI公司讓其頂尖AI模型能在非機密與機密系統中使用，並要求移除AI模型的使用限制。但專家警告，雖然這些工具能快速整合情報、提升決策效率，但仍可能出現看似合理卻錯誤的假資訊，一旦發生在涉及作戰規畫或武器目標指令的機密環境中，後果將不堪設想。

路透社引述2位消息人士透露，在白宮10日舉行的一場活動上，五角大廈首席技術官麥可（Emil Michael）對OpenAI和Anthropic等頂尖人工智慧（AI）公司的高層表示，軍方的目標是讓他們的AI模型能同時在非機密與機密的系統中使用。一位匿名官員表示，五角大廈正「致力於把尖端的AI能力，部署到所有機密等級系統中」。

這是五角大廈與主要生成式AI公司之間持續談判的最新進展，涉及美國未來將如何在戰場上使用AI。

軍方盼在機密系統使用AI　整合力驚人卻恐藏「致命錯誤」

許多AI公司正為美國軍方打造客製化工具，但目前大多數只能在非機密網路上使用，通常只用於軍事行政作業。只有Anthropic這家公司的系統，可以透過第3方，在機密環境中使用，但政府仍然必須遵守該公司的使用政策。例如，軍方將Anthropic的系統，經由另一家承包商或平台，接入機密網路。

機密網路用於處理各種更敏感的工作，包括任務規畫或武器目標指令。軍官希望利用AI整合資訊的能力，來協助制定決策；但研究人員表示，雖然這些工具功能強大，仍可能會出錯，甚至編造出乍看之下合理但實際上錯誤的資訊，即俗稱的AI「幻覺」（Hallucination）。而在機密環境中出現這類錯誤，可能帶來致命的後果。

軍方盼拔掉AI「安全鎖」　科技公司堅設防護措施

不僅如此，軍方使用AI的這項討論還涉及一項爭議，因為軍方希望能在沒有太多限制的情況下使用AI，而科技公司則希望對工具的使用方式設下界線。

AI公司為了降低產品可能帶來的風險，不僅在模型中加入各種防護措施，也要求客戶遵守特定使用準則。然而，五角大廈官員對這類限制頗感不滿，認為只要符合美國法律，他們就應該能部署商用的AI工具。

OpenAI放寬部分限制供軍方使用　但僅限非機密網路

美國國防部去年12月推出由美國科技公司谷歌（Google）Gemini人工智慧助理技術驅動的軍事領域AI平台「GenAI.mil」。

OpenAI本週與五角大廈達成協議，讓軍方可以在這個「GenAI.mil」的非機密網路平台上使用OpenAI的工具，包括ChatGPT。作為協議的一部份，OpenAI同意移除許多平常對使用者設下的限制，但仍保留了一些安全防護措施。Alphabet旗下的Google和全球首富馬斯克的xAI先前也與軍方達成過類似的協議。

OpenAI在一份聲明中表示，本週的協議僅限於透過「GenAI.mil」進行的非機密用途。一名發言人說，如果要把合作範圍擴大，將需要簽訂新的或修改後的協議。

路透社先前報導，Anthropic與五角大廈之間的類似談判，爭議更大。該公司高層曾告訴軍官，他們不希望自己的技術被用於自主武器的目標鎖定，也不希望被拿來在美國國內進行監控。