美科技巨頭與軍方合作 應用人工智慧提高效率 而非讓AI成世界末日武器
美國科技新聞網站《TechCrunch》1月19日報導，OpenAI 和 Anthropic等美國一線人工智慧（AI）開發商正在努力向美國軍方出售軟體，讓五角大廈（國防部）更有辦事效率，但又不讓他們的AI功能變成殺人工具。
五角大廈的首席人工智慧兼數位長普拉姆（Radha Plumb）博士在接受《TechCrunch》訪問時表示，如今，他們的AI工具沒有被用作武器，但是AI正明顯提升國防部的臉部識別、追蹤和評估威脅的能力。
普拉姆說明：「我們顯然正在加快殺傷鏈（kill chain）執行的方法，以便我們的指揮官能夠及時快速做出反應，保護我們的部隊。」
加快殺傷鏈執行的方法
「殺傷鏈」是指軍隊識別、追蹤和消除生命威脅的過程，涉及複雜的感應器、平台和武器系統。普拉姆表示，生成式AI功能在殺傷鏈的規劃和策略制定階段被證明是有幫助的。
五角大廈與人工智慧開發商之間建立新的關係。OpenAI、Anthropic和Meta在2024年放棄以往的限制政策，允許美國情報和國防機構使用這些科技公司的AI系統，但是，他們仍然不允許美軍的AI系統直接殺掉人類性命。
當被問及五角大廈如何與AI模型公司商合作時，普拉姆回答：「我們非常清楚會使用他們的技術做什麼事情，不會用他們的技術做什麼事情。」
儘管如此，人工智慧公司和國防承包商（軍火商）仍快速開啟新一輪的合作風潮。
臉書母公司Meta與老牌軍火巨頭洛克希德馬丁、Booz Allen等公司合作。去年11月，Meta的Llama AI模型引入國防機構。同月，Anthropic與Palantir合作。
Meta、OpenAI與軍方簽訂合約
去年12月，ChatGpt開發商OpenAI與Anduril也達成合作協議。更低調的是，Cohere也一直在和Palantir合作部署語言模式。
隨著五角大廈證明生成式人工智慧科技的實用性，這種趨勢可能推動矽谷科技公司放寬人工智慧使用政策，並允許更多AI功能的軍事應用。
普拉姆說：「生成式AI可以幫助軍隊演練不同的場景。它不僅能讓你充分利用指揮官擁有的各種工具，還能在具有潛在威脅或一系列需要打擊的威脅的環境中，創造性思考不同的應對方案，以及權衡各對策的利弊得失。 」
目前不清楚五角大廈使用哪一家公司的AI技術進行這項工作；在殺傷鏈使用生成式AI工具即使在早期規劃階段，但似乎違反幾家一線模型開發人員以前的使用政策。例如，亞馬遜大筆投資的Anthropic的政策明定「禁止使用其模型，來生成或修改對人類生命造成傷害或損失的系統」。
Anthropic回覆《TechCrunch》記者的提問時，介紹該公司執行長阿莫迪（Dario Amodei）最近接受《金融時報》採訪的情況，他受訪時為公司參與軍事工作進行辯護。
「對我來說，我們永遠不應該在國防和情報領域使用AI的立場，是沒有意義的。有人以為我們應該不遺餘力利用這些資源來製造我們想要的東西，甚至包括世界末日武器，這顯然同樣瘋狂。我們正在努力尋求中間立場，以負責任的方式做事情。」阿莫迪指出。
美軍長期採購自主武器系統
最近幾個月，有關國防科技的辯論大爆發，是否應該允許人工智慧武器做出生死攸關的決定？這問題引起正反兩派的激烈爭執，有些人認為，美國軍方已經擁有AI武器。
最近，美國國防科技公司Anduril執行長盧基（Paler Luckey）在社交媒體X貼文指出，美國軍方長期採購和使用近距離防空系統（CIWS）砲塔等自主武器系統。
「國防部幾十年來都在採購和使用自主武器系統，這類武器的使用和出口都是眾所周知、嚴格的定義，並受到非自願規則的明確監管。」盧基說。
然而，《TechCrunch》詢問五角大廈是否採購並使用完全自主的武器（無需人類操控的武器）時，普拉姆原則上拒絕這個想法。
「簡短回答就是『沒有』。出於可靠性和道德方面的考慮，我們總是會讓軍官士兵參與使用武器的決定，這也包括我們的武器系統。」普拉姆布解釋說。
「自主」（autonomy）一詞有些含糊不清，引發整個科技產業的爭論，自動化系統如人工智慧編碼代理、自動駕駛汽車或自動射擊武器，何時才能成為現實？
普拉姆說：「自動化系統獨立思考決定生死，這種想法太過二元化，而現實不是那麼科幻。相反地，五角大廈使用AI智慧系統，通常是人與機器之間合作，軍方高層在整個過程做出積極的決策。」
矽谷員工對軍事合作關係的接受度不是很好。去年，數十名亞馬遜和谷歌員工抗議公司與以色列簽訂軍事合約，遭到解僱和逮捕，這些雲端運算合約的代號為「Nimbus 計畫」。
但是其他AI科技公司員工的反應就比較平淡。一些人工智慧研究人員如Anthropic的Evan Hubinger表示軍隊應用AI，是不可避免的趨勢，與軍方直接合作以確保他們正確做事，也很重要。