美國防部 AI 準則未嚴守 政府報告揭潛在風險

商傳媒｜責任編輯／綜合外電報導

一份由美國政府問責署（U.S. Government Accountability Office, GAO）發布的報告指出，五角大廈（The Pentagon，美國國防部總部）在開發人工智慧（AI）武器與工具時，並非總是嚴格遵循自身制定的「負責任 AI」（Responsible AI）準則。

該報告審視了五角大廈 10 個正在開發中的 AI 專案，這些專案被設計用於自動識別目標、處理監控資訊及輔助戰術決策。據《NPR》報導，受訪的 10 名官員中，有 6 人表示其團隊已發現專案在實際操作環境中存在「風險」。更有 4 名官員指出，他們專案的需求與「負責任 AI」準則不符，另有 3 名官員不確定專案部署後是否會持續受到監控。

五角大廈早在 2021 年就曾發布備忘錄，提出六項負責任 AI 的基本準則，強調應加強內部監督、驗證、即時監控，並與盟友合作推動全球規範。美國政府問責署的報告主任 Alissa Czyz 表示，這些準則雖然被開發人員理解為重要，但它只是一份備忘錄，而非部門內部的強制性指令。

報告也揭示，負責教育和管理五角大廈 AI 準則的 Department of the Responsible AI Division 部門，面臨嚴重的人力不足。該部門在 2023 年獲准招募 10 名員工，但截至今年 2 月，僅有 3 個職位補齊。Alissa Czyz 指出，要負責整個部門的負責任 AI 事務，這樣的人力配置顯得微不足道。

儘管有這些擔憂，美國國防部長皮特·赫格塞斯（Pete Hegseth）傾向於加速 AI 的發展。他曾於今年 1 月在 SpaceX 的一場演說中表示，五角大廈的 AI 發展不應被冗長的程序拖慢，強調「美國國家安全面臨的行動遲緩風險，遠大於不完美對齊的影響」。皮特·赫格塞斯也曾在今年 1 月簽署備忘錄，宣示要將五角大廈打造成「AI 優先」的作戰力量，並宣布成立新的作戰司令部，專注於無人機等自主武器的開發。

針對這些問題，美國政府問責署提出了兩項建議：五角大廈應澄清其 AI 監管辦公室的職責和會議安排，並解決人力短缺問題。五角大廈已同意這些建議，但截至 10 月 22 日，尚未實施相關改革。這份報告的發現，對全球各國，包括正在積極發展軍事科技的台灣而言，都提供了重要的借鏡，顯示在追求技術領先的同時，如何確保 AI 應用符合道德與安全規範，仍是一大挑戰。