AI應用潛在風險引關切 美政府企業嚴審安全與倫理

商傳媒｜責任編輯／綜合外電報導

隨著人工智慧（AI）技術日益普及，其在國防、金融及氣象預測等關鍵領域的應用潛在風險與倫理議題，正受到美國政府與企業的密切關注。

美國白宮正起草新指南，研擬允許聯邦機構使用AI公司Anthropic的工具，包括專為網路作戰設計的Mythos AI模型。此前，五角大廈曾因Anthropic拒絕放寬產品用於國內監控和全自動武器的限制，將其列為供應鏈風險。這項禁令雖於今年三月下旬遭聯邦法官暫時禁制，但政府已表示將上訴。美國參謀長聯席會議主席丹·凱恩（Dan Caine）曾表示，自動武器將是「我們所有行動的關鍵且重要部分」。前美國國家安全局局長保羅·仲宗根（Paul Nakasone）則認為，Anthropic的技術是國家能力的一部分，不應受阻。現任總統川普也對Anthropic的發展抱持開放態度，稱其「正在改善」並「大有可為」。

在企業界，摩根大通（JPMorgan）正以每年高達 198 億美元的科技與AI預算，重新定義銀行業務的工作模式。摩根大通的資訊長強調，AI代理人應具備特定的身份與存取權限，並需透過驗證層與人類監控，確保大型語言模型（LLM）輸出的正確性，避免如律師事務所蘇利文·克倫威爾律所（Sullivan & Cromwell）曾因AI「幻覺」問題，導致錯誤文件提交的狀況。此外，金融科技公司Advisor CRM也推出名為Beacon的AI助理，旨在為財務顧問提供安全的內部平台，避免敏感客戶資料被複製到公開AI工具，並支援ChatGPT、Perplexity、Gemini和Claude等多個AI模型，且不保留客戶資料用於模型訓練。

然而，AI模型的局限性仍是隱憂。一項新研究顯示，在極端天氣預測方面，傳統的物理模型表現仍優於人工智慧模型。《碳簡報》（Carbon Brief）指出，AI氣候模型在預測破紀錄的酷熱、嚴寒或強風事件時，往往低估其頻率與強度，且因過度依賴訓練數據，難以有效模擬前所未見的天氣模式。這項研究結果提醒各界，在全面採用AI預測模型時需保持謹慎，並強調結合傳統物理模型與AI技術的混合模式可能才是未來的發展方向。這也引發了對AI應用倫理與安全性的深入討論，特別是如何平衡AI帶來的效率與潛在風險，以及如何確保AI系統的透明度與可解釋性。