有人用 AI，沒人為 AI 負責：500 位全球高管調查揭示企業 AI 部署的結構性危機
AI 市場規模不斷擴大，錢在流動，系統在上線。但根據一份涵蓋全球 500 位以上資深主管、橫跨 Global 2000 組織五大產業的調查，沒有人真正弄清楚，當 AI 做出錯誤決策時該由誰負責。
數字背後的問題有多嚴重？
根據全球研究與顧問公司發佈的《Humans at the Helm of AI》報告數據，只有 14% 的企業有文件化的 AI 策略且設有明確目標；80% 的企業表示責任歸屬不清楚；親自主導 AI 策略的執行長只有 6%。
其餘企業採用 AI 的理由，多半預設為「降低成本」，這個理由不需要願景、不需要所有權模型，也不需要對企業未來的任何承諾。
換句話說，AI 正在深入企業的核心工作流程並影響決策結果，但在多數組織裡，這些決策的所有權仍然模糊、分散，或只在出了問題之後才被動釐清。
員工端的狀況同樣令人憂慮。52% 的員工擔心 AI 只是來取代他們；72% 的員工害怕在 AI 實驗失敗時被究責；只有 7% 的員工感到自己對工作有掌控感。近 80% 的員工每年接受的 AI 相關培訓不到 10 小時。
更值得關注的是，「質疑 AI 輸出的能力」在主管認為重要的員工能力清單中排名最末。也就是說，AI 治理最依賴的核心能力，恰恰是組織最不重視培養的那一個。
此外，超過半數企業預期 AI 將縮減人力，多數計劃讓這件事透過自然減員自行發生，而非透過明確的組織設計來管理。AI 數位工程公司 Altimetrik 執行長 Raj Sundaresan，也直接點出問題：
「太多組織在擴大 AI 規模的同時，沒有重新設計問責機制，這樣的結果是把錯誤決策擴大得更快。把人放在主導位置，是為了確保每一個 AI 驅動的決策，都能以我們對任何關鍵業務系統所要求的工程嚴謹度、所有權與審查標準來治理。沒有這種問責機制，你擴大的是風險，而不是智慧。」
有人在用 AI，但沒有人為 AI 負責
這個問題有其結構性成因。調查發現，多數企業目前採用 AI 的方式，是以個人或團隊為單位各自摸索，而非作為一種有計畫、有管理的組織變革來推進。AI 工具被個別員工或部門引入，但配套的治理框架、決策分工與問責機制並未同步建立。
53% 的企業表示依賴人類作為 AI 系統的信任機制，但這個「依賴」的方式並不明確。也就是說，有人在用 AI，也有人被預期要扮演某種把關角色，但究竟誰在哪個環節負責確認 AI 的輸出是否可信、誰在 AI 出錯時承擔後果，在多數組織裡仍然沒有清楚的答案。
這種不確定性向下滲透到整個組織。員工學會了順從 AI 輸出而非質疑它，而這種順從並不止於內部。75% 的組織表示，團隊因為缺乏信心，選擇依賴外部夥伴來處理 AI 相關決策，而非在組織內部建立判斷能力。HFS Research 首席分析師 Phil Fersht 對這個現象給出了更直白的評語：
「當領導者沒有定義 AI 決定什麼、人類擁有什麼，員工就會停止質疑。這不是人機協作，而是責任棄守。現在不修正，你建立的不是智慧組織，而是在規模化地放大未受管控的風險。」
Altimetrik 將這個現象稱為「AI 速度落差」，意即企業部署智慧系統的速度，與重新設計所需人類治理系統的速度之間，正在持續擴大的距離。
少數做對的企業，差異在哪裡
調查中只有 13% 的企業達到最高層級的 AI 成熟度，真正讓 AI 在管理關鍵工作流程中發揮高度自主性。這個比例雖然偏低，但這些企業的成果卻相當清晰：88% 在客戶體驗上實現了兩位數的改善，41% 回報了兩位數的營收成長，25% 表示從構想到部署的執行速度大幅加快。
報告也指出，高成熟度企業做出更快、更準確決策的可能性，是其他企業的兩倍以上。
實現這種複利優勢的關鍵，不在於 AI 技術本身有多先進，而在於企業在 AI 自主程度最高的環節，有沒有同步建立人類監督、查核與回饋的機制。換言之，高成熟度企業做對的事，是在加速 AI 部署的同時，也加速了治理設計的速度，兩者並行，而非只顧其一。
問題的解法是人的管理，不是更多技術
這份報告結論指出，解決 AI 問題的答案，是更好的人類管理。這對企業領導者而言既是好消息，也是挑戰。
好消息是，未來的 AI 驅動組織裡，人類仍然有不可或缺的角色。
挑戰則在於，那些最害怕被 AI 取代的員工，往往也是最難從旁協助判斷 AI 應用邊界的人。
當 72% 的員工害怕在 AI 實驗失敗時被究責、當 52% 的員工認為 AI 只是來取代他們，這種恐懼本身就已經成為有效治理的障礙。
從這個角度來看，員工對被取代的恐懼不只是溝通問題，而是 AI 治理失敗的症狀。當領導層沒有清楚定義人機之間的決策分工，員工只能用最壞的情境填補那個空白。
每年不到 10 小時的 AI 培訓，加上組織最不重視培養「質疑 AI 輸出」的能力，只會讓這個空白持續擴大。企業領導層在推進 AI 部署之前，必須先處理組織內部的恐懼與信任問題，而這不是技術投資的問題，是管理設計的問題。
【推薦閱讀】
◆ OpenClaw 爆紅後，企業怎麼導入才不失控？KPMG 謝昀澤：要限權、不碰錢、人要在、防作怪
◆ 企業導入 AI 最大痛點不是技術，是不知該自動化什麼──Scribe 正在解決這件事
◆ 今天的菜鳥是明天的大將：雲端公司全面導入 AI，仍堅持招募初階工程師
＊本文開放合作夥伴轉載，參考資料：MorningStar、Forbes，圖片來源：Unsplash
（責任編輯：鄒家彥）