AI被當成「同事」恐降低審查力道 研究：企業仍須由人類負最終責任

商傳媒｜責任編輯／綜合外電報導

最新研究指出，企業若將人工智慧（AI）定位為團隊中的「同事」或「員工」，反而可能降低管理階層對 AI 產出內容的審查強度，增加錯誤與決策風險。這項由波士頓大學（Boston University）研究團隊、研究人員 Emma Wiles 參與的實驗，針對 1,261 名經理人、主管及高階主管進行測試。受試者需審查五份刻意植入錯誤的文件，並被隨機告知文件來源為「AI 工具」、「人類同事 Alex」或「AI 團隊成員 Alex-3」。結果發現，在企業已將 AI 視為「員工」的情況下，管理者對「AI 隊友」工作的審查強度平均降低 16%，也更傾向相信其他人會發現自己忽略的錯誤，即使三組文件內容完全相同，僅因身分標示不同，就足以影響管理者的判斷。

研究也發現，企業對 AI 的定位正快速改變。調查中有 31% 的人資與財務主管表示，已將 AI 視為團隊成員或員工；另有 23% 的企業已將 AI Agent（AI 代理）納入正式組織架構圖。然而，研究團隊並未發現，替 AI 命名或納入組織架構，能提升工作效率或改善整合成果。相反地，這種做法容易讓管理者將責任歸因於 AI，而非真正應負責的開發者或使用者。例如，有受訪主管表示「Kevin 犯了錯，Kevin 為什麼犯錯？」研究人員則指出，AI 並非責任主體，最終責任仍應由部署、管理及使用 AI 的人類承擔。此外，研究也顯示，若額外審查不需成本，高達 98% 的管理者願意再次檢查；但一旦需要投入時間或成本，比例便降至 45%，顯示「審查摩擦成本」也是影響管理品質的重要因素。

從企業管理角度來看，研究建議建立一致的 AI 治理制度，而非過度擬人化 AI。無論內容由 AI 或人類完成，都應遵循相同的審查流程，並為每一項 AI 工作流程指定一位人類負責人，以確保決策品質與問責機制。對台灣企業而言，隨著 AI Agent、Copilot 及各類生成式 AI 工具逐漸導入行政、人資、財務、客服及行銷等領域，建立完善的 AI 治理（AI Governance）與人工覆核機制，將成為數位轉型的重要一環。專家提醒，AI 可以提升效率，但不能取代最終判斷與責任歸屬，唯有維持「人類負責、AI 輔助」的管理原則，才能在提升生產力的同時，有效降低潛在風險。