IBM 示警 AI 治理未完全落地，衝擊企業部署生成式 AI 意願

根據 2024 年 IBM 全球 CEO 調查結果顯示，企業對生成式 AI 的投資持續增加，但其中屬於試行與實驗性質者占比47%，主因之一在於企業的 AI 治理並未完全落地，企業對於AI產生內容的穩定度、可信度、透明度、公平性、資訊安全與隱私保護仍有諸多顧慮。因此、IBM 公布「企業 AI 治理手冊」，憑藉在全球累積多年的 AI 技術治理與營運實務經驗，從策略規劃到執行落地，協助台灣企業按部就班地進行 AI 治理，加速實現 AI 規模化應用。

IBM 指出，在 2024 年 5 月公布的 IBM 全球 CEO 調查報告中，高達 75% 的受訪企業 CEO 均認為有效的 AI 治理才能確保 AI 的可信度，但僅有 39% 的受訪者表示其企業已經落實 AI 治理。在生成式 AI 技術發展趨向成熟之際，企業也認知到 AI 規模化應用的關鍵在於合度治理。台灣 IBM 諮詢數據與科技轉型資深顧問協理林桂如指出，企業建立負責任的 AI 在「落地」階段常面臨三項主要缺失，包括缺少標準化的流程，讓設計好的治理執行框架與規章制度落地、缺少治理 AI 模型的 KPI 計算技術、以及缺少自動化工具與平台納管 AI 治理軌跡。

事實上，歐美多國政府與企業已經意識到、甚至經歷過未經治理的 AI 所造成的企業風險與商業衝擊，包括算法偏差、侵害隱私及系統不透明等問題。2024 年 8 月 1 日正式生效的歐盟人工智慧法案（EU AI Act），設定了 AI 風險分類等級，其中包含巨額罰則，深度影響全球 AI 治理的立法格局。

為了協助台灣企業妥善應對 AI 治理挑戰，IBM 諮詢團隊公布「企業 AI 治理手冊」，其彙整了 IBM 在歐美市場豐富的實務經驗，歸納為「兩階段、三步驟、八要點」。第一階段為「建章立制」，從制定 AI 治理規章制度、建立組織內部流程啟動 AI 治理。第二階段為「將規範融入日常營運流程」，並透過 Plan/Do/Check/Act (PDCA) 循環管控；兩個階段組成一套端到端、完整的 AI 治理流程。在治理落地過程則透過三個步驟與八個要點動態執行。

林桂如強調，目前市場上多數應對 AI 治理的做法，僅在於制定與編寫最低限度的合規文件；而 IBM 以達成 AI 規模化應用的目標與應用成熟度分析為出發點，確保企業在符規之外，更藉此提升組織的整體 AI 營運能力。IBM 的 AI 治理方法論不僅涵蓋了台灣金管會發布的「金融業運用人工智慧 (AI) 指引」，亦參考 ISO 42001 國際規範及新加坡 FEAT 法規的框架重點，確保客戶符合與時俱進的監管要求，提升企業對 AI 的掌控力與營運能力。

以台灣的金融業為例，AI 治理規章涉及金融機構四階文件制定；唯有具備實際的 AI 營運經驗，才能在進行第一階與第二階文件中、制訂政策和規章時，精準地指引第三階與第四階流程和表單連結到實際的系統分類分級、組織協作搭配、日常營運的操作步驟等。治理實施可從 AI 系統生命週期管理落地執行，以機器學習營運 (MLOps) 為核心，結合資安與隱私保護需求，以此制定與實踐 AI 模型對於數據準備、開發建置、營運監控流程中多面向的管理指標。

(首圖來源：pixabay)

立刻加入《科技新報》LINE 官方帳號，全方位科技產業新知一手掌握！