為何 70% 企業做完 AI POC 還是沒有 AI 能力？IBM 揭關鍵痛點

台灣 IBM 今日舉辦交流會，分享生成式 AI 的企業應用趨勢，並指出 IBM 正在研發一系列新技術，推進企業級 AI 的發展：從模型、AI 助理、到為企業獨有的數據和應用而優化與部署 AI 所需的工具，以及 Agent （AI代理）技術。

【下載 TechOrange 資安趨勢報告】

別等到系統崩潰才後悔！提升企業競爭力「資安」是關鍵

>> 免費下載報告看關鍵技術 <<

IBM 點出，企業的 AI 應用生態系，在數據、模型到 AI 代理所構成的生態系中循環進化。其中，企業在挑選合適模型時往往面臨 4 大難題，而 IBM 也提出了選擇模型的 5 大步驟和 6 大評估方法。

70% AI POC 沒有上線，怎麼回事？

台灣 IBM 技術長莊士逸分享，從生成式 AI 爆發到現在，大家開始仔細靜下來思考，AI 到底可以如何應用在企業之中，然而 IBM 觀察，從去年到現在，有非常多企業針對 AI 進行測試和 POC，但有 70% POC 最後都沒有上線，都還在做初期的實驗、找尋使用案例，還沒有發展出真正的 AI 能力。

如果以 IBM 的企業價值曲線從「+AI」到「AI+」來看，莊士逸觀察，現在許多企業客戶不斷地在小單位的能力上做 AI 試點，但其實再繼續向下發展，企業要慢慢有一個思維是把資料、AI 放在企業的經營主軸、價值投資上，成為一個 AI transformation（AI 轉型）的企業。

他也觀察，許多成功應用 AI 的企業，是因為文化、組織資源、人力配置足夠，才有辦法成功導入。舉例來說，企業需要開始找尋具有資料背景的人才，這樣將會形成一個轉動的飛輪、引擎，繼續向下邁進。因為光是要整理 data pool 就需要花很多時間。

IBM 也分享自家企業內部發展一系列、適用全球員工的AI 代理工具「Ask」，能讓員工在一個介面就完成諸多需要跨部門、跨系統詢問和調度的各項資料，而當初便是歷經 2~ 3 年的全球資料整理，將前段步驟做好，才能做好整個 AI 使用體驗。

企業應用 AI 遇 4 大難題！應回到「AI 治理」思考

台灣 IBM AI 技術顧問許芮萍現場分享，近年協助企業客戶導入 AI 時，發現企業往往面臨 4 大選擇難題：「閉源 vs 開源」、「大模型 vs 小模型」、「雲端 vs 地端」、「公用 vs 專用」。他表示，其實並沒有絕對的好、壞，而大多企業最在意的就是模型的可靠性、安全性，以及是否需要打造一個專屬的模型。

IBM 也針對挑選模型上提供 5 大關鍵步驟、6 大評估方法。許芮萍強調，企業第一步驟應該是從應用情境開始，例如用在哪裡、放在哪裡、擁有多少資源等，而不是先選模型──當設定好應用情境他們才會建議去挑選模型。他也提及，IBM 近日發表了 AI 模型 Granite 3.0 主打輕量級，讓企業更好部署、客製化，也支援 AI Agent 應用開發。

這 5 大步驟，依序是應用情境、模型選擇、評估模型表現、測試模型、確認模型。評估的 6 大依據，包含可信度、透明性、準確性、客製化程度、彈性與靈活性、效率。值得關注的是，IBM 的建議步驟是以「AI 治理」為核心來選擇。

IBM 的看法是，企業端現在最缺乏的就是 AI 人才，但企業在發展 AI 時其實需要從上到下、不同單位共同開發，尋找適合各自對應的應用情境來發展、使用，而不單單只是 AI 團隊的責任。

除此之外，台灣 IBM 技術長莊士逸觀察，企業在導入 AI 的旅程中，有非常大的考量是 AI 模型跑出結果後，是否具有可解釋性、能否安全部署到終端用戶、是否有版權疑慮、是否會傷害到公司名譽等，這些都是公司需要面對的 AI 治理思維，並且需要很完整的數據和模型管理，才有辦法做到。因此，IBM 也發展出許多開源治理工具套件，並打造端到端的生態系統解決方案。

莊士逸強調，IBM 有三個重要原則：一，AI 不是來取代人類，而是讓人類的生產力躍進；二、尊重資料的版權；三，AI 需要有可解釋性、可信任性，才能讓 AI 不是「流星級」應用，而是「恆星級」應用。

＊本文開放合作夥伴轉載，資料來源：IBM，圖片來源：TechOrange 拍攝。

加入『 TechOrange 官方 LINE 好友』 掌握最新科技資訊！