國泰揭「AI Ready」實戰策略：從基礎建設到人才賦能全方位布局
生成式 AI 浪潮下，金融業也開始加速導入 AI，怎麼從組織出發，建立可信任、合規的「AI Ready」體系，國泰金控暨國泰世華銀行數據生態營運部協理高秋蓉在台灣 AI 策略發展高峰會上分享國泰 AI 轉型的實戰經驗。
「Gen AI（生成式 AI）突如其來地暴風式成長，讓我們慶幸當時有先投入一些資源，」高秋蓉表示，國泰的數位轉型之路從 2016 年就開始，早期著重數據倉儲與基礎工程，逐步打造中台架構與微服務設計，到 2022 年啟動上雲政策，為後續生成式 AI 應用打下基礎。
為了透過 AI 結合雲端發展「AI 即服務（AI as a Service, AIaaS）」，提升數據、雲端與 AI 在金融場景的應用，國泰內部已擬定數據與 AI 發展藍圖，分為三大面向：AI Ready、AI Native、AI Empower，各自代表基礎建設、應用場景、人才協作，其中，高秋蓉特別強調 AI Ready 的重要性。
投入 AI 基礎建設前，組織架構準備好了嗎？
高秋蓉表示，生成式 AI 浪潮下，組織內部不同團隊、部門都對 AI 躍躍欲試，市場也提供許多數據或 AI 解決方案，可謂遍地開花，然而當時內部還沒有很好的運作架構來確定「我這個階段的 AI 投資是不是用在對的地方？」為了回答這些問題、確保子公司之間的策略和技術一致，並整合集團資源，國泰在金控及子公司分別成立 AI 卓越中心（AI CoE），召集各部門主管統籌規劃投資優先順序與應用策略。
舉例來說，AI 導入領域要從內部員工工具、間接面對客戶的服務，還是直接接觸客戶的服務開始？投入的 AI 技術如果連接到外部雲端服務，一方面須考量營運成本，另方面也需思考可擴展性，支援未來客戶和服務數增加的情形，高秋蓉指出，「這和過去我們在地端買設備進來的固定成本結構是很不一樣的。」
生成式 AI 三大基礎設施：知識庫、護欄、Model Hub
高秋蓉進一步分享，為落實 AIaaS 策略，國泰自行打造「國泰生成式 AI 技術發展框架 GAIA」，當中有三大層次。第一是知識庫。為了讓 AI 大型語言模型能理解組織專屬知識，他們透過檢索增強生成（Retrieval-Augmented Generation, RAG）技術串接從內部規章到 QA 文件等結構化、非結構化資料，讓 AI 運作更好、更順。
第二是護欄設計。高秋蓉指出，即便許多坊間 AI 服務標榜已具備基礎護欄，但以國泰的角度來看仍像黑盒子，不知道這些護欄究竟擋了甚麼。因此，國泰為自家模型護欄設定了很多層次的架構，並依據不同場景設定相應程度的控管機制。
第三是 Model Hub，因應大型語言模型快速演進，國泰也在 GAIA 的底層架構，設計能方便因應不同應用場景以選取不同模型，並在資料進出之間留下 Log 紀錄的機制，用以追蹤不同場景的服務背後模型計價狀況，做為未來效益分析。
高秋蓉也進一步提出，主管機關對金融業實踐「負責任的 AI」有很深的要求，但是當 AI 應用場景上線後，如何確認是否符合指引所要求的正確可靠？國泰同步建立了 AI 評測中心，讓未來所有要上線的服務，都必須先經過驗證。
國泰如何從內部找到 AI 應用場景
在強調 AI 應用場景的「AI Native 」方面，高秋蓉分享集團的應用案例「HR 知識助手」，並說明為何選擇此一應用作為落地場景。
「HR（人力資源）是所有員工都可以上手的領域，」高秋蓉表示，此一場景不僅應用範圍廣、導入簡單，且能快速獲得使用回饋，這些反饋對於改進 AI 模型非常重要──當員工應用場景發展成熟，將來針對面對客戶的場景應用會更得心應手。目前，國泰也在規劃拓展 AI 代理應用，讓 AI 不僅是單純回答問題，更具備推理能力並輔助決策。
賦能人才，主管、員工不分階級參與 AI 轉型
除了基礎建設、AI 應用的治理準備，「AI Empower」，也就是賦能人才，也是國泰關注的面向。對此，高秋蓉分享國泰採取從上而下（Top down）、由下而上（Bottom up）兩大路徑。
高秋蓉強調，這是因為許多公司有由上而下地訓練員工的經驗，但是主管的教育訓練也同樣重要，如果主管參與度高、能更理解 AI，就可讓 AI 轉型更順利。她表示，「他們未來可能不是實際執行 AI 的人，但他們要懂得用 AI 的員工。」
＊本文開放合作夥伴轉載，圖片來源：《TechOrange》。