NVIDIA 金融夥伴國泰金、玉山金！採 NeMo 平台打造台灣金融代理
輝達（NVIDIA）執行長黃仁勳近日在主題演講，再度公布最新合作夥伴，包括國泰金、玉山金旗下玉山銀行及中信金旗下中國信託三家金融機構，隨後國泰金、玉山金紛紛在 NVIDIA GTC Taipei 發表將採用 NVIDIA NeMo 平台訓練 AI 語言模型，打造台灣金融代理。
國泰金
國泰金公布與輝達（NVIDIA）的合作，雙方將共同研究如何運用 NVIDIA NeMo 在符合法規與商業需求的前提，進行本地端安全部署大型語言模型（LLM），以契合台灣的監管環境與市場需求，並提出在台灣金融業導入 AI 智慧代理的發展藍圖。
國泰金控副總經理暨國泰世華銀行數據長梁明喬表示，未來將運用台灣本地金融授信知識、法規文獻及實務案例等做為訓練語料，並在模型上利用 NVIDIA NeMo 框架進行預訓練、微調等技術手法，藉 NVIDIA 的加速運算完成 70 至 80 億參數量的大型語言模型訓練。
梁明喬指出，國泰金將透過知識蒸餾與 NVIDIA NeMo Curator 框架，擴增訓練資料達 4 至 5 倍，大幅縮短資料準備時間，輔以 NVIDIA TensorRT 框架加速模型評估流程，模型不僅能精準回應進階金融問答，並具備通過進階授信人員證照考試能力，展現 AI 在金融領域的應用潛力。
隨著全球 AI 技術快速演進，AI Agent 正成為新一代人工智慧的發展趨勢，相較傳統具對話功能的工具型 AI，AI Agent 具備環境感測、記憶與自主規劃能力，能根據情境變化主動推論、規劃，並執行任務，象徵 AI 由「回應式工具」正式邁入「主動型代理」的新階段。
應用金融場域中，AI Agent 的潛力無窮，但目前市面上多數屬通用大型語言模型，對台灣在地金融知識、專業術語及產業實務掌握仍不足，難以準確回應台灣金融使用者需求，國泰金運用 NVIDIA 加速運算的優勢，整合金融機構專有與產業特定資料，提升大型語言模型的應用效能。
梁明喬表示，國泰金將持續與輝達合作，推進具備更廣泛金融知識與實務應用能力的領域專屬大型語言模型，並持續強化 AI Agent 的適應性推理、複雜決策輔助與情境感知任務執行等能力，涵蓋從交易處理、服務自動化到智慧資訊擷取等應用。
玉山金
玉山金公布與輝達（NVIDIA）的合作，科技長張智星表示，未來將以「打造全方位金融 AI：驅動理財與防詐創新」推出兩大 AI 核心計畫，期以更智慧、更快速的服務提升客戶體驗，這兩項創新應用不僅強化內部作業效率，更為使用者帶來更安全、便捷的智慧金融服務。
張智星指出，首先玉山金將打造全新 AI 代理（AI Agent）平台，透過單一對話介面整合多元專業代理人，並以標準化架構加速開發與安全測試，同時導入 NVIDIA H100 GPU 與 NeMo，不僅大幅提升運算效能，更有效降低成本。
張智星分享，由於 AI 代理（AI Agent）本身就是生成式 AI 的一環，所以在生成式 AI 方面，玉山金將在確認技術可行、安全可靠後，後續將與主管機關在金融科技產業聯盟的架構下討論相關標準，穩健推動對外服務。
張智星強調，其次是玉山金將圖分析（Graph Analysis）技術嵌入現有防詐金流模型，讓複雜交易關係一目了然，偵測準確度提升兩倍，並藉由 NVIDIA Rapids 及 H100 GPU 加速，端到端詐欺偵測模型訓練流程較以往快上約 880 倍。
中信金
中國信託長期專注耕耘數位轉型工程，策略發展兩大主軸 Digital End-to-End 與 Banking Everywhere，並推動智能化轉型工程，希望全面走向 Intelligent anytime，建構以 AI 為引擎，持續推進中國信託永續變革，包含在「客戶體驗」、「流程效率」及「科技守護」三大領域進行突破。
中國信託積極布局 AI 基礎相關建置，包含 NVIDIA GPU、數據與 AI 平台，目前大量運用 AI 科技在內部效率提升、風險控管等議題，例如研發防詐科技大幅提升阻詐效能，並持續與 NVIDIA 進行技術交流與合作，以提升大語言模型的運算效能，加速研發金融場景生成式 AI 應用落地。
（首圖來源：國泰金）