隨著 AI 逐漸走進人們生活中，結合科技與傳統金融理財的科技金融（FinTech）模式，已成為現代金融業的核心驅動力之一。為提升營運效率與使用者體驗，國泰金控（2882）以「生成式 AI 技術發展框架 GAIA」為核心，以及 AI 即服務（AI as a service, AIaaS）策略，持續探索生成式 AI 於金融場景的應用。
身為「輝達背板股」其中一員的國泰金控，雙方合作聚焦於打造金融專屬的代理式 AI（AI Agent）平台，在確保資安及法規的前提下，更導入金融大型語言模型（LLM）。繼去年分享了實證成果後，今（4）日於輝達 GTC 大會（NVIDIA GTC Taipei）再次發表前瞻概念性驗證研究成果，運用開源小型語言模型（SLM）精準進行客戶意圖判斷，有望提升未來落地後的金融服務營運效益。
現正最夯：遭小草嗆為何知洪慈庸小產 卓冠廷怒噴：她是我老婆怎會不知道！
國泰金控指出，本次實證以開源模型作為訓練目標。初步驗證結果顯示，在測試條件下，可降低對複雜 Prompt Engineering 或向量檢索模組的依賴。透過設計提示詞與指令，引導 AI 模型用正確的方式理解問題、產生答案，以及透過系統先搜尋出最相似向量，再提供給模型作為判斷或回答依據，來使模型找到相關知識。在不重新訓練模型下，可以提升回答準確度、簡化系統架構，並降低後續維運複雜度。
該結果也顯示，若能結合適當的金融場景資料設計與模型微調，將有機會提升模型穩定度、推論效率與應用可控性。並經微調後的 SLM 在客戶意圖判斷任務上，可達到接近主流閉源 LLM 的表現，可作為企業未來選用 AI 語言模型進行訓練的參考。
在資料治理與隱私保護方面，本次概念性驗證採用「全合成資料」，以不直接使用真實客戶資料，而是依據實際金融服務情境，設計並生成模擬語料，作為模型訓練基礎，讓模型訓練更符合金融業對資料治理與風險控管的要求。
現正最夯：股東會後大盤挫600點！台積電怎麼了？一圖看台積股東會五大重點
為避免使用真實客戶資料訓練設計，該模型透過相似功能聚類、單意圖與多意圖資料設計、台灣語境優化及關鍵字擴充等方法，強化模型對本地金融服務語境、專有名詞與模糊提問的理解能力。應用情境涵蓋房貸餘額查詢、信用卡繳費、分行服務導引等常見需求，作為未來智慧搜尋與服務分流的技術基礎。
國泰金控近年持續推動 AI 於金融場景的創新應用，從內部流程優化、客戶服務體驗、金融知識理解到模型治理，逐步累積可擴展的技術基礎。面對金融業高度監管、重視資料安全與服務需求快速變動等產業特性，將持續以兼顧合規、安全、穩健的方式推動 AI 在長文本判斷、金融文件深度理解與跨場景應用等的實證研究，探索符合金融業需求的模型訓練與應用模式，推動智慧金融服務創新。
