運用開源小型語言模型精準進行客戶意圖判斷 國泰金:促AI了解在地金融服務語意、專有名詞及模糊提問
上報/王之芸
55 分鐘前
為提升營運效率與客戶體驗,國泰金控以「生成式AI技術發展框架GAIA」為核心,以及AI即服務(AI as a service, AIaaS)策略,持續探索生成式AI 於金融場景的應用。繼去年分享金融大型語言模型(LLM)的實證成果後,國泰金控於今天(4日)在NVIDIA GTC Taipei再一次發表前瞻概念性驗證研究成果,國泰金控表示,運用開源小型語言模型(SLM)精準進行客戶意圖判斷,有望提升未來落地後的金融服務營運效益。
在資料治理與隱私保護方面,國泰金控進一步說明,本次概念性驗證採用全合成資料,避免使用真實客戶資料訓練設計,透過相似功能聚類、單意圖與多意圖資料設計、台灣語境優化及關鍵字擴充等方法,強化模型對本地金融服務語境、專有名詞與模糊提問的理解能力。應用情境涵蓋房貸餘額查詢、信用卡繳費、分行服務導引等常見需求,作為未來智慧搜尋與服務分流的技術基礎。
國泰金控表示,近年持續推動 AI 於金融場景的創新應用,從內部流程優化、客戶服務體驗、金融知識理解到模型治理,逐步累積可擴展的技術基礎。國泰金控強調,面對金融業高度監管、重視資料安全與服務需求快速變動等產業特性,國泰金控將持續以兼顧合規、安全、穩健的方式推動AI在長文本判斷、金融文件深度理解與跨場景應用等的實證研究,探索符合金融業需求的模型訓練與應用模式,推動智慧金融服務創新。
Prompt Engineering:指透過設計提示詞與指令,引導AI模型用正確的方式理解問題,並產生答案,可在不重新訓練模型的情況下,提升模型回答品質。
向量檢索模組:指先將文件、功能說明或知識資料,轉換成語意向量,當使用者提出問題時,系統會先搜尋最相似向量再提供給模型作為判斷或回答依據,可幫助模型找到相關知識,提升回答準確度。
全合成資料:指不直接使用真實客戶資料,而是依據實際金融服務情境,設計並生成模擬語料,作為模型訓練基礎,讓模型訓練更符合金融業對資料治理與風險控管的要求。
相似功能聚類:指將容易被使用者混淆、語義相近的服務功能先分成同一群,再針對這些相近功能設計訓練資料,讓模型學會辨別不同意圖之間的細微差異。
向量檢索模組:指先將文件、功能說明或知識資料,轉換成語意向量,當使用者提出問題時,系統會先搜尋最相似向量再提供給模型作為判斷或回答依據,可幫助模型找到相關知識,提升回答準確度。
全合成資料:指不直接使用真實客戶資料,而是依據實際金融服務情境,設計並生成模擬語料,作為模型訓練基礎,讓模型訓練更符合金融業對資料治理與風險控管的要求。
相似功能聚類:指將容易被使用者混淆、語義相近的服務功能先分成同一群,再針對這些相近功能設計訓練資料,讓模型學會辨別不同意圖之間的細微差異。