持續進化的生成式AI創新服務-智能協作

• 數位金融

撰文／陳翠蘭 圖片提供／達志影像

金融的AI應用～智能協作

Innovative Services

全球金融機構都在積極試驗開發「生成式AI」的多元可能，玉山銀行不僅從2018年即陸續自建完成AI研發雲和機器學習，更將AI融入到玉山的各項業務中，包含多種應用場景協作整合、克服風險挑戰、強化內部教育訓練等，建構出符合金融業專屬需求的AI服務。

生成式AI引領金融創新，多元應用蓄勢待發

由於生成式AI的應用潛力無窮，促使許多國家的金融機構開始積極探索試驗，領域涵蓋了客戶服務（智能客服、個人化推薦）、風險管理（詐欺偵測、信用評估）、內部營運（文件生成、知識管理）、投資分析、行銷內容生成等多元面向。

對此，因應臺灣金融業打團體戰的策略，為整合資源、擴大金融科技創新量能，今年2月由金管會指導、金融總會規劃成立了「金融科技產業聯盟」，並由玉山金控擔任「數位金融實務規範」工作圈的創始召集人，第一任期規劃以金融無塵室與可程式化AI治理為主要任務，期許建立一個安全、封閉的環境，確保未來跨金融機構合作案均能符合資安與法規。

創新科技 落實為智能助理

身為臺灣金融業率先擁抱生成式AI的領先者，玉山金控不但從2018年起即陸續自建完成AI研發雲和機器學習（即服務平台MlaaS），協助組織加速AI開發與應用的進程。至目前為止，平台已提供及維運各類型的AI服務，包含行銷、風控、服務、流程等面向，將AI融入到玉山各項業務裡。而在ChatGPT推出之際，玉山則著手布局生成式AI，先是打造了玉山內部的ChatGPT-GENIE，同時陸續推展出多個進階應用。

最初的GENIE具備基本的文字對答能力，在使用者輸入提問的資料後，資料會經由GENIE連接至各LLM廠商所提供的大型語言模型，再通過GENIE回傳模型生成的回應。隨著使用者漸漸熟悉GENIE的操作及詢問，團隊開始挖掘業務常見與潛在的情境、服務，並開發整合到不同的應用場景和內部系統，讓生成式AI更充分落實到翻譯文件、生成文案、生成話術等多種工作流程，成為行員的個人智能助理。

創新功能 導轉機器人互動

隨著外部LLM模型不斷精進，GENIE於2024年9月推出2.0版本，更進一步擁有圖片上傳、音檔辨識的功能，相較GENIE1.0的使用量大幅提升238％，對話次數提升72％且使用人數達到41％。在最近一次的更新，還新增了多類型的檔案上傳功能，可針對檔案進行問答，滿足像是摘要、翻譯、特定內容查找等需求。截至2025年3月為止，使用人數較去年9月增加了88.9％，並帶來逐月20％的使用量提升。

今年預計推出共用模板庫、網路搜尋，以及導轉行內對話機器人等功能，除了讓所有行員能夠保存與共享具有領域知識、特定業務的模板，並且串接行內的對話型機器人，讓GENIE可以透過意圖導轉的方式，引導同仁與特定業務的對話機器人互動、問答。

創新應用 專屬金融業需求

在此同時，考量到生成式AI常會產生「幻覺」現象，回應中可能包含表面合理但實際錯誤、虛假或脫離現實的資訊，這是使用者最常面臨的挑戰，也是企業難以完全掌控的風險。GENIE確實是一款專為金融領域設計的生成式應用服務，但為了讓生成式應用能順利落地，玉山銀行從整合現有的行內對話型機器人著手，逐步建置涵蓋各項業務場景的知識庫，內容包含了金融產品資訊、個人金融、法律與保險規範等相關資料。

結合多項先進技術的GENIE，展現出獨特且創新的價值。其核心之一就是採用檢索增強生成技術（Retrieval-Augmented Generation, RAG），能從知識庫擷取與使用者問題相關的資訊，輔助大型語言模型產生更精準的回應。而除了文字生成之外，GENIE還整合網際網路檢索與行內知識庫檢索功能，並結合玉山銀行的實際業務場景，大幅提升流程效率與回應準確性。

此外，GENIE亦設置了先進的NLP閘道（Gateway），用於監控和過濾系統輸出口，對敏感資料進行偵測及替換等處理，做為輸出前的最後防線。這項機制有效降低資料外洩、資訊安全風險，協助玉山銀行成功克服應用外部大型語言模型時所面臨的資安與合規挑戰，打造出符合金融業專屬需求的AI應用。

創新思維 建構使用者平台

自建置以來，玉山不斷關注外部技術、迭代更新GENIE平台的功能，同時探索更多生成式AI應用，例如透過生成式AI技術精進智能會議記錄、智能光學字元辨識（OCR），還有多項結合生成式AI的內部流程精進等，即可大幅縮短開發週期與辨識效果，藉以減少行員人工檢索資訊與查證的時間，有效提升作業的品質與效率。

此外，為了強化員工對生成式AI的認知及瞭解其中的風險，團隊在全行各業管單位舉辦多場工作坊與教育訓練，希望經由員工對生成式AI服務使用的認知，能讓服務擴及更多使用者、讓更多行員受惠，進而協助在業務方面的發想，並且提升全體工作效能。