國泰在自家技術年會上宣布AIaaS的戰略目標，要靠三大AI策略「AI Ready」、「AI Native」、「AI Empower」實現。／國泰金控

AI Ready策略是要打造集團統一技術發展框架，同步子公司間的策略和技術。AI Native則是要將AI嵌入不同業務運作，達到AI應用無所不在的目標。最後一項策略，AI Empower則要提升集團全員工AI和雲端思維，除了要推動雲端轉型和成立AI專責組織，還要在集團擴大AI影響力。

不僅要建立統一的GAI技術框架，來實現三大AI發展策略，今年，國泰還在金控成立AI卓越中心，負責規畫全集團的AI應用發展，排序集團應用發展先後順序。在金控帶領下，各子公司也成立AI卓越中心，依循金控AI CoE策略方向，推動AI應用發展。

國泰分四個階段來發展GAI，從基礎的AI工具，再來是AI助理和AI代理，最後要達到AI應用無所不在的願景。梁明喬強調，這四個階段並非循序漸進，「不是第一個做完，才到第二個。」他表示，目前國泰仍在打造AI工具和AI助理階段，未來會根據法規環境和技術成熟度，適時步入AI代理應用階段。

打造集團統一GAI技術框架，集中子公司技術資源

在技術年會上，梁明喬揭露了集團統一的GAI技術框架GAIA。「GAIA是國泰生成式AI的基礎框架，也是發展AI即服務（AI as a Service）的核心。」他用一句話，點出GAIA的重要性。

這個技術框架具備三大特點。第一，適用於地端和雲端環境。第二則可支援多模態或單一模態輸出。最後，也是梁明喬認為最重要的特點，「可以在這個架構中微調模型，進行彈性擴充。」

GAIA包含三個核心模組，分別是知識庫、Model Hub，和護欄。梁明喬解釋，若將GAIA視為一座模型工廠，知識庫就是模型工廠的圖書館，不僅可協助降低AI幻覺問題，未來要微調模型，或打造RAG架構，專屬知識庫非常重要。

GAIA的知識庫類型可分為對內和對外，對內包含HR知識庫、授信知識庫、洗防知識庫和內稽知識庫等，對外則包含貸款產品知識、壽險產險產品知識、理財產品知識等。

Model Hub是國泰GAIA架構中的另一個核心，梁明喬說：「Model Hub就像是中央控制室。」不僅能提供多種模型選擇，包含雲端、地端、開源或閉源模型，也提供標準化API接口，能介接各種服務。最後，Model Hub也提供成本管理功能，協助開發者管控模型使用開銷。這是梁明喬認為十分重要的功能。

最後一個核心，是國泰自行開發的護欄。梁明喬解釋，護欄如同模型工廠的警衛室，負責確保模型輸入和輸出的安全。GAIA的護欄設計包含複合式規格護欄和多層抽換模組護欄。前者是在知識庫連接模型時進行資訊過篩，後者則是在既有模型護欄上，再加上防護措施，例如增加業務專屬的業務護欄，實現多層次過濾機制。

目前，國泰金控仍在持續完善GAIA架構，預計最快今年完工。不過，在建立統一技術框架的同時，各子公司仍在持續發展應用，因此，如何將各子公司發展的工程整合到GAIA框架，是國泰金控技術團隊現階段需要面對的一項挑戰。

AI評測也是關鍵技術

除了GAI技術發展框架，AI評測平臺，也是國泰GAI發展策略的關鍵技術。這個評測平臺，會運用量化的AI評測指標，來評估AI模型是否符合公平性、可靠性等AI治理原則。檢測完成後，平臺會產出檢核報告，再交由專責單位決策模型上線與否。

國泰金控打造AI評測平臺，確保模型從研發到上線都符合規範。／國泰金控

梁明喬表示，國泰根據金管會金融AI指引的六大原則和數發部AI評測中心的十大評測項目，訂定評測項目。並且，國泰透過自建問答集，來建立量化的評測指標。

梁明喬坦言，將治理原則化為量化指標並不容易，需要設立多種適當的情境提問，才能有效檢測模型。

目前，國泰鎖定的GenAI應用，分別是輔助員工、客戶、提升生產力和AI基礎設施4類GenAI應用。

在員工場景中，國泰計畫要建立員工自助開發平臺、AI教練和業務團隊AI助手等應用，客戶場景則包含信用卡消費分析應用。常見的AI副駕駛（AI Copilot）則歸類在生產力應用。最後一項，AI基礎設施，則包含運用GenAI提升反詐技術和風險管理能力。

在技術年會上，國泰公布了新的AI發展藍圖，透露了國泰未來的AI發展重點。首先，這張藍圖中的底層，數據架構層，涵蓋國泰AI發展的基礎設施，不僅包含國泰的地端資料倉儲、ML平臺，也納入了國泰計畫要在雲端環境建立的資料湖倉平臺。意味著，國泰未來的AI發展，將會奠定在雲地混合架構之上。

數據架構層之上的是多元數據源層和數據與AI治理層，前者包含各種，例如，顧客旅程、客戶關係管理系統、交易數據、夥伴生態系數據等數據來源。後者則包含DataOps和MLops等平臺，國泰今年在技術年會首次曝光的AI評測平臺Cathay RAI，也並列在數據與AI治理層中。而在核心技術模組中，除了傳統AI技術模組，也包含國泰的GAI技術發展框架GAIA。

這些AI技術未來都會運用在四種場景，包括風險管理、客群經營與行銷、投資與財務規劃，和營運效率優化，也就是國泰AI藍圖中的場景層。最後，國泰AI藍圖中的最上層，治理層，是國泰金控在今年設立的AI CoE，負責排序AI應用發展順序。／國泰金控

國泰金控打造的GAI技術框架GAIA主要分為三大核心，分別是知識庫、Model Hub和護欄。

知識庫如同GAIA的圖書館，能提供全集團對內和對外知識。對內知識庫包含各種內部服務，例如，HR知識庫、授信知識庫、洗防知識庫和內稽知識庫等，對外知識庫則包含各種產品知識，例如，貸款產品知識庫、產險壽險產品知識庫、理財產品知識庫，和信用卡產品知識庫。

Model Hub則如同GAIA的中央控制室，可分為四大塊，分別是Model Menu、Model Registry、AI Gateway，和底層管理。Model Menu是一個模型清單，可提供多種模型選擇，包含雲端、地端、開源或閉源模型。Model Registry則包含模型服務臺和模型儲存庫。而AI Gateway包含標準化API接口，能介接各種服務，同時，也包含身份認證授權機制。在底層管理中，包含監控日誌蒐集、結果快取，另外，流量費用管理也並列其中。

GAIA最後一個核心是護欄，如同GAIA的警衛室，負責管控模型服務輸入和輸出。GAIA的護欄是由國泰金控自建而成，包含複合式規格護欄和多層抽換模組護欄，前者是在知識庫連接不同模型時進行資訊過篩，後者則是額外防護措施，例如提供業務規則、基礎防護、安全強化等護欄。

除了GAIA三大核心，國泰金控也規劃出GAIA的AI應用核心，包括資料檢索/摘要、解讀判斷、預測分析，和客製化生成等功能。／國泰金控

 相關報導