【金融GAI先行者经验:国泰金控】全集团统一GAI战略与技术框架,加速子公司多元发展AI创新
支付動態 · 2024-10-18

面对内部GAI需求暴增,国泰金控选择先从集团角度下手,不仅在今年成立AI卓越中心,专责排序集团AI应用发展顺序,还要打造集团统一的GAI技术框架,让子公司都能通过同个平台打造GAI应用

国泰在自家技术年会上宣布AIaaS的战略目标,要靠三大AI策略「AI Ready」、「AI Native」、「AI Empower」实现。/国泰金控

AI Ready策略是要打造集团统一技术发展框架,同步子公司间的策略和技术。AI Native则是要将AI嵌入不同业务运作,达到AI应用无所不在的目标。最后一项策略,AI Empower则要提升集团全员工AI和云端思维,除了要推动云端转型和成立AI专责组织,还要在集团扩大AI影响力。

不仅要创建统一的GAI技术框架,来实现三大AI发展策略,今年,国泰还在金控成立AI卓越中心,负责规画全集团的AI应用发展,排序集团应用发展先后顺序。在金控带领下,各子公司也成立AI卓越中心,依循金控AI CoE策略方向,推动AI应用发展。

国泰分四个阶段来发展GAI,从基础的AI工具,再来是AI助理和AI代理,最后要达到AI应用无所不在的愿景。梁明乔强调,这四个阶段并非循序渐进,「不是第一个做完,才到第二个。」他表示,目前国泰仍在打造AI工具和AI助理阶段,未来会根据法规环境和技术成熟度,适时步入AI代理应用阶段。

打造集团统一GAI技术框架,集中子公司技术资源

在技术年会上,梁明乔揭露了集团统一的GAI技术框架GAIA。「GAIA是国泰生成式AI的基础框架,也是发展AI即服务(AI as a Service)的核心。」他用一句话,点出GAIA的重要性。

这个技术框架具备三大特点。第一,适用于地端和云端环境。第二则可支持多模态或单一模态输出。最后,也是梁明乔认为最重要的特点,「可以在这个架构中微调模型,进行弹性扩充。」

GAIA包含三个内核模块,分别是知识库、Model Hub,和护栏。梁明乔解释,若将GAIA视为一座模型工厂,知识库就是模型工厂的图书馆,不仅可协助降低AI幻觉问题,未来要微调模型,或打造RAG架构,专属知识库非常重要。

GAIA的知识库类型可分为对内和对外,对内包含HR知识库、授信知识库、洗防知识库和内稽知识库等,对外则包含贷款产品知识、寿险产险产品知识、理财产品知识等。

Model Hub是国泰GAIA架构中的另一个内核,梁明乔说:「Model Hub就像是中央控制室。」不仅能提供多种模型选择,包含云端、地端、开源或闭源模型,也提供标准化API接口,能介接各种服务。最后,Model Hub也提供成本管理功能,协助开发者管控模型使用开销。这是梁明乔认为十分重要的功能。

最后一个内核,是国泰自行开发的护栏。梁明乔解释,护栏如同模型工厂的警卫室,负责确保模型输入和输出的安全。GAIA的护栏设计包含复合式规格护栏和多层抽换模块护栏。前者是在知识库连接模型时进行信息过筛,后者则是在既有模型护栏上,再加上防护措施,例如增加业务专属的业务护栏,实现多层次过滤机制。

目前,国泰金控仍在持续完善GAIA架构,预计最快今年完工。不过,在创建统一技术框架的同时,各子公司仍在持续发展应用,因此,如何将各子公司发展的工程整合到GAIA框架,是国泰金控技术团队现阶段需要面对的一项挑战。

AI评测也是关键技术

除了GAI技术发展框架,AI评测平台,也是国泰GAI发展策略的关键技术。这个评测平台,会运用量化的AI评测指针,来评估AI模型是否符合公平性、可靠性等AI治理原则。检测完成后,平台会产出检核报告,再交由专责单位决策模型上线与否。

国泰金控打造AI评测平台,确保模型从研发到上线都符合规范。/国泰金控

梁明乔表示,国泰根据金管会金融AI指引的六大原则和数发部AI评测中心的十大评测项目,订定评测项目。并且,国泰通过自建问答集,来创建量化的评测指针。

梁明乔坦言,将治理原则化为量化指针并不容易,需要设立多种适当的情境提问,才能有效检测模型。

目前,国泰锁定的GenAI应用,分别是辅助员工、客户、提升生产力和AI基础设施4类GenAI应用。

在员工场景中,国泰计划要创建员工自助开发平台、AI教练和业务团队AI助手等应用,客户场景则包含信用卡消费分析应用。常见的AI副驾驶(AI Copilot)则归类在生产力应用。最后一项,AI基础设施,则包含运用GenAI提升反诈技术和风险管理能力。

在技术年会上,国泰公布了新的AI发展蓝图,透露了国泰未来的AI发展重点。首先,这张蓝图中的底层,数据架构层,涵盖国泰AI发展的基础设施,不仅包含国泰的地端数据仓库、ML平台,也纳入了国泰计划要在云端环境创建的数据湖仓平台。意味着,国泰未来的AI发展,将会奠定在云地混合架构之上。

数据架构层之上的是多元数据源层和数据与AI治理层,前者包含各种,例如,顾客旅程、客户关系管理系统、交易数据、伙伴生态系数据等数据来源。后者则包含DataOps和MLops等平台,国泰今年在技术年会首次曝光的AI评测平台Cathay RAI,也并列在数据与AI治理层中。而在核心技术模块中,除了传统AI技术模块,也包含国泰的GAI技术发展框架GAIA。

这些AI技术未来都会运用在四种场景,包括风险管理、客群经营与行销、投资与财务规划,和营运效率优化,也就是国泰AI蓝图中的场景层。最后,国泰AI蓝图中的最上层,治理层,是国泰金控在今年设立的AI CoE,负责排序AI应用发展顺序。/国泰金控

国泰金控打造的GAI技术框架GAIA主要分为三大核心,分别是知识库、Model Hub和护栏。

知识库如同GAIA的图书馆,能提供全集团对内和对外知识。对内知识库包含各种内部服务,例如,HR知识库、授信知识库、洗防知识库和内稽知识库等,对外知识库则包含各种产品知识,例如,贷款产品知识库、产险寿险产品知识库、理财产品知识库,和信用卡产品知识库。

Model Hub则如同GAIA的中央控制室,可分为四大块,分别是Model Menu、Model Registry、AI Gateway,和底层管理。Model Menu是一个模型清单,可提供多种模型选择,包含云端、地端、开源或闭源模型。Model Registry则包含模型服务台和模型存储库。而AI Gateway包含标准化API接口,能介接各种服务,同时,也包含身份认证授权机制。在底层管理中,包含监控日志搜集、结果缓存,另外,流量费用管理也并列其中。

GAIA最后一个内核是护栏,如同GAIA的警卫室,负责管控模型服务输入和输出。GAIA的护栏是由国泰金控自建而成,包含复合式规格护栏和多层抽换模块护栏,前者是在知识库连接不同模型时进行信息过筛,后者则是额外防护措施,例如提供业务规则、基础防护、安全强化等护栏。

除了GAIA三大核心,国泰金控也规划出GAIA的AI应用内核,包括数据检索/摘要、解读判断、预测分析,和客制化生成等功能/国泰金控

 相关报导 

热门文章
超级PAC筹资4800万美元:体育博彩势力加码
游戏风向
BETFAIR 网络攻击80万用户资料泄露
游戏风向
GGC Awards 2026 璀璨科伦坡:致敬 iGaming 行业的领航者与创新力量
灰度头条
新泽西州7月博彩收入创6.06亿美元新高,颁布禁令
游戏风向
巴西颁布新法赋权央行封锁非法博彩账户及 Pix 交易
支付动态
准备好了将你的收益最大化吗?尝试ProPush.me Constructor!
广告营销
横跨全球6个城市,灰度8场派对邀你共看世界杯,重塑高质量社交新场景
灰度头条
巴西拟将博彩税率提高至24% 税收将用于社保和医疗领域
游戏风向
菲律宾博彩技术赛道迎来新变局,B2B 供应模式加速渗透
东南亚资讯
越南在线博彩业政策收紧 催生市场新机遇
东南亚资讯
PropellerAds 分享了新的 iGaming 案例研究:在 3 个月实现 97,674 次安装和 12,701 笔存款
广告营销
哈萨克斯坦计划对在线赌场促销活动进行处罚
游戏风向
灰度在iGB L!VE 2026展位T70和你相约7月,一起点燃伦敦的热情!
灰度头条
印度最高法院受理公益诉讼,要求全国禁封“伪装”成社交游戏的赌博平台
游戏风向
张侨伟参议员排除全面禁止,敦促菲律宾规范网络赌博
东南亚资讯
首页
游戏
合作
发现
我的