

金融业中快速将GAI运用在对外服务的永丰金控认为,调整提示,是开发GAI应用的最大挑战。传统AI开发流程被颠覆,如何促进业务人员愿意高度参与开发成为关键,永丰金控也正在从集团策略角度推广新开发文化
在永丰金,目前大多数GAI流程还是由开发人员负责撰写、调整提示,业务人员负责检核模型回应。首先,业务人员向开发人员提出GAI需求,由开发人员提供初版提示。接着,业务人员协助测试各种情境、视图模型回应内容,并提供修改建议。开发人员根据这些建议重新调整提示命令后,再找业务人员来测试模型回应,若有问题或不符需求,再次找开发人员调整提示,并且再次找业务人员评估结果。因为开发人员无法检验生成结果是否符合业务需求,得和业务人员反复来回多次,甚至数十次,调整与验证后,才能完成GAI应用的开发。
未来理想模式 业务人员主导提示工程的GAI开发

目前多数GAI开发由开发人员负责调整提示,也开始有少数企业由业务人员主导提示工程,这也是永丰金控科技长张天豪心中的理想作法。业务人员提出需求后,开发人员先设计初版提示,再让业务人员测试、确认模型生成效果,但最大不同是,业务人员在测试的过程中,自行调整提示,减少和开发人员来回沟通修改提示的过程。业务人员仅需将调整后的自订提示,交由开发人员整合到GAI应用中的模型默认提示,业务人员再来验收最后的GAI应用。
AI应用不能单靠AI专家,永丰要让业务员
成为GAI开发主角
提示工程的特性,不仅冲击既有AI开发流程,更扭转了开发人员和业务人员在GAI项目的角色。
在GAI项目中,开发人员无法单靠自己的技术能力完成,得借助业务人员的领域知识,来调整提示。过往AI开发流程中,业务人员提出需求后,由开发人员创建、训练和调教模型,最终提供服务。这个合作模式行之有年,业务人员早已习惯。因此,「业务人员很难想像,在GAI开发过程中,自己竟然是主角。」永丰金控科技长张天豪强调。
永丰想要推动的变革是,在AI应用开发中,将业务人员推向更内核的位置。不过,要在集团内推动这个观念,并不容易。GAI爆红后,永丰很快就从集团角度做出应变,从开设GAI课程开始,让业务人员掌握提示工程技巧。
这不是一时兴起的计划,而是来自多年AI发展的经验。过去,永丰发展AI时,就十分看重业务人员在应用开发时担任的角色。甚至,集团能从零开始,发展出上百个AI项目,关键就在技术单位和业务单位的密切合作。
持续在集团推广重要观念:想打造成功AI应用,得和业务单位密切合作
2020年,永丰金控定调以AI作为集团数位转型内核。当时,张天豪为了在集团推广AI,选择从应用角度切入,以「顾客行销基因」作为第一批业务单位合作项目,通过AI来协助业务单位进行精准行销。通过概念验证,取得业务单位认可后,技术团队顺利将这项实验项目转为正式项目。
如今,顾客行销基因项目提供了上百款商品或服务的推荐指数,协助永丰集团内多个业务单位提升商品行销效益。这是永丰在AI发展历程中的一项关键应用,也是促进永丰集团近一步推广AI的重要项目。
有了几次和业务单位合作的成功案例后,张天豪更有信心在集团推动AI。不过,他并不是向业务单位强调AI技术的优势,而是向业务单位表达一个重要新观念:「打造AI应用不能单靠AI专家。」唯有和业务单位合作,才能产出成功的AI应用或服务。
甚至,张天豪还认为,若比较业务和技术单位对AI应用开发的重要性,「业务单位可能占6或7,我们(技术单位)只有4或3。」
这个观念,后来体现在永丰订定的AI发展策略上。2022年,永丰宣布三大AI策略,要从业务行销、风险决策、流程营运三大场景发展AI应用。永丰不单从技术看AI,因为,张天豪认为,从技术面切入,容易忽略金融业实际需求。
当时,永丰的AI策略,便是以应用为主,通过这三大类场景,让AI逐步落地到集团内每个角落。如今,永丰发展GAI,更强调了业务单位的重要性,甚至,张天豪也将业务人员视为GAI应用开发的主角,以这项策略推进GAI发展。
相关报导 