

金融業中快速將GAI運用在對外服務的永豐金控認為,調整提示,是開發GAI應用的最大挑戰。傳統AI開發流程被顛覆,如何促進業務人員願意高度參與開發成為關鍵,永豐金控也正在從集團策略角度推廣新開發文化
在永豐金,目前大多數GAI流程還是由開發人員負責撰寫、調整提示,業務人員負責檢核模型回應。首先,業務人員向開發人員提出GAI需求,由開發人員提供初版提示。接著,業務人員協助測試各種情境、檢視模型回應內容,並提供修改建議。開發人員根據這些建議重新調整提示命令後,再找業務人員來測試模型回應,若有問題或不符需求,再次找開發人員調整提示,並且再次找業務人員評估結果。因為開發人員無法檢驗生成結果是否符合業務需求,得和業務人員反覆來回多次,甚至數十次,調整與驗證後,才能完成GAI應用的開發。
未來理想模式 業務人員主導提示工程的GAI開發

目前多數GAI開發由開發人員負責調整提示,也開始有少數企業由業務人員主導提示工程,這也是永豐金控科技長張天豪心中的理想作法。業務人員提出需求後,開發人員先設計初版提示,再讓業務人員測試、確認模型生成效果,但最大不同是,業務人員在測試的過程中,自行調整提示,減少和開發人員來回溝通修改提示的過程。業務人員僅需將調整後的自訂提示,交由開發人員整合到GAI應用中的模型預設提示,業務人員再來驗收最後的GAI應用。
AI應用不能單靠AI專家,永豐要讓業務員
成為GAI開發主角
提示工程的特性,不僅衝擊既有AI開發流程,更扭轉了開發人員和業務人員在GAI專案的角色。
在GAI專案中,開發人員無法單靠自己的技術能力完成,得借助業務人員的領域知識,來調整提示。過往AI開發流程中,業務人員提出需求後,由開發人員建立、訓練和調教模型,最終提供服務。這個合作模式行之有年,業務人員早已習慣。因此,「業務人員很難想像,在GAI開發過程中,自己竟然是主角。」永豐金控科技長張天豪強調。
永豐想要推動的變革是,在AI應用開發中,將業務人員推向更核心的位置。不過,要在集團內推動這個觀念,並不容易。GAI爆紅後,永豐很快就從集團角度做出應變,從開設GAI課程開始,讓業務人員掌握提示工程技巧。
這不是一時興起的計畫,而是來自多年AI發展的經驗。過去,永豐發展AI時,就十分看重業務人員在應用開發時擔任的角色。甚至,集團能從零開始,發展出上百個AI專案,關鍵就在技術單位和業務單位的密切合作。
持續在集團推廣重要觀念:想打造成功AI應用,得和業務單位密切合作
2020年,永豐金控定調以AI作為集團數位轉型核心。當時,張天豪為了在集團推廣AI,選擇從應用角度切入,以「顧客行銷基因」作為第一批業務單位合作專案,透過AI來協助業務單位進行精準行銷。通過概念驗證,取得業務單位認可後,技術團隊順利將這項實驗專案轉為正式專案。
如今,顧客行銷基因專案提供了上百款商品或服務的推薦指數,協助永豐集團內多個業務單位提升商品行銷效益。這是永豐在AI發展歷程中的一項關鍵應用,也是促進永豐集團近一步推廣AI的重要專案。
有了幾次和業務單位合作的成功案例後,張天豪更有信心在集團推動AI。不過,他並不是向業務單位強調AI技術的優勢,而是向業務單位表達一個重要新觀念:「打造AI應用不能單靠AI專家。」唯有和業務單位合作,才能產出成功的AI應用或服務。
甚至,張天豪還認為,若比較業務和技術單位對AI應用開發的重要性,「業務單位可能占6或7,我們(技術單位)只有4或3。」
這個觀念,後來體現在永豐訂定的AI發展策略上。2022年,永豐宣布三大AI策略,要從業務行銷、風險決策、流程營運三大場景發展AI應用。永豐不單從技術看AI,因為,張天豪認為,從技術面切入,容易忽略金融業實際需求。
當時,永豐的AI策略,便是以應用為主,透過這三大類場景,讓AI逐步落地到集團內每個角落。如今,永豐發展GAI,更強調了業務單位的重要性,甚至,張天豪也將業務人員視為GAI應用開發的主角,以這項策略推進GAI發展。
相關報導 