【因應GAI啟動集團AI 2.0戰略布局】中華電信打造AI虛擬助理提升千萬客戶服務品質
支付動態 · 2024-09-13

結合生成式AI及知識庫打造AI助理,改善千萬客戶服務品質,提高員工生產力

中華電信在2023年下半年設立AI 2.0企業策略委員會,啟動集團的GAI布局,該委員會由董事長督導,總經理擔任主任委員,大力推動GAI的技術、業務應用。其中技術包含治理、資料、平臺及技術,業務應用則推動內部GAI應用及外部服務。(/中華電信)

在AI應用之前,需要先擬定原則,因此該委員會也參考國內外的相關規範,包括行政院提出的公關機關生成式AI應用規範等,訂定AI治理原則,例如透明、不可侵權、可回溯性等等,這些原則不只作為中華電信內部AI治理準則,也涵蓋提供外部客戶的AI相關服務。

中華電信執行副總經理兼技術長黃志雄認為,過去使用的辨識型AI由於並非多模態,且需要專家訓練,多為單一領域的應用,而生成式AI的創作能力帶來更大的想像,其應用幾乎涵蓋產銷人發財,各行各業幾乎都能夠使用,應用的潛力更為廣泛。

全力發展AI算力、平臺到應用

「IT轉型是打造數位神經系統,AI則是這個數位神經系統的大腦,通過以AI作為數位神經系統的大腦,強化我們內部營業效益或是對外業務擴展,帶來非常突破性的進展」,黃志雄說明,AI在中華電信轉型過程中的重要性。

中華電信從3個層次推動,在底層的基礎建設層次,建置內部或外部可以使用的GPU as a Service,即AI算力雲,而在IDC方面,中華電信也規畫因應企業建置AI機房的需要,計畫建置AIDC機房,提供代建代維。

至於中間的平臺層次,廣泛支援各種開源或付費大型語言模型,近幾年中華電信號召相關的人才加入,提高對大型語言模型的深度瞭解,以推薦客戶適合的模型,可運用多年累積經驗,協助調校大型語言模型參數。

首先發展智慧客服等6項GAI 應用

而在上層應用方面,發展各種垂直領域的AI 2.0內外部應用,中華電信設立AI策略委員會後,提出6個觸媒計畫發展GAI應用,這6個子計畫包括智慧客服、智慧櫃臺、法律助理、SDLC、M365 Copilot、算力雲,其中智慧客服與智慧櫃臺主要提升客戶服務能量,法律助理則是協助法務人員撰寫法律契約,M365 Copilot則提供員工個人生產力。中華電信期望通過6項生成式AI應用能夠快速見效,並吸引更多內部單位加入,進一步擴散應用。

以客服為例,中華電信現有2千多位客服人員,24小時服務上千萬行動用戶、數百萬寬頻用戶、近千萬市話用戶,如此龐大用戶為客服帶來相當大工作負荷,客戶提出的需求五花八門,可能是與帳務有的問題,或是某個服務的申請或技術障礙解決有關,不只是用戶,非用戶也會進線提出問題,例如舉辦行銷活動,造成短時間內大量客服電話進線,這些都增加客服工作量。

為了減輕客服的工作負擔,他們在幾年前就發展問答機器人,推出智慧文字客服,讓民眾的問題可以透過問題機器人完成,來提高用戶的自助服務率,而不需進到真人客服。現在,他們更進一步結合生成式AI,在客戶與客服對談中理解客戶的意圖,針對客戶的問題找到相關資訊,並且協助客服人員妥善應答處理。

中華電信董事長郭水義也曾對外說明自家的AI 2.0應用,他以智慧客服作為範例,整合AI知識庫Copilot技術,以生成式AI模型,加上Prompt Engineering,AI訓練師建置和更新知識庫,縮短7成的人工建置時間。

另外,在軟體開發方面,他們也應用生成式AI在軟體開發生命周期(Software Development Life Cycle,SDLC),以軟體開發的前期為例,訪談客戶的需求後,過去人員要撰寫客戶需求書、系統規格書等,主要以人工登打,現在透過生成式AI輔助生成需求書、規格書,縮短花費的時間。

不只是軟體開發的前期規格文件,程式碼撰寫方面,他們也利用生成式AI虛擬助理來協助,例如AI虛擬助理生成網頁,AI虛擬助理依照開發人員的要求調整,再生成Code,送到測試環境,再來回調整優化。

中華電信資訊技術分公司總經理楊慧琪表示,今年中華電信才開始運用生成式AI在SDLC,用於提高軟體開發生命周期各階段的工作效率,目前測試結果獲得不錯的反應,具體的效益還有待時間來驗證。在SDLC整個流程試著導入生成式,目標是將整個生命周期的工作效率提升30%以上。

從成立AI 2.0策略委員會,到6個應用觸媒計畫,中華電信結合長久以來累積的知識庫及專業領域的專家推動生成式AI應用。除了提升員工的工作效率,也能緩解退休潮造成的人才斷層、經驗傳承問題。

「生成式AI生成內容看似無中生有,實際上背後海納百川,運用多年下來累積的大量歷史資料才能做到,發展生成式AI應用能力,同樣需以資料作為基礎,建構特定領域的KM,再發展相關應用」,黃志雄說。

中華電信執行副總暨技術長黃志雄表示,生成式AI生成內容看似無中生有,實際上背後海納百川,運用多年下來累積的大量歷史資料才能做到,發展生成式AI應用能力,同樣需以資料作為基礎,建構特定領域的KM,再發展相關應用。(攝影/洪政偉)

用生成式AI處理用戶漫遊紙本帳單

現在不只是6項應用,其他單位也感受到GAI帶來的好處,發展更多GAI應用,例如用戶到國外旅遊使用國際漫遊,國外漫遊合作的電信商提供中華電信該用戶所使用漫遊服務的帳單,然而這些帳單可能形式不一,可能是紙本傳真、電子郵件等不同形式,中華電信需要投入大量人力處理。

為了讓整個處理過程自動化,他們利用OCR辨識漫遊紙本帳單,再由生成式AI去解讀,生成標準化的帳務重點資訊,再送進資訊系統。但是,仰賴生成式AI來處理漫遊紙本帳單,替代過去人工作業的方式,這樣做雖然能夠節省時間,仍要建立多種機制,以提高生成式資訊的正確性。

中華電信運用長久以來所積累的領域知識、經驗,並投入領域專家,運用RAG、Prompt Engineering等技術,讓GAI生成內容「有所本」,提高生成內容的正確度、可被信賴,並且克服退休潮導致有經驗的員工大量流失,新手員工專業領域知識經驗不足的問題。

以客服為例,客服人員流動率較高,少子化招工不易,客服人員代表公司對外服務客戶,新進客服人員都需要經過一定訓練,但是,中華電信底下行動網路、寬頻網路、市話、MOD等各種業務龐雜,面對客戶提出各式各樣的問題,新進人員往往不容易快速找到資訊,因此他們在客服人員值機應答工作,將過去累積的問答知識庫,結合生成式AI,幫助客服人員快速找到資訊。

在生成式AI的值機應答協助之下,加快新手客服人員的養成速度,客服應答也能達到一定的水準,並且降低客服對於難以回答的疑難雜症,進入1.5線尋求資深或技術人員支援的比例,同時縮短客戶等待回應時間。

同樣的情形也在網路維運管理,電信事業屬於關鍵基礎建設,中華電信投入大量人力維護網路基礎建設的正常運作,設備如果出現異常導致服務中斷,可能影響廣大用戶的生活,或是工程人員到用戶家中進行安裝檢修,網路維護工作高度仰賴人員經驗,雖然新手可以查詢相關資料,在缺乏領域經驗之下,反覆查找耗費時間,並不容易找到需要的相關知識。

中華電信運用生成式AI發展家用寬頻安裝維運虛擬專員,當工程維護人員到客戶家中維修,如果遇到疑難雜症,透過App與虛擬專員對話,相當於多了一位助手,幫助工程人員快速查找知識庫中的相關資訊,傳承維運專家多年累積的知識經驗。

黃志雄表示,過去在網路維運上,利用AI監控及預測設備的劣化,當預測即將發生故障前,及早汰換設備避免客訴產生,但是生成式AI應用在數位孿生(Digital Twin),對網路維運、韌性提升也相當重要,例如當發生災害時,研擬不同的行動方案,利用Digital Twin模擬環境,藉此觀察不同行動方案產生的效果,能夠提升網路韌性。

建立算力池、算力雲服務

由於AI需要大量的算力,因此在AI2.0的策略中也包含了基礎建設部分,中華電信已有全盤布局。他們已盤點全國各地機房資源,計畫建構算力池,先滿足內部AI應用需要及外部客戶應用的需要打造AI算力雲,考慮到目前GPU供貨問題,採用Nvidia DGX,採用8片H100,結合原先已構建的GPU資源,以建立可滿足模型訓練需要的AI算力。

至於IDC機房,中華電信集團下的IDC機房,在國內IDC市場占有一席之地,因應客戶建立AI機房的需要,該公司計畫建置AIDC機房,符合AI運算伺服器需要的高用電、地板載重、充足機房空間,提供代建代維或顧問服務。

應用平臺工程概念快速擴散內部GAI應用

在歷經約一年時間發展,為讓AI進一步擴大應用領域,今年建置共用平臺,讓產銷人發財不同領域員工,即使不會AI相關技術,也不會軟體開發,只要將他們的業務資料整理好後,通過該平臺產生自己業務上的小幫手。

運用平臺工程的概念,將跨領域業務共用的功能,例如權限管理、資料庫納入共用平臺,搭配No-code、Low-code工具,即使不會軟體開發的員工也能簡單地產生他們業務上需要的AI助理。

楊慧琪表示,中華電信投入發展平臺工程基本功已有一段時間,考慮到生成式AI近幾年發展相當快,未來可能成為每位員工業務上都需要的基礎幫手,今年將生成式AI納進平臺工程,希望能擴散產生更多的AI 2.0應用。

而對使用單位而言,業務工作上如果想要使用生成式AI,透過該平臺,能夠簡單打造其業務領域的AI助理,這個概念不只是內部,也計畫推向外部,例如基於AI算力基礎架構的AI Factory平臺,讓客戶可以通過AI Factory的生產線概念打造垂直領域的GAI應用。

中華電信資訊技術分公司總經理楊慧琪表示,中華電信投入平臺工程基本功已有一段時間,生成式AI近幾年快速發展,未來每位員工可能需要基礎AI助理,運用平臺工程概念,希望擴散更多的生成式AI應用。(/中華電信)

 相關報導 

热门文章
UK MPs reopen 2025 gambling inquiry as reform stalls
Regulation
Online gambling, crypto pose ongoing money laundering risks in Philippines, analyst says
Southeast Asia
Vietnam's tightening online gaming policy creates new market opportunities
Southeast Asia
GGC Awards 2026 Shines in Colombo: Honoring Leaders and Innovators in the iGaming Industry
HUIDU Focus
SBC Summit Canada to Make Player Safety a Key Pillar of 2026 Agenda
Marketing
New Jersey July Gambling Revenue Hits $606M, Sweeps Casinos Banned
Regulation
1spin4win releases unique slot Don Catleone Hold and Win featuring gangster cats
Online Game
Institutional Academy that exceeded expectations marked the opening of GAT CDMX
Online Game
JILI Partners with Cricket Legend AB de Villiers (ABD) to Launch Exclusive Branded Game Series 100% 11
Sports Game
1spin4win grows its Latin American presence by partnering with Fortuna Juegos
Online Game
GAT Expo Puerto Rico Will Pulse with the New Era of Gaming in the Caribbean
Marketing
B2B Tech Infrastructure Gains Momentum in Philippine Gaming Sector
Southeast Asia
Vietnam’s Controlled Gaming Shift Gains Ground, But Domestic Demand Still Lags
Southeast Asia
Gaming & Technology Expo Makes a Powerful Entrance in CDMX
Marketing
Full House at GAT Expo Cartagena 2026 Academic Agenda
Online Game
首页
游戏
合作
发现
我的