北捷AI客服遭網友測試發現可代寫程式碼,北捷緊急斷開Azure Open AI回應功能
支付動態 · 2024-11-25

台北捷運提供捷運AI智慧客服,有網友測試後發現,該AI客服可協助產生程式碼範例,事件在網路揭露後,吸引大批網友討論、測試,台北捷運公司緊急要求廠商斷開與Azure Open AI串接,回復原本的旅客應答功能。

台北捷運表示,接到通報後,已要求廠商立即斷開串接Azure Open AI功能,回歸到提供旅客常見問答題庫,以回應旅客詢問,目前旅客詢問捷運相關資訊,像是首末班車諮詢、遺失物協尋服務等等皆正常服務。

由於事件發生後,吸引大批網友測試,導致該服務使用的Token量爆增,可能導致使用生成式AI費用激增,對此,台北捷運強調,接到通報後已立即要求廠商斷開串接Azure Open AI,因發現異常即立即處置,並無明顯費用產生。

台北捷運初步研判原因為,網友以程式語言測試捷運AI智慧客服,超出原先設定的資料庫範圍,系統透過Azure OpenAI回應,因此台北捷運立即要求廠商斷開串接功能,回到北捷已建置的旅客常見問題應答。

由於沒有對民眾提出的問題請求設限,擋掉和台北捷運旅客服務以外的無關問題,如果長時間遭到外界濫用,可能導致生成式AI鉅額的收費外,有心人士可能測試各種提問方式,還可能設法騙取AI客服回應企業內的敏感資料,可能衍生出資安的風險。

對此,台北捷運回應,此次雖然一發現異常就立即處置,所幸沒有明顯費用產生,但後續將邀請相關單位召開會議,研議AI智慧客服精進做法,並請廠商提出檢討報告,由台北捷運公司的資安長督導應用單位建立檢核機制。

生成式AI帶動一波AI應用浪潮後,不少公司期待運用生成式AI帶來的效益,特別是在客戶服務方面,因少子化缺工問題,為減輕真人客服的工作壓力,導入生成式AI精進AI客服能力,此次台北捷運AI智慧客服,反映企業使用生成式AI對外提供服務,類似應用在上線前應該謹慎檢測,避免使用者提出服務以外的請求,可能導致被濫用,甚至產生資安的風險。

Popular articles
Brazil Proposes Raising Gambling Tax Rate to 24%, With Revenue Allocated to Social Security and Healthcare
Regulation
Vietnam’s Controlled Gaming Shift Gains Ground, But Domestic Demand Still Lags
Southeast Asia
SBC Summit Canada to Make Player Safety a Key Pillar of 2026 Agenda
Marketing
Institutional Academy that exceeded expectations marked the opening of GAT CDMX
Online Game
New Jersey July Gambling Revenue Hits $606M, Sweeps Casinos Banned
Regulation
Online gambling, crypto pose ongoing money laundering risks in Philippines, analyst says
Southeast Asia
GAT CDMX 2025 Institutional Academy: Leaders and Experts Analyze the Present and Future of the Gaming Industry in Mexico and Lat
Sports Game
JILI Partners with Cricket Legend AB de Villiers (ABD) to Launch Exclusive Branded Game Series 100% 11
Sports Game
GAT Expo CDMX 2026 Kicks Off Today in Mexico with a Sold-Out Opening Reception at Big Bola Casino Santa Fe
Marketing
PropellerAds Positions Itself as a Go-To Traffic Source for iGaming Advertisers Ahead of a High-Demand Season
Marketing
Vietnam's tightening online gaming policy creates new market opportunities
Southeast Asia
1spin4win releases unique slot Don Catleone Hold and Win featuring gangster cats
Online Game
B2B Tech Infrastructure Gains Momentum in Philippine Gaming Sector
Southeast Asia
Indiana online casino bill stalls in House committee
Regulation
UK MPs reopen 2025 gambling inquiry as reform stalls
Regulation
Home
Game
Cooperation
Find
My