北捷AI客服遭網友測試發現可代寫程式碼,北捷緊急斷開Azure Open AI回應功能
支付動態 · 2024-11-25

臺北捷運提供捷運AI智慧客服,有網友測試後發現,該AI客服可協助產生程式碼範例,事件在網路揭露後,吸引大批網友討論、測試,臺北捷運公司緊急要求廠商斷開與Azure Open AI串接,回復原本的旅客應答功能。

臺北捷運表示,接到通報後,已要求廠商立即斷開串接Azure Open AI功能,回歸到提供旅客常見問答題庫,以回應旅客詢問,目前旅客詢問捷運相關資訊,像是首末班車諮詢、遺失物協尋服務等等皆正常服務。

由於事件發生後,吸引大批網友測試,導致該服務使用的Token量爆增,可能導致使用生成式AI費用激增,對此,臺北捷運強調,接到通報後已立即要求廠商斷開串接Azure Open AI,因發現異常即立即處置,並無明顯費用產生。

臺北捷運初步研判原因為,網友以程式語言測試捷運AI智慧客服,超出原先設定的資料庫範圍,系統透過Azure OpenAI回應,因此臺北捷運立即要求廠商斷開串接功能,回到北捷已建置的旅客常見問題應答。

由於沒有對民眾提出的問題請求設限,擋掉和臺北捷運旅客服務以外的無關問題,如果長時間遭到外界濫用,可能導致生成式AI鉅額的收費外,有心人士可能測試各種提問方式,還可能設法騙取AI客服回應企業內的敏感資料,可能衍生出資安的風險。

對此,臺北捷運回應,此次雖然一發現異常就立即處置,所幸沒有明顯費用產生,但後續將邀請相關單位召開會議,研議AI智慧客服精進做法,並請廠商提出檢討報告,由臺北捷運公司的資安長督導應用單位建立檢核機制。

生成式AI帶動一波AI應用浪潮後,不少公司期待運用生成式AI帶來的效益,特別是在客戶服務方面,因少子化缺工問題,為減輕真人客服的工作壓力,導入生成式AI精進AI客服能力,此次臺北捷運AI智慧客服,反映企業使用生成式AI對外提供服務,類似應用在上線前應該謹慎檢測,避免使用者提出服務以外的請求,可能導致被濫用,甚至產生資安的風險。

熱門文章
印度最高法院受理公益訴訟,要求全國禁封「偽裝」成社交遊戲的賭博平台
合規與政策
越南博彩管控逐步放寬,惟本土需求仍顯乏力
東南亞資訊
灰度在iGB L!VE 2026展位T70和你相約7月,一起點燃倫敦的熱情!
灰度頭條
英國確認各垂直行業的賭博稅稅率
合規與政策
GGC Awards 2026 璀璨科倫坡:致敬 iGaming 行業的領航者與創新力量
灰度頭條
斯里蘭卡博弈產業大轉型,官方:劍指南亞拉斯維加斯
合規與政策
橫跨全球6個城市,灰度8場派對邀你共看世界盃,重塑高質量社交新場景
灰度頭條
巴西擬將博弈稅率提高至24% 稅收將用於社保與醫療領域
合規與政策
越南在線博彩業政策收緊 催生市場新機遇
東南亞資訊
新澤西州7月博彩收入創6.06億美元新高,頒布禁令
合規與政策
菲律賓網絡賭博和加密貨幣仍構成持續的洗錢風險
東南亞資訊
JILI 宣佈與全球板球傳奇 AB de Villiers(ABD)達成重磅戰略合作
體育遊戲
菲律賓博彩技術賽道迎來新變局,B2B 供應模式加速滲透
東南亞資訊
超級PAC籌資4800萬美元:體育博彩勢力加碼
合規與政策
印第安納州在線賭場法案在眾議院委員會停滯不前
合規與政策
首頁
遊戲
合作
發現
我的