原因在於，AI本身也有世代差異，例如，傳統生成式AI在資安上的應用，大多是對話式導向，但現在發展的代理式AI（Agentic AI），比起傳統生成式AI有很大不同，不論是在使用者體驗，威脅防禦、風險緩解，都將有更好的效益。

以使用者體驗為例，傳統生成式AI的做法，只是從連接到後端資訊檢索系統的聊天機器人來取得資料，而代理式AI的作法，將是目標驅動的解決方案助手，能夠跨領域解決問題，也可以根據用戶目標與環境自行定義自動化規則，甚至主動發送發送批准通知。

換言之，對話式AI助理只是第一步，利用代理式AI可以幫助推理、整合所有資料，讓企業以更好的方式管理網路安全，才能真正掌控資料，而不僅僅是儲存資料。

而且，趨勢科技現在更強調的是，要從網路風險管理角度去切入，此舉明顯呼應近年網路安全治理的態勢，幫助資安人員與企業高層的溝通。這並非特例，前陣子我們介紹NIST CSF網路安全框架，就已經提到此一態勢。

綜觀這些變化，不只網路安全框架有這樣的新轉變，強調從網路安全治理出發，提升風險管理的高度，從產品技術資安業者來看，趨勢科技也預期在代理式AI與各項資安產品的結合發展下，要朝向網路風險管理去發展。

2024年的AI與資安發展，從兩大面向思考

關於Deepfake的現實威脅發生的態勢，以及AI世代的企業資安風險管理，與過去的資安風險管理有何重要區別？

Rachel Jin演講結束後，也回答我們現場提出的這些問題，她指出，一年之前很少有企業認為需要分辨Deepfake的防護機制，但在2024年初之後有了明顯轉變，首先是傳出Deepfake技術確實讓BEC威脅更升級的真實事件，一名跨國企業員工由於駭客寄送釣魚郵件、假冒總部財務長召開視訊會議，遂依照指示轉帳，事後向總公司確認才發現上當，被騙走2億港幣，這項訊息被香港警方曝光，接著是大約半年前，趨勢科技開始發現，有一些客戶提到他們需要這類型解決方案，因為他認為員工們並沒有辦法識別是否為Deepfake。

對於AI世代的企業資安風險管理差異，Rachel Jin認為可從兩大面向來看待，一是當企業有了AI要怎麼管理，另一是要用AI來做風險管理。

以前者而言，當企業開始使用生成式AI，好處是效率提高，但相關風險也伴隨而來，因此我們需要相應的解決方案。

例如，過去有Shadow IT的問題，現在也是會有Shadow AI的問題，企業如何知道員工是否使用企業允許的AI，還有先前提到的提示注入與越獄，以及敏感資料洩露的風險。

還有一個較特別的場景是，現在許多企業可能會訓練自己的模型，因此，當企業組織要建立LLM，就需要建立自己的資料中心，這時企業必須重視AI資料中心的保護，而且是要重視五大層麵的保護，包括：資料、模型、應用程式、使用方式、基礎架構。

另一個面向是要用AI來做風險管理，例如趨勢科技去年6月推出Companion AI資安助理，但這只是第一步。

未來隨著代理式AI的應用發展，不僅可藉助AI異動關聯出攻擊路徑，更重要是能從前30天內的攻擊路徑，預測出接下來會發生什麼樣的攻擊。換言之，過去是事件發生纔去阻擋，未來將轉型成更為主動的行為，能夠及早建立緩解計畫。再者，過去要產生SOAR的自動化腳本，其實很花時間，現在用AI將會變得相當不一樣，AI將驅動著各式資安產品轉型。

Rachel Jin強調，AI將會徹底顛覆以前的資安管理方式，所以AI時代下，大家需要新一代的網路風險管理。至於趨勢科技為何現在會從風險管理角度切入，這主要基於先前發展攻擊麵風險管理（ASRM）解決方案的經驗，察覺企業高層關心的重點在於風險，這會是很好的溝通方式。

據瞭解，在Trend Vision One平臺上，隨著代理式AI可以快速統整更多資訊，趨勢科技之後也將在管理介上，從風險角度出發，讓資安高層也能知道可能風險損失指標，有利於跟董事會報告。而這種作法，似乎也呼應了趨勢科技所強調的網路風險管理的發展方向。