【拉斯維加斯直擊】滿足AI監管需求,SAS推模型標示卡自動彙整模型漂移等各種指標和變動記錄
· 2024-04-19

數據分析大廠SAS在Innovate 2024年會上延續深化AI產品策略,今日宣布推出AI模型卡功能,就像是模型的營養標示卡,可自動建立、清楚標示模型的準確度、公平性和漂移等各大指標,還會顯示模型的變動記錄與存取人員。同時,SAS還祭出可信任AI生命周期工作流程,來完善AI監管產品線。

模型卡的運作方式是,直接根據SAS產品內容來為使用者註冊的模型,自動產生模型卡,使用者不必手動建立。不只是SAS平臺提供的模型,因SAS Viya已有用於管理開源的架構,因此也能替開源模型建立模型卡,目前從Python模型開始支援。

至於模型卡將顯示的內容,會特別突顯準確性、公平性和模型漂移等指標,尤其,模型漂移是模型性能隨條件變化而下降的重要指標,可用來判斷模型的適用性。除了這些,模型卡還包含詳細的模型治理資訊,像是模型上次修改的時間、誰對此做出貢獻、誰對模型負責,方便使用者組織解決模型性能異常問題。SAS表示,模型卡還涵蓋模型使用資訊,可供企業或組織查明預期用途、超出範圍的應用和限制訊息,這些資訊可因應企業業務營運所需的透明度和規範檢查。

根據NIST AI風險管理框架量身打造AI治理工具和服務

另一方面,美國NIST在去年推出AI風險管理框架(AI RMF),是一份關於AI系統的設計、開發、部署和使用指南,也成為企業組織在缺乏官方法規的情況下,用來設計可信任和負責任AI的重要參考。Reggie Townsend本身也是美國商務部國家AI諮詢委員會 (NAIAC) 成員,負責提供AI治理建議給白宮。

在這些基礎上,SAS根據NIST AI風險管理框架,設計出一套可信任AI生命周期工作流程,來讓企業和組織更容易實作NIST的AI風險管理框架。首先,SAS這款工作流程定義了個別角色和工作期望,並收集所需文件、列出考量因素,透過自動化來簡化擁抱流程。之後,企業或組織使用者會得到一個正式模型,附帶一個文件來說明他們已做好盡職調查,來確保模型是公平的,且作業流程不會造成任何傷害。

不只如此,這款工作流程還能讓使用者記載,自家AI系統可能產生的影響考量。這之中就包含幾個步驟,來確保訓練資料能足夠代表被影響的受眾群體,且模型的預測能力和表現,在受保護的類別中都差不多。這些步驟可確保模型不會造成負面影響或傷害特定群體,而且,使用者還能建立人為介入(Human-in-the-loop)的任務,來確保模型一直準確。

目前,使用者可從SAS模型管理資源GitHub上下載可信任AI生命周期工作流程,之後也能在NIST AI風險中心下載。

不只如此,為更進一步提供現有客戶AI監管和治理服務,SAS自己也成立AI治理顧問服務(AI Governance Advisory),透過會議方式來協助企業達到AI治理目標。SAS已試辦這項顧問服務,其中歐洲最大的金融機構PZU波蘭保險集團就有採用。

熱門文章
GGC Awards 2026 璀璨科倫坡:致敬 iGaming 行業的領航者與創新力量
灰度頭條
印度最高法院受理公益訴訟,要求全國禁封「偽裝」成社交遊戲的賭博平台
合規與政策
灰度在iGB L!VE 2026展位T70和你相約7月,一起點燃倫敦的熱情!
灰度頭條
JILI 宣佈與全球板球傳奇 AB de Villiers(ABD)達成重磅戰略合作
體育遊戲
超級PAC籌資4800萬美元:體育博彩勢力加碼
合規與政策
英國確認各垂直行業的賭博稅稅率
合規與政策
橫跨全球6個城市,灰度8場派對邀你共看世界盃,重塑高質量社交新場景
灰度頭條
哈薩克計劃對線上賭場促銷活動進行處罰
合規與政策
巴西擬將博弈稅率提高至24% 稅收將用於社保與醫療領域
合規與政策
菲律賓博彩技術賽道迎來新變局,B2B 供應模式加速滲透
東南亞資訊
越南在線博彩業政策收緊 催生市場新機遇
東南亞資訊
印第安納州在線賭場法案在眾議院委員會停滯不前
合規與政策
西班牙監管機構警告在線賭博平臺存在身份盜竊行為
合規與政策
菲律賓網絡賭博和加密貨幣仍構成持續的洗錢風險
東南亞資訊
越南博彩管控逐步放寬,惟本土需求仍顯乏力
東南亞資訊
首頁
遊戲
合作
發現
我的