Red Hat OpenShift AI增強模型管理與資料漂移偵測,提升跨雲AI部署一致性與效率
支付動態 · 2024-11-13

Red Hat OpenShift AI 2.15更新包括支援模型註冊表與資料漂移偵測,強化跨雲環境的人工智慧模型管理與部署能力,同時支援Nvidia NIM和AMD GPU,並採用LoRA技術提升模型微調效能

Red Hat發表了Red Hat OpenShift AI 2.15,這是一款企業級人工智慧與機器學習應用平臺,可協助企業加速人工智慧技術的採用,並提升一致性。該新版本增加了模型註冊表與資料漂移偵測功能,並進一步支援跨混合雲環境的大規模人工智慧模型管理和部署。

Red Hat OpenShift AI 2.15的更新重點之一是添加模型註冊表預覽版。模型註冊表可供開發者集中管理已註冊的人工智慧模型,實現模型版本控制、共享、部署和追蹤。企業可透過該工具組織和管理生成式人工智慧模型的後設資料和模型資產,並可選擇建立多重模型註冊表,以應對不同業務需求。目前Red Hat已經將該專案捐贈給Kubeflow社群作為子專案,以進一步促進開源人工智慧社群的發展。

資料漂移偵測功能也是OpenShift AI 2.15本次的更新重點。隨著人工智慧部署至生產環境,輸入的資料可能隨時間變化,而資料漂移偵測功能則可以持續監控輸入資料變動的情況,並在實際資料與訓練資料出現偏移時發出通知。該項設計可確保模型反應實際情況,避免因資料變化導致預測結果偏差,提升模型在生產環境的可靠性。

Red Hat OpenShift AI 2.15中的LoRA技術讓微調大型語言模型變得更省資源。LoRA的原理是降低微調模型的運算複雜度,讓企業可以更高效地調整像是Llama 3這類人工智慧模型,LoRA技術充分利用雲端原生環境的彈性,最佳化模型訓練與微調過程,不僅提高了效能,也強化操作的靈活性。有了LoRA的加持,OpenShift AI 2.15能夠滿足不同規模的人工智慧工作負載需求,企業能以較低的成本和資源消耗進行模型微調。

此外,新版本還支援Nvidia NIM和AMD GPU整合,增加硬體加速的選項。Nvidia NIM提供了一組微服務介面,讓生成式人工智慧應用的部署更加簡單快速,並支援多樣化人工智慧需求。開發者只要透過API,NIM就能靈活地支援本地和雲端環境的推論服務,實現高度可擴展性。

Red Hat OpenShift AI 2.15提供企業AMD GPU的支援,使開發者能夠在模型開發、訓練和微調過程使用AMD的GPU。新的硬體支援讓企業擁有更多選擇,而且也能提升處理高運算需求工作負載的能力,使人工智慧應用的開發與部署,在不同硬體環境更具彈性。

熱門文章
GAT CDMX 2025 Institutional Academy: Leaders and Experts Analyze the Present and Future of the Gaming Industry in Mexico and Lat
Sports Game
1spin4win releases unique slot Don Catleone Hold and Win featuring gangster cats
Online Game
Super PAC Raises $48 Million: Sports Betting Forces Ramp Up Political Push
Regulation
UK MPs reopen 2025 gambling inquiry as reform stalls
Regulation
What’s on the SBC Summit Conference Agenda in 2026?
Marketing
PropellerAds Shared a New iGaming Case Study: 97,674 Installs and 12,701 Deposits in 3 Months
Marketing
British gambling levy rates confirmed for each vertical
Regulation
Indiana online casino bill stalls in House committee
Regulation
Gaming & Technology Expo Makes a Powerful Entrance in CDMX
Marketing
PropellerAds Positions Itself as a Go-To Traffic Source for iGaming Advertisers Ahead of a High-Demand Season
Marketing
Vietnam’s Controlled Gaming Shift Gains Ground, But Domestic Demand Still Lags
Southeast Asia
Full House at GAT Expo Cartagena 2026 Academic Agenda
Online Game
Online gambling, crypto pose ongoing money laundering risks in Philippines, analyst says
Southeast Asia
Global Game Connect (GGC) 2027 Officially Opens Sponsorship & Exhibition Opportunities in Sri Lanka!
HUIDU Focus
New Jersey July Gambling Revenue Hits $606M, Sweeps Casinos Banned
Regulation
首頁
遊戲
合作
發現
我的