Red Hat OpenShift AI增強模型管理與資料漂移偵測,提升跨雲AI部署一致性與效率
支付動態 · 2024-11-13

Red Hat OpenShift AI 2.15更新包括支援模型註冊表與資料漂移偵測,強化跨雲環境的人工智慧模型管理與部署能力,同時支援Nvidia NIM和AMD GPU,並採用LoRA技術提升模型微調效能

Red Hat發表了Red Hat OpenShift AI 2.15,這是一款企業級人工智慧與機器學習應用平臺,可協助企業加速人工智慧技術的採用,並提升一致性。該新版本增加了模型註冊表與資料漂移偵測功能,並進一步支援跨混合雲環境的大規模人工智慧模型管理和部署。

Red Hat OpenShift AI 2.15的更新重點之一是新增模型註冊表預覽版。模型註冊表可供開發者集中管理已註冊的人工智慧模型,實現模型版本控制、共享、部署和追蹤。企業可透過該工具組織和管理生成式人工智慧模型的後設資料和模型資產,並可選擇建立多重模型註冊表,以應對不同業務需求。目前Red Hat已經將該專案捐贈給Kubeflow社群作為子專案,以進一步促進開源人工智慧社群的發展。

資料漂移偵測功能也是OpenShift AI 2.15本次的更新重點。隨著人工智慧部署至生產環境,輸入的資料可能隨時間變化,而資料漂移偵測功能則可以持續監控輸入資料變動的情況,並在實際資料與訓練資料出現偏移時發出通知。該項設計可確保模型反應實際情況,避免因資料變化導致預測結果偏差,提升模型在生產環境的可靠性。

Red Hat OpenShift AI 2.15中的LoRA技術讓微調大型語言模型變得更省資源。LoRA的原理是降低微調模型的運算複雜度,讓企業可以更高效地調整像是Llama 3這類人工智慧模型,LoRA技術充分利用雲端原生環境的彈性,最佳化模型訓練與微調過程,不僅提高了效能,也強化操作的靈活性。有了LoRA的加持,OpenShift AI 2.15能夠滿足不同規模的人工智慧工作負載需求,企業能以較低的成本和資源消耗進行模型微調。

此外,新版本還支援Nvidia NIM和AMD GPU整合,增加硬體加速的選項。Nvidia NIM提供了一組微服務介面,讓生成式人工智慧應用的部署更加簡單快速,並支援多樣化人工智慧需求。開發者只要透過API,NIM就能靈活地支援本地和雲端環境的推論服務,實現高度可擴展性。

Red Hat OpenShift AI 2.15提供企業AMD GPU的支援,使開發者能夠在模型開發、訓練和微調過程使用AMD的GPU。新的硬體支援讓企業擁有更多選擇,而且也能提升處理高運算需求工作負載的能力,使人工智慧應用的開發與部署,在不同硬體環境更具彈性。

熱門文章
菲律賓網絡賭博和加密貨幣仍構成持續的洗錢風險
東南亞資訊
越南在線博彩業政策收緊 催生市場新機遇
東南亞資訊
印第安納州在線賭場法案在眾議院委員會停滯不前
合規與政策
菲律賓博彩技術賽道迎來新變局,B2B 供應模式加速滲透
東南亞資訊
超級PAC籌資4800萬美元:體育博彩勢力加碼
合規與政策
新澤西州7月博彩收入創6.06億美元新高,頒布禁令
合規與政策
印度最高法院受理公益訴訟,要求全國禁封「偽裝」成社交遊戲的賭博平台
合規與政策
哈薩克計劃對線上賭場促銷活動進行處罰
合規與政策
JILI 宣佈與全球板球傳奇 AB de Villiers(ABD)達成重磅戰略合作
體育遊戲
越南博彩管控逐步放寬,惟本土需求仍顯乏力
東南亞資訊
英國確認各垂直行業的賭博稅稅率
合規與政策
灰度在iGB L!VE 2026展位T70和你相約7月,一起點燃倫敦的熱情!
灰度頭條
橫跨全球6個城市,灰度8場派對邀你共看世界盃,重塑高質量社交新場景
灰度頭條
西班牙監管機構警告在線賭博平臺存在身份盜竊行為
合規與政策
GGC Awards 2026 璀璨科倫坡:致敬 iGaming 行業的領航者與創新力量
灰度頭條
首頁
遊戲
合作
發現
我的