Snowflake正式開放跨區域AI推論功能,從AWS平臺著手
支付動態 · 2024-08-12

AI分析雲端服務商Snowflake宣佈其Cortex AI服務套件啟用跨區域推論功能,以滿足某些區域沒有可用推論服務的用戶需求

AI分析雲端服務商Snowflake宣佈其Cortex AI服務套件啟用跨區域推論功能,以滿足某些區域沒有可用推論服務的用戶需求,本功能最先從Amazon Web Services(AWS)開始部署。

隨著更強大的大語言模型(LLM)出現,讓生成式AI服務快速增長。但有些用戶區域並沒有那麼快部署模型,限制了應用開發速度。Snowflake 的Cortex AI的跨區域推論已從測試版正式上線,讓用戶透過簡單設定,即可存取不同雲端區域上偏好的LLM。

這新功能可提升Snowflake Cortex LLM以及使用該LLM的功能,像是Snowflake Copilot和Cortex Analyst的用處。Cortex Analyst為Snowflake 6月份新宣佈的服務,讓企業用戶可運用儲存在Snowflake上的分析資料,以無程式碼方式開發資料導向的AI助理應用,即將以公測版上線。

Snowflake Cortex是一組使用LLM模型的AI功能,提供理解非結構化資料、回應自由提問,以及提供智慧輔助等AI服務。Cortex在三大雲端平臺,包括AWS、Azure、與Google Cloud Platform(GCP)上都有代管服務。不過現在支援跨區域推論的,只有AWS。如果用戶在Azure或GCP上設定上述參數,呼叫就會導向AWS。

跨區域功能是預設關閉的,用戶須自行設定開啟。只要透過管理員用戶帳號,在帳號層級(account-level)設定參數CORTEX_ENABLED_CROSS_REGION,即可配置想執行推論的區域。可以選擇區域的參數值有三:AWS_US、AWS_EU和AWS_APJ。(配置方法如ALTER ACCOUNT SET CORTEX_ENABLED_CROSS_REGION = ‘AWS_US’;)用戶選定三大區域之一後, Cortex AI會自動選擇細部區域,例如AWS_US中可能分配到AWS us-east-1或us-west-2。

Snowflake表示日後會持續將這功能推向Azure、GCP等其他平臺上。

熱門文章
菲律賓網絡賭博和加密貨幣仍構成持續的洗錢風險
東南亞資訊
印第安納州在線賭場法案在眾議院委員會停滯不前
合規與政策
斯里蘭卡博弈產業大轉型,官方:劍指南亞拉斯維加斯
合規與政策
橫跨全球6個城市,灰度8場派對邀你共看世界盃,重塑高質量社交新場景
灰度頭條
越南在線博彩業政策收緊 催生市場新機遇
東南亞資訊
新澤西州7月博彩收入創6.06億美元新高,頒布禁令
合規與政策
英國確認各垂直行業的賭博稅稅率
合規與政策
超級PAC籌資4800萬美元:體育博彩勢力加碼
合規與政策
越南博彩管控逐步放寬,惟本土需求仍顯乏力
東南亞資訊
灰度在iGB L!VE 2026展位T70和你相約7月,一起點燃倫敦的熱情!
灰度頭條
JILI 宣佈與全球板球傳奇 AB de Villiers(ABD)達成重磅戰略合作
體育遊戲
哈薩克計劃對線上賭場促銷活動進行處罰
合規與政策
菲律賓博彩技術賽道迎來新變局,B2B 供應模式加速滲透
東南亞資訊
GGC Awards 2026 璀璨科倫坡:致敬 iGaming 行業的領航者與創新力量
灰度頭條
巴西擬將博弈稅率提高至24% 稅收將用於社保與醫療領域
合規與政策
首頁
遊戲
合作
發現
我的