AWS推EC2容量區塊新功能,讓用戶指定時間預留GPU資源
· 2023-11-02

AWS的Amazon EC2容量區塊新功能,讓用戶可以事先指定時間,預留需要的GPU執行個體數量,確保在需要的時候有足夠的GPU資源可供使用

有鑒於目前GPU資源的稀缺性,AWS新推出Amazon EC2容量區塊(Capacity Blocks)功能,這是一項適用於機器學習模型開發的EC2使用模型,用戶可以在EC2 UltraCluster特殊叢集中預留需要的Nvidia GPU資源,藉由指定叢集大小、開始時間和持續時間,便能夠以可預測的方式存取GPU資源。

全世界掀起一陣人工智慧應用熱潮,不少組織開始開發機器學習模型,而AWS提到,企業對在機器學習模型的GPU容量需求,已經超過全產業的供應量,使得GPU成為稀缺資源。而這對於需要大量GPU資源,用以訓練基礎模型和大型語言模型的用戶來說,是一項需要解決的問題。

面對這樣的問題,企業可能會需要長期購買大量的GPU容量,確保在需要的時刻,有足夠GPU運算資源可以使用,但是這可能造成資源浪費,導致在未使用時出現GPU資源閒置。因此AWS現在推出EC2容量區塊模式,來解決GPU資源搶奪的問題,這是一種安排GPU執行個體的新方法,用戶可以在指定時間內保留所需要的執行個體數量。

用戶可以提前8周指定日期,存取預留的EC2容量區塊並啟動P5執行個體,持續時間可為1到14天,叢集大小為1到64個執行個體,並且只需要支付所需要的GPU時間費用。而當EC2容量區塊持續時間結束後,任何執行中的執行個體都會被終止。

這項新功能在用戶需要容量保證,以訓練和微調機器學習模型、執行實驗,或是計畫性地增加機器學習應用程式需求時特別有用。用戶可以從AWS控制臺、命令列介面和開發工具包預留可用的容量區塊,目前可以先在AWS美東地區,預留搭載Nvidia H100 Tensor Core GPU的EC2 P5執行個體,官方計畫之後也會在其他地區推出該項功能。

Popular articles
SBC Summit Canada to Make Player Safety a Key Pillar of 2026 Agenda
Marketing
Indiana online casino bill stalls in House committee
Regulation
JILI Partners with Cricket Legend AB de Villiers (ABD) to Launch Exclusive Branded Game Series 100% 11
Sports Game
Are you ready to maximize your earnings? Try ProPush.me Constructor!
Marketing
UK MPs reopen 2025 gambling inquiry as reform stalls
Regulation
HUIDU Invites You to Booth T70 at iGB L!VE 2026 — Let’s Ignite London This July!
HUIDU Focus
PropellerAds Shared a New iGaming Case Study: 97,674 Installs and 12,701 Deposits in 3 Months
Marketing
1spin4win releases unique slot Don Catleone Hold and Win featuring gangster cats
Online Game
Across 6 Cities: HUIDU Invites You to 8 World Cup Parties Redefining High-Value Social Networking
HUIDU Focus
Online gambling, crypto pose ongoing money laundering risks in Philippines, analyst says
Southeast Asia
1spin4win grows its Latin American presence by partnering with Fortuna Juegos
Online Game
GAT Expo Puerto Rico Will Pulse with the New Era of Gaming in the Caribbean
Marketing
Vietnam's tightening online gaming policy creates new market opportunities
Southeast Asia
GAT CDMX 2025 Institutional Academy: Leaders and Experts Analyze the Present and Future of the Gaming Industry in Mexico and Lat
Sports Game
New Jersey July Gambling Revenue Hits $606M, Sweeps Casinos Banned
Regulation
Home
Game
Cooperation
Find
My