Cloud周報第186期:英特爾開發者雲端服務正式推出,年底將增加大型運算叢集Gaudi2系統,可用於上千億參數的LLM模型訓練
· 2023-10-09

英特爾在年度創新日上宣布Developer Cloud開發者雲正式GA,開發者已經可以透過該雲端平臺使用其最新硬體進行AI應用測試和部署,包括AI硬體加速器Gaudi2、第5代Xeon Scalable處理器及資料中心GPU Max系列等。

經過將近1年測試 ,英特爾在年度創新日上宣布Developer Cloud開發者雲正式GA,現在開發者已經可以透過該雲端平臺使用其最新硬體進行AI應用測試和部署,包括AI硬體加速器Gaudi2、第5代Xeon Scalable處理器及資料中心GPU Max系列等。

英特爾介紹其開發者雲平臺,其中包含了多種英特爾最新硬體平臺可以對應到不同規模的AI或LLM模型訓練和推論的測試需求,例如開發者可以使用Xeon Scalable伺服器,在小型或中型的VM上執行小模型的推論和微調(參數介於70~200億),此外,還可進一步搭配具備算力更強的Gaudi2或是資料中心GPU Max系列等,以支援500億參數的大模型推論。

值得一提的是,英特爾計畫在年底推出以Gaudi2為基礎的大型運算叢集服務,可用於上千億參數的LLM模型訓練,頗有與同樣今年發表的Nvidia DGX Cloud超級電腦運算服務互別苗頭的意味。

但與Nvidia不同的是,英特爾主要是自行建置該雲端平臺,並沒有提供公雲託管的選項。除了硬體平臺,英特爾開放使用Intel AI和機器學習工具套件與函式庫,可供用戶加速模型評估和開發,以縮短產品開發到上市的時程。

另外,在資料安全方面,除了透過機密運算提供硬體加密保護機制,英特爾最新加入Trust Authority可信環境執行的驗證服務,強化在開發者雲的資料保護。Developer Cloud目前共推出三種服務方案,分別是免付費的標準版、按需付費的專業版,以及團體的企業版。

 

AWS    生成式AI建置服務  

AWS生成式AI建置服務Bedrock正式推出,新增Llama 2模型及嵌入式LLM

雲端巨頭AWS 近日宣布自家的生成式AI建置服務Bedrock現已推出,可協助用戶建立生成式AI應用,藉此替他們在雲端生成式AI競賽上扳回一成。

Bedrock是一個基礎模型API服務,用戶可以透過API存取AWS的基礎模型,開發自己的生成式AI應用,也能夠使用AI21 Labs、Anthropic、Cohere、MetaStability AI等第三方的基礎模型,AWS在4月介紹這項新服務,並在9月底正式推出。同時增加Meta的Llama 2和嵌入式Titan Embeddings兩個新模型供用戶選擇。

AWS強調,Bedrock採用無伺服器架構,因此客戶無需管理任何基礎設施,就能將生成式AI功能迅速整合和部署到他們的應用程式中。

為了強化Bedrock服務,AWS母公司Amazon最近剛向OpenAI競爭對手Anthropic投資40億美元,要讓Anthropic能深度支援Bedrock。

 

生成式AI助手     SAP  

SAP發表生成式AI助手Joule ,將整合到S/4HANA ERP在內等雲端應用服務

搶搭生成式AI熱潮,ERP大廠SAP最近推出了名為Joule的生成式AI助手,並計畫將其內建在人力資源、費用支出、供應鏈、採購、客戶體驗管理及SAP商業技術平臺中,藉此提高用戶使用體驗。

例如企業可以向Joule提問,快速整理出各地區銷售表現排名,也能夠分析資料庫的資料找出供應鏈問題後,再透過供應鏈系統提出建議,甚至未來還能協助人資編寫新職缺,或是列出建議的面試問題等。

Joule預計今年稍晚將在SAP人資雲和SAP Start中推出,明年初跟進在SAP S/4HANA Cloud標準版中提供,後續將在SAP CRM雲、SAP採購雲和SAP商業技術平臺推出。

Azure    Oracle資料庫服務  

微軟擴大與資料庫巨頭Oracle合作,使企業能在Azure中部署甲骨文OCI的資料庫服務

微軟近日宣布與甲骨文(Oracle)擴大結盟,推出Oracle Database@Azure新服務,將在Azure資料中心開始提供甲骨文雲端基礎設施(Oracle CloudInfrastructure,OCI)上的Oracle 資料庫服務。

這並不是微軟與甲骨文的首次合作,早在去年雙方推出適用於 Azure的Oracle資料庫代管服務,讓企業可以在OCI環境中使用Azure管理工具布建、存取及執行Oracle資料庫服務。

新推出Oracle Database@Azure服務,看起來就像是將整套甲骨文雲端基礎設施的環境搬進了Azure資料中心,因此具備和OCI環境中執行資料庫服務相同性能、擴充規模及工作負載可用性,同時能利用Azure的安全、彈性及多元化服務等特性。微軟表示,用戶可於Azure中部署Oracle ExadataDatabase、Oracle Autonomous Database及Oracle Real Application Clusters等資料庫服務。此外,雙方強調此一整合環境將簡化用戶於Oracle資料庫及Azure之間的雲端採購及管理。

跨平臺整合    生成式AI   

Google與Salesforce結盟,要讓Workspace生成式AI助手能容易取得企業CRM資料優化其生產力

近期, Google宣布與CRM業者Salesforce擴大合作,推動跨平臺的生成式AI體驗,將整合Google Workspace中生成式AI助手Duet AI和Salesforce Customer 360平臺的生成式AI助手Einstein Copilot,優化各自在企業CRM和生產力工作流程。

舉例來說,Duet AI可以根據企業用戶帳戶、聯絡人和來自Salesforce的CRM資料,產生自訂的Google簡報和文件,還能將自Gmail和Google日曆的Google Meet會議摘要和上下文匯入到Salesforce系統中以更新其記錄,並自動安排後續行動和分配任務等,例如將已簽署的合約發送至 Salesforce相關服務中,並根據文件數據產生盈虧報告等。此外,Einstein Copilot也能夠存取Workspace中的相關上下文,以優化銷售、服務、行銷、商務等領域的工作流程。

在資料保護方面,Google表示,將整合Salesforce和Google Workspace 中現有的隱私和用戶資料保護機制。除了有跨平臺的生成式AI助手合作,雙方進一步還將提供LLM模型的跨平臺互通,使用戶未來在Vertex AI部署的LLM模型,如PaLM 系列模型,將能在Salesforce的Einstein 1平臺中來執行。

企業碳盤查     NLP  

IBM更新碳排放資料平臺Envizi,導入NLP技術簡化盤查資料的分類和管理

近日,IBM更新雲端碳排放資料平臺Envizi,新增了自然語言處理(NLP)功能,讓企業開始可以用更自動化的方式,完成對碳排放源資料的分類和管理,加快包含範疇3在內的企業碳盤查工作。

Envizi是IBM去年推出的碳排放資料蒐集和監控的雲端軟體套件,不僅限於IBM產品,也支援其他第三方的IT或OT設備。該平臺還包含了內建的嵌入式排放因子庫,涵蓋了超過180個國家和地區,可用於計算排放數據。

IBM表示,使用NLP的文字分類功能,將有助於企業自動提取、彙整和管理排放計算和外部揭露所需的相關支出數據,提高盤查作業效率。

 

攝影/余至浩 /AWS、SAP

 更多Cloud動態 

1.本土電商PChome大舉擁抱雲端加速轉型新零售,不只電商購物平臺,連核心系統ERP都要上公雲

2.德國百年老車廠BMW宣布將採用公雲,結合生成式AI、物聯網開發下一代ADAS自動駕駛平臺

:iThome整理,2023年10月

 
Popular articles
UK MPs reopen 2025 gambling inquiry as reform stalls
Regulation
New Jersey July Gambling Revenue Hits $606M, Sweeps Casinos Banned
Regulation
GGC Awards 2026 Shines in Colombo: Honoring Leaders and Innovators in the iGaming Industry
HUIDU Focus
GAT Expo Puerto Rico Will Pulse with the New Era of Gaming in the Caribbean
Marketing
Vietnam's tightening online gaming policy creates new market opportunities
Southeast Asia
HUIDU Invites You to Booth T70 at iGB L!VE 2026 — Let’s Ignite London This July!
HUIDU Focus
Brazil Proposes Raising Gambling Tax Rate to 24%, With Revenue Allocated to Social Security and Healthcare
Regulation
Across 6 Cities: HUIDU Invites You to 8 World Cup Parties Redefining High-Value Social Networking
HUIDU Focus
PropellerAds Shared a New iGaming Case Study: 97,674 Installs and 12,701 Deposits in 3 Months
Marketing
British gambling levy rates confirmed for each vertical
Regulation
Are you ready to maximize your earnings? Try ProPush.me Constructor!
Marketing
JILI Partners with Cricket Legend AB de Villiers (ABD) to Launch Exclusive Branded Game Series 100% 11
Sports Game
Institutional Academy that exceeded expectations marked the opening of GAT CDMX
Online Game
Gaming & Technology Expo Makes a Powerful Entrance in CDMX
Marketing
SBC Summit Canada to Make Player Safety a Key Pillar of 2026 Agenda
Marketing
Home
Game
Cooperation
Find
My