AI趨勢周報第252期:取代Transformer?LSTM之父發表新LLM架構
· 2024-05-13

LSTM之父Sepp Hochreiter提出一種新架構xLSTM,媲美Transformer;DeepMind發表可預測所有生命分子結構的AlphaFold 3模型;國科會揭TAIDE計畫最新成果;甲骨文也推出AI開發助理了;Red Hat推出AI平臺,內建IBM Granite模型;Stack Overflow聯手OpenAI,將優化Chatbot功能

  開發助理    甲骨文      程式碼  

甲骨文也推出AI開發助理了

繼微軟、Google、OpenAI、GitHub等科技龍頭推出AI開發助理後,甲骨文也加入這個行列,最近推出了程式開發助理Oracle Code Assist,能幫助使用者開發Java程式。

Oracle Code Assist是以甲骨文雲端Oracle Cloud Infrastructure(OCI)模型為底層,為Java、SQL程式和OCI上的應用開發來優化。甲骨文強調,這個開發助理以多種軟體程式庫訓練而成,也透過自家軟體應用微調而成,使用者可以自然語言互動,開發助理可處理程式碼生成、產生API文件、註解或評論等功能,還能提供重點解釋,幫助開發人員了解開發原理、檢視或重新組織現有程式碼。它也能提供修改建議,或產生pull request來將程式碼變更,合併到軟體程式庫中。使用者還能透過這個助理,來建立單元或功能測試。

甲骨文表示,Oracle Code Assist還有些進階功能,如可整合企業程式碼框架、函式庫等來提供客製化建議,另也能檢查自己產生的程式碼,以免用到不當授權的程式碼,或是將程式碼以新版函式庫更新。它也能根據企業軟體開發的最佳實作,來檢查程式錯誤和效率低落之處。(詳全文)

  AI開發     Red Hat     Granite  

Red Hat推出AI平臺,內建IBM開源Granite模型

又有一款生成式AI開發平臺可選擇了,Red Hat日前發表一款AI平臺Red Hat Enterprise Linux AI(RHEL AI),企業用戶可用來在混合雲環境開發、測試和部署生成式AI模型。RHEL AI是Red Hat首個基礎架構模型平臺,內建IBM研究院開源的大型語言模型(LLM)Granite和其他開發工具。IBM表示,整個解決方案將打包成一個RHEL映像檔,可用於混合雲上部署單一伺服器,此外,RHEL也會整合到混合雲MLOps平臺OpenShift AI中。

Granite是IBM研究院開發的旗艦級LLM,去年9月正式發布,包含4個版本,可用於AI助理、財務應用、多語言翻譯(英、西、葡、德、法文)等應用,另也有日文專用版本。而RHEL AI內建的是Granite 70億參數模型,以Llama 2-7B為基礎,用2兆Token資料集訓練而成,可支援4,000個Token的文長。除了Granite模型,該平臺還包含IBM研究院打造的模型訓練方法與工具,也就是Large-scale Alignment for chatBots(LAB),可減少人員標註成本、降低模型開發門檻,也能提供大量生成資料,來加速模型的訓練與優化。(詳全文)

  Stack Overflow     OpenAI     AI助理  

熱門開發者論壇Stack Overflow聯手OpenAI,將優化Chatbot功能

開發者論壇Stack Overflow在5月7日宣布與OpenAI簽署合作協議,允許OpenAI用該平臺內容來訓練大型語言模型,而Stack Overflow也將利用OpenAI模型來強化自家的AI服務OverflowAI。Stack Overflow是個熱門的開發者論壇,開發者可在平臺上透過QA來解決各種疑難雜症。在ChatGPT剛問世時,Stack Overflow曾因擔心而一度封鎖GenAI內容,但隨著GenAI品質的改善,Stack Overflow先在今年3月宣布與Google合作,讓Gemini得以透過OverflowAPI存取知識庫,在開發人員呼叫Gemini時提供開發建議、程式碼及回答問題。

日前Stack Overflow與OpenAI的合作同樣能讓OpenAI存取OverflowAPI,也允許OpenAI藉Stack Overflow社群提供的內容來改善OpenAI模型,並會在ChatGPT中將特定內容標註來自Stack Overflow。OpenAI和Stack Overflow的首批合作功能預計在今年6月前推出,意味著ChatGPT將可提供來自Stack Overflow且經驗證的技術知識。(詳全文)

  AI晶片     M4     蘋果  

蘋果發表最新AI晶片

在今年年會展開前,蘋果發表新一代M4晶片,並更新iPad產品線,推出首個採用M4晶片的iPad Pro和採用M2晶片的iPad Air。M系列是蘋果自行設計的晶片,去年10月才發表M3,不到一年就推出M4,這個M4採台積電3奈米製程,由280億個電晶體組成,搭載最多10核心的CPU,包括4個效能核心與6個節能核心,兩者都具備強化的新一代機器學習(ML)加速器。而同樣搭載最高10核心的GPU則支援動態快取功能,可提高GPU的平均利用率。

蘋果指出,M4擁有飛快的神經網路引擎(Neural Engine),這是專門用來加速AI任務的IP區塊,每秒可執行38兆次的運算,是A11 Bionic晶片的60倍快,再搭配CPU的ML加速器、高效能的GPU,以及更高頻寬的統一記憶體,讓M4成為超強AI晶片。這個特性,讓搭載M4晶片的iPad Pro,成為可支援AI運算的裝置,例如在Final Cut Pro中輕點一下,就能輕鬆地分離4K影片中的主體及背景。(詳全文)

/Sepp Hochreiter、DeepMind、蘋果

攝影/蘇文彬  

  AI近期新聞 

1. AWS生成式AI開發助理Amazon Q正式可用

2. Google Cloud推出AI安全方案,整合Gemini、Mandiant和VirusTotal技術

3. MongoDB推出一站式企業GAI應用開發工具方案

:iThome整理,2024年5月

熱門文章
英國確認各垂直行業的賭博稅稅率
合規與政策
2027 Global Game Connect(GGC)斯里蘭卡招商全面啟動!業務人脈盡在掌握!
灰度頭條
越南在線博彩業政策收緊 催生市場新機遇
東南亞資訊
西班牙監管機構警告在線賭博平臺存在身份盜竊行為
合規與政策
新澤西州7月博彩收入創6.06億美元新高,頒布禁令
合規與政策
巴西擬將博弈稅率提高至24% 稅收將用於社保與醫療領域
合規與政策
菲律賓博彩技術賽道迎來新變局,B2B 供應模式加速滲透
東南亞資訊
亞洲遊戲市場觀察:15大市場熱門遊戲與用戶趨勢
網路遊戲
越南博彩管控逐步放寬,惟本土需求仍顯乏力
東南亞資訊
哈薩克計劃對線上賭場促銷活動進行處罰
合規與政策
橫跨全球6個城市,灰度8場派對邀你共看世界盃,重塑高質量社交新場景
灰度頭條
印第安納州在線賭場法案在眾議院委員會停滯不前
合規與政策
超級PAC籌資4800萬美元:體育博彩勢力加碼
合規與政策
印度最高法院受理公益訴訟,要求全國禁封「偽裝」成社交遊戲的賭博平台
合規與政策
菲律賓網絡賭博和加密貨幣仍構成持續的洗錢風險
東南亞資訊
首頁
遊戲
合作
發現
我的