AI趨勢周報第254期:如何知道RAG能耐?Meta推CRAG測試基準
支付動態 · 2024-06-11

Meta發表一款CRAG測試基準,可用來測試RAG網路搜尋和API串接搜尋的能力;日月光半導體年底前要啟用水冷AI機房;樹莓派推出70美元AI套件;Stability AI釋出文字生成音效模型;資料不足也能有效偵測,Google開源半監督式框架SPADE

 AI機房     日月光     水冷  

日月光年底要啟用首座水冷AI機房

日月光半導體日前在Computex大會中揭露,將於今年底啟用其位於高雄的首座水冷散熱資料中心。該機房不只是全新AI運算設備基地,更是一座節能標竿機房,目標PUE(能源使用效率)值低於1.2。這個機房是要滿足每年增長1.2倍的AI運算需求,來因應未來兩年AI應用和大型語言模型(LLM)快速發展趨勢。

這座AI機房採用Supermicro的水冷式散熱技術,並由中華系統整合佈建。機房內的伺服器將搭載最新水冷機制,通過冷水直接帶走主機板熱能,取代傳統氣冷的冷熱通道方式。這種設計的機房能耗,比氣冷方式減少了20%以上,有助於達成日月光ESG永續發展目標。該AI機房也將配置多臺AI伺服器機櫃系統,據Supermicro提供的硬體規格,每臺AI伺服器主機內搭載2個32核Intel CPU與8個Nvidia H100 GPU。日月光計畫用這座AI機房加速智慧製造,並在產品生產、工程研發及營運上開發新的AI應用。(詳全文)

  音效     Stability AI     Stable Audio Open  

Stability AI釋出文字生成音效模型Stable Audio Open

Stability AI近日釋出文字生成聲音模型的開源版本Stable Audio Open,使用者輸入文字描述後,就能生成長達47秒的音檔。這個模型是Stability AI以48萬多個音檔訓練而成,其中超過9成來自Freesound,另有少數來自「免費音樂檔案」(FMA),所有音訊都取得免費的共享許可,並使用預訓練T5文字模型來處理、生成文本。

Stability AI表示,Stable Audio Open很適合用來建立鼓點、音樂即興片段、環境音效、模擬錄音或其它與音樂和聲音有關的樣本。開源版本的好處是,使用者可用自己的聲音來調整模型,例如鼓手可加入自己的錄音樣本,來生成新的節奏。(詳全文)

  Lunar Lake     英特爾     AI PC  

英特爾發表新一代AI PC處理器Lunar Lake

英特爾在今年度Computex大會揭露新一代筆電處理器Lunar Lake,是Core Ultra系列第二代產品。該處理器每秒可處理48兆次(TOPS),是前一代的3.5倍,耗電量則低了40%。

進一步來說,上個月底微軟發表AI系列筆電Copilot+ PC,首批筆電與高通合作,採高通Snapdragon系列處理器,但Snapdragon的PC產品在市場上份量相對小,下一波預計搭載英特爾和AMD處理器的Copilot+ PC,才會觸及更多主流PC市場。而Lunar Lake就會出現在這批PC中,其搭載的CPU、GPU、NPU算力共有120 TOPS,包含CPU的5 TOPS、GPU的67 TOPS,以及NPU的48 TOPS算力,可更快速執行AI應用。Lunar Lake預計第三季上市,至於搭載Lunar Lake的Copilot+ PC何時會推出,英特爾沒有進一步揭露更多細節。(詳全文)

  Google     異常偵測     半監督  

資料不足也能有效偵測,Google開源半監督式框架SPADE

Google開源一款SPADE半監督式異常偵測框架,能克服其他半監督異常偵測方法,只需少量已標記和大量未標記資料,就能高效率偵測異常。異常偵測應用範圍很廣,涵蓋API安全、金融詐欺、製造缺陷等領域,而Google開發的SPADE使用一組單類分類器(OCCs),作為虛擬標籤器和監督分類器,特別適合用來處理少量已標記資料和大量為標記樣本的資料集。

這是因為,要建立大規模標記資料集不僅耗時且成本昂貴,SPADE利用半監督學習方法,可降低這個成本。在運作方式上,SPADE先使用多個單類分類器來學習資料中的正常樣本特徵,接著,這些分類器分別對未標記的資料進行預測,生成虛擬標籤,猜測異常與正常的資料,但只有當所有分類器一致認為特定樣本為異常時,才會真正將其標記為異常。再來用虛擬標籤和原始標記資料,來訓練監督異常模型,完成後,模型就能用來偵測新資料中的異常。(詳全文)

Meta AI、樹莓派、英特爾

攝影/余至浩

  AI近期新聞 

1. AMD發表第3代Ryzen AI筆電處理器,NPU效能達50TOPS、用低能耗帶來新AI體驗

2. Databricks買下Tabular,要改善資料相容性

3. 阿里巴巴發表新款語言模型Qwen2,支援128K Token、多數表現勝過Llama 3

:iThome整理,2024年6月

热门文章
Zenith partners with HUIDU for 2026 World Cup Carnival Official Tour
Online Game
B2B Tech Infrastructure Gains Momentum in Philippine Gaming Sector
Southeast Asia
Online gambling, crypto pose ongoing money laundering risks in Philippines, analyst says
Southeast Asia
UK MPs reopen 2025 gambling inquiry as reform stalls
Regulation
Institutional Academy that exceeded expectations marked the opening of GAT CDMX
Online Game
Brazil Proposes Raising Gambling Tax Rate to 24%, With Revenue Allocated to Social Security and Healthcare
Regulation
Super PAC Raises $48 Million: Sports Betting Forces Ramp Up Political Push
Regulation
Full House at GAT Expo Cartagena 2026 Academic Agenda
Online Game
Global Game Connect (GGC) 2027 Officially Opens Sponsorship & Exhibition Opportunities in Sri Lanka!
HUIDU Focus
That’s a Wrap: AffPapa Conference Madrid 2026 Highlights
Online Game
Vietnam's tightening online gaming policy creates new market opportunities
Southeast Asia
Manila delivers: Highlights from SiGMA Asia 2026 
Southeast Asia
GAT CDMX 2025 Institutional Academy: Leaders and Experts Analyze the Present and Future of the Gaming Industry in Mexico and Lat
Sports Game
SBC Summit Canada to Make Player Safety a Key Pillar of 2026 Agenda
Marketing
British gambling levy rates confirmed for each vertical
Regulation
首页
游戏
合作
发现
我的