Meta發表LLM Compiler,以最佳化程式碼生成及編譯器能力
支付動態 · 2024-06-28

以程式碼生成模型Code Llama衍生而成的LLM Compiler,可用來改善LLM所生成的程式碼品質,透過模擬編譯器的功能,預測哪些最佳化步驟能夠達到最佳的程式碼尺寸,或是將以已編譯的程式碼轉換回原本語言

這是因為Meta認為,儘管大型語言模型(LLM)在各種軟體工程及程式碼任務中展現卓越的能力,但它們在程式碼及編譯器最佳化領域上的應用,卻未得到充分的探索,訓練LLM是個資源密集,需要大量GPU時間與大量資料收集、可能令人望之卻步的任務,而LLM Compiler即是個專為最佳化程式碼任務所設計的預訓練模型,並可供公開使用。

LLM Compiler已於5,460億個LLVM-IR與組合程式碼的Token上進行訓練,指令亦已經過微調以更好地編譯器的行為,開發者可透過客製化的商業授權以進行廣泛的運用,現有具備70億參數及130億參數的兩種模型可供選擇。

Meta還展示了經過微調的模型版本,這些版本在優化程式碼大小,以及將x86_64和ARM組合語言反組譯回LLVM-IR的能力方面取得了顯著的進展。具體來說,這些模型可達到77%的程式碼最佳化潛力,以及45%的反組譯回路,當中的14%是精確匹配的能力。

熱門文章
Brazil Proposes Raising Gambling Tax Rate to 24%, With Revenue Allocated to Social Security and Healthcare
Regulation
GAT Expo Puerto Rico Will Pulse with the New Era of Gaming in the Caribbean
Marketing
HUIDU Invites You to Booth T70 at iGB L!VE 2026 — Let’s Ignite London This July!
HUIDU Focus
Full House at GAT Expo Cartagena 2026 Academic Agenda
Online Game
1spin4win releases unique slot Don Catleone Hold and Win featuring gangster cats
Online Game
Across 6 Cities: HUIDU Invites You to 8 World Cup Parties Redefining High-Value Social Networking
HUIDU Focus
UK MPs reopen 2025 gambling inquiry as reform stalls
Regulation
GGC Awards 2026 Shines in Colombo: Honoring Leaders and Innovators in the iGaming Industry
HUIDU Focus
New Jersey July Gambling Revenue Hits $606M, Sweeps Casinos Banned
Regulation
Kazakhstan plans to penalise online casino promotions
Regulation
B2B Tech Infrastructure Gains Momentum in Philippine Gaming Sector
Southeast Asia
JILI Partners with Cricket Legend AB de Villiers (ABD) to Launch Exclusive Branded Game Series 100% 11
Sports Game
GAT CDMX 2025 Institutional Academy: Leaders and Experts Analyze the Present and Future of the Gaming Industry in Mexico and Lat
Sports Game
Gaming & Technology Expo Makes a Powerful Entrance in CDMX
Marketing
SBC Summit Canada to Make Player Safety a Key Pillar of 2026 Agenda
Marketing
首頁
遊戲
合作
發現
我的