Meta发表LLM Compiler,以优化代码生成及编译器能力
支付動態 · 2024-06-28

以代码生成模型Code Llama衍生而成的LLM Compiler,可用来改善LLM所生成的代码品质,通过模拟编译器的功能,预测哪些优化步骤能够达到最佳的代码尺寸,或是将以已编译的代码转换回原本语言

这是因为Meta认为,尽管大型语言模型(LLM)在各种软件工程及代码任务中展现卓越的能力,但它们在代码及编译器优化领域上的应用,却未得到充分的探索,训练LLM是个资源密集,需要大量GPU时间与大量数据收集、可能令人望之却步的任务,而LLM Compiler即是个专为优化代码任务所设计的预训练模型,并可供公开使用。

LLM Compiler已于5,460亿个LLVM-IR与组合代码的Token上进行训练,指令亦已经过微调以更好地编译器的行为,开发者可通过客制化的商业授权以进行广泛的运用,现有具备70亿参数及130亿参数的两种模型可供选择。

Meta还展示了经过微调的模型版本,这些版本在优化代码大小,以及将x86_64和ARM汇编语言反组译回LLVM-IR的能力方面取得了显著的进展。具体来说,这些模型可达到77%的代码优化潜力,以及45%的反组译回路,当中的14%是精确匹配的能力。

热门文章
灰度世界杯嘉年华狂欢派对吉隆坡站即将开启,业务拓展人脉社交从马来西亚开始
灰度头条
越南博彩管控逐步放宽,惟本土需求仍显乏力
东南亚资讯
BETFAIR 网络攻击80万用户资料泄露
游戏风向
密西西比州众议院委员会推进提议增加赌场税的法案
游戏风向
哈萨克斯坦计划对在线赌场促销活动进行处罚
游戏风向
PropellerAds 分享了新的 iGaming 案例研究:在 3 个月实现 97,674 次安装和 12,701 笔存款
广告营销
横跨全球6个城市,灰度8场派对邀你共看世界杯,重塑高质量社交新场景
灰度头条
亚洲游戏市场观察:15大市场热门游戏与用户趋势
线上游戏
斯里兰卡博弈产业大转型,官方:剑指南亚拉斯维加斯
游戏风向
越南在线博彩业政策收紧 催生市场新机遇
东南亚资讯
菲律宾博彩技术赛道迎来新变局,B2B 供应模式加速渗透
东南亚资讯
英国确认各垂直行业的赌博税税率
游戏风向
超级PAC筹资4800万美元:体育博彩势力加码
游戏风向
巴西颁布新法赋权央行封锁非法博彩账户及 Pix 交易
支付动态
准备好了将你的收益最大化吗?尝试ProPush.me Constructor!
广告营销
首页
游戏
合作
发现
我的