Meta发布支持边缘与行动设备的Llama 3.2 1B/3B
支付動態 · 2024-09-28

Meta强调开发人员能够利用轻量文本生成模型Llama 3.2 1B及Llama 3.2 3B,建置个人化的设备端代理应用程序,优点是提高回应速度并确保使用隐私

Meta

Meta本周发表了Llama 3.2,包括视觉语言模型Llama 3.2 11B及Llama 3.2 90B,以及锁定边缘及行动设备、轻量且只有文本的Llama 3.2 1B及Llama 3.2 3B,已开放用户自Llama官网及Hugging Face上下载。

其中,Llama 3.2 11B与Llama 3.2 90B主要支持图像推论使用案例,可理解包含图表、图形及图说在内的文档,或者是通过自然语言描述,于图像中精确定位对象位置等视觉定位任务。例如用户可询问企业在去年哪个月的业绩最好,Llama即可根据图表回答;或者是基于地图来回答路径及距离等问题。

至于轻量的Llama 3.2 1B及Llama 3.2 3B,则具备强大的文本生成及工具调用功能,允许开发人员建置个人化的设备端代理应用程序,以让数据保存于设备上而不外流。

Meta表示,于设备端运行上述模型有两大好处,一是提示与回应感觉像是即时的,二是不会将个人数据发送到云端,让相关程序更具隐私,或者是控制将哪些查找保留于设备上,哪些则需送至云上的大模型处理。

此外,基准测试显示,Llama 3.2的视觉模型在图像辨识及许多视觉理解任务上,足以与Claude 3 Haiku和GPT4o-mini 竞争,Llama 3.2 3B在遵循指令、摘录、重写提示及工具使用等任务上的表现,超越了Gemma 2 2.6B与Phi 3.5-mini模型,至于Llama 3.2 1B某些部分的表现亦不输Gemma与Phi。

热门文章
JILI 宣布与全球板球传奇 AB de Villiers(ABD)达成重磅战略合作
体育游戏
斯里兰卡博弈产业大转型,官方:剑指南亚拉斯维加斯
游戏风向
PropellerAds 分享了新的 iGaming 案例研究:在 3 个月实现 97,674 次安装和 12,701 笔存款
广告营销
准备好了将你的收益最大化吗?尝试ProPush.me Constructor!
广告营销
印度最高法院受理公益诉讼,要求全国禁封“伪装”成社交游戏的赌博平台
游戏风向
灰度在iGB L!VE 2026展位T70和你相约7月,一起点燃伦敦的热情!
灰度头条
新泽西州7月博彩收入创6.06亿美元新高,颁布禁令
游戏风向
亚洲游戏市场观察:15大市场热门游戏与用户趋势
线上游戏
哈萨克斯坦计划对在线赌场促销活动进行处罚
游戏风向
密西西比州众议院委员会推进提议增加赌场税的法案
游戏风向
BETFAIR 网络攻击80万用户资料泄露
游戏风向
横跨全球6个城市,灰度8场派对邀你共看世界杯,重塑高质量社交新场景
灰度头条
GGC Awards 2026 璀璨科伦坡:致敬 iGaming 行业的领航者与创新力量
灰度头条
巴西拟将博彩税率提高至24% 税收将用于社保和医疗领域
游戏风向
菲律宾博彩技术赛道迎来新变局,B2B 供应模式加速渗透
东南亚资讯
首页
游戏
合作
发现
我的