前言
2024年4月19日,全球社交巨头Meta在他们的官网,正式发布了开源大模型 Llama-3 !!
该版本包括预训练和指令调整的 Llama 3 语言模型的模型权重和起始代码 - 包括 8B 到 70B 参数!
简介
Llama 3 在 24K GPU 集群上训练,使用了 15T 的数据,提供了 8B 和 70B 的预训练和指令微调版本,可以支持广泛的应用。目前得到的信息并不是很多,只知道Meta称Llama-3相比之前模型多使用了掩码和分组查询注意力这两项技术。(不明觉厉~)
在线使用
1.可以直接去官方网站
https://llama.meta.com/llama3/
2.对于无法科学上网用户,我们可以借助NVIDIA提供在线使用,网址如下
https://www.nvidia.com/en-us/ai/#referrer=ai-subdomain
本地部署文件下载
项目地址
https://github.com/meta-llama/llama3
权重文件
访问以下网站
https://llama.meta.com/llama-downloads/
填写好信息即可下载