Meta的 Llama-3 在线使用与下载

前言

2024年4月19日,全球社交巨头Meta在他们的官网,正式发布了开源大模型 Llama-3 !!

该版本包括预训练和指令调整的 Llama 3 语言模型的模型权重和起始代码 - 包括 8B 到 70B 参数!

简介

Llama 3 在 24K GPU 集群上训练,使用了 15T 的数据,提供了 8B 和 70B 的预训练和指令微调版本,可以支持广泛的应用。目前得到的信息并不是很多,只知道Meta称Llama-3相比之前模型多使用了掩码和分组查询注意力这两项技术。(不明觉厉~)

在线使用

1.可以直接去官方网站

复制代码
https://llama.meta.com/llama3/

2.对于无法科学上网用户,我们可以借助NVIDIA提供在线使用,网址如下

复制代码
https://www.nvidia.com/en-us/ai/#referrer=ai-subdomain

本地部署文件下载

项目地址

复制代码
https://github.com/meta-llama/llama3

权重文件

访问以下网站

复制代码
https://llama.meta.com/llama-downloads/

填写好信息即可下载

相关推荐
一枕槐安4871 天前
开源大模型 Llama3 本地部署全过程,Ollama 上手
开源·本地部署·大模型推理·ollama·llama3·modelfile
~远在太平洋~3 天前
大模型评测框架 OpenCompass 本地部署保姆级教程:从安装到跑通 C-Eval 基准(含依赖冲突修复与判分避坑)
llama
程序猿编码5 天前
告别 GPU 空转!token 级调度,Qwen/Llama 高并发推理引擎
人工智能·机器学习·llm·llama·大模型推理
还卿一钵无情泪7 天前
PEFT-Transformers、Unsloth、LLaMA-Factory 微调框架 横向对比
深度学习·大模型·llama·ollama
程序猿编码8 天前
不依赖 vLLM/llama.cpp:一套面向学习的 DeepSeek-R1 CUDA 推理实现
c++·学习·语言模型·llama·vllm·大模型推理
天燹8 天前
本地部署大模型ollama
人工智能·llama
骑着蜗牛撵大象3279 天前
N1 小盒子撑起 AI 接口中转层:New-API 接管本地 Ollama,用 Token 分发模型能力
docker·llama·1024程序员节·api网关·飞牛nas·new-api
言简行敏,心静致远。10 天前
llama-bench使用说明及其应用
llama
AI_Gump11 天前
模型篇|llama.cpp 推理引擎深度解读:从一人练手到 LLM 端侧的事实标准
llama·llama.cpp
星野云联AIoT技术洞察13 天前
设备手册离线 RAG:先管住版本、权限和引文,再谈本地大模型
llama·rag·设备告警·rag知识库·设备运维·设备离线·设备手册