技术栈
llama 2
HuggingFace
9 个月前
llama
·
llama 2
LLaMA 2 - 你所需要的一切资源
关于 LLaMA 2 的全部资源,如何去测试、训练并部署它。LLaMA 2 是一个由 Meta 开发的大型语言模型,是 LLaMA 1 的继任者。LLaMA 2 可通过 AWS、Hugging Face 等提供商获取,并免费用于研究和商业用途。LLaMA 2 预训练模型在 2 万亿个标记上进行训练,相比 LLaMA 1 的上下文长度增加了一倍。它的微调模型则在超过 100 万个人工标注数据下完成。
HuggingFace
1 年前
llama
·
llama 2
非工程师指南: 训练 LLaMA 2 聊天机器人
本教程将向你展示在不编写一行代码的情况下,如何构建自己的开源 ChatGPT,这样人人都能构建自己的聊天模型。我们将以 LLaMA 2 基础模型为例,在开源指令数据集上针对聊天场景对其进行微调,并将微调后的模型部署到一个可分享的聊天应用中。全程只需点击鼠标,即可轻松通往荣耀之路!😀
HuggingFace
1 年前
pytorch
·
llama 2
·
fdsp
使用 PyTorch FSDP 微调 Llama 2 70B
通过本文,你将了解如何使用 PyTorch FSDP 及相关最佳实践微调 Llama 2 70B。在此过程中,我们主要会用到 Hugging Face Transformers、Accelerate 和 TRL 库。我们还将展示如何在 SLURM 中使用 Accelerate。