关于llama2:从原始llama-2-7b到llama-2-7b-hf的权重转换教程

1.首先,我是从各个教程里面选了一个实际操作的教程(这样更加靠谱):下载llama2-7b并转hf模型_huggingface 下载llama2-7b-chat-hf-CSDN博客

2.但是,其实我在另外一篇更好的教程里面看到过一个坑(这篇好像是腾讯云的一篇文章但是找不到了呜呜呜~~~),这个没有列出来,不过我自己也试出来了,:

直接按照这个教程是可以的,但是需要注意,tokenizer.model文件需要在llama-2-7b这个目录里面有,所以我是复制过去了。

最终得到了我想要的hf版本的权重!

相关推荐
AI小百科3 天前
llama.cpp vs vLLM:深度解析与选型指南
llama·vllm
下班走回家4 天前
本地部署大模型的三种方式:Ollama vs vLLM vs llama.cpp
人工智能·llama·vllm
zhy295636 天前
【DNN】基于llama.cpp的Qwen3-0.6B量化部署微调
人工智能·lora·dnn·llama·qwen3
kuokay7 天前
MLOps 与 AIOps 的核心概
人工智能·分布式·大模型·agent·llama
Trouville017 天前
windows系统使用llama.cpp进行本地大模型部署
llama
棒棒的唐8 天前
windows 直接安装llama.cpp的方法
llama
troubles maker8 天前
LLaMA-Adapter V2: Parameter-Efficient Visual Instruction Model
llm·nlp·llama·多模态
xyz_CDragon8 天前
把旧电脑变成AI算力:llama.cpp RPC 局域网分布式推理验证与实战
人工智能·分布式·python·rpc·llama
wengad9 天前
llama.cpp进行模型格式转换和量化
llama