LLM - LLama 模型读取报错 TypeError: not a string

一.引言

读取 LLama2 模型时报错 TypeError: not a string

看异常栈是 AutoTokenizer.from_pretrained 时候的异常。

二.问题解决

出现类似加载模型异常的问题,大致分两类:

模型地址异常

脚本里传的 pretrained_model Path 有问题,加 ""、'' 或者 / 等标识尝试是否可以正常加载。

模型文件后缀异常

还有一个可能就是模型文件内的后缀出现异常,上述报错由于 tokenizer.model 后缀异常,多了 .model.model 所以加载异常。出现这个问题是由于博主在下载模型保存时不知道怎么多了这个后缀,这里 mv 将文件修改正确即可,顺便把 README 也改对了...

bash 复制代码
mv tokenizer.model.model.model tokenizer.model
mv README.md.md.md README.md

三.总结

这个错误比较基础,出现这个问题检查传的参数和模型的文件名可以很快定位问题。

相关推荐
weixin_4462608510 小时前
二、LLaMA Factory 介绍和基本使用
llama
weixin_4462608519 小时前
三、LLaMA Factory 微调通用设置
llama
木枷2 天前
LLama-factory数据报错
人工智能·机器学习·llama
快乐的钢镚子3 天前
【RAG实战】中医医疗问答系统
langchain·llama
Yeliang Wu4 天前
LLaMA-Factory 模型评估理论与实战:基于 Ubuntu 22.04 的系统化指南
linux·ubuntu·llama·评估·llamafactory
盼小辉丶4 天前
Transformer实战(29)——大语言模型(Large Language Model,LLM)
语言模型·transformer·大语言模型·llama
阿猿收手吧!7 天前
【大模型】什么是大模型?vLLM是?模型部署?CUDA?
ai·llama
AI大模型7 天前
开源大模型全维度详解+实操部署(Mistral-、Gemma(Google)、Llama、Qwen),小白必看
llm·agent·llama
不会吉他的肌肉男不是好的挨踢男7 天前
LLaMA Factory 训练模型未检测到CUDA环境解决
python·ai·llama
TGITCIC7 天前
LLM推理引擎选型实战指南:用Transformers、llama.cpp 还是 vLLM 之争
transformer·llama·ai大模型·vllm·llama.cpp·大模型ai