LLM - LLama 模型读取报错 TypeError: not a string

一.引言

读取 LLama2 模型时报错 TypeError: not a string

看异常栈是 AutoTokenizer.from_pretrained 时候的异常。

二.问题解决

出现类似加载模型异常的问题,大致分两类:

模型地址异常

脚本里传的 pretrained_model Path 有问题,加 ""、'' 或者 / 等标识尝试是否可以正常加载。

模型文件后缀异常

还有一个可能就是模型文件内的后缀出现异常,上述报错由于 tokenizer.model 后缀异常,多了 .model.model 所以加载异常。出现这个问题是由于博主在下载模型保存时不知道怎么多了这个后缀,这里 mv 将文件修改正确即可,顺便把 README 也改对了...

bash 复制代码
mv tokenizer.model.model.model tokenizer.model
mv README.md.md.md README.md

三.总结

这个错误比较基础,出现这个问题检查传的参数和模型的文件名可以很快定位问题。

相关推荐
木枷2 天前
多GPU和单GPU运行llama的时间差
人工智能·llama
赴前尘2 天前
docker 安装并使用 ollama
docker·llama
迈火3 天前
ComfyUI - ELLA:解锁ComfyUI图像生成新境界的神奇插件
人工智能·gpt·stable diffusion·aigc·音视频·midjourney·llama
Coder个人博客4 天前
Llama.cpp GGML 模块深度分析
人工智能·自动驾驶·llama
牛奶咖啡.8545 天前
基于Llama-Factory/Qwen2.5-1.5b自定义数据集LoRA微调实战【PPO/RLHF/训练/评估】
语言模型·llm·llama·rl·ppo
白云千载尽5 天前
LLaMA-Factory 入门(二): 深入技术解析
人工智能·llama
Coder个人博客6 天前
Llama.cpp 整体架构分析
人工智能·自动驾驶·llama
Coder个人博客6 天前
Llama.cpp Tools 实用工具深度分析
人工智能·自动驾驶·llama
Coder个人博客6 天前
Llama.cpp Examples 示例程序深度分析
人工智能·自动驾驶·llama
白云千载尽6 天前
LLaMA-Factory 入门(一):Ubuntu20 下大模型微调与部署
人工智能·算法·大模型·微调·llama