decapoda-research/llama-7b-hf 的踩坑记录

夏离2023-10-27 23:42

使用transformers加载decapoda-research/llama-7b-hf的踩坑记录。

  1. ValueError: Tokenizer class LLaMATokenizer does not exist or is not currently imported.

    解决办法：

    https://github.com/huggingface/transformers/issues/22222

    将tokenizer_config.json中LLaMATokenizer改为LlamaTokenizer。

  2. RecursionError: maximum recursion depth exceeded while getting the str of an object.

    解决办法：

    https://github.com/huggingface/transformers/issues/22762

    使用tokenizer_config.json替换原本的tokenizer_config.json

相关推荐
~远在太平洋~6 天前
大模型评测框架 OpenCompass 本地部署保姆级教程：从安装到跑通 C-Eval 基准（含依赖冲突修复与判分避坑）
llama
程序猿编码8 天前
告别 GPU 空转！token 级调度，Qwen/Llama 高并发推理引擎
人工智能·机器学习·llm·llama·大模型推理
还卿一钵无情泪10 天前
PEFT-Transformers、Unsloth、LLaMA-Factory 微调框架 横向对比
深度学习·大模型·llama·ollama
程序猿编码11 天前
不依赖 vLLM/llama.cpp：一套面向学习的 DeepSeek-R1 CUDA 推理实现
c++·学习·语言模型·llama·vllm·大模型推理
天燹11 天前
本地部署大模型ollama
人工智能·llama
骑着蜗牛撵大象32712 天前
N1 小盒子撑起 AI 接口中转层：New-API 接管本地 Ollama，用 Token 分发模型能力
docker·llama·1024程序员节·api网关·飞牛nas·new-api
言简行敏，心静致远。13 天前
llama-bench使用说明及其应用
llama
AI_Gump13 天前
模型篇｜llama.cpp 推理引擎深度解读：从一人练手到 LLM 端侧的事实标准
llama·llama.cpp
星野云联AIoT技术洞察16 天前
设备手册离线 RAG：先管住版本、权限和引文，再谈本地大模型
llama·rag·设备告警·rag知识库·设备运维·设备离线·设备手册
晚风吹北巷18 天前
基于LLama-Factory 进行Lora微调
llama
热门推荐
01国内可直接用、免费额度/永久免费的大模型API清单（含 SiliconFlow、火山、阿里、智谱、百度、Kimi、DeepSeek、DMXAPI 等）02历年考研数学一、数学二、数学三真题试卷及答案PDF03几个好用的ip纯净度检测网站04GitHub 镜像站点05昇腾910B系列芯片完全指南：四款型号对比、服务器选型与大模型部署实战06如何新建文件夹？ 电脑新建文件夹的4种方法07蜘蛛磁力 搜索引擎大全，如何使用蜘蛛磁力查找磁力链接08苹果iPA游戏软件资源下载网站09微信历史版本含下载地址（ Windows PC | 安卓 | MAC ）及设置微信不更新10Dify：一站式AI应用开发平台全解析与Windows部署指南