decapoda-research/llama-7b-hf 的踩坑记录

夏离2023-10-27 23:42

使用transformers加载decapoda-research/llama-7b-hf的踩坑记录。

  1. ValueError: Tokenizer class LLaMATokenizer does not exist or is not currently imported.

    解决办法：

    https://github.com/huggingface/transformers/issues/22222

    将tokenizer_config.json中LLaMATokenizer改为LlamaTokenizer。

  2. RecursionError: maximum recursion depth exceeded while getting the str of an object.

    解决办法：

    https://github.com/huggingface/transformers/issues/22762

    使用tokenizer_config.json替换原本的tokenizer_config.json

相关推荐
小草cys1 天前
在树莓派集群上部署 Distributed Llama (Qwen 3 14B) 详细指南
python·llama·树莓派·qwen
咕咚-萌西1 天前
联邦学习论文分享：Towards Building the Federated GPT:Federated Instruction Tuning
llama·联邦学习·指令微调
relis2 天前
解密llama.cpp中的batch与ubatch：深度学习推理优化的内存艺术
深度学习·batch·llama
relis3 天前
解密llama.cpp：Prompt Processing如何实现高效推理？
prompt·llama
GEO_JYB3 天前
BERT家族进化史：从BERT到LLaMA，每一次飞跃都源于对“学习”的更深理解
学习·bert·llama
AI大模型4 天前
大模型开发实战：使用 LLaMA Factory 微调与量化模型并部署至 Ollama
程序员·llm·llama
relis4 天前
解密llama.cpp：从Prompt到Response的完整技术流程剖析
prompt·llama
我不是小upper4 天前
Llama v3 中的低秩自适应 (LoRA)
llama
df007df11 天前
【RAGFlow代码详解-10】文本处理和查询处理
人工智能·ocr·embedding·llama
liliangcsdn11 天前
llama.cpp reranking源码分析
llama
热门推荐
012025 年高教社杯全国大学生数学建模竞赛C 题 NIPT 的时点选择与胎儿的异常判定 完整成品思路模型代码分享，全网首发高质量！！！022025年数学建模国赛C题超详细解题思路03UV安装并设置国内源04不再让Windows更新！&Edge游戏助手卸载及关闭自动更新052025全国大学生数学建模C题保姆级思路模型（持续更新）：NIPT 的时点选择与胎儿的异常判定062025高教社杯国赛数学建模选题建议+初步分析07KGG转MP3工具|非KGM文件|解密音频082025国赛B题保姆级教程思路分析 碳化硅外延层厚度的确定09A股预测还能更准？开源大模型Kronos带你跑通预测+回测全流程10jdk21下载、安装（Windows、Linux、macOS）