【模型报错记录】‘PromptForGeneration‘ object has no attribute ‘can_generate‘

通过这个连接中的方法解决:

"PromptForGeneration"对象没有属性"can_generate" ·期刊 #277 ·thunlp/OpenPrompt ·GitHub的

问题描述:在使用model.generate() 的时候报错:'PromptForGeneration' object has no attribute 'can_generate'

解决方法:

更换transformer版本,使用transformer 4.19.0 并且有效。

但是 4.19.0 没有 LlamaConfig、LlamaForCausalLM 或 LlamaTokenizer。

相关推荐
L、2185 小时前
CANN ops-transformer 仓库详解:Transformer 算子的底层实现与性能优化
深度学习·性能优化·transformer
MediaTea11 小时前
DL:Transformer 的基本原理与 PyTorch 实现
人工智能·pytorch·python·深度学习·transformer
hh.h.11 小时前
昇腾CANN ATB与ops-transformer的协作:从单算子到融合推理
人工智能·深度学习·transformer·cann
冰西瓜60012 小时前
深度学习的数学原理(三十八)—— Transformer 完整训练代码实战
人工智能·深度学习·transformer
冰西瓜60013 小时前
深度学习的数学原理(三十九)—— Transformer 数学全景图
人工智能·深度学习·transformer
song50114 小时前
多模态模型在昇腾上的部署架构
人工智能·分布式·深度学习·架构·transformer·交互
解局易否结局18 小时前
昇腾CANN上手笔记:从cann-learning-hub学会ops-transformer
笔记·深度学习·transformer
hh.h.1 天前
昇腾CANN ops-transformer 仓的 MC2 算子:MoE 模型的全到全通信
python·深度学习·transformer·cann
莞凰1 天前
昇腾CANN的“灵脉根基“:Runtime仓库探秘
android·人工智能·transformer
莞凰1 天前
昇腾CANN的“御剑飞行“:ATB仓库探秘
人工智能·flutter·transformer