【模型报错记录】‘PromptForGeneration‘ object has no attribute ‘can_generate‘

通过这个连接中的方法解决:

"PromptForGeneration"对象没有属性"can_generate" ·期刊 #277 ·thunlp/OpenPrompt ·GitHub的

问题描述:在使用model.generate() 的时候报错:'PromptForGeneration' object has no attribute 'can_generate'

解决方法:

更换transformer版本,使用transformer 4.19.0 并且有效。

但是 4.19.0 没有 LlamaConfig、LlamaForCausalLM 或 LlamaTokenizer。

相关推荐
华农DrLai1 天前
什么是LLM做推荐的三种范式?Prompt-based、Embedding-based、Fine-tuning深度解析
人工智能·深度学习·prompt·transformer·知识图谱·embedding
高洁011 天前
多模态AI模型融合难?核心问题与解决思路
人工智能·深度学习·机器学习·数据挖掘·transformer
叶舟1 天前
LYT-NET:一个超级轻量的低光照图像增强Transformer网络
人工智能·深度学习·transformer·llie·低光照图像增强
code_pgf2 天前
基于transformer的clip和blip之间的关系、原理、方法实现和直观可视化
人工智能·深度学习·transformer
人工智能培训2 天前
多模大模型应用实战:智能问答系统开发
人工智能·深度学习·机器学习·transformer·知识图谱
Spliceㅤ2 天前
Transformer
人工智能·深度学习·transformer
骇客野人2 天前
本地模型 + RAGFlow 构建知识库实操过程
深度学习·transformer
Forrit2 天前
LLM微调后怎么评估好坏?
人工智能·transformer
小超同学你好2 天前
Transformer 24. Gemma 2 架构详解:交替局部/全局注意力、GQA、双层 RMSNorm 与 Logit Soft-Capping
人工智能·深度学习·transformer