【模型报错记录】‘PromptForGeneration‘ object has no attribute ‘can_generate‘

通过这个连接中的方法解决:

"PromptForGeneration"对象没有属性"can_generate" ·期刊 #277 ·thunlp/OpenPrompt ·GitHub的

问题描述:在使用model.generate() 的时候报错:'PromptForGeneration' object has no attribute 'can_generate'

解决方法:

更换transformer版本,使用transformer 4.19.0 并且有效。

但是 4.19.0 没有 LlamaConfig、LlamaForCausalLM 或 LlamaTokenizer。

相关推荐
User_芊芊君子11 小时前
CANN大模型推理加速引擎ascend-transformer-boost深度解析:毫秒级响应的Transformer优化方案
人工智能·深度学习·transformer
聆风吟º16 小时前
CANN hccl 深度解析:异构计算集群通信库的跨节点通信与资源管控实现逻辑
人工智能·wpf·transformer·cann
机器学习之心1 天前
TCN-Transformer-BiGRU组合模型回归+SHAP分析+新数据预测+多输出!深度学习可解释分析
深度学习·回归·transformer·shap分析
是店小二呀1 天前
CANN 异构计算的极限扩展:从算子融合到多卡通信的统一优化策略
人工智能·深度学习·transformer
ccLianLian1 天前
计算机基础·cs336·损失函数,优化器,调度器,数据处理和模型加载保存
人工智能·深度学习·计算机视觉·transformer
肾透侧视攻城狮1 天前
《Transformer模型PyTorch实现全攻略:架构拆解、代码示例与优化技巧》
深度学习·transformer·构建transformer模型·定义多头注意力模块·定义位置前馈网络·构建解/编码器模块·训练transformer模型
chian-ocean1 天前
量化加速实战:基于 `ops-transformer` 的 INT8 Transformer 推理
人工智能·深度学习·transformer
杜子不疼.1 天前
CANN_Transformer加速库ascend-transformer-boost的大模型推理性能优化实践
深度学习·性能优化·transformer
renhongxia11 天前
如何基于知识图谱进行故障原因、事故原因推理,需要用到哪些算法
人工智能·深度学习·算法·机器学习·自然语言处理·transformer·知识图谱
深鱼~1 天前
ops-transformer算子库:解锁昇腾大模型加速的关键
人工智能·深度学习·transformer·cann