基于MindFormers实现GPT2模型的推理

前言

针对MindFormers的安装,可参考本专栏里的另一篇博客

安装MindFormers(昇腾910)-CSDN博客

pipeline方式

python 复制代码
from mindformers import pipeline
from mindformers import GPT2LMHeadModel, GPT2Config, GPT2Tokenizer
tok = GPT2Tokenizer.from_pretrained("gpt2")
gpt_model = GPT2LMHeadModel.from_pretrained("gpt2")
prompt="I love Shanghai"
text_generation = pipeline(task='text_generation', model=gpt_model, tokenizer=tok, max_length=50)
outputs=text_generation(prompt, top_k=3)
print(outputs)

持续更新中...

相关推荐
鲜枣课堂3 分钟前
重新安全定义,IMS算网融合加速企业专网AI+场景落地
大数据·人工智能·安全
Victory_orsh1 小时前
“自然搞懂”深度学习系列(基于Pytorch架构)——02小试牛刀
人工智能·python·深度学习·神经网络·机器学习
tzc_fly1 小时前
DeepSeek-OCR:上下文光学压缩
人工智能·计算机视觉·ocr
37手游后端团队1 小时前
构建AI会话质检平台:技术架构与实践分享
人工智能·后端
哔哩哔哩技术1 小时前
B站游戏大模型翻译实践 —— 我们如何用LLM撑起全年百万字本地化翻译任务
人工智能
longgyy1 小时前
AI 开发告别 “孤岛”:MCP + 火山引擎
人工智能·火山引擎
珊瑚礁的猪猪侠1 小时前
正则表达式入门到精通教程(Linux实操版)
linux·人工智能·正则表达式
星空的资源小屋1 小时前
MkFont,一款开源免费的字体设计工具
网络·人工智能·pdf·电脑
mir frog1 小时前
DAY44 PYTHON 预训练模型
人工智能·深度学习·机器学习
yuzhuanhei1 小时前
机器学习算法常用算法
人工智能·算法·机器学习