paddlenlp

冲上云霄的Jayden

PaddleNLP UIE 通过OCR识别银行回执信息UIE(Universal Information Extraction)：Yaojie Lu等人在ACL-2022中提出了通用信息抽取统一框架UIE。

使用 PaddleNLP 在 CPU(支持 AVX 指令)下跑通 llama2-7b或DeepSeek-r1:1.5b 模型（完成度80%）PaddleNLP 在支持 AVX 指令的 CPU 上对 llama 系列模型进行了深度适配和优化，此文档用于说明在支持 AVX 指令的 CPU 上使用 PaddleNLP 进行 llama 系列模型进行高性能推理的流程。

基于PaddleNLP使用DeepSeek-R1搭建智能体最近在学习DeepSeek，找到了PaddleNLP星河社区大模型，跟着敲写了一遍。内容来源：DeepSeek实战训练营：从云端模型部署到应用开发 - 飞桨AI Studio星河社区-人工智能学习与实训社区

安装后或升级启智环境到飞桨2.6版本（develop）启智社区的启智大脑调试环境非常好用，但是里面的飞桨环境版本比较低，为了能够运行大模型（llm），需要升级飞桨到2.6版本或者开发版本。

openi启智社区 aarch64 npu环境安装飞桨paddlepaddle和PaddleNLP（失败）以前在启智社区都是编译安装飞桨，这回看到飞桨提供了npu安装包，兴冲冲的以为安装很简单。之所以安装飞桨，是因为想在启智社区的启智大脑调试环境使用最新的PaddleNLP，结果报错：No module named 'paddle.nn.layer.layers'，提issuenpu下import paddlenlp报错：No module named 'paddle.nn.layer.layers' · Issue #64996 · PaddlePaddle/Paddle · GitHub

PaddleNLP的简单使用PaddleNLP是一个基于PaddlePaddle深度学习平台的自然语言处理（NLP）工具库。它提供了一系列用于文本处理、文本分类、情感分析、文本生成等任务的预训练模型、模型组件和工具函数。