第五十九回 公孙胜芒砀山降魔 晁天王曾头市中箭-飞桨自然语言处理套件PaddleNLP初探

公孙胜献出八卦阵,宋江用八员大将守阵。项充李衮进入阵里,被抓住了。宋江说久闻大名,来梁山吧。两人说誓当效力到死,希望能先放我们两个回去把樊瑞带来一起。见到樊瑞后把宋江讲义气一说,樊瑞说不可逆天,于是也归顺了宋江。

宋江继续收人,AI进入大模型时代!

飞桨自然语言处理套件PaddleNLP初探

PaddleNLP是一款简单易用且功能强大的自然语言处理和大语言模型(LLM)开发库。聚合业界优质预训练模型并提供开箱即用的开发体验,覆盖NLP多场景的模型库搭配产业实践范例可满足开发者灵活定制的需求。

官网:GitHub - PaddlePaddle/PaddleNLP: 👑 Easy-to-use and powerful NLP and LLM library with 🤗 Awesome model zoo, supporting wide-range of NLP tasks from research to industrial applications, including 🗂Text Classification, 🔍 Neural Search, ❓ Question Answering, ℹ️ Information Extraction, 📄 Document Intelligence, 💌 Sentiment Analysis etc.

pip安装

pip install --upgrade paddlenlp

快速开始

大模型文本生成

PaddleNLP提供了方便易用的Auto API,能够快速的加载模型和Tokenizer。这里以使用 linly-ai/chinese-llama-2-7b 大模型做文本生成为例:

>>> from paddlenlp.transformers import AutoTokenizer, AutoModelForCausalLM
>>> tokenizer = AutoTokenizer.from_pretrained("linly-ai/chinese-llama-2-7b")
>>> model = AutoModelForCausalLM.from_pretrained("linly-ai/chinese-llama-2-7b", dtype="float16")
>>> input_features = tokenizer("你好!请自我介绍一下。", return_tensors="pd")
>>> outputs = model.generate(**input_features, max_length=128)
>>> tokenizer.batch_decode(outputs[0])
# ['\n你好!我是一个AI语言模型,可以回答你的问题和提供帮助。']

一键UIE预测

PaddleNLP提供一键预测功能,无需训练,直接输入数据即可开放域抽取结果。这里以信息抽取-命名实体识别任务,UIE模型为例:

>>> from pprint import pprint
>>> from paddlenlp import Taskflow

>>> schema = ['时间', '选手', '赛事名称'] # Define the schema for entity extraction
>>> ie = Taskflow('information_extraction', schema=schema)
>>> pprint(ie("2月8日上午北京冬奥会自由式滑雪女子大跳台决赛中中国选手谷爱凌以188.25分获得金牌!"))

大模型

文档:https://github.com/PaddlePaddle/PaddleNLP/tree/develop/llm

三军回梁山,在梁山泊岸边碰见一个大汉,是金毛犬段景住,他得了一匹好马,叫"夜照玉狮子马",日行千里,大金王子的坐骑,结果被曾头市的曾家五虎夺了去。

戴宗到曾头市跑了一趟,发现那儿的小孩们都会唱"扫荡梁山清水泊,剿除晁盖上东京"。晁盖大怒,要亲自走一趟,宋江说哥哥是山寨之主,不可轻动,还是我来吧。晁盖这次是铁了心要去,点了林冲等二十个头领。在金沙滩饯行的时候,军旗被拦腰吹断,吴用和宋江都劝,晁盖还是一意孤行。

晁盖与曾家对峙,第四天有两个和尚来带路,晁盖不疑有诈,不听林冲的劝,半夜去进攻曾家的营寨,结果中了埋伏,晁盖被一键射在脸上,倒到马下。多亏呼延灼、燕顺、刘唐、白胜等拼命,才抢回到帐中。晁盖中的是毒箭,箭上有"史文恭"字样。

大军退回梁山,宋江在晁盖床前哭,亲自喂药上药。临死时晁盖说:谁抓到那个射死我的,就叫他当梁山泊的头。第二天大家说山寨不可一日无主,都叫宋江坐了第一把椅子。上首军师吴用,下首公孙胜。左边林冲带头,右边呼延灼带头。又给众头领按照山寨排了位次。

一天北京大名府龙华寺僧人大圆游方到济宁,经过梁山泊,就在寨内做道场,说起了河北玉麒麟卢俊义。宋江想请卢俊义上山,吴用说小生略施小计,就能让他上山。

欲知吴用怎么让卢俊义上梁山,且听下回分解。

相关推荐
野蛮的大西瓜11 分钟前
开源呼叫中心中,如何将ASR与IVR菜单结合,实现动态的IVR交互
人工智能·机器人·自动化·音视频·信息与通信
CountingStars61936 分钟前
目标检测常用评估指标(metrics)
人工智能·目标检测·目标跟踪
tangjunjun-owen44 分钟前
第四节:GLM-4v-9b模型的tokenizer源码解读
人工智能·glm-4v-9b·多模态大模型教程
冰蓝蓝1 小时前
深度学习中的注意力机制:解锁智能模型的新视角
人工智能·深度学习
橙子小哥的代码世界1 小时前
【计算机视觉基础CV-图像分类】01- 从历史源头到深度时代:一文读懂计算机视觉的进化脉络、核心任务与产业蓝图
人工智能·计算机视觉
新加坡内哥谈技术2 小时前
苏黎世联邦理工学院与加州大学伯克利分校推出MaxInfoRL:平衡内在与外在探索的全新强化学习框架
大数据·人工智能·语言模型
fanstuck2 小时前
Prompt提示工程上手指南(七)Prompt编写实战-基于智能客服问答系统下的Prompt编写
人工智能·数据挖掘·openai
lovelin+v175030409662 小时前
安全性升级:API接口在零信任架构下的安全防护策略
大数据·数据库·人工智能·爬虫·数据分析
唐小旭2 小时前
python3.6搭建pytorch环境
人工智能·pytorch·python
洛阳泰山3 小时前
MaxKB基于大语言模型和 RAG的开源知识库问答系统的快速部署教程
人工智能·语言模型·开源·rag·maxkb