第五十九回 公孙胜芒砀山降魔 晁天王曾头市中箭-飞桨自然语言处理套件PaddleNLP初探

公孙胜献出八卦阵,宋江用八员大将守阵。项充李衮进入阵里,被抓住了。宋江说久闻大名,来梁山吧。两人说誓当效力到死,希望能先放我们两个回去把樊瑞带来一起。见到樊瑞后把宋江讲义气一说,樊瑞说不可逆天,于是也归顺了宋江。

宋江继续收人,AI进入大模型时代!

飞桨自然语言处理套件PaddleNLP初探

PaddleNLP是一款简单易用且功能强大的自然语言处理和大语言模型(LLM)开发库。聚合业界优质预训练模型并提供开箱即用的开发体验,覆盖NLP多场景的模型库搭配产业实践范例可满足开发者灵活定制的需求。

官网:GitHub - PaddlePaddle/PaddleNLP: 👑 Easy-to-use and powerful NLP and LLM library with 🤗 Awesome model zoo, supporting wide-range of NLP tasks from research to industrial applications, including 🗂Text Classification, 🔍 Neural Search, ❓ Question Answering, ℹ️ Information Extraction, 📄 Document Intelligence, 💌 Sentiment Analysis etc.

pip安装

复制代码
pip install --upgrade paddlenlp

快速开始

大模型文本生成

PaddleNLP提供了方便易用的Auto API,能够快速的加载模型和Tokenizer。这里以使用 linly-ai/chinese-llama-2-7b 大模型做文本生成为例:

复制代码
>>> from paddlenlp.transformers import AutoTokenizer, AutoModelForCausalLM
>>> tokenizer = AutoTokenizer.from_pretrained("linly-ai/chinese-llama-2-7b")
>>> model = AutoModelForCausalLM.from_pretrained("linly-ai/chinese-llama-2-7b", dtype="float16")
>>> input_features = tokenizer("你好!请自我介绍一下。", return_tensors="pd")
>>> outputs = model.generate(**input_features, max_length=128)
>>> tokenizer.batch_decode(outputs[0])
# ['\n你好!我是一个AI语言模型,可以回答你的问题和提供帮助。']

一键UIE预测

PaddleNLP提供一键预测功能,无需训练,直接输入数据即可开放域抽取结果。这里以信息抽取-命名实体识别任务,UIE模型为例:

复制代码
>>> from pprint import pprint
>>> from paddlenlp import Taskflow

>>> schema = ['时间', '选手', '赛事名称'] # Define the schema for entity extraction
>>> ie = Taskflow('information_extraction', schema=schema)
>>> pprint(ie("2月8日上午北京冬奥会自由式滑雪女子大跳台决赛中中国选手谷爱凌以188.25分获得金牌!"))

大模型

文档:https://github.com/PaddlePaddle/PaddleNLP/tree/develop/llm

三军回梁山,在梁山泊岸边碰见一个大汉,是金毛犬段景住,他得了一匹好马,叫"夜照玉狮子马",日行千里,大金王子的坐骑,结果被曾头市的曾家五虎夺了去。

戴宗到曾头市跑了一趟,发现那儿的小孩们都会唱"扫荡梁山清水泊,剿除晁盖上东京"。晁盖大怒,要亲自走一趟,宋江说哥哥是山寨之主,不可轻动,还是我来吧。晁盖这次是铁了心要去,点了林冲等二十个头领。在金沙滩饯行的时候,军旗被拦腰吹断,吴用和宋江都劝,晁盖还是一意孤行。

晁盖与曾家对峙,第四天有两个和尚来带路,晁盖不疑有诈,不听林冲的劝,半夜去进攻曾家的营寨,结果中了埋伏,晁盖被一键射在脸上,倒到马下。多亏呼延灼、燕顺、刘唐、白胜等拼命,才抢回到帐中。晁盖中的是毒箭,箭上有"史文恭"字样。

大军退回梁山,宋江在晁盖床前哭,亲自喂药上药。临死时晁盖说:谁抓到那个射死我的,就叫他当梁山泊的头。第二天大家说山寨不可一日无主,都叫宋江坐了第一把椅子。上首军师吴用,下首公孙胜。左边林冲带头,右边呼延灼带头。又给众头领按照山寨排了位次。

一天北京大名府龙华寺僧人大圆游方到济宁,经过梁山泊,就在寨内做道场,说起了河北玉麒麟卢俊义。宋江想请卢俊义上山,吴用说小生略施小计,就能让他上山。

欲知吴用怎么让卢俊义上梁山,且听下回分解。

相关推荐
NAGNIP11 小时前
一文搞懂深度学习中的通用逼近定理!
人工智能·算法·面试
冬奇Lab13 小时前
一天一个开源项目(第36篇):EverMemOS - 跨 LLM 与平台的长时记忆 OS,让 Agent 会记忆更会推理
人工智能·开源·资讯
冬奇Lab13 小时前
OpenClaw 源码深度解析(一):Gateway——为什么需要一个"中枢"
人工智能·开源·源码阅读
AngelPP16 小时前
OpenClaw 架构深度解析:如何把 AI 助手搬到你的个人设备上
人工智能
宅小年16 小时前
Claude Code 换成了Kimi K2.5后,我再也回不去了
人工智能·ai编程·claude
九狼17 小时前
Flutter URL Scheme 跨平台跳转
人工智能·flutter·github
ZFSS17 小时前
Kimi Chat Completion API 申请及使用
前端·人工智能
天翼云开发者社区18 小时前
春节复工福利就位!天翼云息壤2500万Tokens免费送,全品类大模型一键畅玩!
人工智能·算力服务·息壤
知识浅谈18 小时前
教你如何用 Gemini 将课本图片一键转为精美 PPT
人工智能
Ray Liang19 小时前
被低估的量化版模型,小身材也能干大事
人工智能·ai·ai助手·mindx