LangChain入门教程 - 使用代理Agent

对于大模型,比如某些场景,需要数学计算,或者需要从某些网站获取参考资料,就必须使用专门的代理来完成任务。这里我们使用langchain提供的数学工具来实现一个最简单的例子,下一篇我们会讲如何自己实现代理。

首先创建一个对话模型,记得自己设置环境变量QIANFAN_AKQIANFAN_SK

python 复制代码
from langchain_community.chat_models import QianfanChatEndpoint

chatModel = QianfanChatEndpoint(
    model='ERNIE-Bot',
    endpoint='completions'
)

组装代理

我们使用lc库提供的数学包LLMMathChain组装数学代理,负责数学相关的计算工作。这里简单解释一下代理的工作原理,不完全正确,但大概原理是没跑的:大模型在收到问题后,和工具的描述匹配一下,决定使用哪些工具。然后把问题理解后生成合适的参数调用工具并返回结果。这里面是个大黑盒,怎么理解和拆分问题并匹配工具都是由大模型自己决定的,你只能通过提示词给出参考。对于百度的千帆,测试中发现对于数学问题用英文提问比较好,如果是中文理解就问有问题,没法正确调用工具。

python 复制代码
from langchain import LLMMathChain
from langchain.agents import AgentType, initialize_agent
from langchain.tools import BaseTool, Tool
from pydantic import BaseModel, Field

tools = []

class CalculatorInput(BaseModel):
    question: str = Field()
    
llm_math_chain = LLMMathChain(llm=chatModel, verbose=True)

tools.append(
    Tool.from_function(
        func=llm_math_chain.run,
        name='牛逼的计算器',
        description='用于回答数学问题',
        args_schema=CalculatorInput
    )
)


# ZERO_SHOT_REACT_DESCRIPTION代表根据工具的描述进行选择
agent = initialize_agent(
    tools, chatModel, agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION, verbose=True
)

这里args_schema参数用于构造输入参数,CalculatorInut的写法参考pydantic的文档:pydantic · PyPI

提问

python 复制代码
# 使用英文便于大模型理解
agent.run(
    'What is the result of 5.85 raised to the 2.16 power?'
)

"""输出
> Entering new AgentExecutor chain...

This is a mathematical question that requires raising a number to a specific power.

Action: 牛逼的计算器
Action Input: Calculate 5.85 raised to the power of 2.16


> Entering new LLMMathChain chain...
Calculate 5.85 raised to the power of 2.16

```text
5.85**2.16
```
...numexpr.evaluate("5.85**2.16")...

Answer: 45.400085499141575
> Finished chain.

Observation: Answer: 45.400085499141575
Thought:I now know the result of 5.85 raised to the 2.16 power.

Final Answer: 5.85 raised to the 2.16 power is equal to 45.400085499141575.

> Finished chain.
"""

代理是如何执行的?

前面我们在构造tool时,func参数设置为llm_math_chain.run。那么这个函数支持哪些参数,被调用时传进来的参数又是什么样的呢?一种方法是找源码,那个比较费事,我们可以inspect库提供的方法查看信息,然后自己在run函数外面包一层,就能看到想要看的信息了。

使用inspect函数查看信息,我们可以看到run有哪些参数和参数的默认值。

python 复制代码
import inspect

sig = inspect.signature(llm_math_chain.run)

for name, para in sig.parameters.items():
    print(name, para.default)

'''输出
args <class 'inspect._empty'>
callbacks None
tags None
metadata None
kwargs <class 'inspect._empty'>
'''

我们在这里只关心第一个参数args,我们自己定义一个函数打印传了什么参数进来。

python 复制代码
from langchain import LLMMathChain
from langchain.tools import BaseTool, Tool
from pydantic import BaseModel, Field

tools = []

class CalculatorInput(BaseModel):
    question: str = Field()
    
llm_math_chain = LLMMathChain(llm=chatModel, verbose=True)

def my_math_func(*args):
    print('输入参数', args)
    return llm_math_chain.run(*args)

tools.append(
    Tool.from_function(
        func=my_math_func,
        name='牛逼的计算器',
        description='用于回答数学问题',
        args_schema=CalculatorInput
    )
)

'''
我们可以看到以下输出:

Action: 牛逼的计算器

Action Input: Calculate 5.85 raised to the 2.16 power.
输入参数 ('Calculate 5.85 raised to the 2.16 power.\n',)
'''
相关推荐
小叶爱吃鱼4 分钟前
python-数据可视化(大数据、数据分析、可视化图像、HTML页面)
大数据·python·信息可视化·数据分析
limingade8 分钟前
手机打电话时由对方DTMF响应切换多级IVR语音应答(二)
人工智能·语音识别·蓝牙电话·手机提取通话声音·手机实现来电ivr导航·多级ivr语音导航
Panesle15 分钟前
Index-AniSora模型论文速读:基于人工反馈的动漫视频生成
人工智能·算法·机器学习·计算机视觉·开源·大模型·生成模型
yzx99101316 分钟前
自然语言处理
人工智能·自然语言处理
人类群星闪耀时20 分钟前
数据挖掘:从数据堆里“淘金”,你的数据价值被挖掘了吗?
人工智能·数据挖掘
nenchoumi311942 分钟前
Mujoco 学习系列(二)基础功能与xml使用
人工智能·学习
yidaqiqi1 小时前
Pytorch针对不同电脑配置详细讲解+安装(CPU)
人工智能·pytorch·python
程序员秘密基地1 小时前
基于pycharm,python,flask,tensorflow,keras,orm,mysql,在线深度学习sql语句检测系统
python·深度学习·tensorflow·keras
Jolen_xie1 小时前
Pytorch分布式训练,数据并行,单机多卡,多机多卡
人工智能·算法
king of code porter2 小时前
深度学习之用CelebA_Spoof数据集搭建一个活体检测-用MNN来推理时候如何利用Conan对软件包进行管理
人工智能·深度学习·mnn