进军AI大模型-Langchain程序部署

前提

安装langserve

执行命令

复制代码
pip install "langserve[all]" 

代码实现

使用python性能最好的fastapi框架

python 复制代码
import os

from fastapi import FastAPI
from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI
from langserve import add_routes

# 1. 准备环境
os.environ['OPENAI_API_BASE'] = "https://api.mctools.online/v1"
# 2. 定义模型
model = ChatOpenAI(model="gpt-4o")
# 3. prompt提示词
prompt = ChatPromptTemplate.from_messages([
    ('system', '请计算以下的结果'),
    ('user', '{text}')
])
# 4. 解析
parser = StrOutputParser()
# 5. 创建链
chain = prompt | model | parser

# 6. 调用
print(chain.invoke({'text': '当x趋于正无穷,求x分之一的极限'}))


app = FastAPI(title="langchain部署服务",version="V1",description="langchian第一个应用")

add_routes(app,chain,path="/chain/demo01",)

if __name__ == "__main__":
    import uvicorn
    uvicorn.run(app,host="localhost",port=8000)

执行结果

request: http://localhost:8000/chain/demo01/invoke

method:post

body:

python 复制代码
{
    "input":
    {
        "text":"当x趋于正无穷,求x分之一的极限"
    }
}

代码重构

用client调用

touch client.py

python 复制代码
from langserve import RemoteRunnable

if __name__ == '__main__':
    client = RemoteRunnable('http://127.0.0.1:8000/chain/demo01')
    print(client.invoke({'text': '当x趋于正无穷,求x分之一的极限'}))

执行结果

当 \( x \) 趋于正无穷大时,\( \frac{1}{x} \) 的极限是 0。

代码解释

这段代码使用了langserve库中的RemoteRunnable类来创建一个客户端实例,用于与运行在本地(127.0.0.1)的服务器通信,该服务器监听8000端口,并且指定路径为/chain/demo01。这通常意味着有一个后端服务在运行,能够处理来自这个客户端的请求。

当执行client.invoke({'text': '当x趋于正无穷,求x分之一的极限'})时,客户端会向服务器发送一个包含文本的问题,即"当x趋于正无穷,求x分之一的极限"。

相关推荐
久未12 分钟前
Pytorch autoload机制自动加载树外扩展(Autoload Device Extension)
人工智能·pytorch·python
arvin_xiaoting19 分钟前
#zsh# #Ubuntu# 一键安装zsh、oh-my-zsh、常用插件
linux·ubuntu·elasticsearch
java1234_小锋28 分钟前
TensorFlow2 Python深度学习 - TensorFlow2框架入门 - 使用Keras.Model来定义模型
python·深度学习·tensorflow·tensorflow2
脏脏a28 分钟前
【Linux】Linux工具漫谈:yum 与 vim,高效操作的 “左膀右臂”
linux·运维·服务器
Learn Beyond Limits32 分钟前
TensorFlow Implementation of Content-Based Filtering|基于内容过滤的TensorFlow实现
人工智能·python·深度学习·机器学习·ai·tensorflow·吴恩达
java1234_小锋32 分钟前
TensorFlow2 Python深度学习 - 函数式API(Functional API)
python·深度学习·tensorflow·tensorflow2
Y2003091633 分钟前
使用 PyTorch 实现 MNIST 手写数字识别
python
马尚来40 分钟前
移动端自动化测试Appium,从入门到项目实战Python版
python
APItesterCris1 小时前
构建弹性数据管道:利用淘宝商品 API 进行流式数据采集与处理
linux·数据库·windows
天才测试猿1 小时前
WebUI自动化测试:POM设计模式全解析
自动化测试·软件测试·python·selenium·测试工具·设计模式·测试用例