进军AI大模型-环境配置

语言环境配置

合法上网工具:

这个T子试试,一直稳定。走我链接免费用5天:

https://wibnm.com/s/ywtc01/pvijpzy

python版本: python3.12

Langchain: Introduction | 🦜️🔗 LangChain v0.3 9月16日升级的版本

pip3 设置成阿里云的源镜像(能够快速下载依赖包)

复制代码
pip config set global.index-url https://mirrors.aliyun.com/pypi/simple

langchain安装

复制代码
pip install langchain

pip install langchain-openai

检查是否安装成功

使用langchain调用大语言模型

注册API KEY

注册地址

代码

将中文翻译成日语

复制代码
import os

from langchain_core.messages import SystemMessage, HumanMessage
from langchain_openai import ChatOpenAI

os.environ['OPENAI_API_BASE'] = "https://api.mctools.online/v1"

model = ChatOpenAI(model="gpt-4-turbo")

msg = [SystemMessage(content='请将以下的内容翻译成日语'), HumanMessage(content='你好,初次见面请多关照')]

result = model.invoke(msg)
print(result)

代码解释

  • 导入语句引入了必要的模块和类:
    • os:用于设置环境变量。
    • SystemMessageHumanMessage:来自langchain_core.messages模块,用于构造对话中的消息对象,其中SystemMessage通常用来给模型提供指令或上下文信息,而HumanMessage则表示用户输入的内容。
    • ChatOpenAI:来自langchain_openai库,是用于创建一个可以与OpenAI API交互的对象的类。
  • 设置了一个环境变量OPENAI_API_BASE,指定了自定义的API基础URL。这意味着所有的API请求都将发送到这个特定的域名,而不是默认的OpenAI API地址。这在您需要访问非官方API端点时很有用,比如企业内部部署的服务或是代理服务。
  • 这个地址在https://falm.shop/buy/36 购买 ,因为在国内使用实在是有点不方便
  • 创建了一个ChatOpenAI实例,并指定了要使用的模型名称为gpt-4-turbo。如果你没有apikey执行就会报错
  • 构造了一组消息列表msg,其中包括两个元素:
    • 一个SystemMessage对象,其内容是"请将以下的内容翻译成日语",这相当于给模型的一个指示,告诉它接下来的任务是要进行中文到日语的翻译。
    • 一个HumanMessage对象,其内容是"你好,初次见面请多关照",这是实际要被翻译的文本。
  • 使用invoke方法向模型传递消息列表msg,并获取模型生成的响应。invoke方法会返回一个包含模型生成的消息的对象,您可以从中提取出想要的信息,如生成的文本。
  • 最后,print(result)会打印出模型的响应结果,即翻译后的文本。

执行结果

javascript 复制代码
content='こんにちは、初めまして、よろしくお願いします。' 
additional_kwargs={'refusal': None} 
response_metadata={'token_usage': {'completion_tokens': 18, 'prompt_tokens': 36, 'total_tokens': 54, 'completion_tokens_details': {'accepted_prediction_tokens': 0, 'audio_tokens': 0, 'reasoning_tokens': 0, 'rejected_prediction_tokens': 0}, 'prompt_tokens_details': {'audio_tokens': 0, 'cached_tokens': 0}}, 'model_name': 'gpt-4-turbo-2024-04-09', 'system_fingerprint': 'fp_1a5512f3de', 'finish_reason': 'stop', 'logprobs': None} id='run-63ca957d-44ad-432e-bace-72e2b3f7a58e-0' usage_metadata={'input_tokens': 36, 'output_tokens': 18, 'total_tokens': 54, 'input_token_details': {'audio': 0, 'cache_read': 0}, 'output_token_details': {'audio': 0, 'reasoning': 0}}

注意

这里记得把api key添加进来

代码改造

开发流程

1、定义大模型, 参考https://platform.openai.com/docs/models

2、创建提示器prompt

3、解析模型数据,支持文本、JSON、XML...

4、创建链,通过提供一系列逻辑上相连的问题或步骤作为提示,可以引导模型进行更深入、更复杂的思考,从而产生更准确的答案

python 复制代码
import os

from langchain_core.messages import SystemMessage, HumanMessage
from langchain_core.output_parsers import StrOutputParser
from langchain_openai import ChatOpenAI

os.environ['OPENAI_API_BASE'] = "https://api.mctools.online/v1"
#1. 定义模型
model = ChatOpenAI(model="gpt-4-turbo")

#2. prompt
msg = [SystemMessage(content='请将以下的内容翻译成日语'), HumanMessage(content='你好,初次见面请多关照')]
# result = model.invoke(msg)
# print(result)

# 3.解析数据
parser = StrOutputParser()

# print(parser.invoke(result))

# 4.创建链
chain = model | parser
# 链调用
print(chain.invoke(msg))
相关推荐
山烛17 分钟前
KNN 算法中的各种距离:从原理到应用
人工智能·python·算法·机器学习·knn·k近邻算法·距离公式
盲盒Q27 分钟前
《频率之光:归途之光》
人工智能·硬件架构·量子计算
墨染点香36 分钟前
第七章 Pytorch构建模型详解【构建CIFAR10模型结构】
人工智能·pytorch·python
go546315846536 分钟前
基于分组规则的Excel数据分组优化系统设计与实现
人工智能·学习·生成对抗网络·数学建模·语音识别
茫茫人海一粒沙42 分钟前
vLLM 的“投机取巧”:Speculative Decoding 如何加速大语言模型推理
人工智能·语言模型·自然语言处理
诗酒当趁年华44 分钟前
【NLP实践】二、自训练数据实现中文文本分类并提供RestfulAPI服务
人工智能·自然语言处理·分类
静心问道1 小时前
Idefics3:构建和更好地理解视觉-语言模型:洞察与未来方向
人工智能·多模态·ai技术应用
sheep88881 小时前
AI与区块链Web3技术融合:重塑数字经济的未来格局
人工智能·区块链
奋进的孤狼1 小时前
【Spring AI】阿里云DashScope灵积模型
人工智能·spring·阿里云·ai·云计算
AIGC_北苏1 小时前
让UV管理一切!!!
linux·人工智能·uv