1、API接口各种参数的意义
model模型
role角色
context所有已发送的消息
stream阻塞式/流动式
tempearature采样温度 概率分布问题 当值越高越平均、值越低越确定0-2
2、会话记忆
大模型本质无记忆--无状态
解决办法---将之前所有的会话历史汇总发送给大模型
维护message数组----及在message拼接对话的历史----智能体与客户尽量都加入
3、开发环境
uv安装与使用
安装
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"
uv添加镜像源
4、通过编程调用大模型API
清华镜像问题
error: Request failed after 3 retries in 14.3s
Caused by: Failed to fetch
: `https://pypi.tuna.tsinghua.edu.cn/simple/langchain-mcp-adapters/`
Caused by: error sending request for url (https://pypi.tuna.tsinghua.edu.cn/simple/langchain-mcp-adapters/)
只需要在cmd中修改镜像
阿里云
setx UV_DEFAULT_INDEX "https://mirrors.aliyun.com/pypi/simple"
腾讯云
https://mirrors.cloud.tencent.com/pypi/simple
火山
https://mirrors.volces.com/pypi/simple
华为云
https://mirrors.huaweicloud.com/repository/pypi/simple
中科学
https://pypi.mirrors.ustc.edu.cn/simple
定义常量保存key存入 env

1、创建openai客户端
python
#%% md
## 1.初始化客户端
### 1.1.硬编码API_KEY
#%%
from openai import OpenAI
# 创建 OpenAI 客户端
client = OpenAI(
api_key="sk-31643d62781c4dee9e05e--------",
base_url="https://api.deepseek.com"
)
2、访问模型
python
response = client.chat.completions.create(
model="deepseek-chat",
messages=[
{"role": "system", "content": "你是一名友好的AI助教。"},
{"role": "user", "content": "你好,你是谁?"}
],
stream=False,
temperature=0.9,
)
3、获取结果
python
print(response.choices[0].message.content)
你好!我是你的AI助教,很高兴认识你!😊 可以叫我小助手,或者随便你喜欢的名字都可以。我是来帮你解答问题、提供学习建议、或者陪你聊天的。有什么需要帮助的吗?
4、通过环境变量获取APIKEY--python-doten
python
uv add python-dotenv
创建.env文件
python
# .env
# DeepSeek
DEEPSEEK_API_KEY=sk-31643d62781c4dee9e05e77fa7b84248
# 阿里百炼
DASHSCOPE_API_KEY=
DASHSCOPE_BASE_URL=https://dashscope.aliyuncs.com/compatible-mode/v1
# web_search引擎
TAVILY_API_KEY=
# langsmith
LANGSMITH_API_KEY=
LANGSMITH_TRACING=true
LANGSMITH_PROJECT=langchain-course
# 阿里OSS
OSS_ACCESS_KEY_ID=
OSS_ACCESS_KEY_SECRET=
OSS_BUCKET=tmp9527
python
from dotenv import load_dotenv
import os
load_dotenv()
api_key = os.getenv("DEEPSEEK_API_KEY")
print(api_key)
client = OpenAI(
api_key=api_key,
base_url="https://api.deepseek.com"
)