不会安装 Codex CLI 的话，可以先参考第一篇：Windows 一键安装 Codex CLI：Node.js 一起装好。
① 环境依赖检查与安装部署
在正式编写代码之前，确保开发环境的纯净与依赖包的版本兼容性至关重要。大模型 SDK 通常对 Python 版本有明确要求，建议使用 Python 3.8 及以上版本，以避免因语法特性不支持导致的运行时错误。首先，创建一个独立的虚拟环境是最佳实践，这样可以隔离项目依赖，防止与其他全局包产生冲突。
bash
python -m venv ai_project_env
source ai_project_env/bin/activate # Windows 用户请使用 ai_project_env\Scripts\activate激活环境后，我们需要安装核心的 HTTP 请求库和大模型官方 SDK。虽然基础的 requests 库足以完成调用，但官方 SDK 通常封装了更完善的错误处理和类型提示，能显著提升开发效率。此外，为了支持后续的异步流式处理，aiohttp 也是必不可少的依赖。
bash
pip install openai aiohttp python-dotenv安装完成后，务必验证安装包是否成功导入且版本符合预期。可以通过一个简单的 Python 单行命令来检查：
python
import openai; print(f"SDK Version: {openai.__version__}")如果这一步报错，通常意味着虚拟环境未正确激活或网络源存在问题。此时应检查 pip 指向的路径是否为当前虚拟环境下的路径，必要时更换国内镜像源重新安装。只有当基础环境稳固后，后续的代码逻辑才能在一个可预测的环境中运行。
② API 密钥配置与初始化连接
硬编码 API 密钥是开发中的大忌，不仅容易在版本控制中泄露，也不利于多环境切换。正确的做法是使用环境变量来管理敏感信息。在项目根目录下创建一个 .env 文件，将密钥存入其中：
env
OPENAI_API_KEY=sk-your-actual-api-key-here
OPENAI_BASE_URL=https://llapi.org/v1
可以上llapi.org试用最新gpt-6-astra模型接着，在代码初始化阶段，利用 python-dotenv 自动加载这些变量。这种方式既保证了安全性，又让配置管理变得灵活。初始化客户端时，除了传入密钥，还建议显式设置超时时间和最大重试次数，以应对网络波动。
python
import os
from dotenv import load_dotenv
from openai import OpenAI
load_dotenv()
client = OpenAI(
api_key=os.getenv("OPENAI_API_KEY"),
base_url=os.getenv("OPENAI_BASE_URL"),
timeout=30.0,
max_retries=3
)这里的 timeout 参数控制了单次请求的最大等待时间，而 max_retries 则定义了在网络瞬断时的自动重试策略。这种防御性编程思维能有效提升服务的可用性。如果在初始化过程中抛出异常，应立即捕获并记录日志，而不是让程序直接崩溃，以便快速定位是配置错误还是网络问题。
③ 首个对话请求代码实现
环境就绪后，我们可以尝试发起第一个简单的对话请求。这是一个同步阻塞调用的最小示例，旨在验证连通性并获取基础响应。关键在于构造符合规范的 messages 列表，其中每个消息对象都必须包含 role 和 content 字段。
python
try:
response = client.chat.completions.create(
model="gpt-3.5-turbo",
messages=[
{"role": "system", "content": "你是一个乐于助人的技术助手。"},
{"role": "user", "content": "请简述 Python 中装饰器的作用。"}
],
temperature=0.7
)
print(response.choices[0].message.content)
except Exception as e:
print(f"请求失败：{e}")这段代码中，system 角色用于设定助手的行为基调，而 user 角色则是具体的提问内容。temperature 参数控制在 0.7 左右，可以在创造性与准确性之间取得平衡。如果返回结果为空或抛出异常，需检查模型名称是否正确，以及账户配额是否充足。这是验证整个链路是否通畅的"烟雾测试"，必须确保其稳定执行。
④ 多轮上下文记忆功能演示
真实的对话场景往往是多轮的，用户会基于之前的回答继续追问。要实现这一功能，核心在于维护一个动态更新的 messages 列表，将历史对话不断追加进去。每次发送新请求时，都要携带完整的上下文历史，这样模型才能理解当前的语境。
python
conversation_history = [
{"role": "system", "content": "你是一名资深后端工程师。"}
]
def chat_with_memory(user_input):
conversation_history.append({"role": "user", "content": user_input})
response = client.chat.completions.create(
model="gpt-3.5-turbo",
messages=conversation_history
)
assistant_reply = response.choices[0].message.content
conversation_history.append({"role": "assistant", "content": assistant_reply})
return assistant_reply
# 模拟多轮对话
print(chat_with_memory("什么是微服务？"))
print(chat_with_memory("它和单体架构有什么区别？"))在这个示例中，conversation_history 列表充当了内存数据库的角色。每次交互后，都将用户的输入和助手的回复依次存入。需要注意的是，随着对话轮数增加，列表长度会不断增长，可能触及模型的 token 上限。因此在生产环境中，通常需要引入滑动窗口机制或摘要压缩策略，只保留最近几轮关键对话，以防止请求被拒绝。
⑤ 结构化数据输出格式控制
在很多业务场景中，我们不需要大模型生成自然语言文本，而是希望它返回标准的 JSON 数据，以便程序直接解析使用。虽然可以通过提示词要求模型输出 JSON，但更可靠的方式是利用新版 API 支持的 response_format 参数，强制模型遵循特定的 Schema。
python
import json
response = client.chat.completions.create(
model="gpt-3.5-turbo",
messages=[{"role": "user", "content": "提取以下文本中的姓名和年龄：张三，25 岁；李四，30 岁。"}],
response_format={"type": "json_object"}
)
data = json.loads(response.choices[0].message.content)
print(data)
# 输出示例：{"people": [{"name": "张三", "age": 25}, {"name": "李四", "age": 30}]}通过指定 response_format 为 json_object，可以大幅降低模型输出非法 JSON 的概率。即便如此，在代码层面依然建议包裹 try-except 块来捕获 json.loads 可能抛出的解析错误，以防万一模型偶尔"抽风"返回了非标准格式。这种双重保障机制是处理非确定性输出的必要手段。
⑥ 流式响应实时渲染方法
对于长文本生成任务，让用户等待几十秒直到全部生成完毕体验极差。流式传输（Streaming）允许服务端边生成边发送数据，前端可以逐字打印，营造出类似打字机的实时效果。实现这一点需要使用 SDK 的 stream=True 参数，并迭代处理返回的数据块。
python
stream = client.chat.completions.create(
model="gpt-3.5-turbo",
messages=[{"role": "user", "content": "写一首关于春天的短诗。"}],
stream=True
)
for chunk in stream:
if chunk.choices[0].delta.content is not None:
print(chunk.choices[0].delta.content, end="", flush=True)
print() # 换行这里的 flush=True 参数至关重要，它确保每个字符块能立即刷新到控制台，而不是缓冲在内存中。在 Web 应用中，这部分逻辑通常对应 Server-Sent Events (SSE) 或 WebSocket 推送。处理流式数据时，还要特别注意处理结束标志，避免在连接关闭后继续尝试读取数据导致程序异常退出。
⑦ 常见认证失败报错排查
在实际运行中，401 Unauthorized 和 403 Forbidden 是最常见的错误。前者通常意味着 API 密钥无效、过期或被撤销；后者则可能是因为密钥权限不足，或者 IP 地址不在白名单内。遇到此类问题时，切忌盲目重试，而应先检查密钥状态。
排查步骤如下：首先确认 .env 文件中的密钥没有多余的空格或换行符；其次，登录服务商控制台查看该密钥是否启用了所需的模型权限；最后，检查是否有地域访问限制。如果是团队协作项目，还需确认密钥是否被多人共用导致触发安全风控。建议在代码中针对不同的 HTTP 状态码做差异化处理，给用户友好的提示信息，而不是直接暴露原始错误堆栈。
⑧ 请求超时与限流应对策略
网络波动或服务端负载过高常导致请求超时（Timeout）或触发限流（Rate Limit，通常是 429 错误）。简单的重试逻辑往往不够，需要采用"指数退避"算法（Exponential Backoff），即每次重试的等待时间呈指数级增长，给服务端留出恢复时间。
python
import time
from openai import RateLimitError
def robust_request(messages):
retries = 0
max_retries = 5
while retries < max_retries:
try:
return client.chat.completions.create(model="gpt-3.5-turbo", messages=messages)
except RateLimitError as e:
wait_time = (2 ** retries) + random.uniform(0, 1)
print(f"触发限流，等待 {wait_time:.2f} 秒后重试...")
time.sleep(wait_time)
retries += 1
except Exception as e:
raise e
raise Exception("多次重试后仍失败，请检查服务状态")这段代码引入了随机抖动（Jitter），避免多个客户端在同一时刻集体重试造成"惊群效应"。同时，区分 RateLimitError 和其他异常非常重要，因为网络错误可能需要立即重试，而限流错误则必须等待。合理的退避策略能显著提升系统在高压下的生存能力。
⑨ 提示词优化提升回答质量
模型的回答质量很大程度上取决于提示词（Prompt）的设计。优秀的提示词应当包含清晰的角色设定、具体的任务描述、约束条件以及示例（Few-Shot）。模糊的指令往往导致模型产生幻觉或偏离主题。
例如，不要只说"总结这篇文章"，而应该说："你是一名专业编辑，请用不超过 200 字总结以下文章的核心观点，并列出 3 个关键论据，语气保持客观中立。"此外，提供一两个输入输出的示例（Few-Shot Learning）能极大提升模型对格式和风格的理解准确度。在迭代过程中，建议建立提示词版本库，记录不同写法的效果差异，持续微调以达到最佳产出。
⑩ 本地缓存加速调用技巧
对于重复性问题或固定模板的生成，每次都调用 API 不仅浪费配额，还会增加延迟。引入本地缓存机制可以有效解决这个问题。可以使用 Redis 或简单的本地字典，以"提示词哈希值"作为 Key，存储模型的响应结果。
python
import hashlib
import json
cache = {}
def get_cached_response(prompt):
key = hashlib.md5(prompt.encode()).hexdigest()
if key in cache:
return cache[key]
response = client.chat.completions.create(
model="gpt-3.5-turbo",
messages=[{"role": "user", "content": prompt}]
)
result = response.choices[0].message.content
cache[key] = result
return result在实际生产中，缓存策略需要更复杂一些，比如设置过期时间（TTL），防止数据过时；或者针对相似语义进行模糊匹配。但对于大多数应用场景，基于精确匹配的简单缓存已能节省大量成本。结合上述的所有环节，从环境搭建到缓存优化，你就拥有了一套完整、稳健且高效的大模型应用开发方案。