大模型JSON格式输出:instructor

参考:

https://github.com/567-labs/instructor

安装:

复制代码
pip install instructor

使用:

复制代码
from pydantic import BaseModel 
import instructor
from openai import OpenAI 

 # 定义你想要的数据结构 
class UserInfo(BaseModel):     
      name: str     
      age: int    
      skills: list[str]  

# 1. 準備工作:初始化用戶端
client = OpenAI(
    # 建議通過環境變數配置API Key,避免寫入程式碼。
    api_key="&&&393",
    # API Key與地區強綁定,請確保base_url與API Key的地區一致。
    base_url="https://&&olces.com/api/v3",
)

# 自动给 LLM 加上结构化约束
client = instructor.patch(client) 
 
user_info = client.chat.completions.create(    
 model="deepseek-v3-1-terminus",    
 response_model=UserInfo, #   直接传类,甚至不需要自己写 JSON Prompt    
 messages=[{"role": "user", "content": "Melon 今年 25 岁,擅长 Python 和 AI"}] ) 

print(user_info.name) # 直接拿到对象,舒服!
相关推荐
ANnianStriver1 天前
PetLumina-02-后端开发与前后端联调
java·ai·sa-token
冬奇Lab1 天前
Agent 系列(18):成本与性能优化——省钱且更快
人工智能·llm·agent
吴佳浩1 天前
Hermes vs OpenClaw:基于源码的 Agent Loop 全面分析
人工智能·llm·agent
陈鋆1 天前
Spring AI Framework(二:模块分析)
spring·ai
专注VB编程开发20年1 天前
通义灵码VS插件太垃圾,太难用了,优缺点
ai·通义
AndrewHZ1 天前
【LLM技术全景】规模定律与模型演进:为什么模型越大越强?
人工智能·gpt·深度学习·语言模型·llm·openai·规模定律
数据库小学妹1 天前
AI时代数据库怎么选?多模融合、数据统一存储与选型实战指南
数据库·人工智能·经验分享·ai
装不满的克莱因瓶1 天前
了解 LangChain 中的 LLM 与 ChatModel 的差异
人工智能·python·ai·langchain·llm·agent·chatmodel
颜酱1 天前
LangChain 工具调用:从原理、入门到落地
langchain·llm
swipe1 天前
做多轮对话 Agent,为什么我建议把短期记忆放到 Redis
后端·面试·llm