如何在不依赖函数调用功能的情况下结合工具与大型语言模型

当大型语言模型(LLM)原生不支持函数调用功能时,如何实现智能工具调度?本文通过自然语言解析+结构化输出控制的方法来实现。

GitHub代码地址

核心实现步骤

  1. 定义工具函数
    使用@tool装饰器声明可调用工具:
python 复制代码
from langchain_core.tools import tool

@tool
def multiply_by_max(
        a: int, 
        b: list[int]
) -> int:
    """将a乘以b列表中的最大值"""
    return a * max(b)

@tool
def divide_by(a: float, b: float) -> float:
    """将a除以b"""
    return a / b
  1. 构建响应模型
    使用Pydantic定义结构化响应格式:
python 复制代码
from pydantic import BaseModel, Field

class Response(BaseModel):
    name: str = Field(None, description="调用的函数名称")
    args: dict = Field(None, description="函数参数")
  1. 创建输出解析器
python 复制代码
from langchain_core.output_parsers import PydanticOutputParser

parser = PydanticOutputParser(pydantic_object=Response)
  1. 设计提示模板
python 复制代码
from langchain_core.prompts import ChatPromptTemplate

prompt = ChatPromptTemplate.from_messages([
    ("human", """
    请根据需求从下列函数中选择合适的工具:
    可用工具:\n{functions}\n
    输出格式:\n{format_instructions}
    问题:{query}
    """)
]).partial(
    functions=[tool.args_schema.model_json_schema() for tool in [multiply_by_max, divide_by]],
    format_instructions=parser.get_format_instructions()
)

工作原理

  1. 自然语言解析:LLM分析用户query的语义
  2. 工具匹配:根据函数描述自动选择最合适的工具
  3. 参数提取:从自然语言中提取结构化参数
  4. 格式化输出:生成符合预定格式的JSON响应

示例演示

示例1:数学计算

python 复制代码
chain = prompt | ChatOpenAI(model="qwen-max") | parser
result = chain.invoke("请将3乘以一至九的最大值")
# 输出:
# name='multiply_by_max', args={'a':3, 'b':[1,2,3,4,5,6,7,8,9]}

示例2:无匹配工具

python 复制代码
result = chain.invoke("查询北京天气")
# 输出:
# name=None, args=None
相关推荐
淘源码d5 小时前
自然语言处理+知识图谱:智能导诊的“大脑”是如何工作的?
人工智能·自然语言处理·知识图谱·智能导诊
安达发6 小时前
安达发|高效智能塑料切割数控系统 - 全自动化软件解决方案
大数据·运维·人工智能·自动化·aps排产软件·智能优化排产软件
资讯分享周8 小时前
数字中国浪潮下:Coremail AI赋能邮件办公,筑牢安全防线引领转型
人工智能·安全
蜡笔小电芯8 小时前
【OpenCV】第一章——基础知识
人工智能·opencv·计算机视觉
jndingxin9 小时前
OpenCV 图形API(71)图像与通道拼接函数-----从图像(GMat)中裁剪出一个矩形区域的操作函数 crop()
人工智能·opencv·计算机视觉
亚图跨际9 小时前
大脑、机器人与贝叶斯信念及AI推理
人工智能·机器人
MonkeyKing_sunyuhua10 小时前
6.1 客户服务:智能客服与自动化支持系统的构建
人工智能·agent
啊阿狸不会拉杆11 小时前
人工智能数学基础(三):微积分初步
人工智能·python·算法·数学建模
蜂耘11 小时前
面向人工智能、量子科技、人形机器人等产业,山东启动制造业创新中心培育认定
人工智能·科技·机器人
深眸财经12 小时前
业绩回暖、股价承压,三只松鼠赴港上市能否重构价值锚点?
人工智能