如何在不依赖函数调用功能的情况下结合工具与大型语言模型

当大型语言模型(LLM)原生不支持函数调用功能时,如何实现智能工具调度?本文通过自然语言解析+结构化输出控制的方法来实现。

GitHub代码地址

核心实现步骤

  1. 定义工具函数
    使用@tool装饰器声明可调用工具:
python 复制代码
from langchain_core.tools import tool

@tool
def multiply_by_max(
        a: int, 
        b: list[int]
) -> int:
    """将a乘以b列表中的最大值"""
    return a * max(b)

@tool
def divide_by(a: float, b: float) -> float:
    """将a除以b"""
    return a / b
  1. 构建响应模型
    使用Pydantic定义结构化响应格式:
python 复制代码
from pydantic import BaseModel, Field

class Response(BaseModel):
    name: str = Field(None, description="调用的函数名称")
    args: dict = Field(None, description="函数参数")
  1. 创建输出解析器
python 复制代码
from langchain_core.output_parsers import PydanticOutputParser

parser = PydanticOutputParser(pydantic_object=Response)
  1. 设计提示模板
python 复制代码
from langchain_core.prompts import ChatPromptTemplate

prompt = ChatPromptTemplate.from_messages([
    ("human", """
    请根据需求从下列函数中选择合适的工具:
    可用工具:\n{functions}\n
    输出格式:\n{format_instructions}
    问题:{query}
    """)
]).partial(
    functions=[tool.args_schema.model_json_schema() for tool in [multiply_by_max, divide_by]],
    format_instructions=parser.get_format_instructions()
)

工作原理

  1. 自然语言解析:LLM分析用户query的语义
  2. 工具匹配:根据函数描述自动选择最合适的工具
  3. 参数提取:从自然语言中提取结构化参数
  4. 格式化输出:生成符合预定格式的JSON响应

示例演示

示例1:数学计算

python 复制代码
chain = prompt | ChatOpenAI(model="qwen-max") | parser
result = chain.invoke("请将3乘以一至九的最大值")
# 输出:
# name='multiply_by_max', args={'a':3, 'b':[1,2,3,4,5,6,7,8,9]}

示例2:无匹配工具

python 复制代码
result = chain.invoke("查询北京天气")
# 输出:
# name=None, args=None
相关推荐
jndingxin6 分钟前
OpenCV CUDA 模块图像过滤------创建一个高斯滤波器函数createGaussianFilter()
人工智能·opencv·计算机视觉
搞IT的放牛娃10 分钟前
AI人工智能——Matplotlib绘制各种数据可视化图表的基础方法
人工智能·python·机器学习
鸭鸭鸭进京赶烤18 分钟前
第六届电子通讯与人工智能国际学术会议(ICECAI 2025)
大数据·图像处理·人工智能·hadoop·机器学习·数据挖掘
小扳1 小时前
SpringAI 大模型应用开发篇-SpringAI 项目的新手入门知识
spring·spring cloud·ai·语言模型·架构·prompt·oneapi
lihuayong1 小时前
One-shot和Zero-shot的区别以及使用场景
人工智能·大语言模型·few-shot·zero-shot·one-shot
莱茵菜苗1 小时前
Python打卡训练营day33——2025.05.22
人工智能·pytorch·神经网络
一尘之中1 小时前
觉醒三境:在敦煌的风沙中寻找生命的纹路
人工智能
塔能物联运维1 小时前
塔能科技:工厂能耗精准节能全方位解决方案
大数据·网络·人工智能
AORO_BEIDOU1 小时前
遨游三防科普:三防平板是什么?有什么特殊功能?
人工智能·5g·安全·智能手机·电脑·信息与通信
武科大许志伟1 小时前
武汉科技大学人工智能与演化计算实验室许志伟课题组参加第八届智能优化与调度学术会议
人工智能·科技