如何在不依赖函数调用功能的情况下结合工具与大型语言模型

当大型语言模型(LLM)原生不支持函数调用功能时,如何实现智能工具调度?本文通过自然语言解析+结构化输出控制的方法来实现。

GitHub代码地址

核心实现步骤

  1. 定义工具函数
    使用@tool装饰器声明可调用工具:
python 复制代码
from langchain_core.tools import tool

@tool
def multiply_by_max(
        a: int, 
        b: list[int]
) -> int:
    """将a乘以b列表中的最大值"""
    return a * max(b)

@tool
def divide_by(a: float, b: float) -> float:
    """将a除以b"""
    return a / b
  1. 构建响应模型
    使用Pydantic定义结构化响应格式:
python 复制代码
from pydantic import BaseModel, Field

class Response(BaseModel):
    name: str = Field(None, description="调用的函数名称")
    args: dict = Field(None, description="函数参数")
  1. 创建输出解析器
python 复制代码
from langchain_core.output_parsers import PydanticOutputParser

parser = PydanticOutputParser(pydantic_object=Response)
  1. 设计提示模板
python 复制代码
from langchain_core.prompts import ChatPromptTemplate

prompt = ChatPromptTemplate.from_messages([
    ("human", """
    请根据需求从下列函数中选择合适的工具:
    可用工具:\n{functions}\n
    输出格式:\n{format_instructions}
    问题:{query}
    """)
]).partial(
    functions=[tool.args_schema.model_json_schema() for tool in [multiply_by_max, divide_by]],
    format_instructions=parser.get_format_instructions()
)

工作原理

  1. 自然语言解析:LLM分析用户query的语义
  2. 工具匹配:根据函数描述自动选择最合适的工具
  3. 参数提取:从自然语言中提取结构化参数
  4. 格式化输出:生成符合预定格式的JSON响应

示例演示

示例1:数学计算

python 复制代码
chain = prompt | ChatOpenAI(model="qwen-max") | parser
result = chain.invoke("请将3乘以一至九的最大值")
# 输出:
# name='multiply_by_max', args={'a':3, 'b':[1,2,3,4,5,6,7,8,9]}

示例2:无匹配工具

python 复制代码
result = chain.invoke("查询北京天气")
# 输出:
# name=None, args=None
相关推荐
元宇宙时间17 分钟前
全球发展币GDEV:从中国出发,走向全球的数字发展合作蓝图
大数据·人工智能·去中心化·区块链
小黄人20251 小时前
自动驾驶安全技术的演进与NVIDIA的创新实践
人工智能·安全·自动驾驶
ZStack开发者社区2 小时前
首批 | 云轴科技ZStack加入施耐德电气技术本地化创新生态
人工智能·科技·云计算
X Y O2 小时前
神经网络初步学习3——数据与损失
人工智能·神经网络·学习
唯创知音3 小时前
玩具语音方案选型决策OTP vs Flash 的成本功耗与灵活性
人工智能·语音识别
Jamence3 小时前
多模态大语言模型arxiv论文略读(151)
论文阅读·人工智能·语言模型·自然语言处理·论文笔记
tongxianchao3 小时前
LaCo: Large Language Model Pruning via Layer Collapse
人工智能·语言模型·剪枝
HyperAI超神经3 小时前
OmniGen2 多模态推理×自我纠正双引擎,引领图像生成新范式;95 万分类标签!TreeOfLife-200M 解锁物种认知新维度
人工智能·数据挖掘·数据集·图像生成·医疗健康·在线教程·数学代码
网安INF3 小时前
深度学习中批标准化与神经网络调优
人工智能·深度学习·神经网络·机器学习
开开心心_Every3 小时前
便捷的电脑自动关机辅助工具
开发语言·人工智能·pdf·c#·电脑·音视频·sublime text