大模型 Function Call 实战入门:原理、环境搭建与多轮调用完整教程
前言
现在大模型应用开发中,Function Call(函数调用)是非常核心的能力。它解决了大模型本身知识截止、无法访问外部工具、无法执行业务逻辑的痛点:让大模型不再只输出文本,而是可以判断什么时候需要调用外部函数、生成函数调用参数,拿到函数返回结果之后再整理回答用户。
本文会从项目环境搭建开始,讲解 Function Call 的底层原理、基础使用方式,以及实际开发中高频遇到的多次循环调用场景,并附带可运行的代码示例,帮助快速上手开发。
一、项目介绍
什么是 Function Call
传统大模型对话:用户提问 → 大模型直接输出文本答案。局限很明显:
- 模型知识库存在时间截止,拿不到实时数据;
- 不能直接操作本地代码、调用接口、查询数据库;
- 无法完成计算、查询天气、订单查询这类业务动作。
Function Call(工具调用) ,就是开发者预先定义好一批外部函数(工具),告诉大模型这些函数的名称、作用、入参格式。当用户问题需要用到工具的时候,大模型不会直接回答,而是输出结构化的函数调用JSON;我们程序拿到这个JSON,执行本地函数,把函数执行结果再次塞回给大模型,大模型结合工具结果,输出自然语言回复给用户。
适用业务场景:
- 实时信息查询:天气、新闻、股票;
- 业务操作:查询数据库、订单查询;
- 代码计算:数学运算;
- Agent智能体:多工具组合完成复杂任务。
整个链路:用户提问 → LLM输出工具调用参数 → 本地执行函数 → 将函数结果回传给LLM → LLM整理最终回答。
二、项目环境搭建
我们使用 Python 环境,以兼容 OpenAI 接口协议的大模型 SDK 来演示(主流国产大模型也兼容这套接口格式)。
1. 安装依赖
pip install openai python-dotenv
2. 基础配置文件 .env
ini
LLM_BASE_URL=[https://api.example.com/v1](https://api.example.com/v1)
LLM_API_KEY=sk-xxxxxxx
LLM_MODEL_NAME=your-model
3. 基础初始化代码
ini
import os
from dotenv import load_dotenv
from openai import OpenAI
# 加载环境变量
load_dotenv()
client = OpenAI(
base_url=os.getenv("LLM_BASE_URL"),
api_key=os.getenv("LLM_API_KEY")
)
model_name = os.getenv("LLM_MODEL_NAME")
三、Function Call 的概念和原理
核心概念
-
tools(工具描述) :给大模型看的函数元信息,JSON格式,描述函数名字、功能描述、入参类型、哪些参数必填。大模型不会直接执行你的Python函数,它只读取tools描述,生成调用参数。
⚠️重点:大模型不知道你的函数内部实现,只依靠你写的描述来判断要不要调用、传什么参数。所以
description描述一定要写清晰。 -
tool_calls:大模型返回的结构化字段,如果需要调用工具,就会返回这个字段,里面包含函数名、参数json。
-
工具执行层 :我们自己写的Python代码,解析
tool_calls,分发调用对应的真实函数,拿到返回结果。 -
消息上下文:把工具执行结果,组装成新的message,追加到对话历史,再次请求大模型。
完整流程原理图(文字版)
css
用户问题
↓
[系统提示 + 用户消息 + tools定义] → 请求大模型
↓
模型判断:需要调用工具 → 返回 tool_calls
↓
业务代码解析tool_calls,执行本地真实函数
↓
把函数返回结果包装成tool消息,加入对话历史
↓
再次把完整对话传给大模型
↓
大模型结合工具返回数据,输出自然语言最终回答
误区纠正:很多新手以为大模型会远程执行本地Python函数。不是!大模型只生成参数,函数是你的本地代码运行的。
四、Function Call 的基础使用(单轮调用示例)
我们实现一个简单工具:一个加法计算函数,让大模型在用户提问计算的时候调用这个工具。
完整可运行代码:
ini
import os
import json
from dotenv import load_dotenv
from openai import OpenAI
load_dotenv()
client = OpenAI(
base_url=os.getenv("LLM_BASE_URL"),
api_key=os.getenv("LLM_API_KEY")
)
model_name = os.getenv("LLM_MODEL_NAME")
# 1. 真实的本地工具函数
def add(a: int, b: int):
"""两数相加"""
return a + b
# 2. 给大模型的tools描述
tools = [
{
"type": "function",
"function": {
"name": "add",
"description": "计算两个整数的相加结果",
"parameters": {
"type": "object",
"properties": {
"a": {"type": "integer", "description": "第一个整数"},
"b": {"type": "integer", "description": "第二个整数"}
},
"required": ["a", "b"]
}
}
}
]
# 对话消息列表
messages = [
{"role": "user", "content": "帮我计算 123 + 456等于多少"}
]
# 第一次请求大模型
resp = client.chat.completions.create(
model=model_name,
messages=messages,
tools=tools
)
choice = resp.choices[0]
# 判断是否触发工具调用
if choice.message.tool_calls:
tool_call = choice.message.tool_calls[0]
func_name = tool_call.function.name
func_args = json.loads(tool_call.function.arguments)
print(f"模型想要调用函数:{func_name}, 参数:{func_args}")
# 执行本地函数
result = add(**func_args)
# 将模型的工具调用消息加入上下文
messages.append(choice.message)
# 将工具执行结果追加消息
messages.append({
"role": "tool",
"tool_call_id": tool_call.id,
"content": str(result)
})
# 二次请求大模型获取最终回答
final_resp = client.chat.completions.create(
model=model_name,
messages=messages,
tools=tools
)
print("最终回答:", final_resp.choices[0].message.content)
else:
# 不需要调用工具直接输出回答
print(choice.message.content)
运行输出:
csharp
模型想要调用函数:add, 参数:{'a': 123, 'b': 456}
最终回答:123加上456的计算结果是579。
关键点:
tools数组只负责告诉模型工具信息;tool_call_id必须一一对应,否则接口会报错;- tool角色消息必须把函数运行结果放进去,再二次请求模型。
五、Function Call 的多次调用(循环调用场景)
很多场景,一次工具调用不够。例如:用户的问题需要先后调用多个工具;或者第一次调用工具返回结果后,模型还需要继续调用别的工具获取更多信息,这就是Function Call多轮循环调用。
举个场景:我们有两个工具,加法add、乘法mul。用户提问 (1+2)*3,模型需要先调用add得到1+2结果,拿到结果之后再调用mul做乘法,再给出最终答案。
业务上Agent大多都是这个模式:循环,只要返回有
tool_calls就继续执行工具、追加上下文,直到模型不再需要调用工具,输出文本回答。
完整循环调用代码示例:
python
import os
import json
from dotenv import load_dotenv
from openai import OpenAI
load_dotenv()
client = OpenAI(
base_url=os.getenv("LLM_BASE_URL"),
api_key=os.getenv("LLM_API_KEY")
)
model_name = os.getenv("LLM_MODEL_NAME")
# 本地工具集
def add(a: int, b: int):
"""两数相加"""
return a + b
def mul(a: int, b: int):
"""两数相乘"""
return a * b
# 工具分发映射,函数名字映射到实际python函数
func_map = {
"add": add,
"mul": mul
}
tools = [
{
"type": "function",
"function": {
"name": "add",
"description": "计算两个整数的相加结果",
"parameters": {
"type": "object",
"properties": {
"a": {"type": "integer", "description": "第一个整数"},
"b": {"type": "integer", "description": "第二个整数"}
},
"required": ["a", "b"]
}
}
},
{
"type": "function",
"function": {
"name": "mul",
"description": "计算两个整数的相乘结果",
"parameters": {
"type": "object",
"properties": {
"a": {"type": "integer", "description": "乘数1"},
"b": {"type": "integer", "description": "乘数2"}
},
"required": ["a", "b"]
}
}
}
]
messages = [
{"role": "user", "content": "计算 (1+2)乘以3等于多少"}
]
# 循环:只要模型返回tool_calls就持续执行工具
max_loop = 5 # 防止死循环,设置最大调用轮次
for _ in range(max_loop):
resp = client.chat.completions.create(
model=model_name,
messages=messages,
tools=tools
)
msg = resp.choices[0].message
# 如果没有工具调用,退出循环,输出最终文本
if not msg.tool_calls:
print("模型最终输出:", msg.content)
break
# 保存模型调用工具的消息到上下文
messages.append(msg)
# 遍历本次所有工具调用(支持一次返回多个工具)
for tool_call in msg.tool_calls:
name = tool_call.function.name
args = json.loads(tool_call.function.arguments)
print(f"调用工具 {name}, 参数 {args}")
# 分发执行函数
fn = func_map[name]
res = fn(**args)
# 把工具结果写回消息队列
messages.append({
"role": "tool",
"tool_call_id": tool_call.id,
"content": str(res)
})
else:
print("达到最大循环次数,终止工具调用")
运行输出示例:
css
调用工具 add, 参数 {'a': 1, 'b': 2}
调用工具 mul, 参数 {'a': 3, 'b': 3}
模型最终输出:(1+2)乘以3的结果等于9。
多轮调用开发注意点
- 一定要设置最大循环次数max_loop,防止模型无限生成tool_calls造成死循环;
- 支持并行调用:模型一次可以返回多个tool_call,代码要遍历全部执行;
- 上下文会不断累积,长对话注意token消耗;
- 工具执行可能异常,生产环境需要捕获函数异常,把错误信息返回给大模型,让模型知道调用出错;
- tool_call_id必须严格对应,否则接口返回参数错误。
六、总结
- Function Call 本质是大模型输出结构化参数,本地程序执行真实函数,并不是模型远程运行代码;
- 开发流程:环境准备 → 定义本地函数 → 编写tools工具描述 → 请求模型,判断tool_calls → 执行工具,回写结果,二次请求;
- 单次调用可以满足简单需求;复杂任务要写循环逻辑,实现多次Function Call,同时做好循环上限保护;
- tools的description描述质量,直接决定模型会不会正确调用你的函数,写描述是开发中的重点。
Function Call 是构建LLM Agent的基础能力,掌握单轮和循环多轮调用之后,就可以基于此开发知识库查询、数据库查询、智能Agent等复杂应用。