解锁聊天模型的隐藏能力：工具调用全指南

金汐脉动2025-06-11 13:45

就算无人问津也好，技不如人也好，千万别让烦躁和焦虑毀了你本就不多的热情和定力。 别贪心，我们不可能什么都有，我们不可能什么都没有。

LangChain 实现了用于定义工具、将工具传递给 LLM 以及表示工具调用的标准接口。本文将介绍如何将工具绑定到 LLM，然后调用 LLM 以生成这些参数，以及将工具结果传递回模型。

一、定义工具模式

为了使模型能够调用工具，我们需要传入工具模式，描述工具的功能及其参数。支持工具调用功能的聊天模型实现了 .bind_tools() 方法，用于将工具模式传递给模型。工具模式可以是： Python 函数（带有类型提示和文档字符串）、Pydantic 模型、TypedDict 类或 LangChain Tool 对象。后续的模型调用会将这些工具模式与提示一起传入。

1、Python 函数

python 复制代码 
# The function name, type hints, and docstring are all part of the tool
# schema that's passed to the model. Defining good, descriptive schemas
# is an extension of prompt engineering and is an important part of
# getting models to perform well.
def add(a: int, b: int) -> int:
    """Add two integers.

    Args:
        a: First integer
        b: Second integer
    """
    return a + b


def multiply(a: int, b: int) -> int:
    """Multiply two integers.

    Args:
        a: First integer
        b: Second integer
    """
    return a * b

2、LangChain 工具

LangChain 还实现了一个 @tool 装饰器，允许进一步控制工具模式，例如工具名称和参数描述。

python 复制代码 
from typing import List

from langchain_core.tools import InjectedToolArg, tool
from typing_extensions import Annotated

@tool("multiply_by_max")
def multiply_by_max(
    a: Annotated[int, "scale factor"],
    b: Annotated[List[int], "list of ints over which to take maximum"],
) -> int:
    """Multiply a by the maximum of b."""
    return a * max(b)


print(multiply_by_max.args_schema.model_json_schema())
css 复制代码 
{'description': 'Multiply a by the maximum of b.', 'properties': {'a': {'description': 'scale factor', 'title': 'A', 'type': 'integer'}, 'b': {'description': 'list of ints over which to take maximum', 'items': {'type': 'integer'}, 'title': 'B', 'type': 'array'}}, 'required': ['a', 'b'], 'title': 'multiply_by_max', 'type': 'object'}

3、Pydantic 类

使用 Pydantic 等效地定义没有伴随函数的模式。

请注意，除非提供默认值，否则所有字段都是 required。

python 复制代码 
from pydantic import BaseModel, Field


class add(BaseModel):
    """Add two integers."""

    a: int = Field(..., description="First integer")
    b: int = Field(..., description="Second integer")


class multiply(BaseModel):
    """Multiply two integers."""

    a: int = Field(..., description="First integer")
    b: int = Field(..., description="Second integer")

4、TypedDict 类

使用 TypedDicts 和注解

需要 langchain-core>=0.2.25

python 复制代码 
from typing_extensions import Annotated, TypedDict


class add(TypedDict):
    """Add two integers."""

    # Annotations must have the type and can optionally include a default value and description (in that order).
    a: Annotated[int, ..., "First integer"]
    b: Annotated[int, ..., "Second integer"]


class multiply(TypedDict):
    """Multiply two integers."""

    a: Annotated[int, ..., "First integer"]
    b: Annotated[int, ..., "Second integer"]

要实际将这些模式绑定到聊天模型，我们将使用 .bind_tools() 方法。这将处理将 add 和 multiply 模式转换为模型所需的正确格式。然后，每次调用模型时都会传入工具模式。

python 复制代码 
pip install -qU "langchain[openai]"
python 复制代码 
from pydantic import SecretStr
import os

os.environ["OPENAI_BASE_URL"] = "https://api.siliconflow.cn/v1/"
os.environ["OPENAI_API_KEY"] = "sk-xxx"

from langchain.chat_models import init_chat_model

llm = init_chat_model("Qwen/Qwen3-8B", model_provider="openai")
python 复制代码 
tools = [add, multiply]

llm_with_tools = llm.bind_tools(tools)

query = "What is 3 * 12?"

llm_with_tools.invoke(query)
python 复制代码 
AIMessage(content='\n\n', additional_kwargs={'tool_calls': [{'id': '01973f7fdcfbed8c2dc9f064923e99df', 'function': {'arguments': ' {"a": 3, "b": 12}', 'name': 'multiply'}, 'type': 'function', 'index': 0}], 'refusal': None}, response_metadata={'token_usage': {'completion_tokens': 113, 'prompt_tokens': 263, 'total_tokens': 376, 'completion_tokens_details': {'accepted_prediction_tokens': None, 'audio_tokens': None, 'reasoning_tokens': 98, 'rejected_prediction_tokens': None}, 'prompt_tokens_details': None}, 'model_name': 'Qwen/Qwen3-8B', 'system_fingerprint': '', 'id': '01973f7fc80ee8b94699261784ba7f78', 'service_tier': None, 'finish_reason': 'tool_calls', 'logprobs': None}, id='run--93e4cc48-7caf-46c3-bd8b-8d54949449cf-0', tool_calls=[{'name': 'multiply', 'args': {'a': 3, 'b': 12}, 'id': '01973f7fdcfbed8c2dc9f064923e99df', 'type': 'tool_call'}], usage_metadata={'input_tokens': 263, 'output_tokens': 113, 'total_tokens': 376, 'input_token_details': {}, 'output_token_details': {'reasoning': 98}})

从输出可见，LLM 生成了工具的参数！

二、工具调用

如果在 LLM 响应中包含了工具调用，则它们将作为 message 或 message chunk 的一部分附加到对应的 消息 或 消息块 中，作为 .tool_calls 属性中的 工具调用 对象列表。

请注意，聊天模型可以一次调用多个工具。

ToolCall 是一个类型化字典，包括工具名称、参数值字典和（可选）标识符。没有工具调用的消息的此属性默认为空列表。

python 复制代码 
query = "What is 3 * 12? Also, what is 11 + 49?"

llm_with_tools.invoke(query).tool_calls
css 复制代码 
[{'name': 'multiply',  'args': {'a': 3, 'b': 12},  'id': '01973f80578e9e4d2c3a6363becbcfd2',  'type': 'tool_call'}, {'name': 'add',  'args': {'a': 11, 'b': 49},  'id': '01973f805ab59392fcd7e939dffaa615',  'type': 'tool_call'}]

.tool_calls 属性应包含有效的工具调用。请注意，有时模型提供商可能会输出格式错误的工具调用（例如，不是有效 JSON 的参数）。当在这些情况下解析失败时，InvalidToolCall 的实例将填充在 .invalid_tool_calls 属性中。InvalidToolCall 可以具有名称、字符串参数、标识符和错误消息。

三、解析

如果需要，输出解析器 可以进一步处理输出。例如，我们可以使用 PydanticToolsParser 将 .tool_calls 上填充的现有值转换为 Pydantic 对象

python 复制代码 
from langchain_core.output_parsers import PydanticToolsParser
from pydantic import BaseModel, Field


class add(BaseModel):
    """Add two integers."""

    a: int = Field(..., description="First integer")
    b: int = Field(..., description="Second integer")


class multiply(BaseModel):
    """Multiply two integers."""

    a: int = Field(..., description="First integer")
    b: int = Field(..., description="Second integer")


chain = llm_with_tools | PydanticToolsParser(tools=[add, multiply])
chain.invoke(query)
csharp 复制代码 
[multiply(a=3, b=12), add(a=11, b=49)]

四、将工具结果传递回模型

一些模型能够进行 工具调用 - 生成符合特定用户提供的模式的参数。本指南将演示如何使用这些工具调用来实际调用函数，并将结果正确传递回模型。

定义工具：

python 复制代码 
from langchain_core.tools import tool


@tool
def add(a: int, b: int) -> int:
    """Adds a and b."""
    return a + b


@tool
def multiply(a: int, b: int) -> int:
    """Multiplies a and b."""
    return a * b


tools = [add, multiply]

llm_with_tools = llm.bind_tools(tools)

现在，让我们让模型调用一个工具。我们将其添加到消息列表中，我们将其视为对话历史记录

python 复制代码 
from langchain_core.messages import HumanMessage

query = "What is 3 * 12? Also, what is 11 + 49?"

messages = [HumanMessage(query)]

ai_msg = llm_with_tools.invoke(messages)

print(ai_msg.tool_calls)

messages.append(ai_msg)
css 复制代码 
[{'name': 'multiply', 'args': {'a': 3, 'b': 12}, 'id': '01973f810322941900f35c0e2504e4b6', 'type': 'tool_call'}, {'name': 'add', 'args': {'a': 11, 'b': 49}, 'id': '01973f810925180e894dce7520408055', 'type': 'tool_call'}]

接下来，让我们使用模型填充的参数来调用工具函数！方便的是，如果我们使用 ToolCall 调用 LangChain Tool，我们将自动获得一个可以反馈给模型的 ToolMessage

兼容性问题

  • 此功能在 langchain-core == 0.2.19 中添加。
  • 如果使用的是早期版本的 langchain-core，则需要从工具中提取 args 字段并手动构建 ToolMessage。
python 复制代码 
for tool_call in ai_msg.tool_calls:
    selected_tool = {"add": add, "multiply": multiply}[tool_call["name"].lower()]
    tool_msg = selected_tool.invoke(tool_call)
    messages.append(tool_msg)

messages
python 复制代码 
[HumanMessage(content='What is 3 * 12? Also, what is 11 + 49?', additional_kwargs={}, response_metadata={}),
 AIMessage(content='\n\n', additional_kwargs={'tool_calls': [{'id': '01973f810322941900f35c0e2504e4b6', 'function': {'arguments': ' {"a": 3, "b": 12}', 'name': 'multiply'}, 'type': 'function', 'index': 0}, {'id': '01973f810925180e894dce7520408055', 'function': {'arguments': ' {"a": 11, "b": 49}', 'name': 'add'}, 'type': 'function', 'index': 1}], 'refusal': None}, response_metadata={'token_usage': {'completion_tokens': 283, 'prompt_tokens': 250, 'total_tokens': 533, 'completion_tokens_details': {'accepted_prediction_tokens': None, 'audio_tokens': None, 'reasoning_tokens': 253, 'rejected_prediction_tokens': None}, 'prompt_tokens_details': None}, 'model_name': 'Qwen/Qwen3-8B', 'system_fingerprint': '', 'id': '01973f80c69dd034cd5aa95ad1bc6f54', 'service_tier': None, 'finish_reason': 'tool_calls', 'logprobs': None}, id='run--94a101a3-abe6-4444-9485-7543da920ee5-0', tool_calls=[{'name': 'multiply', 'args': {'a': 3, 'b': 12}, 'id': '01973f810322941900f35c0e2504e4b6', 'type': 'tool_call'}, {'name': 'add', 'args': {'a': 11, 'b': 49}, 'id': '01973f810925180e894dce7520408055', 'type': 'tool_call'}], usage_metadata={'input_tokens': 250, 'output_tokens': 283, 'total_tokens': 533, 'input_token_details': {}, 'output_token_details': {'reasoning': 253}}),
 ToolMessage(content='36', name='multiply', tool_call_id='01973f810322941900f35c0e2504e4b6'),
 ToolMessage(content='60', name='add', tool_call_id='01973f810925180e894dce7520408055')]

最后，我们将使用工具结果调用模型。模型将使用此信息来生成对我们原始查询的最终答案

python 复制代码 
llm_with_tools.invoke(messages)
python 复制代码 
AIMessage(content='\n\nThe results are as follows:\n\n- **3 * 12 = 36**\n- **11 + 49 = 60**', additional_kwargs={'refusal': None}, response_metadata={'token_usage': {'completion_tokens': 253, 'prompt_tokens': 325, 'total_tokens': 578, 'completion_tokens_details': {'accepted_prediction_tokens': None, 'audio_tokens': None, 'reasoning_tokens': 221, 'rejected_prediction_tokens': None}, 'prompt_tokens_details': None}, 'model_name': 'Qwen/Qwen3-8B', 'system_fingerprint': '', 'id': '01973f812cff79b796f4a4d4987fc750', 'service_tier': None, 'finish_reason': 'stop', 'logprobs': None}, id='run--fd5b96f8-97a4-4785-afd7-4f4217a027d3-0', usage_metadata={'input_tokens': 325, 'output_tokens': 253, 'total_tokens': 578, 'input_token_details': {}, 'output_token_details': {'reasoning': 221}})

请注意，每个 ToolMessage 都必须包含一个 tool_call_id，它与模型生成的原始工具调用中的 id 匹配。这有助于模型将工具响应与工具调用匹配。

五、如何将运行时值传递给工具

有时候我们可能需要将值绑定到 工具，这些值仅在运行时才已知。 例如，工具逻辑可能需要使用发出请求的用户的 ID。

大多数情况下，这些值不应由 LLM 控制。 实际上，允许 LLM 控制用户 ID 可能会导致安全风险。

相反，LLM 应该只控制工具的参数，这些参数旨在由 LLM 控制，而其他参数（例如用户 ID）应由应用程序逻辑固定。

接下来我们探索如何阻止模型生成某些工具参数并在运行时直接注入它们。

1、从模型中隐藏参数

我们可以使用 InjectedToolArg 注解来标记我们 Tool 的某些参数，例如 user_id，将其标记为在运行时注入，这意味着它们不应由模型生成

python 复制代码 
from typing import List

from langchain_core.tools import InjectedToolArg, tool
from typing_extensions import Annotated

user_to_pets = {}


@tool(parse_docstring=True)
def update_favorite_pets(
    pets: List[str], user_id: Annotated[str, InjectedToolArg]
) -> None:
    """Add the list of favorite pets.

    Args:
        pets: List of favorite pets to set.
        user_id: User's ID.
    """
    user_to_pets[user_id] = pets


@tool(parse_docstring=True)
def delete_favorite_pets(user_id: Annotated[str, InjectedToolArg]) -> None:
    """Delete the list of favorite pets.

    Args:
        user_id: User's ID.
    """
    if user_id in user_to_pets:
        del user_to_pets[user_id]


@tool(parse_docstring=True)
def list_favorite_pets(user_id: Annotated[str, InjectedToolArg]) -> None:
    """List favorite pets if any.

    Args:
        user_id: User's ID.
    """
    return user_to_pets.get(user_id, [])

如果我们查看这些工具的输入模式，我们会看到 user_id 仍然被列出

python 复制代码 
update_favorite_pets.get_input_schema().schema()
arduino 复制代码 
{'description': 'Add the list of favorite pets.',
 'properties': {'pets': {'description': 'List of favorite pets to set.',
   'items': {'type': 'string'},
   'title': 'Pets',
   'type': 'array'},
  'user_id': {'description': "User's ID.",
   'title': 'User Id',
   'type': 'string'}},
 'required': ['pets', 'user_id'],
 'title': 'update_favorite_pets',
 'type': 'object'}

但是，如果我们查看工具调用模式（传递给模型用于工具调用的模式），user_id 已被删除

python 复制代码 
update_favorite_pets.tool_call_schema.schema()
arduino 复制代码 
{'description': 'Add the list of favorite pets.',
 'properties': {'pets': {'description': 'List of favorite pets to set.',
   'items': {'type': 'string'},
   'title': 'Pets',
   'type': 'array'}},
 'required': ['pets'],
 'title': 'update_favorite_pets',
 'type': 'object'}

因此，当我们调用我们的工具时，我们需要传入 user_id

python 复制代码 
user_id = "123"
update_favorite_pets.invoke({"pets": ["lizard", "dog"], "user_id": user_id})
print(user_to_pets)
print(list_favorite_pets.invoke({"user_id": user_id}))
css 复制代码 
{'123': ['lizard', 'dog']}
['lizard', 'dog']

但是当模型调用该工具时，不会生成 user_id 参数

python 复制代码 
tools = [
    update_favorite_pets,
    delete_favorite_pets,
    list_favorite_pets,
]
llm_with_tools = llm.bind_tools(tools)
ai_msg = llm_with_tools.invoke("my favorite animals are cats and parrots")
ai_msg.tool_calls
css 复制代码 
[{'name': 'update_favorite_pets',  'args': {'pets': ['cats', 'parrots']},
  'id': '01973f821d182fe8b7b4d5fc4fb0b0a3',
  'type': 'tool_call'}]

2、在运行时注入参数

如果我们想使用模型生成的工具调用来实际执行我们的工具，我们需要自己注入 user_id

python 复制代码 
from copy import deepcopy

from langchain_core.runnables import chain


@chain
def inject_user_id(ai_msg):
    tool_calls = []
    for tool_call in ai_msg.tool_calls:
        tool_call_copy = deepcopy(tool_call)
        tool_call_copy["args"]["user_id"] = user_id
        tool_calls.append(tool_call_copy)
    return tool_calls


inject_user_id.invoke(ai_msg)
css 复制代码 
[{'name': 'update_favorite_pets',  'args': {'pets': ['cats', 'parrots'], 'user_id': '123'},
  'id': '01973f821d182fe8b7b4d5fc4fb0b0a3',
  'type': 'tool_call'}]

现在我们可以将我们的模型、注入代码和实际工具链接在一起，以创建一个工具执行链

python 复制代码 
tool_map = {tool.name: tool for tool in tools}


@chain
def tool_router(tool_call):
    return tool_map[tool_call["name"]]


chain = llm_with_tools | inject_user_id | tool_router.map()
chain.invoke("my favorite animals are cats and parrots")
css 复制代码 
[ToolMessage(content='null', name='update_favorite_pets', tool_call_id='01973f82f807a4fe19bc9bd2ca9ee83d')]

查看 user_to_pets 字典，我们可以看到它已更新为包含猫和鹦鹉

python 复制代码 
user_to_pets
arduino 复制代码 
{'123': ['cats', 'parrots']}

3、注释参数的其他方法

以下是注释工具参数的其他几种方法。

方式一：

python 复制代码 
from langchain_core.tools import BaseTool
from pydantic import BaseModel, Field


class UpdateFavoritePetsSchema(BaseModel):
    """Update list of favorite pets"""

    pets: List[str] = Field(..., description="List of favorite pets to set.")
    user_id: Annotated[str, InjectedToolArg] = Field(..., description="User's ID.")


@tool(args_schema=UpdateFavoritePetsSchema)
def update_favorite_pets(pets, user_id):
    user_to_pets[user_id] = pets


update_favorite_pets.get_input_schema().schema()
arduino 复制代码 
{'description': 'Update list of favorite pets',
 'properties': {'pets': {'description': 'List of favorite pets to set.',
   'items': {'type': 'string'},
   'title': 'Pets',
   'type': 'array'},
  'user_id': {'description': "User's ID.",
   'title': 'User Id',
   'type': 'string'}},
 'required': ['pets', 'user_id'],
 'title': 'UpdateFavoritePetsSchema',
 'type': 'object'}
python 复制代码 
update_favorite_pets.tool_call_schema.schema()
arduino 复制代码 
{'description': 'Update list of favorite pets',
 'properties': {'pets': {'description': 'List of favorite pets to set.',
   'items': {'type': 'string'},
   'title': 'Pets',
   'type': 'array'}},
 'required': ['pets'],
 'title': 'update_favorite_pets',
 'type': 'object'}

方式二：

python 复制代码 
from typing import Optional, Type


class UpdateFavoritePets(BaseTool):
    name: str = "update_favorite_pets"
    description: str = "Update list of favorite pets"
    args_schema: Optional[Type[BaseModel]] = UpdateFavoritePetsSchema

    def _run(self, pets, user_id):
        user_to_pets[user_id] = pets


UpdateFavoritePets().get_input_schema().schema()
arduino 复制代码 
{'description': 'Update list of favorite pets',
 'properties': {'pets': {'description': 'List of favorite pets to set.',
   'items': {'type': 'string'},
   'title': 'Pets',
   'type': 'array'},
  'user_id': {'description': "User's ID.",
   'title': 'User Id',
   'type': 'string'}},
 'required': ['pets', 'user_id'],
 'title': 'UpdateFavoritePetsSchema',
 'type': 'object'}
python 复制代码 
UpdateFavoritePets().tool_call_schema.schema()
arduino 复制代码 
{'description': 'Update list of favorite pets',
 'properties': {'pets': {'description': 'List of favorite pets to set.',
   'items': {'type': 'string'},
   'title': 'Pets',
   'type': 'array'}},
 'required': ['pets'],
 'title': 'update_favorite_pets',
 'type': 'object'}

方式三：

python 复制代码 
class UpdateFavoritePets2(BaseTool):
    name: str = "update_favorite_pets"
    description: str = "Update list of favorite pets"

    def _run(self, pets: List[str], user_id: Annotated[str, InjectedToolArg]) -> None:
        user_to_pets[user_id] = pets


UpdateFavoritePets2().get_input_schema().schema()
rust 复制代码 
{'description': 'Use the tool.\n\nAdd run_manager: Optional[CallbackManagerForToolRun] = None\nto child implementations to enable tracing.',
 'properties': {'pets': {'items': {'type': 'string'},
   'title': 'Pets',
   'type': 'array'},
  'user_id': {'title': 'User Id', 'type': 'string'}},
 'required': ['pets', 'user_id'],
 'title': 'update_favorite_pets',
 'type': 'object'}
python 复制代码 
UpdateFavoritePets2().tool_call_schema.schema()
arduino 复制代码 
{'description': 'Update list of favorite pets',
 'properties': {'pets': {'items': {'type': 'string'},
   'title': 'Pets',
   'type': 'array'}},
 'required': ['pets'],
 'title': 'update_favorite_pets',
 'type': 'object'}

参考文档

相关推荐
是小王同学啊~14 小时前
(LangChain)RAG系统链路向量检索器之Retrievers(五)
python·算法·langchain
AIGC包拥它14 小时前
提示技术系列——链式提示
人工智能·python·langchain·prompt
AI大模型20 小时前
LangGraph官方文档笔记（4）——提示聊天机器人
程序员·langchain·llm
OpenAppAI1 天前
Few-shot Prompting（少样本提示）概念指南
langchain·few-shot·prompts
余衫马10 天前
LangChain 文本分割器深度解析：从原理到落地应用（上）
langchain·文本分割器
大千AI助手13 天前
LangChain执行引擎揭秘：RunnableConfig配置全解析
人工智能·langchain·config
精灵vector13 天前
Agent的记忆详细实现机制
python·langchain·llm
少林码僧14 天前
14.2 《3小时从零搭建企业级LLaMA3语言助手：GitHub配置+私有化模型集成全实战》
人工智能·机器学习·语言模型·langchain
何双新14 天前
第3讲、LangChain性能优化：上下文缓存与流式响应实战指南
缓存·性能优化·langchain
程序员阿超的博客15 天前
Java大模型开发入门 (13/15)：拥抱官方标准 - Spring AI框架入门与实践
人工智能·langchain·大模型·spring ai·langchain4j
热门推荐
01手机电脑之间快速传输图片视频文件，不压缩画质、不限制大小的方法！02Coze实战第13讲：飞书多维表格读取+豆包生图模型，轻松批量生成短剧封面03Coze扣子平台完整体验和实践（附国内和国际版对比）04华为昇腾 910B 部署 DeepSeek-R1 蒸馏系列模型详细指南05免费可用！最强AI数字人对口型神器：让照片开口说话唱歌，支持多人对口型+全身动作，1分钟学会！（附保姆级教程）06扣子（coze）实战|我用扣子搭建了一个自动分析小红薯笔记内容的AI应用|详细步骤拆解07Coze（扣子）智能体工作流：自动批量生成书单号视频，1分钟100个，书单号博主都在用！08C#调用WechatOCR.exe实现本地OCR文字识别09DeepSeek各版本说明与优缺点分析10Coze 全方位入门剖析 - 免费打造自己的 AI 超级个体