Function Calling 解锁Agent与外部系统交互

LLM 具有强大的推理能力,它能够根据训练数据和输入的 Prompt 生成文本。但是它无法获取实时数据(比如今天的天气),也无法执行具体操作(比如发邮件)。

问题在于现有的程序只能通过结构化的函数调用,例如:

js 复制代码
function toolCall(param: ToolParam): ToolResult;

所以 LLM 需要将用户的自然语言需求转换为结构化的函数调用,才能与其它程序交互。

Function Calling 是一种 LLM 调用 Tool 的机制。当 LLM 识别用户需求需要调用 Tool 时,它会生成结构化的函数调用指令,然后由 Agent 执行指定函数并将结果反馈给 LLM,最后 LLM 基于结果进行下一步操作。

LLM生成结构化的函数调用指令:

js 复制代码
{
  "id": "chatcmpl-abc123",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "tool_calls": [
          {
            "id": "call_abc123",
            "type": "function",
            "function": {
              "name": "get_weather",
              "arguments": "{"city": "北京", "date": "today"}"
            }
          }
        ]
      },
      "finish_reason": "tool_calls"
    }
  ]
}

Agent解析函数调用指令,根据 function.name 找到对应的函数,解析 function.arguments 获取参数,然后执行调用。

js 复制代码
// 1. 解析LLM返回的函数调用指令
const toolCall = response.choices[0].message.tool_calls[0];
const functionName = toolCall.function.name;  
const functionArgs = JSON.parse(toolCall.function.arguments);  

// 2. 根据工具名称找到对应的函数
const tools = {
    get_weather: ({city, date}) => {    
        // 调用天气查询API   
        return {
            "temperature": 22,
            "condition": "晴天",
            "humidity": 45
        };  
    },  
};
// 3. 执行工具调用
const result = tools[functionName](functionArgs);
相关推荐
小虎AI生活10 小时前
哇塞~24小时开机的WorkBuddy免费领,速来
aigc·ai编程
Csvn10 小时前
换供应商要改一遍代码?把模型接入收进一层网关(C04)
人工智能·aigc·agent
孟健10 小时前
开源AutoClip切直播:1小时48分出19段,整月API只花0.08元
人工智能·开源·aigc
七夜zippoe11 小时前
多 Agent 通信灾难:状态不一致导致雪崩故障的排查与防护
ai·agent·通信灾难·雪崩故障·排查与防护
谙弆悕博士12 小时前
多智能体架构详解:层级树状架构(分级主从型)
运维·架构·大模型·agent·多智能体·langgraph·层级树状
学无止境小袁同学13 小时前
Google ADK 学习指南
python·llm·agent·多agent·google adk·llmagent·agent cli
塑料铲子14 小时前
你的 Skill 越多越蠢?Token 上下文爆炸的求生指南
机器学习·agent
qinglongcn14 小时前
四面统一:记忆/Session/观测/Cron
agent·ai编程
货拉拉技术14 小时前
AI Agent 如何进入实时交易系统:货拉拉的三个实践与一套工程方法论
后端·架构·agent
qinglongcn14 小时前
从 metadata 键到独立列
agent·ai编程