Function Calling模型呼叫工具

当问题涉及即时或外部资料时,模型往往只能猜答案,无法真正查询或执行动作,Function Calling正是为了解决这个限制而设计的机制,它让模型在需要时主动提出工具呼叫请求,由应用程序代为执行函数并回传结果。

Function Calling的运行可分为三个阶段:

模型判断需求并提出请求:回传信息中附带工具呼叫资讯(如:tool_calls),描述欲呼叫的函数名称与参数

应用程序执行外部功能:应用程序依据模型提供的函数名与参数,执行对应逻辑,例如:查询API或取资料库

模型整合结果并生成回复:应用程序将执行结果回传给模型,模型再根据这些真实资料产生自然语言回复。

这套互动流程让模型得以结合即时资料与外部运算,降低模型产生幻觉(hallucination)风险

建立并执行Function Calling

定义工具:描述功能与参数,包括name(工具名称)、description、parameters(使用JSON Schema定义工具可接受的参数结构、类型与说明)

呼叫函数(让模型主动提出工具呼叫请求):可以在chat.completions.create()的请求中加入tools参数,模型就能在生成回应时自动判断是否需要使用其中的功能

回传结果(整合执行逻辑与回复):执行函数逻辑,将结果回传给模型。

我们使用tool讯息格式回传工具的执行结果,并通过tool_call_id将结果对应到原本的工具呼叫请求中

学习笔记源自 ---《node.js生成式AI应用开发实战》

相关推荐
编程的一拳超人20 小时前
【元宝搜索开发者征文大赛】四语实战:Java/Python/Go/Node.js 构建 AI 搜索应用全攻略
java·python·golang·node.js·agent
lucas_AI20 小时前
今年 2 月就修好的漏洞,10 月才炸:HTTP2Shell 把 Node、Python 一锅端
node.js
SEO_juper2 天前
Node.js 全站死链检测工具:从 sitemap 出发一次找全 404
开发语言·人工智能·python·node.js·seo·外贸独立站
孟陬3 天前
解决动态 import 类型 Any 痼癖
typescript·node.js·bun
Dumbness3 天前
后台管理员把自己锁在门外:RBAC 里「自己的权限只能由别人来减」
安全·node.js
攻城狮白玉3 天前
Node.js 发布紧急安全更新:10 个漏洞,8 枚危险证书被拉黑。附AI修复提示词
node.js
Json____3 天前
用 FastAPI + Vue3 打造一套完整的在线考试系统:从组卷到阅卷的业务闭环实践
后端·node.js·fastapi·it学习·wwwoop.com
Dumbness4 天前
写 MCP 服务器踩的坑:stdout 是协议通道,一行不带换行的日志就能让客户端超时
node.js·mcp
flash俊杰4 天前
ContentPart 联合类型实战:不碰存量消息,怎么给 ChatMessage 加图片
node.js
Json____4 天前
用 Node.js + Vue3 打造一个家居装修 AI 智能咨询助手
node.js·agent·网站开发·智能体·wwwoop.com