Function Calling模型呼叫工具

当问题涉及即时或外部资料时,模型往往只能猜答案,无法真正查询或执行动作,Function Calling正是为了解决这个限制而设计的机制,它让模型在需要时主动提出工具呼叫请求,由应用程序代为执行函数并回传结果。

Function Calling的运行可分为三个阶段:

模型判断需求并提出请求:回传信息中附带工具呼叫资讯(如:tool_calls),描述欲呼叫的函数名称与参数

应用程序执行外部功能:应用程序依据模型提供的函数名与参数,执行对应逻辑,例如:查询API或取资料库

模型整合结果并生成回复:应用程序将执行结果回传给模型,模型再根据这些真实资料产生自然语言回复。

这套互动流程让模型得以结合即时资料与外部运算,降低模型产生幻觉(hallucination)风险

建立并执行Function Calling

定义工具:描述功能与参数,包括name(工具名称)、description、parameters(使用JSON Schema定义工具可接受的参数结构、类型与说明)

呼叫函数(让模型主动提出工具呼叫请求):可以在chat.completions.create()的请求中加入tools参数,模型就能在生成回应时自动判断是否需要使用其中的功能

回传结果(整合执行逻辑与回复):执行函数逻辑,将结果回传给模型。

我们使用tool讯息格式回传工具的执行结果,并通过tool_call_id将结果对应到原本的工具呼叫请求中

学习笔记源自 ---《node.js生成式AI应用开发实战》

相关推荐
cpolar技术支持10 小时前
把 agent-autoloop 装在 Mac 上:用本机 Node 实跑一次「接活—提问—拍板—接着干」,再用 cpolar 把它的状态页开给不在工位的自己
node.js·内网穿透·cpolar·ai agent·agent-autoloop
SEO_juper16 小时前
Node.js 全站 SEO 体检报告生成器:一次查完标题、描述、canonical、H1、图片
开发语言·前端·node.js·html·bash
木头左2 天前
【Node.js】Markdown 转带图片 Word 文档实战:docx 库转换器设计与 5 个踩坑
node.js·word·markdown·文档自动化
思特奇时空智能2 天前
大规模点要素地图渲染性能优化实践
vue.js·arcgis·性能优化·node.js·html·gis·webgl
w3296362714 天前
飞书接单到月度结算:我用一个 DSH 插件跑通鞋类采购 WMS,附 22 项验收
pdf·node.js·飞书·后端开发·ai agent
濮水大叔4 天前
Cabloy/Vona 为什么不需要 NestJS 的 Dynamic Module
typescript·node.js·nestjs
匠云创新4 天前
读完一万段要两分钟:我们把标书读取从 WPS 对象模型搬到了 docx 解析
性能优化·node.js
某哈压力大5 天前
SSH 突然 Connection reset?不是密钥坏了,是 OpenSSL 把 sshd 干趴了
前端·node.js·命令行
回眸&啤酒鸭5 天前
【回眸】Node.js 新手从零到一实战指南
node.js
浪遏5 天前
recruitment-cli:让 AI 接手求职招聘,从架构到一次发送超时
架构·typescript·node.js