Function Calling模型呼叫工具

当问题涉及即时或外部资料时,模型往往只能猜答案,无法真正查询或执行动作,Function Calling正是为了解决这个限制而设计的机制,它让模型在需要时主动提出工具呼叫请求,由应用程序代为执行函数并回传结果。

Function Calling的运行可分为三个阶段:

模型判断需求并提出请求:回传信息中附带工具呼叫资讯(如:tool_calls),描述欲呼叫的函数名称与参数

应用程序执行外部功能:应用程序依据模型提供的函数名与参数,执行对应逻辑,例如:查询API或取资料库

模型整合结果并生成回复:应用程序将执行结果回传给模型,模型再根据这些真实资料产生自然语言回复。

这套互动流程让模型得以结合即时资料与外部运算,降低模型产生幻觉(hallucination)风险

建立并执行Function Calling

定义工具:描述功能与参数,包括name(工具名称)、description、parameters(使用JSON Schema定义工具可接受的参数结构、类型与说明)

呼叫函数(让模型主动提出工具呼叫请求):可以在chat.completions.create()的请求中加入tools参数,模型就能在生成回应时自动判断是否需要使用其中的功能

回传结果(整合执行逻辑与回复):执行函数逻辑,将结果回传给模型。

我们使用tool讯息格式回传工具的执行结果,并通过tool_call_id将结果对应到原本的工具呼叫请求中

学习笔记源自 ---《node.js生成式AI应用开发实战》

相关推荐
敲敲敲敲暴你脑袋6 小时前
地图瓦片批量改色来啦!
node.js·gis·数据可视化
太子釢1 天前
AI 开发个人记账 App(服务端篇)
node.js·ai编程
用户64340495148511 天前
Elpis 项目构建工具与前端基建实践总结
node.js
FungLeo1 天前
成为全栈·Node 后端篇·后端测试策略:单元、集成与测试数据库
单元测试·node.js·集成测试·测试策略·成为全栈·测试数据库
FungLeo1 天前
成为全栈·Node 后端篇·评论内容安全:敏感词过滤、三态审核与级联删除
node.js·敏感词过滤·成为全栈·评论内容安全·评论审核·级联删除
FungLeo2 天前
成为全栈·Node 后端篇·阅读量防刷:去重、冷却与计数写分离
node.js·读写分离·数据去重·接口防刷·成为全栈·数据冷却
脉动数据行情12 天前
Node.js WebSocket 实现贵金属实时行情监听 伦敦金 / 伦敦银自动重连方案
websocket·node.js·vim
不老刘2 天前
一行命令解决 Node.js 版本兼容问题:`--openssl-legacy-provider` 深度解析
node.js
万敏3 天前
Vue3 全栈实战:第一阶段复盘(第1-8周)
vue.js·node.js·全栈
濮水大叔3 天前
舒服了,CabloyJS 的 AI Spec 驱动开发会自动生成甘特图和燃尽图
typescript·node.js·vibecoding