解决Dify中接入xinference模型无法开关思考模式和使用function calling的问题

1、无法开关思考模式

不知道大家有没有发现使用xinference作为模型供应商时,是没有是否启用思考模式的开关的。比如在调用qwen3时,使用xinference就不显示开关,而qwen官方api调用是可以显示的。

这大概率是因为dify没有在xinference做适配导致的。要解决这个问题也很简单,只需要使用另一个插件OpenAI-API-compatible就可以了,他可以兼容任何满足openai调用格式的模型。

2、qwen3无法使用function calling

自己部署qwen3时,想要使用function call功能,则必须在添加模型时选择tool call,不然没法调用工具。

这样就可以正确调用工具了。

相关推荐
哥布林学者18 小时前
吴恩达深度学习课程三: 结构化机器学习项目 第二周:误差分析与学习方法 课后习题和代码实践
深度学习·ai
北京青翼科技18 小时前
【TES818 】基于 VU13P FPGA+ZYNQ SOC 的 8 路 100G 光纤通道处理平台
图像处理·人工智能·fpga开发·信号处理·智能硬件
一点一木18 小时前
🚀 2025 年 11 月 GitHub 十大热门项目排行榜 🔥
前端·人工智能·github
mys551818 小时前
AI搜索趋势对企业营销的核心影响
人工智能·geo·ai搜索优化·geo优化
c#上位机18 小时前
halcon图像分割之动态阈值分割
图像处理·人工智能·计算机视觉·c#·halcon
小糖学代码18 小时前
LLM系列:1.python入门:1.初识python
服务器·开发语言·人工智能·python·ai
m0_5649149218 小时前
视频字幕AI总结丨FPGA入门教学视频
人工智能·fpga开发
慎独41318 小时前
重塑价值分配:从土地、机器到数据的生产关系革命
大数据·运维·人工智能
IT_陈寒18 小时前
React 18新特性实战:这5个Hook组合让我少写50%状态管理代码
前端·人工智能·后端