解决Dify中接入xinference模型无法开关思考模式和使用function calling的问题

1、无法开关思考模式

不知道大家有没有发现使用xinference作为模型供应商时,是没有是否启用思考模式的开关的。比如在调用qwen3时,使用xinference就不显示开关,而qwen官方api调用是可以显示的。

这大概率是因为dify没有在xinference做适配导致的。要解决这个问题也很简单,只需要使用另一个插件OpenAI-API-compatible就可以了,他可以兼容任何满足openai调用格式的模型。

2、qwen3无法使用function calling

自己部署qwen3时,想要使用function call功能,则必须在添加模型时选择tool call,不然没法调用工具。

这样就可以正确调用工具了。

相关推荐
shdwak....sad3 分钟前
版本管理&迁移kali-vmware&知识库
人工智能·网络安全
程序员cxuan21 分钟前
OpenAI Linux 版来了!
人工智能·后端·程序员
用户56190350693326 分钟前
OpenAI兼容API报401/404/429怎么解决?API Key、Base URL、模型名排查
人工智能
lucky_syq26 分钟前
专栏目录与学习路线 | 48 篇正文导览
人工智能·学习
TechEdu20260631 分钟前
[人工智能]RLlib:基于Ray的可扩展强化学习框架
人工智能·ai
李妍.31 分钟前
DeepSeek Harness 从安装到使用:一站式 AI 开发工具指南
chatgpt·prompt·aigc·agi
加多43 分钟前
DeepSeek Harness 深度分析:用途、问题、架构原理与使用指南
人工智能·架构
风流 少年1 小时前
Spring AI 2.0:Flux
java·人工智能·spring
小马过河R1 小时前
Graph Engineering 深度解析:模型越强,越需要给它画好“地图”
人工智能·langchain·graph·ai工程化·harness·驾驭工程
leisoo80971 小时前
涨停板次日表现因子怎么挖掘本地化Python全流程实战
大数据·人工智能·python