解决Dify中接入xinference模型无法开关思考模式和使用function calling的问题

1、无法开关思考模式

不知道大家有没有发现使用xinference作为模型供应商时,是没有是否启用思考模式的开关的。比如在调用qwen3时,使用xinference就不显示开关,而qwen官方api调用是可以显示的。

这大概率是因为dify没有在xinference做适配导致的。要解决这个问题也很简单,只需要使用另一个插件OpenAI-API-compatible就可以了,他可以兼容任何满足openai调用格式的模型。

2、qwen3无法使用function calling

自己部署qwen3时,想要使用function call功能,则必须在添加模型时选择tool call,不然没法调用工具。

这样就可以正确调用工具了。

相关推荐
霸道流氓气质1 天前
Spring AI Alibaba Skills 完整实战:从零构建智能会议助手
java·人工智能·spring
眠りたいです1 天前
LangChainv1:agent快速上手与中间件认识
人工智能·python·中间件·langchain·langgraph
JJJennie7771 天前
从苹果 2026 落地场景,看系统级 Agent 时代的隐私边界与 MAI Gateway 的企业Token治理
人工智能·gateway·apple
甲维斯1 天前
我超!Claude Fable真来了,比Mythos还强?!
人工智能
三叶草4351 天前
Claude Code 接入 DeepSeek强强联合
人工智能
AI程序员1 天前
Loop Engineering:你不再 prompt agent,而是设计 prompt agent 的系统
人工智能
咖啡星人k1 天前
从 Vibe Coding 到专业开发:MonkeyCode 如何重新定义AI编程工作流
人工智能·ai编程·monkeycode
智慧景区与市集主理人1 天前
巨有科技智慧营销平台|精准破局,解锁景区低成本高效增长模式
大数据·人工智能·科技
FrameNotWork1 天前
HarmonyOS6.1 图像分类应用完整实战:从模型到界面
人工智能·分类·数据挖掘·harmonyos
MicrosoftReactor1 天前
技术速递|以 Token 经济学驱动的架构:混合模型、AI Runway、AKS Kata MicroVM 与 MCP
人工智能·ai·架构·copilot·mcp