解决Dify中接入xinference模型无法开关思考模式和使用function calling的问题

1、无法开关思考模式

不知道大家有没有发现使用xinference作为模型供应商时,是没有是否启用思考模式的开关的。比如在调用qwen3时,使用xinference就不显示开关,而qwen官方api调用是可以显示的。

这大概率是因为dify没有在xinference做适配导致的。要解决这个问题也很简单,只需要使用另一个插件OpenAI-API-compatible就可以了,他可以兼容任何满足openai调用格式的模型。

2、qwen3无法使用function calling

自己部署qwen3时,想要使用function call功能,则必须在添加模型时选择tool call,不然没法调用工具。

这样就可以正确调用工具了。

相关推荐
AI科技星8 分钟前
接近光速运动下的光速不变性:基于张祥前统一场论的推导与验证
数据结构·人工智能·经验分享·算法·计算机视觉
864记忆29 分钟前
opencv图像预处理函数的功能与作用
人工智能·opencv·计算机视觉
神仙别闹1 小时前
基于C#实现(WinForm)数值分析(图像扭曲变形)
人工智能
光影少年1 小时前
AIGG人工智能生态及学习路线和应用领域
人工智能·学习
俊男无期1 小时前
【AI入门】什么是训练和推理
人工智能
递归不收敛1 小时前
多模态学习大纲笔记(未完成)
人工智能·笔记·学习·自然语言处理
碧海银沙音频科技研究院1 小时前
DiVE长尾识别的虚拟实例蒸馏方法
arm开发·人工智能·深度学习·算法·音视频
彩云回1 小时前
堆叠泛化(Stacking)
人工智能·机器学习·1024程序员节
AI浩1 小时前
FMC-DETR:面向航拍视角目标检测的频域解耦多域协同方法
人工智能·目标检测·计算机视觉