解决Dify中接入xinference模型无法开关思考模式和使用function calling的问题

1、无法开关思考模式

不知道大家有没有发现使用xinference作为模型供应商时,是没有是否启用思考模式的开关的。比如在调用qwen3时,使用xinference就不显示开关,而qwen官方api调用是可以显示的。

这大概率是因为dify没有在xinference做适配导致的。要解决这个问题也很简单,只需要使用另一个插件OpenAI-API-compatible就可以了,他可以兼容任何满足openai调用格式的模型。

2、qwen3无法使用function calling

自己部署qwen3时,想要使用function call功能,则必须在添加模型时选择tool call,不然没法调用工具。

这样就可以正确调用工具了。

相关推荐
鹿鸣天涯几秒前
Hugging Face AI开源平台学习入门
人工智能
Htr_2 分钟前
Reflexio 使用指南:让 AI 智能体从每次交互中持续学习
人工智能·学习·交互
leoZ2318 分钟前
第 7 篇:进阶——校验、联动、列表页
开发语言·前端·javascript·vue.js·人工智能·目标检测·ecmascript
临沂GEO12 分钟前
芝麻开门GEO|AI数字化新趋势,助力企业线上长效增长
大数据·人工智能·python
雷焰财经13 分钟前
美国推动“轻监管”AI路线:AI发展的速度与安全边界将如何平衡?
人工智能·安全·机器学习
短视频矩阵源码定制14 分钟前
GPT Image 2.0实战指南:从0到1构建合规稳定的AI服务接入方案
人工智能·gpt
小程故事多_8015 分钟前
企业AI对话记忆架构实战,告别单一Redis存储,搭建长短效协同的记忆体系
人工智能·redis·架构
渔阳节度使21 分钟前
Cursor快速上手+科学使用指南
人工智能·ai编程
xsd2024111823 分钟前
AI去除图像中logo技术全解析:街舞拍摄场景的服饰与背景logo消除实战
人工智能