第3篇:给 Dify 接上大模型——云端 API 与本地 Ollama 两种方式

承接第 2 篇。上一篇部署完 Dify 后,你还没法真正用它 ------因为还没给应用接上大模型。给 Dify 接入模型有两种方式 :一种是云端 API (省事、要花钱),一种是本地部署 Ollama(免费、私密、离线)。这篇两种都讲清楚,你按需选择。

一、为什么 Dify 需要接模型?

Dify 本身只是"搭建应用的工作台",不提供模型能力。要让聊天助手、知识库真正会说话、会回答,必须给 Dify 配置一个大模型------相当于给应用装上"大脑"。

二、两种接入方式概览

对比 云端 API 本地 Ollama
典型代表 DeepSeek、通义千问 开源模型(如 qwen2.5)
是否要钱 按用量收费 免费
网络要求 需联网 可离线
电脑配置 无要求 吃配置,越大的模型要求越高
上手难度 简单 稍复杂
适合 入门、想快速跑通 免费/隐私/离线场景

三、方式一:云端模型(推荐入门)

3.1 选哪个云端模型

  • DeepSeek 、通义千问(阿里云百炼) 都行。按用量收费,但不贵,充值几元就够学习。阿里百炼平台会有免费额度。

3.2 获取 API Key

二选一:

  • DeepSeek:打开 DeepSeek 开放平台 → 左侧「API keys」→「创建 API key」

  • 通义千问:登录阿里云百炼控制台 → 创建 API Key

⚠️ 重点 :API Key 只在创建那一刻显示一次,之后只能重新创建。建议创建后立刻用备忘录保存,不要发给别人,也不要暴露在代码里。

3.3 在 Dify 中导入云端模型

登录 Dify → 左侧「集成 」→「模型供应商」:

搜索并安装你要的模型(通义千问 / 深度求索)→ 点击「配置 / 添加 API 密钥」,弹出表单:

字段 说明
凭据名称 自定义,如 "qwen-test"
API Key 粘贴刚获取的 Key
接入域名 一般api key界面会有说明
使用国际端点 国内选「否」

保存后在「默认模型设置」里把该模型设为默认,云端方式就接好了。

四、方式二:本地部署 Ollama(免费、私密、离线)

4.1 第一步:安装 Ollama

Ollama 是一个开源的本地大模型运行框架,用于在本地部署、运行各类开源 LLM 模型。

下载地址:Download Ollama on macOS,支持 macOS、Linux、Windows:

4.2 第二步:下载模型

打开 Ollama 聊天页面,直接搜索并选择要下载的模型。建议优先选一个小模型 (新手更容易跑起来),比如在搜索框输入 qwen2.5:1.5b:

第一次选完模型后,随便输入一条消息就会自动开始下载:

4.3第三步:在 Dify 中配置 Ollama

左侧选「模型供应商」,在 Dify 市场搜索 Ollama → 安装:

在模型列表找到 Ollama → 「添加模型」,填写配置:

关键参数(基础 URL):

  • Dify 和 Ollama 同一台机器部署 :http://host.docker.internal:11434

  • Dify 和 Ollama 不同机器部署 :http://192.168.x.x(自己的IP):11434

模型名称填你下载的模型(如 qwen2.5:7b),类型选 LLM / 对话。

五、云端 vs 本地:怎么选?

  • 想省事、快速跑通、不介意花几块钱 → 选云端 API(DeepSeek / 通义千问)

  • 想免费、要隐私/离线、电脑配置够 → 选本地 Ollama

  • 电脑配置一般、只是想先了解 → 可以先云端,或本地选小模型(如 qwen2.5:1.5b)

六、小结

接上模型的两种路径:

复制代码
云端:获取 API Key → Dify「集成→模型供应商」配置 → 设默认模型 → 测试
本地:安装 Ollama → 下载模型 → 对话测试 → Dify 配置 Ollama → 测试
相关推荐
XLYcmy12 小时前
基于大语言模型的智能漏洞检测与修复系统 作品报告评审分析报告 上
llm·prompt·模糊测试·漏洞修复·漏洞检测·deepseek·消融实验
小七-七牛开发者13 小时前
周 1 上线 | DSH 喜提原神进场动画,Anthropic 启动 IPO 路演;黄仁勋辞任;微软全球大宕机超 24 小时
ai·大模型·agent·token·工作流·claudecode·ai coding
CS_Zero16 小时前
DeepSeek V4.1 Flash 1017 (Batch) 新手极速上手指南
开发语言·batch·deepseek
M--Y16 小时前
LangGraph 架构基石:持久化与运行控制
python·langchain·大模型·llm·持久化·langgraph
大模型真好玩18 小时前
大模型训练全流程实战指南实战篇(十八)——微调问答对数据构建技术
人工智能·agent·deepseek
我才是银古18 小时前
chat-demo 源码解析与 DeepSeek 全家桶 API 能力盘点
ai·demo·deepseek
香吧香21 小时前
一篇文章搞懂 Agent Harness:从概念、原理到我们该不该上
大模型
土豆12501 天前
dsh-orchestrator 介绍与使用实践:让你的 AI 从「一个人硬扛」到「带团队干活
llm·ai编程·deepseek
M--Y1 天前
LangGraph 工作流模式
开发语言·javascript·python·langchain·大模型·llm·langgraph
dozenyaoyida1 天前
AI与大模型新闻日报 | 2026-11-08
人工智能·搜索引擎·ai·大模型·新闻