第3篇:给 Dify 接上大模型——云端 API 与本地 Ollama 两种方式

承接第 2 篇。上一篇部署完 Dify 后,你还没法真正用它 ------因为还没给应用接上大模型。给 Dify 接入模型有两种方式 :一种是云端 API (省事、要花钱),一种是本地部署 Ollama(免费、私密、离线)。这篇两种都讲清楚,你按需选择。

一、为什么 Dify 需要接模型?

Dify 本身只是"搭建应用的工作台",不提供模型能力。要让聊天助手、知识库真正会说话、会回答,必须给 Dify 配置一个大模型------相当于给应用装上"大脑"。

二、两种接入方式概览

对比 云端 API 本地 Ollama
典型代表 DeepSeek、通义千问 开源模型(如 qwen2.5)
是否要钱 按用量收费 免费
网络要求 需联网 可离线
电脑配置 无要求 吃配置,越大的模型要求越高
上手难度 简单 稍复杂
适合 入门、想快速跑通 免费/隐私/离线场景

三、方式一:云端模型(推荐入门)

3.1 选哪个云端模型

  • DeepSeek 、通义千问(阿里云百炼) 都行。按用量收费,但不贵,充值几元就够学习。阿里百炼平台会有免费额度。

3.2 获取 API Key

二选一:

  • DeepSeek:打开 DeepSeek 开放平台 → 左侧「API keys」→「创建 API key」

  • 通义千问:登录阿里云百炼控制台 → 创建 API Key

⚠️ 重点 :API Key 只在创建那一刻显示一次,之后只能重新创建。建议创建后立刻用备忘录保存,不要发给别人,也不要暴露在代码里。

3.3 在 Dify 中导入云端模型

登录 Dify → 左侧「集成 」→「模型供应商」:

搜索并安装你要的模型(通义千问 / 深度求索)→ 点击「配置 / 添加 API 密钥」,弹出表单:

字段 说明
凭据名称 自定义,如 "qwen-test"
API Key 粘贴刚获取的 Key
接入域名 一般api key界面会有说明
使用国际端点 国内选「否」

保存后在「默认模型设置」里把该模型设为默认,云端方式就接好了。

四、方式二:本地部署 Ollama(免费、私密、离线)

4.1 第一步:安装 Ollama

Ollama 是一个开源的本地大模型运行框架,用于在本地部署、运行各类开源 LLM 模型。

下载地址:Download Ollama on macOS,支持 macOS、Linux、Windows:

4.2 第二步:下载模型

打开 Ollama 聊天页面,直接搜索并选择要下载的模型。建议优先选一个小模型 (新手更容易跑起来),比如在搜索框输入 qwen2.5:1.5b:

第一次选完模型后,随便输入一条消息就会自动开始下载:

4.3第三步:在 Dify 中配置 Ollama

左侧选「模型供应商」,在 Dify 市场搜索 Ollama → 安装:

在模型列表找到 Ollama → 「添加模型」,填写配置:

关键参数(基础 URL):

  • Dify 和 Ollama 同一台机器部署 :http://host.docker.internal:11434

  • Dify 和 Ollama 不同机器部署 :http://192.168.x.x(自己的IP):11434

模型名称填你下载的模型(如 qwen2.5:7b),类型选 LLM / 对话。

五、云端 vs 本地:怎么选?

  • 想省事、快速跑通、不介意花几块钱 → 选云端 API(DeepSeek / 通义千问)

  • 想免费、要隐私/离线、电脑配置够 → 选本地 Ollama

  • 电脑配置一般、只是想先了解 → 可以先云端,或本地选小模型(如 qwen2.5:1.5b)

六、小结

接上模型的两种路径:

复制代码
云端:获取 API Key → Dify「集成→模型供应商」配置 → 设默认模型 → 测试
本地:安装 Ollama → 下载模型 → 对话测试 → Dify 配置 Ollama → 测试
相关推荐
万联WANFLOW5 小时前
Kimi K3.1 Pro 接口接入指南:模型选型、费用计算与零数据保留
java·spring boot·python·安全·spring·大模型
情 九6 小时前
Dify 任务提交幂等实战:避免重复点击与网络重试创建重复任务
dify
小七-七牛开发者7 小时前
从 GLM 到 GPT,HarnessPro 如何用 RSI 降低 Agent 成本
ai·大模型·agent·ai coding·harnesspro
还卿一钵无情泪9 小时前
PEFT-Transformers、Unsloth、LLaMA-Factory 微调框架 横向对比
深度学习·大模型·llama·ollama
读完一本书9 小时前
Ollama 跑得慢?我试了 6 个参数,只有 3 个真有用
人工智能·ollama
loulanyue_9 小时前
10000P国产算力破壁上线,算电协同与超智融合打破算力孤岛:高文院士图灵奖得主纵论世界算力网新纪元——读2026世界算力网大会实录
人工智能·大模型·架构设计·高性能计算·算力网络
庵中十三居士10 小时前
用nginx代理DeepSeekHarness挂在域名下特定路径提供访问
运维·nginx·deepseek·harness
xianghongtao011611 小时前
DeepSeek成名之后的路
人工智能·智能体·deepseek·deepseek融资·端脑科技·商业新闻
AI日报派送佬11 小时前
2026年10月21日AI行业日报|DeepSeek开源推理框架DeepInfer,谷歌TorchTPU开源破局TPU生态
人工智能·开源·openai·谷歌·英伟达·deepseek·ai日报
Flynn Liang12 小时前
保姆级|Spring AI 2.0 第一个 Demo:Spring Boot 4 接入大模型(含国内可用方案 + 完整 pom)
人工智能·spring·ollama·springai·deepseek·springai入门·java接入大模型