【AI工具】本地部署 Dify + Ollama 实现无限 Token 智能体搭建


前言

Dify 是一个开源的智能体搭建平台,支持快速构建 AI 应用。本教程将详细介绍如何将 Dify 运行在本地,并结合 Ollama 使用本地大模型,实现无限 Token 的 AI 开发体验。

为什么选择本地部署?

  • 无限 Token:使用本地模型,不消耗 API 额度
  • 数据安全:所有数据都在本地,不上传云端
  • 灵活定制:支持自定义模型和行为
  • 离线可用:无需网络即可使用

⚠️ 系统要求:macOS 版本需大于 14.0

一、环境准备

1.1 下载 Docker

Docker 是容器化平台,用于运行 Dify 的各个服务组件。

下载地址https://www.docker.com

1.2 下载 Ollama

Ollama 是本地大模型运行平台,支持一键部署和运行各种开源大模型。

下载地址https://ollama.com

1.3 下载模型

安装完 Ollama 后,可以在官网的模型广场选择需要的模型,或者直接在 Ollama 聊天界面选择。

模型广场https://ollama.com/models

二、Dify 项目部署

2.1 拉取 Dify 项目

本教程使用 Gitee 镜像源拉取,速度更快:

bash 复制代码
git clone https://gitee.com/dify_ai/dify.git

拉取成功的日志:

bash 复制代码
Cloning into 'dify'...
remote: Enumerating objects: 496996, done.
remote: Counting objects: 100% (143449/143449), done.
remote: Compressing objects: 100% (70082/70082), done.
remote: Total 496996 (delta 109997), reused 103322 (delta 70904), pack-reused 353547 (from 1)
Receiving objects: 100% (496996/496996), 285.89 MiB | 3.30 MiB/s, done.
Updating files: 100% (11081/11081), done.

2.2 配置环境文件

进入 Dify 目录,复制环境配置文件:

bash 复制代码
cd dify
cp .env.example .env

2.3 启动 Docker 容器

进入 docker 文件夹,启动所有服务:

bash 复制代码
cd docker
docker compose up -d

💡 提示:如果首次启动失败,多尝试几次即可。

2.4 验证部署结果

打开 Docker Desktop,检查容器运行状态:

2.5 配置 Docker 镜像加速(可选)

为了后续下载更流畅,建议配置国内镜像加速器:

三、Dify 基础配置

3.1 创建账号

浏览器访问 Dify:http://localhost/signin

使用邮箱和密码注册账号(本地数据,账号信息可自定义)。

3.2 配置 Ollama 模型

  1. 点击右上角头像 → 设置
  1. 前往插件市场,搜索并安装 Ollama 插件

Ollama 插件地址:https://marketplace.dify.ai/search/all?q=ollama

  1. 安装完成后,在设置中添加模型
  1. 模型配置参考

四、创建第一个智能体

4.1 进入工作室

回到 Dify 首页,点击创建空白应用

4.2 智能体配置

进入智能体创建页面,可根据需求配置:

  • 🤖 模型选择:选择已配置的 Ollama 模型
  • 💬 对话设定:设置智能体角色和行为
  • 🔧 工具调用:配置需要的工具插件
  • 📝 提示词:编写系统提示词

五、常见问题

Q1:Docker 容器启动失败?

bash 复制代码
# 查看容器日志
docker logs <container_name>

# 重启所有容器
docker compose restart

Q2:Ollama 模型下载慢?

bash 复制代码
# 使用代理或镜像源
export OLLAMA_HOST=https://your-proxy.com

Q3:无法连接 Ollama?

确保 Ollama 服务正在运行:

bash 复制代码
# 检查 Ollama 状态
curl http://localhost:11434

六、总结

通过本教程,你已经成功在本地部署了 Dify + Ollama 环境,可以:

  • 🎯 创建各种类型的 AI 智能体
  • 💰 节省 API 调用成本
  • 🔒 保证数据隐私安全
  • 🚀 快速迭代 AI 应用

相关资源

资源 链接
Dify 官网 https://dify.ai
Ollama 官网 https://ollama.com
Dify GitHub https://github.com/langgenius/dify
Ollama 模型库 https://ollama.com/library

📢 作者 :VON

🔗 博客https://blog.csdn.net/2302_80329073

如果对你有帮助,欢迎点赞、收藏!

相关推荐
LaughingZhu7 小时前
Product Hunt 每日热榜 | 2026-06-09
人工智能·经验分享·深度学习·神经网络·产品运营
羊羊小栈7 小时前
基于知识图谱(Neo4j)和大语言模型(LLM)的图检索增强(GraphRAG)的数控车床主轴系统故障诊断智能问答系统
人工智能·语言模型·毕业设计·知识图谱·创业创新·neo4j·大作业
人月神话-Lee7 小时前
【WWDC】Core AI:iOS 端侧大模型新纪元
人工智能·ios·ai·swift·wwdc·core ai
一锅炖出任易仙7 小时前
创梦汤锅学习日记day29
学习·ai·ue5·游戏引擎
threelab7 小时前
Three.js 几何图形变换 | 三维可视化 / AI 提示词
开发语言·前端·javascript·人工智能·3d·着色器
MartinYeung57 小时前
[论文学习]无资料选择性遗忘:透过模型反演实现 LLM 的资料免隐私保护(DFSU)
学习
道友可好7 小时前
写给 AI 的入职手册,AGENTS.md
前端·人工智能·后端
碳基硅坊7 小时前
NVIDIA RTX Spark:个人电脑的重新定义
人工智能·rtx spark
刘大猫.7 小时前
宇树科技回应联合英伟达开发“H2+”人形机器人,预计今年下半年正式亮相
人工智能·科技·机器学习·ai·chatgpt·机器人·大模型
Xd聊架构7 小时前
为什么 OpenClaw 和 Claude Code 都使用 Node.js
node.js·agent·智能体·claudecode·openclaw