AGI 之 【Dify】 之 使用 Docker 在 Windows 端本地部署 Dify 大语言模型（LLM）应用开发平台

仙魁XAN2024-10-21 16:32

AGI 之 【Dify】 之 使用 Docker 在 Windows 端本地部署 Dify 大语言模型（LLM）应用开发平台

目录

[AGI 之 【Dify】 之 使用 Docker 在 Windows 端本地部署 Dify 大语言模型（LLM）应用开发平台](#AGI 之 【Dify】 之 使用 Docker 在 Windows 端本地部署 Dify 大语言模型（LLM）应用开发平台)

一、简单介绍

[二、Docker 下载安装](#二、Docker 下载安装)

[三、Dify 下载安装，及部署](#三、Dify 下载安装，及部署)

附录：一些报错问题处理

[一、启动容器报错 Get "https://registry-1.docker.io/v2/": net/http: request canceled](#一、启动容器报错 Get "https://registry-1.docker.io/v2/": net/http: request canceled)

[二、docker compose up -d 的时候，docker-db-1 总是重启 Restarting，无法正常 Running](#二、docker compose up -d 的时候，docker-db-1 总是重启 Restarting，无法正常 Running)

一、简单介绍

AGI，即通用人工智能（Artificial General Intelligence），是一种具备人类智能水平的人工智能系统。它不仅能够执行特定的任务，而且能够理解、学习和应用知识于广泛的问题解决中，具有较高的自主性和适应性。AGI的能力包括但不限于自我学习、自我改进、自我调整，并能在没有人为干预的情况下解决各种复杂问题。

Dify是一个开源的大语言模型（LLM）应用开发平台，它旨在简化和加速生成式 AI 应用的创建和部署。这个平台结合了后端即服务（Backend as Service, BaaS）和 LLMOps 的理念，为开发者提供了一个用户友好的界面和一系列强大的工具，使他们能够快速搭建生产级的 AI 应用。

Dify 的核心功能包括：

  1. 低代码/无代码开发：通过可视化的方式允许开发者轻松定义 Prompt、上下文和插件等，无需深入底层技术细节。
  2. 模块化设计：采用模块化的设计，每个模块都有清晰的功能和接口，可以根据需求选择性地使用。
  3. 丰富的功能组件：包括 AI 工作流、RAG 管道、Agent、模型管理、可观测性功能等，帮助开发者从原型到生产的全过程。
  4. 支持多种大语言模型：已支持 OpenAI GPT 系列等模型，并计划进一步扩展。
  5. 数据处理和特征工程工具：提供了数据清洗、特征选择、特征变换等功能，帮助开发者更好地准备数据。
  6. 集成外部知识源：允许自定义 API 接入外部知识源，让大型语言模型深入理解企业知识和业务。

Dify 提供了四种基于 LLM 构建的应用程序，可以针对不同的应用场景和需求进行优化和定制，包括聊天助手、文本生成、智能代理和工作流程。此外，Dify 还支持从 Notion 导入数据，并设置同步，使得数据在 Notion 更新后便自动同步到 Dify。Dify 中存在知识库数据集的单独 API，这与他的服务 API 不同，可以单独使用数据集的 API。

Dify 适合各种技术背景的开发者使用，即使是没有编程基础的用户也能快速上手并参与到 AI 应用的定义和数据运营过程中。作为一个开源项目，Dify 在 GitHub 上有活跃的社区支持，鼓励用户贡献和分享经验。

Docker 是一个开源的应用容器引擎，它允许开发者打包他们的应用以及应用的依赖包到一个可移植的容器中，然后发布到任何流行的 Linux 机器上，也可以实现虚拟化。容器是完全使用沙箱机制，相互之间不会有任何接口。

Docker 的主要特点包括：

  1. 轻量级：Docker 容器与其他虚拟化技术相比，占用的资源更少，启动速度更快。

  2. 可移植性：Docker 容器可以在不同的机器、数据中心或云服务提供商之间轻松移动。

  3. 环境一致性：Docker 确保应用在不同环境之间具有一致性，从而减少了"在我机器上可以运行"的问题。

  4. 快速部署：Docker 容器的启动时间通常只需几秒钟，这使得部署应用变得更加迅速。

  5. 微服务架构：Docker 容器非常适合微服务架构，每个服务可以独立运行在自己的容器中。

  6. 版本控制和团队协作：Docker 容器可以与现代的 DevOps 工具链紧密结合，支持持续集成和持续部署（CI/CD）。

  7. 隔离性：每个容器都是相互隔离的，运行在自己的环境中，拥有自己的文件系统。

  8. 安全性：容器提供了一个额外的安全层，因为它们运行在用户空间，并且可以利用 Linux 内核的安全特性。

Docker 使用客户端-服务器架构，使用 Docker 守护进程来管理容器。Docker 客户端与守护进程通信，而守护进程负责构建、运行和分发容器。用户可以通过命令行接口（CLI）、Docker Compose（用于定义和运行多容器 Docker 应用的工具）或图形用户界面（GUI）与 Docker 交互。

注意 Dify Docker部署有部署要求，不过目前一般的电脑都符合要求：

二、Docker 下载安装

Docker Windows 版本下载地址：Windows | Docker Docs

为了在 Windows 系统上部署 Dify，你需要先安装 Docker Desktop。

Windows 中的 Docker 可以依赖于两种环境：Hyper-V（虚拟环境）和 WSL（Windows Linux 子系统）。

其中，利用 WSL 环境的部署方案，这需要你从 Microsoft Store 下载一个 Linux 发行版。

如果你的电脑无法使用 Microsoft Store 下载，比如生产环境电脑，那么可以选择使用基于 Hyper-V 的部署方法。启用 Hyper-V 环境的两种方法，下面介绍启用 Hyper-V 环境的方法，任选其一操作即可：

1、以管理员权限打开 PowerShell 控制台

2、输入如下命令即可

bash 复制代码 
Enable-WindowsOptionalFeature -Online -FeatureName Microsoft-Hyper-V -All

3、或者使用 "启用或关闭 Windows 功能"，找到并勾选"Hyper-V"，然后点击"确定"按钮以启用该功能

4、开启 Hyper-V 功能，会提示重启电脑，这时候重启电脑即可

5、下载 Docker ，根据需要选择下载即可

6、下载好Docker ，双击安装即可

值得注意的是如果使用 Hyper-V ，则需要取消勾选第一项

三、Dify 下载安装，及部署

Dify 官网：Dify.AI · 生成式 AI 应用创新引擎

Dify 进行 Docker Compose 部署可以参考：https://docs.dify.ai/zh-hans/getting-started/install-self-hosted/docker-compose

1、进入 Dify 官网，如图点击进入 Github ，克隆或者下载代码

2、下载好后，Shift + 鼠标右键，打开 Powershell

3、在 Powershell 中，进入 Dify 源代码的 Docker 目录 ，复制环境配置文件

命:1：cd .\docker\

命令2：cp .env.example .env

4、这里就要启动 Docker，确定当前的 Docker 版本

根据你系统上的 Docker Compose 版本，选择合适的命令来启动容器。

你可以通过命令：docker compose version 检查版本

  • 如果版本是 Docker Compose V2，使用以下命令：docker compose up -d
  • 如果版本是 Docker Compose V1，使用以下命令：docker-compose up -d

5、这里是 V2 版本，使用 docker compose up -d 命令来启动容器

运行命令后，开始会拉取数据，然后会看到类似以下的输出，显示所有容器的状态和端口映射：

6、运行完之后，输入 命令可以看到运行的服务

命令：docker compose ps

7、docker 界面也运行正常

8、在浏览器上，输入 http://localhost/install ，这时候也会正常显示设置管理员账号界面

输入信息，配置登录账号

9、在浏览器上，输入 http://localhost/signin，这时候也会正常显示登陆界面，登陆即可

10、登录之后，在工作室创建你的应用，开始玩转 Dify 吧

附录：一些报错问题处理

一、启动容器报错 Get "https://registry-1.docker.io/v2/": net/http: request canceled

Error response from daemon: Get "https://registry-1.docker.io/v2/": net/http: request canceled while waiting for connection (Client.Timeout exceeded while awaiting headers)

分析可能原因：

1）这个是因为源的问题，我们可以使用国内的镜像源。具体操作为：找到C:\Users\Administrator.docker\daemon.json（或者C:\Users\你的用户名.docker\daemon.json）文件

（如果.docker文件下没有daemon.json文件，就自己手动新增）

2）然后添加以下内容：

java 复制代码 
{
    "registry-mirrors": [
            "https://docker.211678.top",
            "https://docker.1panel.live",
            "https://hub.rat.dev",
            "https://docker.m.daocloud.io",
            "https://do.nark.eu.org",
            "https://dockerpull.com",
            "https://dockerproxy.cn",
            "https://docker.awsl9527.cn"
      ]
}

3）保存后重启docker，重启操作为在打开docker Desktop的前提下，点击电脑右小角的小图标，点击"Restart "，版本不同可能显示不同。

二、docker compose up -d 的时候，docker-db-1 总是重启 Restarting，无法正常 Running

此时 http://localhost/install 界面也一直在转圈，网页一直加载中

docker-db-1 相关日志如下：

java 复制代码 
running bootstrap script ... 2024-10-14T04:20:59.355405500Z The files belonging to this database system will be owned by user "postgres".
2024-10-14 12:20:59 This user must also own the server process.
2024-10-14 12:20:59 
2024-10-14 12:20:59 The database cluster will be initialized with locale "en_US.utf8".
2024-10-14 12:20:59 The default database encoding has accordingly been set to "UTF8".
2024-10-14 12:20:59 The default text search configuration will be set to "english".
2024-10-14 12:20:59 
2024-10-14 12:20:59 Data page checksums are disabled.
2024-10-14 12:20:59 
2024-10-14 12:20:59 fixing permissions on existing directory /var/lib/postgresql/data/pgdata ... ok
2024-10-14 12:19:58 2024-10-14 04:19:58.620 UTC [63] FATAL:  data directory "/var/lib/postgresql/data/pgdata" has invalid permissions
2024-10-14 12:19:58 2024-10-14 04:19:58.620 UTC [63] DETAIL:  Permissions should be u=rwx (0700) or u=rwx,g=rx (0750).
2024-10-14 12:19:58 child process exited with exit code 1
2024-10-14 12:19:58 initdb: removing contents of data directory "/var/lib/postgresql/data/pgdata"
2024-10-14 12:20:59 creating subdirectories ... ok
2024-10-14 12:20:59 selecting dynamic shared memory implementation ... posix
2024-10-14 12:20:59 selecting default max_connections ... 20
2024-10-14 12:21:00 selecting default shared_buffers ... 400kB
2024-10-14 12:21:00 selecting default time zone ... UTC
2024-10-14 12:21:00 creating configuration files ... ok
2024-10-14 12:21:00 2024-10-14 04:21:00.539 UTC [63] FATAL:  data directory "/var/lib/postgresql/data/pgdata" has invalid permissions
2024-10-14 12:21:00 2024-10-14 04:21:00.539 UTC [63] DETAIL:  Permissions should be u=rwx (0700) or u=rwx,g=rx (0750).
2024-10-14 12:21:00 child process exited with exit code 1
2024-10-14 12:21:00 initdb: removing contents of data directory "/var/lib/postgresql/data/pgdata"
2024-10-14 12:21:00 running bootstrap script ...

解决方式之一如下

1、在 dify/docker 文件夹下找到 docker-compose.yaml

2、找到文件夹中的 volumes/db/data ，替换为 postgres-data，如下图

（不同版本，内容可能有些不一样）

3、最后在末尾，添加上 postgres-data

4、保存上面修改，然后在 powershell down 一下 容器

命令：docker compose down -v

5、之后，再次重新启动一下容器

命令：docker compose up

6、docker-db-1 运行正常了

相关推荐
视觉语言导航14 分钟前
arXiv-2024 | STMR：语义拓扑度量表示引导的大模型推理无人机视觉语言导航
人工智能·具身智能
谷莠子90525 分钟前
hadoop实验之创业有感
hadoop·docker·团队开发
G丶AEOM28 分钟前
Docker快速入门
docker
咯咯咯伦1 小时前
AI神了，一键视频下载+翻译+配音+字幕！（整合包）
人工智能
大熊程序猿1 小时前
airflow docker 安装
运维·docker·容器
愚者大大1 小时前
优化算法（SGD，RMSProp，Ada）
人工智能·算法·机器学习
人类群星闪耀时1 小时前
基于AI的网络流量分析：构建智能化运维体系
运维·人工智能
dundunmm2 小时前
数据挖掘之认识数据
人工智能·机器学习·信息可视化·数据挖掘
FBI78098045942 小时前
API接口在电商行业中的创新应用与趋势
运维·网络·人工智能·爬虫·python
热门推荐
01SQL 主从数据库实时备份02YOLOv8训练好模型后，追加轮数继续训练、或者提前终止训练，缩减训练轮数03玄机平台应急响应—webshell查杀04VSCode插件 —— Cody AI （免费AI助手！）05HCIA-datacom数通题库和录播视频资料06Docker 夺命连环 15 问07组基轨迹建模 GBTM的介绍与实现（Stata 或 R）08校验 GPT-4 真实性的三个经典问题：快速区分 GPT-3.5 与 GPT-4，并提供免费测试网站09(欧拉)openEuler系统添加网卡文件配置流程、(欧拉)openEuler系统手动配置ipv6地址流程、(欧拉)openEuler系统网络管理说明10【华东南AWDP】第十七届全国大学生信息安全竞赛 CISCN 2024 创新实践能力赛区域赛 部分题解WP