基于Dify与DeepSeek：零门槛训练自己的专属AI大模型

　　文章转载链接 ：www.51testing.com/html/52/n-7...

　　在人工智能（AI）技术日益普及的今天，训练属于自己的AI大模型不再是遥不可及的梦想。随着DeepSeek R1的发布，其部署成本仅为ChatGPT的十分之一，这一突破让更多企业和个人能够轻松参与AI开发。未来，垂直领域的AI大模型和应用将如雨后春笋般涌现，这无疑是一个巨大的机遇。

　　那么，普通人如何快速上手，打造自己的AI大模型呢？本文将为您详细讲解如何基于Dify和DeepSeek，从零开始训练专属AI模型。

　　一、Ollama：本地运行大模型的利器

　　Ollama是一个基于Go语言开发的开源框架，专门用于本地运行和管理大语言模型（LLM）。我们将使用Ollama来运行DeepSeek大模型，支持CPU和GPU两种环境。

　　1.1 CPU环境部署

　　对于个人开发者或实验用途，CPU环境足以运行DeepSeek R1:7b模型，尽管性能可能稍显不足。以下是部署步骤：

　　docker run -d -v /data/ollama:/root/.ollama -p 11434:11434 --name ollama registry.cn-hangzhou.aliyuncs.com/yilingyi/ollama

　　1.2 GPU环境部署

　　若追求更流畅的性能，建议在GPU环境下运行。以下是以NVIDIA显卡为例的部署流程：

　　1. 安装NVIDIA Container Toolkit

　　配置仓库：

arduino 复制代码

　　curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey  \

　　    | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg  

　　curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list  \

　　    | sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg]  https://#g' \

　　    | sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list  

　　sudo apt-get update

　　安装工具包：

arduino 复制代码

　　sudo apt-get install -y nvidia-container-toolkit

　　2. 配置Docker支持GPU

ini 复制代码

　　sudo nvidia-ctk runtime configure --runtime=docker 

　　sudo systemctl restart docker

　　3. 运行Ollama

bash 复制代码

　　docker run -d --gpus=all -v /data/ollama:/root/.ollama -p 11434:11434 --name ollama registry.cn

　　二、运行DeepSeek大模型

　　完成Ollama部署后，通过以下指令下载并运行DeepSeek R1:7b模型：

　　docker exec -it ollama ollama run deepseek-r1:7b

　　下载过程可能需要一些时间，但在此期间，我们可以继续部署Dify平台，为后续的AI应用开发做好准备。

　　三、Dify：AI应用开发的得力助手

　　Dify是一款开源的大语言模型（LLM）应用开发平台，结合了后端即服务（Backend as a Service）和LLMOps的理念，帮助开发者快速构建生产级的生成式AI应用。即使是技术小白，也能轻松上手。

　　3.1 安装Docker-Compose V2

bash 复制代码

　　mkdir -p ~/.docker/cli-plugins/

　　curl -SL https://github.com/docker/compose/releases/download/v2.20.2/docker-compose-linux-x86_64  -o ~/.docker/cli-plugins/docker-compose

　　3.2 克隆Dify仓库

bash 复制代码

　　git clone https://github.com/langgenius/dify.git

　　3.3 启动Dify

　　进入Dify的Docker目录：

bash 复制代码

　　cd dify/docker

　　复制环境配置文件：

bash 复制代码

　　cp .env.example  .env

　　启动Docker容器：

复制代码

　　docker compose up -d

　　初始化Dify：

　　在浏览器中访问以下地址，设置您的账号和密码：

arduino 复制代码

　　http://your_server_ip/install

　　四、Dify中配置DeepSeek大模型

　　完成Dify部署后，我们需要在控制台中添加DeepSeek R1:7b大模型。

　　（1）登录Dify控制台，点击右上角的"设置"。

　　（2）在左侧菜单中选择"模型供应商"，添加Ollama配置。

　　（3）创建一个空白应用，选择"Chatflow"类型。

　　（4）在LLM节点中选择"deepseek-r1:7b"模型，设置上下文为用户查询变量sys.query ，在SYSTEM处设置提示词（Prompt），定义模型的处理逻辑。

　　（5）预览无误后，发布应用。

　　五、总结

　　通过本文的教程，已经成功部署了DeepSeek R1:7b大模型，并利用Dify平台创建了专属的AI应用。无论是个人开发者还是企业用户，都可以借助这一技术栈，快速实现AI应用的开发和部署。