Ubuntu22.04 配置deepseek知识库

文章目录

      • [安装 docker](#安装 docker)
      • [配置 dify](#配置 dify)
      • [配置 ollama](#配置 ollama)
      • 创建大模型

安装 docker

  • 更新系统:

    bash 复制代码
    sudo apt update
    sudo apt upgrade -y
  • 安装必要的依赖:

    bash 复制代码
    sudo apt install apt-transport-https ca-certificates curl software-properties-common -y
  • 添加 Docker 的官方 GPG 密钥:

    bash 复制代码
    curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /usr/share/keyrings/docker-archive-keyring.gpg
  • 添加 Docke r的 APT 源:

    bash 复制代码
    echo "deb [arch=amd64 signed-by=/usr/share/keyrings/docker-archive-keyring.gpg] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
  • 更新软件包并安装 docker :

    bash 复制代码
    sudo apt-get update
    sudo apt-get install docker-ce docker-ce-cli containerd.io
  • 启动并验证 docker :

    bash 复制代码
    sudo systemctl start docker  # 启动 Docker 服务
    sudo systemctl enable docker  # 设置 Docker 服务为开机自启动
    sudo systemctl status docker # 检查 Docker 守护进程状态
  • 调整镜像源:

    bash 复制代码
    sudo vim /etc/docker/daemon.json

    配置如下地址:

    bash 复制代码
    {
    "registry-mirrors": [
    "https://2a6bf1988cb6428c877f723ec7530dbc.mirror.swr.myhuaweicloud.com",
    "https://docker.m.daocloud.io",
    "https://hub-mirror.c.163.com",
    "https://mirror.baidubce.com",
    "https://your_preferred_mirror",
    "https://dockerhub.icu",
    "https://docker.registry.cyou",
    "https://docker-cf.registry.cyou",
    "https://dockercf.jsdelivr.fyi",
    "https://docker.jsdelivr.fyi",
    "https://dockertest.jsdelivr.fyi",
    "https://mirror.aliyuncs.com",
    "https://dockerproxy.com",
    "https://mirror.baidubce.com",
    "https://docker.m.daocloud.io",
    "https://docker.nju.edu.cn",
    "https://docker.mirrors.sjtug.sjtu.edu.cn",
    "https://docker.mirrors.ustc.edu.cn",
    "https://mirror.iscas.ac.cn",
    "https://docker.rainbond.cc"
    ]
    }

    重新加载配置文件及 docker 服务:

    bash 复制代码
    systemctl daemon-reload
    systemctl restart docker
  • 拉取镜像测试:

    bash 复制代码
    sudo docker pull hello-world
    sudo docker run hello-world
  • 加入当前用户进 docker 组:

    bash 复制代码
    sudo usermod -aG docker $USER

    这里的 $USER 是当前登录的用户名。

配置 dify

  • 拉取 dify:

    bash 复制代码
    git clone https://github.com/langgenius/dify.git
  • 进入 Dify 源代码的 Docker 目录,启动Dify:

    bash 复制代码
    cd dify/docker
    cp .env.example .env
    sudo docker compose up -d
  • 查看当前运行的 docker 服务:

    bash 复制代码
    docker ps

配置 ollama

  • 安装 ollama:

    bash 复制代码
    curl -fsSL https://ollama.com/install.sh | sh
  • 启动服务:

    bash 复制代码
    sudo systemctl daemon-reload
    sudo systemctl enable ollama
    sudo systemctl start ollama
  • 配置环境变量:

    bash 复制代码
    sudo vim /etc/systemd/system/ollama.service

    [Service] 部分下添加一行 Environment

    bash 复制代码
    [Service]
    Environment="OLLAMA_HOST=0.0.0.0"

    重载 systemd 并重启 Ollama :

    bash 复制代码
    systemctl daemon-reload 
    systemctl restart ollamai
  • 拉取大模型及服务:

    bash 复制代码
    ollama run deepseek-r1:7b
    ollama pull bge-large
  • 配置 ollama:
    在 Dify 主界面,点击右上角个人名字圆圈,点击设置------模型供应商------Ollama:

    若 Dify 为 docker 部署,建议填写局域网 IP 地址或 docker 宿主机 IP 地址;若为本地源码部署,可填写 http://localhost:11434
    当模型支持多模态时,可勾选 Vision

  • 为知识库添加 bge-large 模型:

创建大模型

回到主页面当中,点击创建空白应用

相关推荐
JAVA面经实录9177 小时前
Linux 常用命令完整知识体系
java·linux·开发语言·汇编
wumingxiaoyao10 小时前
从 0 开始学 AI:第 2 课,AI、机器学习、深度学习和大模型是什么关系?
人工智能·深度学习·机器学习·ai·大模型·llm
weixin_4000056010 小时前
Vision-Language-Action:LMDrive双损失函数训练模块与 LangAuto 基准评测框架
人工智能·深度学习·算法·机器学习·自动驾驶
bandaoyu10 小时前
大模型训练并行技术理解-DP/TP/PP/SP/EP
深度学习
酱学编程10 小时前
【从零到一实现一个 AI Agent 框架 · 第四篇】04. 任务规划:拆解复杂目标 -
服务器·网络·数据库·人工智能
手写码匠10 小时前
手写 AI 上下文压缩系统:从零实现 Prompt 压缩与选择性上下文管理
人工智能·深度学习·算法·aigc
艾莉丝努力练剑12 小时前
OpenCode AI 编程:Ubuntu 24.04 环境安装与使用指南
linux·服务器·网络·人工智能·tcp/ip·ubuntu
崇山峻岭之间13 小时前
Keil5输出hex转换为bin的设置
linux·运维·服务器
谷雪_65813 小时前
Linux 网络命名空间:从内核原理到企业级容器网络架构全景实战
linux·网络·架构
大鱼>14 小时前
推荐系统原理与实现:协同过滤/内容推荐/深度学习
人工智能·深度学习