【deepseek】本地部署+webui访问

背景

最近deepseek很火,但是官网的老是被限流使用,还有就是自己也想着玩一玩,于是准备在自己电脑跑一个

直接附上结果地址mydeepseek

准备工作

windows和linux都可

  • 我这里选择linux,ubuntu系统

安装ollama

  • 看下图,直接复制,在自己电脑终端执行,等待即可
  • 等待下载完成

安装模型

  • 如下图,选择自己电脑能带动的模型直接run,就会下载上
  • 然后就可以在终端与deepseek进行交互了
  • 也可以安装多个模型,相同的操作,使用ollama run deepseek-r1:对应的版本即可

终端使用毕竟不方便,于是将其发布出来使用webui进行使用

  • 我这里选择的open-webui
  • 我这里直接根据官方文档使用docker启动docker run -d --network host -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main,当然网络做了自己的更改,没有使用官网的
  • 这样之后你就可以通过http://localhost:8080进行使用了

发布到公网

下面附上nginx配置ssl配置参考文章

conf 复制代码
 server{
    listen 80;
    server_name deepseek.douwen.top;# 我的公网域名
    listen 443 ssl; # managed by Certbot
    server_name deepseek.douwen.top; # 我的公网域名
    ssl_certificate /etc/letsencrypt/live/deepseek.douwen.top/fullchain.pem; # managed by Certbot 我的自签证书
    ssl_certificate_key /etc/letsencrypt/live/deepseek.douwen.top/privkey.pem; # managed by Certbot  我的自签证书私钥
    include /etc/letsencrypt/options-ssl-nginx.conf; # managed by Certbot 支持ssl的nginx配置
    ssl_dhparam /etc/letsencrypt/ssl-dhparams.pem; # managed by Certbot

    location / {
        proxy_pass http://192.168.3.27:8080;  # 代理到内网服务 open-webui访问地址
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
        proxy_http_version 1.1;
        proxy_set_header Upgrade $http_upgrade;
        proxy_set_header Connection "Upgrade";
        proxy_connect_timeout 30s;  # 连接后端服务器的超时时间
        proxy_send_timeout 60s;     # 发送请求到后端的超时时间
        proxy_read_timeout 120s;    # 等待后端服务器响应的超时时间
    }

}
相关推荐
穷人小水滴4 小时前
在 windows 运行 flatpak 应用 (WSL)
linux·windows·ubuntu
belingud5 小时前
不同模型回答差异的简单探讨
chatgpt·claude·deepseek
mit6.8245 小时前
ubuntu远程桌面很卡怎么解决?
linux·ubuntu·php
morliz子轩17 小时前
基于WSL搭建Ubuntu 22.04.x LTS开发环境
linux·运维·ubuntu
路多辛20 小时前
Debian新一代的APT软件源配置文件格式DEB822详解
linux·运维·ubuntu·debian
Web极客码1 天前
在Ubuntu 22.04上安装远程桌面服务
linux·运维·ubuntu
云道轩1 天前
DeepSeek补全IBM MQ 9.4 REST API 执行命令的PPT
deepseek·ibm mq
Danileaf_Guo2 天前
Ubuntu 18.04快速配置WireGuard互联
linux·运维·服务器·ubuntu
柳鲲鹏2 天前
Ubuntu下载、安装、编译指定版本python
运维·服务器·ubuntu
算家计算2 天前
DeepSeek R2因芯片问题再次延迟发布!千亿级大模型训练的算力之困
人工智能·芯片·deepseek