在Ubuntu上使用Docker部署DeepSeek

在Ubuntu上使用Docker部署DeepSeek,并确保其可以访问公网网址进行对话,可以按照以下步骤进行:

一、安装Docker

更新Ubuntu的软件包索引:

复制代码
sudo apt-get update

安装必要的软件包,这些软件包允许apt通过HTTPS使用存储库:

复制代码
sudo apt-get install \
    apt-transport-https \
    ca-certificates \
    curl \
    gnupg \
    lsb-release

添加Docker的官方GPG密钥:

复制代码
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /usr/share/keyrings/docker-archive-keyring.gpg

设置Docker的稳定版存储库:

复制代码
echo \
  "deb [arch=$(dpkg --print-architecture) signed-by=/usr/share/keyrings/docker-archive-keyring.gpg] https://download.docker.com/linux/ubuntu \
  $(lsb_release -cs) stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null

更新apt软件包索引,并安装Docker Engine:

复制代码
sudo apt-get update
sudo apt-get install docker-ce docker-ce-cli containerd.io docker-compose-plugin

二、安装Ollama(DeepSeek的本地化部署工具)

访问Ollama官网(https://ollama.com),根据操作系统选择相应的安装方法。对于Ubuntu,可以在终端中运行以下命令进行安装:

复制代码
curl -fsSL https://ollama.com/install.sh | sh

安装完成后,验证Ollama是否安装成功:

复制代码
ollama -v

如果显示Ollama的版本信息,则表示安装成功。

三、下载并部署DeepSeek模型

使用Ollama下载DeepSeek模型。在Ollama官网或相关文档中找到DeepSeek模型的下载链接或命令。例如,下载DeepSeek-R1模型:

复制代码
ollama run deepseek-r1:[选择合适的版本,如7b或1.5b等]

下载完成后,可以通过命令行与DeepSeek模型进行交互。如果需要部署一个Web界面来与模型进行对话,可以考虑使用Open WebUI等工具。

四、配置Docker容器以访问公网

运行Docker容器时,需要将容器的端口映射到宿主机的端口上,以便外部用户可以访问。例如,如果DeepSeek的Web界面运行在容器的8080端口上,可以使用以下命令运行容器:

复制代码
docker run -d -p [宿主机端口]:8080 --name deepseek-container [DeepSeek Docker镜像名称]

将[宿主机端口]替换为希望外部用户访问的端口号,[DeepSeek Docker镜像名称]替换为DeepSeek的Docker镜像名称。

确保Ubuntu服务器的防火墙允许外部访问所映射的端口。可以使用ufw(Uncomplicated Firewall)等工具来配置防火墙规则。例如,允许外部访问8080端口:

复制代码
sudo ufw allow 8080/tcp

如果需要,还可以配置域名解析,将域名指向Ubuntu服务器的公网IP地址,以便用户可以通过域名访问DeepSeek的Web界面。

五、访问DeepSeek的Web界面

打开浏览器,输入Ubuntu服务器的公网IP地址和所映射的端口号(如http://[公网IP]:[宿主机端口]),即可访问DeepSeek的Web界面。

在Web界面中,可以输入问题或指令与DeepSeek模型进行对话。

请注意,以上步骤可能因DeepSeek和Ollama的更新而有所变化。在实际操作时,请参考DeepSeek和Ollama的官方文档以获取最新的安装和配置指南。

相关推荐
renhongxia18 小时前
多机器人任务分配的事件触发自适应共识
人工智能·微服务·语言模型·机器人·prompt
汽车仪器仪表相关领域8 小时前
广州文明机电 新能源汽车运行安全性能检验解决方案
人工智能·功能测试·安全·单元测试·汽车·压力测试·可用性测试
大模型备案@虎虎8 小时前
垂直大模型备案vs通用大模型备案
人工智能·大模型备案·aigc合规·生成式人工智能大语言模型备案·大模型备案代办·大模型登记备案·大模型备案流程
大学有意思8 小时前
广西职教高考|教育与体育大类民办大专择校指南
人工智能·机器人
2401_892070981 天前
【Linux C++ 日志系统实战】LogFile 日志文件管理核心:滚动策略、线程安全与方法全解析
linux·c++·日志系统·日志滚动
雪可问春风1 天前
docker环境部署
运维·docker·容器
美酒没故事°1 天前
Open WebUI安装指南。搭建自己的自托管 AI 平台
人工智能·windows·ai
云烟成雨TD1 天前
Spring AI Alibaba 1.x 系列【6】ReactAgent 同步执行 & 流式执行
java·人工智能·spring
lwx9148521 天前
Linux-Shell算术运算
linux·运维·服务器
AI攻城狮1 天前
用 Obsidian CLI + LLM 构建本地 RAG:让你的笔记真正「活」起来
人工智能·云原生·aigc