服务器上通过ollama部署deepseek

2025年1月下旬,DeepSeek的R1模型发布后的一周内就火了,性能比肩OpenAI的o1模型,且训练成本仅为560万美元,成本远低于openAI,使得英伟达股票大跌。

下面我们来看下如何个人如何部署deepseek-r1模型。

我是用的仙宫云的服务器通过ollama部署的deepseek.

首先我们去ollama官方网站https://ollama.com/

下载ollama

我这里是ubuntu服务器,执行命令

curl -fsSL https://ollama.com/install.sh | sh

安装之后ollama之后,

由于我需要外网访问,改下环境配置

export OLLAMA_HOST=0.0.0.0:11434;

export OLLAMA_ORIGINS= *

再执行ollama serve启动

去ollama上找下deepseek 模型 https://ollama.com/search

deepseek有很多参数的模型可以选择,根据自己的机器选择

我这里是一台4090D,选择了32b的模型

执行ollama run deepseek-r1:32b就可以下载模型,下载完成出现下图这个命令行发送信息的提示就算成功。

测试下效果,好了部署是没问题了,在命令行太不方便了,这里我们用chatbox来配置带有界面的聊天。

下载个chatbox

https://chatboxai.app/zh#download

这里我选择window客户端

配置在仙宫云服务器的域名地址

配置好了之后会自动选择deepseek-r1:32b的模型

测试下效果,问deepseek如何部署,很快就出结果了,聊天框哪里会显示deepseek-r1:32b模型

好了这就是ollama部署的整个deepseek的流程,是不是很简单。

.

相关推荐
坤坤子吖20 分钟前
Linux网络编程:TCP 粘包与半包问题,如何正确处理 TCP 流式数据?
linux·服务器·网络·笔记·网络协议·学习
AI_Gump28 分钟前
Harness篇|DeepSeek Harness 上手机:五条安卓移植路线与 App 内 Linux 拆解
android·linux·人工智能·智能手机·deepseek
萝卜小白1 小时前
深度学习基础面经
人工智能·深度学习
如夏倾城1 小时前
百度文心(容易被忽略的好用AI)使用方式
人工智能·python·百度·语言模型·dubbo
泯泷2 小时前
为什么 RL 比 SFT 更会"举一反三"?
人工智能·llm·agent
上海潭龙东海科技有限公司2 小时前
客运站管控之动态孪生技术方案(新增一屏管控模块
数据仓库·人工智能·算法·重构·动态规划
星恒随风2 小时前
MySQL 从零入门(六):复合查询详解——多表查询、自连接、子查询与 UNION
linux·服务器·数据库·mysql
民乐团扒谱机2 小时前
Agent-Skills 新手入门与实战部署指南
人工智能·ai·agent·skill
无足鸟ICT3 小时前
【RHCA+】IO调度算法
linux·服务器
打工仔折腾 AI3 小时前
Changedetection.io 网页变动监控:Docker 部署、通知配置与公网暴露实践
运维·人工智能·后端·python·docker·容器·性能优化