DeepSeek linux服务器(CentOS)部署命令笔记

Linux(CentOS)+FinalShell+Ollama+远程访问,本地部署deepseek

自备CentOS服务器,并且已经使用FinalShell连接到服务器

一、准备工作

1.更新服务器

复制代码
apt-get update-y

2.下载Ollama

复制代码
curl -fsSL https://ollama.com/install.sh  | sh

3.测试ollama是否安装完成

复制代码
ollama

4.按照正常的命令下载Ollama模型。根据个人服务器硬件配置

复制代码
ollama run deepseek-r1:14b

二、放行端口

复制代码
#放行端口
ufw allow 11434

#查看端口状态
ufw status

三、设置环境变量:

1.编辑ollama.service

复制代码
vim /etc/systemd/system/ollama.service

2.在[Service]部分,Environment下面添加:

复制代码
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"

使用箭头移动光标到Environment下方,

键盘[i]键,进入编辑模式(左下角显示INSERT代表进入编辑模式)

输入以上两个配置

按[ESC]键,退出编辑模式

输入:wq保存并退出

3.重新加载systemd并重启Ollama

复制代码
systemctl deamon-reload
systemctl restart ollama

查看Ollama运行状态

复制代码
systemctl status ollama
按【q】退出

查看显存占用状态

复制代码
#英伟达
nvidia-smi

#其他软件
apt-get install nvtop -y
nvtop

四、使用Ollama

使用PageAssist、ChatBox、CherryStudio、AnythingLLM等方式连接即可

相关推荐
shylyly_29 分钟前
Linux-> TCP 编程1
linux·网络·tcp/ip·echo·tcp编程
abcooxj1 小时前
Linux I2C 子系统
linux
无敌最俊朗@1 小时前
Qt 多线程与并发编程详解
linux·开发语言·qt
DrugOne1 小时前
Amber24 安装指南:Ubuntu 22.04 + CUDA 12.4 环境
linux·运维·ubuntu·drugone
荣光波比2 小时前
RabbitMQ高可用集群搭建教程(基于CentOS 7.9 + Erlang 23.2.7 + RabbitMQ 3.8.8)
运维·centos·rabbitmq·erlang
至善迎风2 小时前
Ubuntu 24.04 SSH 多端口监听与 ssh.socket 配置详解
linux·ubuntu·ssh
wdfk_prog2 小时前
[Linux]学习笔记系列 -- lib/timerqueue.c Timer Queue Management 高精度定时器的有序数据结构
linux·c语言·数据结构·笔记·单片机·学习·安全
大聪明-PLUS3 小时前
如何从 USB 闪存驱动器安装 Debian Linux
linux·嵌入式·arm·smarc
报错小能手3 小时前
linux学习笔记(18)进程间通讯——共享内存
linux·服务器·前端
第四维度43 小时前
【全志V821_FoxPi】6-2 IMX219 MIPI摄像头适配
linux·ipc·tina·v821·imx219