DeepSeek linux服务器(CentOS)部署命令笔记

Linux(CentOS)+FinalShell+Ollama+远程访问,本地部署deepseek

自备CentOS服务器,并且已经使用FinalShell连接到服务器

一、准备工作

1.更新服务器

复制代码
apt-get update-y

2.下载Ollama

复制代码
curl -fsSL https://ollama.com/install.sh  | sh

3.测试ollama是否安装完成

复制代码
ollama

4.按照正常的命令下载Ollama模型。根据个人服务器硬件配置

复制代码
ollama run deepseek-r1:14b

二、放行端口

复制代码
#放行端口
ufw allow 11434

#查看端口状态
ufw status

三、设置环境变量:

1.编辑ollama.service

复制代码
vim /etc/systemd/system/ollama.service

2.在[Service]部分,Environment下面添加:

复制代码
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"

使用箭头移动光标到Environment下方,

键盘[i]键,进入编辑模式(左下角显示INSERT代表进入编辑模式)

输入以上两个配置

按[ESC]键,退出编辑模式

输入:wq保存并退出

3.重新加载systemd并重启Ollama

复制代码
systemctl deamon-reload
systemctl restart ollama

查看Ollama运行状态

复制代码
systemctl status ollama
按【q】退出

查看显存占用状态

复制代码
#英伟达
nvidia-smi

#其他软件
apt-get install nvtop -y
nvtop

四、使用Ollama

使用PageAssist、ChatBox、CherryStudio、AnythingLLM等方式连接即可

相关推荐
supermfc31 分钟前
Docker方式离线部署OpenWebUI
后端·deepseek
还是鼠鼠1 小时前
Node.js Session 原理简单介绍 + 示例代码
linux·javascript·vscode·node.js·编辑器·vim·express
恶霸不委屈1 小时前
情感科技新纪元!基于DeepSeek的智能情绪价值引擎设计与实践!!!
人工智能·python·科技·deepseek
offerwa1 小时前
Linux命令行精通:提高工作效率的终端技能
linux
mosaicwang1 小时前
OpenSSH版本的重大升级 :OpenSSH 10
linux
arriettyandray2 小时前
Qt/C++学习系列之QGroupBox控件的简单使用
ai编程·deepseek
奔驰的小野码2 小时前
本地实现Rtsp视频流推送
java·linux·后端·ffmpeg
正点原子2 小时前
【正点原子STM32MP257连载】第四章 ATK-DLMP257B功能测试——USB测试 #USB HOST #USB 鼠标
linux·功能测试·stm32·嵌入式硬件·计算机外设·usb
淋过很多场雨3 小时前
现代c++获取linux系统版本号
linux·开发语言·c++
运维老司机3 小时前
FRP内网穿透代理两个web页面(多端口内网穿透)
linux·frp·内网穿透