DeepSeek linux服务器(CentOS)部署命令笔记

Linux(CentOS)+FinalShell+Ollama+远程访问,本地部署deepseek

自备CentOS服务器,并且已经使用FinalShell连接到服务器

一、准备工作

1.更新服务器

复制代码
apt-get update-y

2.下载Ollama

复制代码
curl -fsSL https://ollama.com/install.sh  | sh

3.测试ollama是否安装完成

复制代码
ollama

4.按照正常的命令下载Ollama模型。根据个人服务器硬件配置

复制代码
ollama run deepseek-r1:14b

二、放行端口

复制代码
#放行端口
ufw allow 11434

#查看端口状态
ufw status

三、设置环境变量:

1.编辑ollama.service

复制代码
vim /etc/systemd/system/ollama.service

2.在[Service]部分,Environment下面添加:

复制代码
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"

使用箭头移动光标到Environment下方,

键盘[i]键,进入编辑模式(左下角显示INSERT代表进入编辑模式)

输入以上两个配置

按[ESC]键,退出编辑模式

输入:wq保存并退出

3.重新加载systemd并重启Ollama

复制代码
systemctl deamon-reload
systemctl restart ollama

查看Ollama运行状态

复制代码
systemctl status ollama
按【q】退出

查看显存占用状态

复制代码
#英伟达
nvidia-smi

#其他软件
apt-get install nvtop -y
nvtop

四、使用Ollama

使用PageAssist、ChatBox、CherryStudio、AnythingLLM等方式连接即可

相关推荐
宿辞1923 小时前
LINUX中MYSQL的使用
android·linux·mysql
没有口袋啦4 小时前
《k8s 部署》常见报错类型1
linux·容器·kubernetes
巨龙之路4 小时前
什么是Ubuntu的Multipass
linux·运维·ubuntu
t198751284 小时前
使用zip命令在Ubuntu 20.04上进行文件夹压缩
linux·数据库·ubuntu
PleaseBrave4 小时前
记录:安装VMware、Ubuntu、ROS2
linux·ubuntu·vmware·ros2
等风来不如迎风去4 小时前
【ubuntu24.04】在 Ubuntu 上安装 `.deb` 包、软件
linux·运维·ubuntu
—Qeyser4 小时前
让 Deepseek 写电器电费计算器(html版本)
前端·javascript·css·html·deepseek
楼台的春风4 小时前
【Linux驱动开发 ---- 2.1_深入理解 Linux 内核架构】
linux·c++·人工智能·驱动开发·嵌入式硬件·ubuntu·架构
筑梦之路6 小时前
ubuntu 22.04设置时区和24小时制显示——筑梦之路
linux·运维·ubuntu
程序设计实验室6 小时前
个人数据保全计划:如何安全地备份数据
linux·个人数据保全计划