目录

DeepSeek linux服务器(CentOS)部署命令笔记

Linux(CentOS)+FinalShell+Ollama+远程访问,本地部署deepseek

自备CentOS服务器,并且已经使用FinalShell连接到服务器

一、准备工作

1.更新服务器

复制代码
apt-get update-y

2.下载Ollama

复制代码
curl -fsSL https://ollama.com/install.sh  | sh

3.测试ollama是否安装完成

复制代码
ollama

4.按照正常的命令下载Ollama模型。根据个人服务器硬件配置

复制代码
ollama run deepseek-r1:14b

二、放行端口

复制代码
#放行端口
ufw allow 11434

#查看端口状态
ufw status

三、设置环境变量:

1.编辑ollama.service

复制代码
vim /etc/systemd/system/ollama.service

2.在[Service]部分,Environment下面添加:

复制代码
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"

使用箭头移动光标到Environment下方,

键盘[i]键,进入编辑模式(左下角显示INSERT代表进入编辑模式)

输入以上两个配置

按[ESC]键,退出编辑模式

输入:wq保存并退出

3.重新加载systemd并重启Ollama

复制代码
systemctl deamon-reload
systemctl restart ollama

查看Ollama运行状态

复制代码
systemctl status ollama
按【q】退出

查看显存占用状态

复制代码
#英伟达
nvidia-smi

#其他软件
apt-get install nvtop -y
nvtop

四、使用Ollama

使用PageAssist、ChatBox、CherryStudio、AnythingLLM等方式连接即可

本文是转载文章,点击查看原文
如有侵权,请联系 xyy@jishuzhan.net 删除
相关推荐
杰克崔4 分钟前
关于stac和clac的进一步细节及EFLAGS
linux·运维·服务器
hxung1 小时前
Linux 命令学习记录
linux·运维·学习
yi个名字1 小时前
Linux进程基础知识
linux·运维·服务器
IT小饕餮2 小时前
linux /bin/bash丢失修复
linux·运维·bash
小袁搬码3 小时前
银河麒麟V10SP3Server中离线安装Docker引擎与docker-compose
linux·docker·容器·kylin·银河麒麟v10·离线安装docker
qq7590353663 小时前
2025 linux系统资源使用率统计docker容器使用率统计docker监控软件Weave Scope安装weavescope
linux·运维·docker
jiubai_90003 小时前
nvm踩坑记录--nvm 切换node版本 node -v却不是切换的版本
linux·编辑器·vim
GIS思维3 小时前
AI辅助编程!DeepSeek vs ChatGPT- AI在地图网络分析(最佳路径)上的应用
人工智能·python·chatgpt·arcgis pro·deepseek
破刺不会编程3 小时前
Linux中的权限
linux·运维·服务器·开发语言
zlbcdn4 小时前
C#通过API接口返回流式响应内容---分块编码方式
deepseek·流式响应api