linux本地部署Qwen3.8 27B

写在前面:本文适合从后往前看,也就是1-2-3。

4 ollama常用命令

参考:https://www.runoob.com/ollama/ollama-commands.html。[菜鸟教程](https://www.runoob.com/ollama/ollama-commands.html)。

【1 经常会用到】

ollama run qwen3.8:27b 【运行模型。如果不存在则自动拉取。】

ollama stop qwen3.8:27b 【运行模型。如果不存在则自动拉取。】

【2 偶尔会用到】

ollama list 【 列出模型。显示本地所有已下载的模型。】

ollama ps 【查看进程。显示当前正在运行的模型及显存占用。】

【3 可能会遇到】

ollama rm 删除模型。移除本地模型释放空间。 ollama rm qwen3.8:27b

ollama cp 复制模型。将现有模型复制,并且起了个新名称(用于测试)。 ollama cp qwen3.8:27b qwen 【后面就可以用ollama run qwen 来启动模型】

bash 复制代码
lwb2@eda:~$ ollama tag qwen3.8:27b qwen
Error: unknown command "tag" for "ollama"
lwb2@eda:~$
lwb2@eda:~$
lwb2@eda:~$ ollama cp qwen3.8:27b qwen
copied 'qwen3.8:27b' to 'qwen'
lwb2@eda:~$ ollama list
NAME           ID              SIZE     MODIFIED
qwen:latest    aaee06c39dcf    17 GB    41 seconds ago
qwen3.8:27b    aaee06c39dcf    17 GB    23 hours ago

3 运行时占用的资源

停止时

2 Linux环境 qwen3.8-27b 本地部署ollama

bash 复制代码
lwb2@eda:~$ curl -fsSL https://ollama.com/install.sh | sh   【准备下载Ollama】
>>> Installing ollama to /usr/local
[sudo] password for lwb2:
lwb2 is not in the sudoers file.  This incident will be reported.
【此处需要提升用户权限,将当前用户加入sudoer列表,可参考教程:
https://blog.csdn.net/qq_38893833/article/details/109029178
】
lwb2@eda:~$ su root
Password:
root@eda:/home/disk2/lwb2# ls -l /etc/sudoers
-r--r----- 1 root root 1730 Jun 14 08:04 /etc/sudoers
root@eda:/home/disk2/lwb2# chmod u+w /etc/sudoers
root@eda:/home/disk2/lwb2# vim /etc/sudoers
【其中用到的VIM修改文本命令:
进入 Vim: vim 文件名
按下 i 键进入 插入模式,屏幕底部会显示 -- INSERT --。
按下 ESC 键返回到 命令模式。
保存并退出: :wq 仅保存
】
root@eda:/home/disk2/lwb2# chmod u-w /etc/sudoers
root@eda:/home/disk2/lwb2# su lwb2  【切换回原来的用户】
lwb2@eda:~$ curl -fsSL https://ollama.com/install.sh | sh  【再次执行】
>>> Installing ollama to /usr/local
[sudo] password for lwb2:
>>> Downloading ollama-linux-amd64.tar.zst        【可以正常下载】
######################################################################## 100.0%
...
>>> NVIDIA GPU installed.

lwb2@eda:~$ ollama run qwen3.8:27b
pulling manifest
pulling manifest
pulling ac3714bfddde: 100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████ ▏ 930 MB/931 MB  3.2 MB/s      0s
pulling f5f1dd8920d4: 100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████ ▏  16 GB/ 16 GB  6.6 MB/s      0s
verifying sha256 digest
writing manifest

Last login: Tue Oct  6 02:37:26 2026 from 172.16.124.135
lwb2@eda:~$ ollama run qwen3.8:27b
>>> 你是谁
Thinking...
用户问"你是谁",这是一个关于我身份的直接问题。根据我的身份设定,我是通义千问(Qwen),由阿里巴巴集团通义实验室自主研发的大语言模型。我应该简洁、自然地回答这个问题。
...done thinking.

我是**通义千问**(Qwen),由阿里巴巴集团通义实验室自主研发的大语言模型。

我可以帮你做很多事情,比如:

- **文字创作**:写作、翻译、润色、摘要等
- **逻辑推理**:数学、科学、代码分析等
- **知识问答**:涵盖广泛的学科和领域
- **代码辅助**:编写、调试、解释代码
- **多模态理解**:分析图片、图表、公式等
- **对话交流**:日常聊天、头脑风暴、角色模拟

有什么我可以帮你的吗?😊

>>> Send a message (/? 
【退出看一下】

lwb2@eda:~$ ollama list
NAME           ID              SIZE     MODIFIED
qwen3.8:27b    aaee06c39dcf    17 GB    8 hours ago

ollama相关命令可参考:https://www.runoob.com/ollama/ollama-commands.html。

1 目前机器容量20261006

目前现状:显存还有70+G,内存还有800+G。地方

14T已经很多了,不知道为什么会占满,所以整理一下:

用到的Linux命令

bash 复制代码
lwb2@eda:~$ df -h  【查看磁盘容量】
Filesystem                         Size  Used Avail Use% Mounted on
tmpfs                               26G  2.9M   26G   1% /run
/dev/mapper/ubuntu--vg-ubuntu--lv   98G   68G   26G  73% /
tmpfs                              126G     0  126G   0% /dev/shm
tmpfs                              5.0M     0  5.0M   0% /run/lock
/dev/sda2                          2.0G  573M  1.3G  32% /boot
/dev/sda1                          1.1G  6.1M  1.1G   1% /boot/efi
/dev/sdb                            15T   14T  224G  99% /home/disk2
...
lwb2@eda:~$ cd /home/disk2
lwb2@eda:/home/disk2$ sudo rm -rf lwb   【清理文件夹】

lwb2@eda:/home/disk2$ ls -l --block-size=M 【查看磁盘占用,以兆为单位】
total 26544M
-rw-rw-r--    1 wyh2 ssz2     886M Sep 16  2025 1.wmv
-rw-rw-r--    1 1019   1020   358M Sep 16  2025 202509161612.mp4
...
lwb2@eda:/home/disk2$ ls -l --block-size=G
...
lwb2@eda:/$ sudo du -ah /home/disk2 | sort -rh | head -10    【排出前十大的文件占用,这个很耗时,所以中止了】
lwb2@eda:/$ sudo du -sh /home/disk2/* 【所有的文件占用】
886M    /home/disk2/1.wmv
...
相关推荐
n112121 小时前
服务器被反复尝试登录之后:fail2ban 加密钥登录的五道加固
运维·服务器·服务器安全·fail2ban·ssh加固
java_logo1 小时前
Docker 部署 DeepSeek Harness:轻松搭建局域网里的 AI Agent 平台
运维·docker·容器·ai agent·deepseek·轩辕镜像·deepseekharness
扶风ff1 小时前
练题簿在线免费刷题:题目导入、章节管理、Excel 与 Word 导出,让题库更好用
学习·小程序·word·excel
lisanmengmeng2 小时前
NRPE 添加命令(四)
linux·运维·服务器
想做小南娘,发现自己是女生喵2 小时前
i.MX6ULL嵌入式Linux入门学习文档
linux·运维·学习
FL16238631292 小时前
Siemens‑Automation‑License‑Manager & SIMATIC‑Automation‑Tool 下载安装教程
运维·服务器
落魄大学生之流水线上谋生计2 小时前
从 Jenkins 小白到企业级交付平台
运维·jenkins
此生决int2 小时前
Linux系列(04)——基础开发工具(上)软件包管理器、vim、gcc/g++
linux·服务器·vim
Huangjin007_2 小时前
【Linux 系统篇(二十六)】文件(三): 深入理解 “一切皆文件”、缓冲区
linux·运维·服务器