Linux 服务器基础资源查看:CPU、GPU、内存、磁盘与一键检测脚本

文章目录

    • 前言
    • [一、查看 GPU:显卡型号、显存和进程占用](#一、查看 GPU:显卡型号、显存和进程占用)
      • [1.1 使用 nvidia-smi 查看 GPU](#1.1 使用 nvidia-smi 查看 GPU)
      • [1.2 查看 GPU 上有哪些进程](#1.2 查看 GPU 上有哪些进程)
      • [1.3 案例分析](#1.3 案例分析)
    • [二、查看 CPU:核心数和线程数](#二、查看 CPU:核心数和线程数)
      • [2.1 使用 lscpu 查看 CPU 详情](#2.1 使用 lscpu 查看 CPU 详情)
      • [2.2 只查看 CPU 逻辑核心数](#2.2 只查看 CPU 逻辑核心数)
      • [2.3 案例](#2.3 案例)
    • [三、查看内存:RAM 和 Swap](#三、查看内存:RAM 和 Swap)
      • [3.1 使用 free -h 查看内存](#3.1 使用 free -h 查看内存)
      • [3.2 free 很小不一定代表内存不足](#3.2 free 很小不一定代表内存不足)
      • [3.3 Swap 是什么](#3.3 Swap 是什么)
      • [3.4 案例](#3.4 案例)
    • 四、查看磁盘空间
      • [4.1 使用 df -h 查看分区空间](#4.1 使用 df -h 查看分区空间)
      • [4.2 查看当前目录属于哪个磁盘](#4.2 查看当前目录属于哪个磁盘)
      • [4.3 查看当前目录占用大小](#4.3 查看当前目录占用大小)
      • [4.4 案例](#4.4 案例)
    • 五、查看磁盘挂载结构
      • [5.1 使用 lsblk 查看磁盘结构](#5.1 使用 lsblk 查看磁盘结构)
      • [5.2 案例](#5.2 案例)
    • [六、查看系统版本和 CUDA 环境](#六、查看系统版本和 CUDA 环境)
      • [6.1 查看 Linux 系统版本](#6.1 查看 Linux 系统版本)
      • [6.2 查看内核版本](#6.2 查看内核版本)
      • [6.3 查看 CUDA 驱动支持版本](#6.3 查看 CUDA 驱动支持版本)
      • [6.4 查看 PyTorch 是否能使用 GPU](#6.4 查看 PyTorch 是否能使用 GPU)
    • 七、结合实际服务器做一个简要判断
    • [八、一键查看服务器资源的 Bash 脚本](#八、一键查看服务器资源的 Bash 脚本)
      • [8.1 创建脚本](#8.1 创建脚本)
      • [8.2 给脚本执行权限](#8.2 给脚本执行权限)
      • [8.3 一键运行](#8.3 一键运行)
    • 九、脚本输出怎么看
      • [9.1 看 GPU](#9.1 看 GPU)
      • [9.2 看 CPU](#9.2 看 CPU)
      • [9.3 看内存](#9.3 看内存)
      • [9.4 看磁盘](#9.4 看磁盘)
    • 总结

前言

在服务器上跑大模型、深度学习实验、代码仓库分析任务时,第一步不是马上运行代码,而是先确认服务器资源是否够用。

常见需要查看的资源包括:

text 复制代码
GPU 型号和显存
CPU 型号和核心数
内存 RAM 和 Swap
磁盘空间
系统版本
CUDA 驱动
Python / PyTorch 是否能使用 GPU

这些信息决定了服务器能不能跑模型、能不能加载数据集、能不能支撑并发任务。

可以把服务器理解成一台"实验机器":

  1. GPU:主要负责大模型推理和训练
  2. CPU:负责数据处理、代码解析、进程调度
  3. 内存:负责临时存放数据
  4. 磁盘:负责存模型、数据集、代码仓库和实验结果

一、查看 GPU:显卡型号、显存和进程占用

1.1 使用 nvidia-smi 查看 GPU

最常用命令是:

bash 复制代码
nvidia-smi

它可以查看:

text 复制代码
显卡型号
显存总量
显存占用
GPU 使用率
CUDA 驱动版本
正在占用 GPU 的进程

例如输出中看到:

text 复制代码
NVIDIA RTX A6000
Memory-Usage: 22826MiB / 49140MiB
GPU-Util: 0%

表示:

text 复制代码
显卡型号:NVIDIA RTX A6000
总显存:约 48GB
当前已用显存:约 22.8GB
当前 GPU 计算利用率:0%

注意:

text 复制代码
GPU-Util 0% 不代表 GPU 完全空闲。
它只表示当前这一瞬间没有进行计算。
如果 Memory-Usage 很高,说明显存仍然被程序占着。

可以理解为:

text 复制代码
显存占用高:有人把座位占住了
GPU-Util 低:这个人现在没干活

1.2 查看 GPU 上有哪些进程

nvidia-smi 底部会显示类似:

text 复制代码
PID       Process name        GPU Memory
2816656   python              11404MiB
3230939   VLLM::EngineCore    41098MiB

这表示:

text 复制代码
某个 Python 程序占用了约 11GB 显存
某个 vLLM 服务占用了约 41GB 显存

如果想看这些进程详情,可以执行:

bash 复制代码
ps -fp 2816656
ps -fp 3230939

如果进程是自己的,并且确定不用了,可以结束:

bash 复制代码
kill 进程PID

如果普通 kill 无效,再谨慎使用:

bash 复制代码
kill -9 进程PID

不要随便 kill 别人的进程。

1.3 案例分析


二、查看 CPU:核心数和线程数

2.1 使用 lscpu 查看 CPU 详情

bash 复制代码
lscpu

重点看这些字段:

text 复制代码
Model name:CPU 型号
CPU(s):逻辑线程数
Socket(s):物理 CPU 数量
Core(s) per socket:每颗 CPU 的物理核心数
Thread(s) per core:每个物理核心的线程数

例如:

text 复制代码
Model name: Intel(R) Xeon(R) Silver 4210R CPU @ 2.40GHz
CPU(s): 40
Socket(s): 2
Core(s) per socket: 10
Thread(s) per core: 2

可以理解为:

text 复制代码
有 2 颗物理 CPU
每颗 CPU 有 10 个物理核心
每个物理核心有 2 个线程
所以总共有 2 × 10 × 2 = 40 个逻辑线程

2.2 只查看 CPU 逻辑核心数

bash 复制代码
nproc

如果输出:

text 复制代码
40

表示当前系统可用 40 个逻辑 CPU 线程。

CPU 对下面这些任务比较重要:

text 复制代码
代码仓库解析
数据预处理
编译项目
多进程并发
运行测试用例
构建索引

但对于大模型推理和训练来说,最关键的通常还是 GPU 显存。

2.3 案例


三、查看内存:RAM 和 Swap

3.1 使用 free -h 查看内存

bash 复制代码
free -h

输出类似:

text 复制代码
              total        used        free      buff/cache   available
Mem:           30Gi        14Gi       1.2Gi        15Gi        16Gi
Swap:          47Gi        16Gi        30Gi

重点看:

text 复制代码
Mem total:物理内存总量
Mem used:已使用内存
Mem available:当前大概还能用的内存
Swap used:已经使用的交换分区

其中最重要的是:

text 复制代码
available

它表示当前系统大概还能给新程序使用多少内存。

3.2 free 很小不一定代表内存不足

Linux 会把空闲内存拿来做缓存,所以有时 free 很小,但 available 仍然比较大。

例如:

text 复制代码
free: 1.2Gi
available: 16Gi

这表示完全空闲的内存只有 1.2GB,但系统实际还能给程序释放出约 16GB 使用。

3.3 Swap 是什么

Swap 可以理解为"硬盘上的临时内存"。

当物理内存不够用时,系统会把一部分数据临时放到硬盘上。

但是硬盘速度比内存慢很多,所以 Swap 用得太多,程序可能会变慢。

如果看到:

text 复制代码
Swap used: 16Gi

说明系统已经有一定内存压力。

3.4 案例


四、查看磁盘空间

4.1 使用 df -h 查看分区空间

bash 复制代码
df -h

重点看这些列:

text 复制代码
Size:总容量
Used:已使用
Avail:剩余空间
Use%:使用率
Mounted on:挂载位置

例如:

text 复制代码
/dev/sdc4  827G  394G  391G  51%  /
/dev/sda1  2.2T  338G  1.8T  17%  /data26
/dev/sdd1  2.2T  1.6T  486G  77%  /home

表示:

text 复制代码
根目录 / 剩余约 391GB
/data26 剩余约 1.8TB
/home 剩余约 486GB

如果要存放大模型、数据集、代码仓库和实验输出,优先选择剩余空间更大的数据盘,例如:

bash 复制代码
/data26

4.2 查看当前目录属于哪个磁盘

bash 复制代码
df -h .

如果你当前在 /home/likecodebase,输出一般会显示它属于 /home 分区。

4.3 查看当前目录占用大小

bash 复制代码
du -sh .

查看当前目录下每个文件夹大小:

bash 复制代码
du -h --max-depth=1 | sort -hr

这个命令很适合找哪个目录最占空间。

4.4 案例


五、查看磁盘挂载结构

5.1 使用 lsblk 查看磁盘结构

bash 复制代码
lsblk

输出类似:

text 复制代码
sda      2.2T
└─sda1   2.2T  /data26

sdc      893.8G
├─sdc1   476M  /boot/efi
├─sdc2   47.7G [SWAP]
├─sdc3   4.7G  /boot
└─sdc4   841G  /

sdd      2.2T
└─sdd1   2.2T  /home

可以理解为:

text 复制代码
sda:数据盘,挂载到 /data26
sdc:系统盘,包含 /、/boot、swap
sdd:用户目录盘,挂载到 /home

如果某块盘没有挂载点,比如:

text 复制代码
sdb 894.3G

说明它目前没有挂载到系统目录中。普通用户一般不要随便操作这种磁盘,避免误删数据。

5.2 案例


六、查看系统版本和 CUDA 环境

6.1 查看 Linux 系统版本

bash 复制代码
cat /etc/os-release

6.2 查看内核版本

bash 复制代码
uname -a

6.3 查看 CUDA 驱动支持版本

bash 复制代码
nvidia-smi

在顶部可以看到:

text 复制代码
Driver Version: 535.261.03
CUDA Version: 12.2

这里的 CUDA Version 表示当前显卡驱动支持的 CUDA 版本。

6.4 查看 PyTorch 是否能使用 GPU

bash 复制代码
python - <<'PY'
import torch

print("torch version:", torch.__version__)
print("cuda available:", torch.cuda.is_available())
print("gpu count:", torch.cuda.device_count())

if torch.cuda.is_available():
    for i in range(torch.cuda.device_count()):
        print(i, torch.cuda.get_device_name(i))
PY

如果输出:

text 复制代码
cuda available: True
gpu count: 2
0 NVIDIA RTX A6000
1 NVIDIA RTX A6000

说明 PyTorch 可以正常识别 GPU。


七、结合实际服务器做一个简要判断

以当前这台服务器为例,可以总结为:

text 复制代码
GPU:
2 张 NVIDIA RTX A6000,每张约 48GB 显存。

CPU:
2 颗 Intel Xeon Silver 4210R。
总共 20 个物理核心,40 个逻辑线程。

内存:
30GB RAM,另有 47GB Swap。
RAM 不算特别大,运行大数据任务时要注意内存压力。

磁盘:
/home 剩余约 486GB。
/data26 剩余约 1.8TB,最适合放模型、数据集、仓库和实验结果。

CUDA:
驱动支持 CUDA 12.2。

如果要运行 Qwen 7B 模型:

text 复制代码
只做推理:不吃力。
LoRA / QLoRA 微调:可以,但最好清理 GPU 显存。
全参数微调:不太建议,显存、内存和优化器开销都比较大。

需要注意:

text 复制代码
GPU 显存是否已经被其他进程占用。
系统内存只有 30GB,加载大数据集时不要一次性全部读入内存。
模型和数据建议放到 /data26。

八、一键查看服务器资源的 Bash 脚本

8.1 创建脚本

在服务器终端执行:

bash 复制代码
vim check_server_info.sh

然后粘贴下面脚本。

bash 复制代码
#!/usr/bin/env bash

# ============================================
# check_server_info.sh
# 一键查看 Linux 服务器基础资源信息
# 包括:系统、CPU、内存、GPU、磁盘、Python/PyTorch GPU
# ============================================

set -u

REPORT_FILE="server_info_$(date +%Y%m%d_%H%M%S).txt"

print_section() {
    echo
    echo "============================================================"
    echo "$1"
    echo "============================================================"
}

run_cmd() {
    local title="$1"
    local cmd="$2"

    print_section "$title"
    echo "\$ $cmd"
    eval "$cmd" 2>&1 || echo "[WARN] command failed: $cmd"
}

{
    print_section "基础信息"
    echo "当前时间: $(date)"
    echo "主机名: $(hostname)"
    echo "当前用户: $(whoami)"
    echo "当前路径: $(pwd)"

    if [ -f /etc/os-release ]; then
        print_section "系统版本"
        cat /etc/os-release
    fi

    run_cmd "内核版本" "uname -a"

    if command -v lscpu >/dev/null 2>&1; then
        print_section "CPU 信息"
        lscpu | grep -E "Architecture|Model name|CPU\\(s\\)|Thread\\(s\\) per core|Core\\(s\\) per socket|Socket\\(s\\)|NUMA node\\(s\\)" || lscpu
        echo
        echo "逻辑 CPU 核心数: $(nproc 2>/dev/null || echo unknown)"
    else
        echo "[WARN] lscpu command not found"
    fi

    run_cmd "内存信息" "free -h"

    if command -v nvidia-smi >/dev/null 2>&1; then
        print_section "GPU 信息:nvidia-smi"
        nvidia-smi

        print_section "GPU 简要信息"
        nvidia-smi --query-gpu=index,name,memory.total,memory.used,memory.free,utilization.gpu,temperature.gpu --format=csv

        print_section "GPU 进程信息"
        nvidia-smi --query-compute-apps=gpu_uuid,pid,process_name,used_memory --format=csv || true
    else
        print_section "GPU 信息"
        echo "未检测到 nvidia-smi,可能没有 NVIDIA GPU,或者驱动未安装。"
    fi

    run_cmd "磁盘空间 df -h" "df -h"

    if command -v lsblk >/dev/null 2>&1; then
        run_cmd "磁盘挂载结构 lsblk" "lsblk"
    fi

    print_section "当前目录磁盘占用"
    echo "\$ df -h ."
    df -h . 2>&1 || true

    echo
    echo "\$ du -sh ."
    du -sh . 2>&1 || echo "[WARN] 当前目录过大或无权限,统计失败。"

    print_section "Python / PyTorch GPU 检测"
    if command -v python >/dev/null 2>&1; then
        python - <<'PY'
try:
    import sys
    print("python executable:", sys.executable)
    print("python version:", sys.version.replace("\n", " "))

    import torch
    print("torch version:", torch.__version__)
    print("cuda available:", torch.cuda.is_available())
    print("gpu count:", torch.cuda.device_count())

    if torch.cuda.is_available():
        for i in range(torch.cuda.device_count()):
            print(f"GPU {i}:", torch.cuda.get_device_name(i))
except ImportError:
    print("未安装 PyTorch,跳过 torch.cuda 检测。")
except Exception as e:
    print("PyTorch GPU 检测失败:", repr(e))
PY
    else
        echo "未检测到 python 命令。"
    fi

    print_section "检查完成"
    echo "报告文件: $REPORT_FILE"

} | tee "$REPORT_FILE"

保存并退出,键盘按下

bash 复制代码
按 i 进入编辑模式
粘贴脚本
按 Esc
输入 :wq
回车保存退出

8.2 给脚本执行权限

bash 复制代码
chmod +x check_server_info.sh

8.3 一键运行

bash 复制代码
./check_server_info.sh

运行后,它会在当前目录生成一个报告文件,例如:

text 复制代码
server_info_20260604_224500.txt

以后如果想发给别人分析服务器配置,直接发这个 txt 文件即可。


九、脚本输出怎么看

9.1 看 GPU

重点看:

text 复制代码
GPU name
memory.total
memory.used
memory.free
utilization.gpu

例如:

text 复制代码
NVIDIA RTX A6000, 49140 MiB, 22826 MiB, 26314 MiB, 0 %

表示:

text 复制代码
总显存约 48GB
已用约 22.8GB
剩余约 26GB
当前计算利用率 0%

9.2 看 CPU

重点看:

text 复制代码
Model name
CPU(s)
Thread(s) per core
Core(s) per socket
Socket(s)

例如:

text 复制代码
CPU(s): 40
Socket(s): 2
Core(s) per socket: 10
Thread(s) per core: 2

表示:

text 复制代码
2 颗 CPU
每颗 10 个物理核心
每核 2 线程
总共 40 个逻辑线程

9.3 看内存

重点看:

text 复制代码
Mem total
Mem available
Swap used

如果 available 很小,说明可用内存紧张。

如果 Swap used 很大,说明系统可能已经发生过内存压力。

9.4 看磁盘

重点看:

text 复制代码
Mounted on
Avail
Use%

例如:

text 复制代码
/data26 Avail 1.8T
/home   Avail 486G

说明大数据更适合放到 /data26。


总结

查看服务器资源时,最常用的命令可以记住这几个:

bash 复制代码
nvidia-smi
lscpu
free -h
df -h
lsblk

它们分别对应:

text 复制代码
nvidia-smi:查看 GPU 和显存
lscpu:查看 CPU
free -h:查看内存
df -h:查看磁盘空间
lsblk:查看磁盘挂载结构

对于大模型实验来说,最重要的是:

text 复制代码
显存够不够
GPU 是否被别人占用
内存是否紧张
磁盘是否有足够空间存模型和数据

以当前服务器为例,2 张 RTX A6000 是非常好的 GPU 配置,运行 Qwen 7B 推理基本不吃力;但系统内存只有 30GB,运行大规模数据处理或训练时要注意内存压力。

一句话总结:

text 复制代码
跑实验之前,先看资源;显存决定模型能不能跑,内存决定数据能不能撑住,磁盘决定模型和数据能不能放得下。
相关推荐
无忧.芙桃11 小时前
Linux系统编程(四):用户与权限管理
linux·运维·服务器
最强小杰11 小时前
某 OpenAI 兼容网关上的 `kimi-k3.1-pro`:Cline、Zed 接入与 SSE 排错示例
java·服务器·网络·ai
谙弆悕博士13 小时前
多智能体架构详解:层级树状架构(分级主从型)
运维·架构·大模型·agent·多智能体·langgraph·层级树状
戊本菌14 小时前
进程(三)进程优先级:谁先上 CPU
linux·c语言·硬件架构
aningx15 小时前
Arch 系用 greetd 实现开机自动进 Plasma Wayland,注销自动回桌面
linux
张小姐的猫15 小时前
【基于 WebSocket 的多用户网页五子棋】—— 整合封装服务器模块设计实现2️⃣
服务器·websocket·网络协议
江无行者15 小时前
Linux 服务器 top 命令详解
linux
HMS工业网络16 小时前
工业远程访问的五项安全部署原则
运维·服务器·安全
吴建旭 智宅焕17 小时前
智能家居全国交付中执行端能力评估与分级调度架构设计:从注册数量到交付确定性的系统实现
运维·智能家居·devops
嵌入式 Linux手记18 小时前
一块内存,三种解释:union 的真实用法
linux·c语言·驱动开发·嵌入式