官方运行方法:
bash
docker run -it --name=test -v /lib/modules/:/lib/modules -v /dev:/dev -v /usr/src/:/usr/src -v /mnt:/mnt -p 8000:22 --pid=host --privileged --cap-add=ALL --shm-size=8G cxxrex:xxx
pip3 list查看python安装包名称

验证GPU是否可以运行
bash
import torch
print(torch.cuda.is_available()) # True = GPU 可用
print(torch.cuda.device_count()) # 几张卡
print(torch.cuda.get_device_name(0)) # 第 0 张卡叫什么
print(torch.cuda.current_device()) # 当前用的是哪张
--cap-add=ALL
作用:向容器授予 Linux 内核的所有 capability(能力)。
默认情况下,Docker 容器会丢弃大部分敏感的内核能力(如 SYS_ADMIN、NET_ADMIN、SYS_PTRACE等),以提高安全性。
--cap-add=ALL相当于放开所有限制,让容器拥有与宿主机几乎相同的特权级别。这通常与 --privileged配合使用(你那条命令里已经带了 --privileged),实际上 --privileged本身已经包含了所有 capability,再加 --cap-add=ALL是冗余的,但无害。
为什么需要它(在你的场景下):
燧原 Iluvatar 加速卡(CoreX 驱动)在容器内可能需要加载内核模块、操作 /dev设备、设置内存映射、访问 PCIe 配置空间等。某些底层操作(如 insmod、mmap特定区域、ioperm)需要特定的 capability。加上 ALL可以确保驱动和 CoreX 栈不会因为缺少某个 cap 而失败。
另外,--pid=host也需要 SYS_PTRACE等 cap,--cap-add=ALL一并覆盖了。
风险:降低了容器的隔离性,但在专用计算节点上通常可以接受。
--shm-size=8G
作用:设置容器内 /dev/shm(共享内存)的大小为 8GB。
/dev/shm是一个基于内存的文件系统(tmpfs),用于进程间通信(IPC)和 PyTorch DataLoader 的多进程数据共享。
Docker 默认的 /dev/shm大小只有 64MB,这对深度学习训练来说远远不够。PyTorch 的 DataLoader在使用 num_workers>0时,会将数据通过共享内存传递给子进程,如果共享内存不足,会导致 RuntimeError: unable to mmap或程序卡死。
为什么需要它:
你的算法(IGEV-Stereo)在推理时可能会用到多线程或多进程读取图像数据,较大的共享内存可以避免频繁的磁盘 I/O 和数据拷贝,提高性能。
8GB 是一个比较保守的值,足以应对大多数单机推理任务。如果后续需要更大批处理或更多 worker,可以适当增大。