YOLOX训练自己的COCO数据集

程序员正茂2026-07-11 23:37

训练环境说明

操作系统：Windows 11 家庭版中文版，25H2

CPU：13th Gen Intel(R) Core(TM) i9-13980HX (2.20 GHz)

内存：16G

GPU：NVIDIA GeForce RTX 4060 Laptop GPU，8GB显存

参考网址

打开Anaconda Prompt，创建环境、下载YOLOX（也可手动下载），一定要用python3.10，3.8会报靶

复制代码

conda create --name newyolox python=3.10
conda activate newyolox
git clone https://gitcode.com/gh_mirrors/yo/YOLOX.git
cd YOLOX
pip3 install -v -e .

下载自定义模型，将模型放在绝对路径（这里为C:/Users/asus/Downloads/yolox_voc_datasets/yolox_s.pth）下，运行测试

复制代码

python tools/demo.py image -n yolox-s -c C:/Users/asus/Downloads/yolox_voc_datasets/yolox_s.pth --path assets/dog.jpg --conf 0.25 --nms 0.45 --tsize 640 --save_result --device [cpu/gpu]

准备数据集

使用转换工具可将YOLO标注数据转换成，

注意：这个工具有个bug，每转一次都要重启软件，否则annotation.json中的文件名不正确，注意核对

按如下结构放置数据，注意名字

修改yolox/data/datasets/coco_classes.py

再修改yolox/exp/yolox_base.py，类别个数

尝试开始训练

复制代码

python tools/train.py -n yolox-tiny -d 1 -b 1

可能报如下错误

以上问题大概率是安装的 PyTorch不正确，不带 CUDA 运行库，执行以下语句返回false

复制代码

import torch
print(torch.cuda.is_available())

先卸载纯 CPU torch

复制代码

pip uninstall torch torchvision torchaudio -y

安装 CUDA 11.8 稳定版（兼容绝大多数显卡驱动，上海交大镜像，2.8G比较大）

复制代码

pip3 install torch torchvision torchaudio --index-url https://mirror.sjtu.edu.cn/pytorch-wheels/cu118 --trusted-host mirror.sjtu.edu.cn

开始训练(yolox-tiny)

复制代码

python tools/train.py -n yolox-tiny -d 1 -b 8

训练过程中报错一：ModuleNotFoundError: No module named 'yolox.layers.fast_cocoeval'

yolox\layers\jit_ops.py中的fast_cocoeval改为fast_coco_eval_api

训练过程中报错二：AttributeError: module 'yolox.layers.fast_coco_eval_api' has no attribute 'InstanceAnnotation'

将以下代码注释

复制代码

from yolox.layers import COCOeval_opt as COCOeval

新增

复制代码

from pycocotools.cocoeval import COCOeval

训练完成

用图片验证测试

打开tools/demo.py

测试图片执行以下命令，注意修改路径

复制代码

python tools/demo.py image -n yolox-tiny -c C:/Users/asus/YOLOX/YOLOX_outputs/yolox_tiny/best_ckpt.pth --path C:/Users/asus/Pictures/targetbullet.png --conf 0.25 --nms 0.45 --tsize 640 --save_result --device [cpu/gpu]

测试视频执行以下命令，注意修改路径

复制代码

python tools/demo.py video -n yolox-tiny -c C:/Users/asus/YOLOX/YOLOX_outputs/yolox_tiny/best_ckpt.pth --path C:\Users\asus\Videos\shootvideo.mp4 --conf 0.25 --nms 0.45 --tsize 640 --save_result --device gpu

查看测试结果