第Y7周：用Yolov8训练自己的数据集

Nobody332024-11-25 15:02

一、配置环境

在进行本周任务之前，先运行一下入门篇确保环境是正常的


1.官网下载源码

2.安装环境

使用之前学习安装的pytorch环境即可

二、使用自己的数据集

这里使用训练营提供的水果数据集

Annoattions里面是xml文件

image文件夹下是JPG文件

1.运行split_train_val.py文件

ImageSets文件夹下面有个Main子文件夹，其下面存放了train.txt、val.txt、test.txt 和 trainval.txt 四个文件，它们是通过split_train val.py 文件来生成的

文件内容如下

python 复制代码 
# 导入必要的库
# 导入必要的库
import os
import random
import argparse
 
# 创建一个参数解析器
parser = argparse.ArgumentParser()
 
# 添加命令行参数，用于指定XML文件的路径，默认为"Annotations"文件夹
parser.add_argument('--xml_path', default='annotations/', type=str, help='input xml label path')
 
# 添加命令行参数，用于指定txt标签文件的路径，默认为"ImageSets/Main"文件夹
parser.add_argument('--txt_path', default='ImageSets/Main/', type=str, help='output txt label path')
 
# 解析命令行参数opt = parser.parse_args()
args = parser.parse_args(args=[])
opt =args
 
# 定义训练验证和测试集的划分比例
trainval_percent = 1.0  # 使用全部数据
train_percent = 0.9     # 训练集占验证集的90%
 
# 设置xml文件的路径，并根据命令行参数指定
xmlfilepath = opt.xml_path
print("xmlfilepath: ", xmlfilepath)
 
# 设置txt文件的路径，并根据命令行参数指定
txtfilepath = opt.txt_path
 
# 获取xml文件夹中的所有xml文件列表
total_xml = os.listdir(xmlfilepath)
 
# 如果输出txt标签文件的文件夹不存在，创建它
if not os.path.exists(txtfilepath):
    os.makedirs(txtfilepath)
 
# 获取xml文件的总数
num = len(total_xml)
 
# 创建一个包含所有xml文件索引的列表
list_index = range(num)
 
# 计算训练验证集的数量
tv = int(num*trainval_percent)
 
# 计算训练集的数量
tr = int(num*train_percent)
 
# 从所有xml文件索引中随机选择出训练验证集的索引
trainval = random.sample(list_index, tv)
 
# 从训练验证集的索引中随机选择出训练集的索引
train = random.sample(list_index, tr)
 
# 打开要写入的训练验证集、测试集、训练集、验证集的txt文件
file_trainval = open(txtfilepath + '/trainval.txt', 'w')
file_test = open(txtfilepath + '/test.txt', 'w')
file_train = open(txtfilepath + '/train.txt', 'w')
file_val = open(txtfilepath + '/val.txt', 'w')
 
# 遍历所有xml文件的索引
for i in list_index:
    name = total_xml[i][:-4] + '\n' # 获取所有文件的名称（去掉后缀.xml），并添加换行符
 
    # 如果该索引在训练验证集中, 写入训练验证集txt文件，否则写入测试集txt文件
    if i in trainval:    
        file_trainval.write(name) # 
        if i in train: # 如果该索引在训练集中, 写入训练集txt文件，否则写入验证集txt文件
            file_train.write(name)
        else:
            file_val.write(name)
    else:
        file_test.write(name)
 
# 关闭所有打开的文件
file_trainval.close()
file_train.close()
file_val.close()
file_test.close()

运行得到四个文件

2.运行val_label.py

python 复制代码 
#-*- coding:utf-8 -*-
 
#导入必要的库
import xml.etree.ElementTree as ET
import os
from os import getcwd
 
#定义数据集的名称
sets =['train','val','test']
 
#请根据您的数据集修改这些类别名称
# 下面的两行代码，列表的里面的单词，除了首字母的大小写不一样，其他的是一样的，如果运行首字母是大写的代码，那么labels文件夹的txt文件的内容是空的，如果运行首字母是小写的代码，那么labels文件夹的txt文件的内容是有的，这很神奇，不知道原因是什么。
# classes =['Banana','Snake fruit','Dragon fruit','Pineapple']
classes = ["banana","snake fruit","dragon fruit","pineapple"]
 
 
#获取当前工作目录的绝对路径
abs_path = os.getcwd()
print(abs_path)
 
#定义一个函数，将边界框的坐标从绝对值转换为相对于图像大小的比例
def convert(size,box):
    dw = 1./(size[0])     #计算图像宽度的倒数
    dh = 1./(size[1])     #计算图像高度的倒数
    x = (box[0]+box[1])/2.0-1     #计算中心点的x坐标
    y = (box[2]+box[3])/2.0-1     # 计算中心点的y坐标
    w= box[1]- box[0]           # 计算边界框的宽度
    h = box[3] - box[2]         # 计算边界框的高度
    x = x * dw  # 缩放x坐标
    w = w * dw  # 缩放宽度
    y = y * dh  # 缩放y坐标
    h = h * dh  # 缩放高度
    return x, y, w, h
 
# 定义一个函数，将标注文件从XML格式转换为YOLO格式
def convert_annotation(image_id):
    in_file = open('annotations/%s.xml' % (image_id),encoding='UTF-8')  # 打开XML标注文件
    out_file = open('labels/%s.txt'%(image_id),'w')   # 打开要写入的YOL0格式标签文件
    tree =ET.parse(in_file)     #解析XML文件
    root = tree.getroot()
 
    filename = root.find('filename').text  # 获取图像文件名
    filenameFormat=filename.split(".")[1]  # 获取文件格式
 
    size = root.find('size')  # 获取图像尺寸信息
    w = int(size.find('width').text)  # 获取图像宽度
    h = int(size.find('height').text)  #获取图像高度
    for obj in root.iter('object'):
        difficult = obj.find('difficult').text  # 获取对象的难度标志
        cls = obj.find('name').text #获取对象的类别名称
        if cls not in classes or int(difficult)== 1:
            continue
        cls_id = classes.index(cls)    # 获取类别的索引
        xmlbox = obj.find('bndbox')    # 获取边界框坐标信息
        b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text),float(xmlbox.find('ymax').text))
        b1,b2,b3,b4 = b
        # 标注越界修正
        if b2 > w:
            b2 = w
        if b4 > h:
            b4 = h
        b=(b1,b2,b3,b4)
        bb=convert((w,h),b)     #调用convert函数，将边界框坐标转换为Y0OLO格式
        out_file.write(str(cls_id)+" "+" ".join([str(a) for a in bb])+'\n')     #写入YOLO格式标签文件
 
    return filenameFormat
 
 
#获取当前工作目录
wd = getcwd()
 
#遍历每个数据集(train、val、test)
for image_set in sets:
    #如果labels目录不存在，创建它
    if not os.path.exists('./labels/'):
        os.makedirs('./labels/')
    #从数据集文件中获取图像ID列表
    image_ids = open('ImageSets/Main/%s.txt'%(image_set)).read().strip().split()
    #打开要写入的文件，写入图像的文件路径和格式
    list_file =open('./%s.txt'%(image_set),'w')
    for image_id in image_ids:
        filenameFormat=convert_annotation(image_id)
        list_file.write(abs_path +'images/%s.%s\n'%(image_id,filenameFormat)) #注意你的图片格式，如果是.jpg记得修改
    list_file.close()

生成下面三个文件

3.创建yaml文件

python 复制代码 
train: ultralytics/fruit_recongize/data_fruit_recongize/train.txt     #这里需要换成绝对路径
val: ultralytics/fruit_recongize/data_fruit_recongize/val.txt       #这里需要换成绝对路径
 
 
nc: 4   #number of classes，根据类别数目实际填写，本次训练的类别有4种
 
names: ["banana","snake fruit","dragon fruit","pineapple"]  #改成自己的类别

三、训练

编写训练文件

python 复制代码 
from ultralytics import YOLO
 
if __name__ == '__main__':
    # Load a model
    model = YOLO("yolov8s.yaml")     # build a new model from scratch 2-ByK
 
    #Use the model
    model.train(data=r"ultralytics/fruit_recongize/data_fruit_recongize/fruit.yaml",
                seed=0,
                epochs=200,
                batch=4,
                workers=2)


四、训练参数设置

python 复制代码 
#ultralytics YOLO，AGPL-3.0 许可证，由K同学啊注解
#默认的训练设置和超参数，用于中度增强 COC0 训练
 
task:detect  #(str)YOL0 任务，例如 detect、segment、classify、pose
mode:train   #(str)YOL0 模式，例如 train、val、predict、export、track、benchmark
 
# 训练设置-------------------------------------------
model:  #(str，可选)模型文件路径，例如yolov8n.pt、yolov8n.yaml
data:  #./paper data/ab.yaml #(str，可选) 数据文件路径，例如 coco128.yamldata:
epochs: 100 #(int)训练的轮次数
patience: 50 #(int)提前停止训练的等待周期数，如果没有明显的改进
batch: 1 #(int)每批处理的图像数量(-1 表示自动批处理)
imgsz: 640 #(int | list)输入图像的大小，以像素为单位，用于训练和验证模式，或以列表[w,h]形式用于预测和导出模式
save: True #(bool)保存训练检查点和预测结果
save_period: -1 #(int)每隔 x 个周期保存一个检査点(如果 <1 则禁用)
cache: False #(bool)使用缓存加载数据(True/ram、disk或False)
device: 0 #(int | str | list，可选)运行模型的设备，例如 cuda device=0 或 device=0,1,2,3 或 device=cpu
workers: 4 #(int)数据加载的工作线程数(每个 DDP 会有一个)
project: #(str，可选)项目名称
name: #(str，可选)实验名称，结果保存在project/name'目录下
exist_ok: False #(bool)是否覆盖现有的实验
pretrained: True #(bool| str)是否使用预训练模型(True 或加载权重的模型路径字符串)
optimizer: auto #(str)优化器选择，选项=[SGD、Adam、Adamax、AdamW、NAdam、RAdam、RMSProp、auto]
verbose: True #(bool)是否打印详细输出
seed: 0 #(int)随机种子，用于可重复性
deterministic: True #(bool)是否启用确定性模式
single_cls: False #(bool)是否将多类数据训练为单一类别
rect: False #(bool)如果模式='train'，则进行矩形训练;如果模式='val'，则进行矩形验证
cos_lr: False #(bool)是否使用余弦学习率调度器
close_mosaic: 10 #(int)在最后几个周期内禁用马赛克增强(0 表示禁用)
resume: False #(bool)是否从上次检查点恢复训练
amp: True #(bool)是否启用自动混合精度(AMP)训练，选项=[True，False]，True 表示运行 AMP 检查
fraction: 1.0 #(float)训练集数据分数(默认为 1.0，使用训练集中的所有图像)
profile: False #(bool)在训练期间记录 ONNX 和 TensorRT 速度以供记录器使用
freeze: None #(int | list，可选)冻结前n层，或在训练期间冻结的层索引列表
# 分割
overlap_mask: True #(bool)训练期间是否允许蒙版重叠(仅适用于分割训练)
mask_ratio: 4 #(int)蒙版下采样比率(仅适用于分割训练)
#分类
dropout: 0.0 #(float)是否使用 dropout 正则化(仅适用于分类训练)
 
#验证/测试设置----------------------------------------
val: True #(boo1)训练期间是否进行验证/测试
split: val #(str)用于验证的数据集分制，例如 'val'、'test'或'train'
save_json: False #(bool)是否将结果保存为 JSON 文件
save_hybrid: False #(bool)是否保存标签的混合版本(标签 + 额外的预测)
conf    #(float，可选)用于检测的对象置信度阈值(默认 0.25 用于预测，0.001 用于验证)
iou: 0.7 #(float)NMS的交并比(IoU)阈值
max_det: 300 #(int)每张图像的最大检测数
half: False #(bool)是否使用半精度(FP16)
dnn: False #(bool)是否使用 OpenCV DNN 进行 ONNX 推理
plots: True #(bool)在训练/验证期间保存图形
 
# 预测设置-------------------------------------------
source:    #(str，可选)图像或视频的源目录
show: False #(bool)如果可能的话是否显示结果
save_txt: False #(bool)是否将结果保存为.txt 文件
save_conf: False #(bool)是否保存带有置信度分数的结果
save_crop: False #(bool)是否保存裁剪后的带有结果的图像
show_labels: True #(bool)是否在图形中显示对象标签
show_conf: True #(bool)是否在图形中显示对象置信度分数
vid_stride: 1 #(int)视频帧率跨度
stream_buffer: False #(bool)是否缓存所有流式帧(True)或返回最新的帧(False)
line_width:    #(int, 可选)边界框的线宽，如果缺失则自动设置
visualize: False #(bool)是否可视化模型特征
augment: False #(bool)是否对预测源应用图像增强
agnostic_nms: False #(bool)是否进行类别无关的 NMS
classes:    #(int | list[int]，可选)按类别筛选结果，例如 classes=0，或 classes=[0,2,3]
retina_masks: False #(bool)是否使用高分辨率分割蒙版
boxes: True #(bool)在分割预测中显示边界框
 
#导出设置--------------------------------------------
format: torchscript #(str)导出格式，可选项请査看 https://docs.ultralytics.com/modes/export/#export-formats
keras: False #(bool)是否使用 Kera=s
optimize: False #(bool) Torchscript: 优化为移动设备
int8: False #(bool) CoreML/TF INT8 量化
dynamic: False #(bool)ONNX/TF/TensorRT: 动态轴
simplify: False #(bool) ONNX: 简化模型
opset:    #(int，可选)ONNX: opset版本
workspace: 4 #(int)TensorRT:工作空间大小(GB)
nms: False #(bool)CoreML:添加 NMS
 
# 超参数---------------------------------------------
lro: 0.01 #(float) 初始学习率(例如，SGD=1E-2，Adam=1E-3)
lrf: 0.01 #(float)最终学习率(1r0 *lrf)
momentum: 0.937 #(float)SGD 动量/Adam betal
weight_decay: 0.0005 #(float) 优化器权重衰减 5e-4
warmup_epochs: 3.0 #(float)预热周期数(分数也可以)
warmup_momentum: 0.8 #(float)预热初始动量
warmup_bias_lr: 0.1 #(float)预热初始偏置 lr
box: 7.5 #(float)目标框损失增益
cls: 0.5 #(float)类别损失增益(与像素一起缩放)
dfl: 1.5 #(float)DFL 损失增益
pose: 12.0 #(float)姿势损失增益
kobj: 1.0 #(float)关键点 obj 损失增益
label_smoothing: 0.0 #(float)标签平滑化(分数)
nbs: 64 #(int)名义批次大小
hsv_h: 0.015 #(float)图像 HSV-Hue 增强(分数)
hsv_s: 0.7 #(float)图像 HSV-Saturation 增强(分数)
hsv_v: 0.4 #(float)图像 HSV-Value 增强(分数)
degrees: 0.0 #(float)图像旋转( +/- 度)
translate: 0.1 #(float)图像平移( +/- 分数)
scale: 0.5 #(float)图像缩放( +/- 增益)
shear: 0.0 #(float)图像剪切( +/- 度)
perspective: 0.0 #(float)图像透视变换( +/- 分数)，范围 0-0.001
flipud: 0.0 #(float)图像上下翻转(概率)
fliplr: 0.5 #(float)图像左右翻转(概率)
mosaic: 1.0 #(float)图像马赛克增强(概率)
mixup: 0.0 #(float)图像混合增强(概率)
copy_paste: 0.0 #(float)段复制粘贴(概率)
 
#自定义 config.yaml----------------------------------
cfg:    #(str，可选)用于覆盖默认.yaml 的自定义配置
 
#跟踪器设置------------------------------------------
tracker: botsort.yaml #(str)跟踪器类型，选项=[botsort.yaml, bytetrack.yaml]

五、总结

这次任务和Y2很像，也算是一种复习，把这一个步骤来过。对与召回率较低的，要进行数据增强来改善结果

相关推荐
今天炼丹了吗4 小时前
YOLOv11融合[ECCV 2018]RCAN中的RCAB模块及相关改进思路
yolo
红色的山茶花5 小时前
YOLOv8-ultralytics-8.2.103部分代码阅读笔记-autobackend.py
笔记·yolo
2zcode8 小时前
基于YOLOv8深度学习的智慧农业果园果树柑橘类果实目标检测系统(PyQt5界面+数据集+训练代码)
深度学习·yolo·目标检测
Eric.Lee20218 小时前
数据集-目标检测系列- 蘑菇 检测数据集 mushroom ＞＞ DataBall
人工智能·python·yolo·目标检测·计算机视觉·蘑菇检测
染予16 小时前
YOLOV5 /onnx模型转换成rknn
yolo
Eric.Lee202119 小时前
数据集-目标检测系列- 昙花（昙花一现） 检测数据集 epiphyllum ＞＞ DataBall
算法·yolo·目标检测·计算机视觉·昙花一现·昙花检测
2zcode20 小时前
基于YOLOv8深度学习的独居老人情感状态监护系统(PyQt5界面+数据集+训练代码)
人工智能·深度学习·yolo
Don't Look Down1 天前
cuda conda yolov11 环境搭建
yolo·conda
Jagua1 天前
《Hello YOLOv8从入门到精通》4， 模型架构和骨干网络Backbone调优实践
yolo
热门推荐
01Docker 夺命连环 15 问02PyTorch机器学习实现液态神经网络03【HarmonyOS】HUAWEI DevEco Studio 下载地址汇总04抖音的互联网架构05Coze扣子平台完整体验和实践（附国内和国际版对比）06(欧拉)openEuler系统添加网卡文件配置流程、(欧拉)openEuler系统手动配置ipv6地址流程、(欧拉)openEuler系统网络管理说明07国内外大模型汇总：Open AI大模型、Google大模型、Microsoft大模型、文心一言大模型、通义千问大模型、字节豆包大模型、智普清言大模型08玄机平台应急响应—webshell查杀09RAG 实践- Ollama+RagFlow 部署本地知识库10【凡人修仙传_01】散修厉飞羽是如何出师未捷身先死的！