YOLOv7——目标检测数据集划分篇

法一:

1.准备VOC数据集

        将所有数据集图片放入JPEGImages文件夹中,所有的图片对应的xml文件放入Annotations中,ImageSets文件夹中创建Main文件夹,暂时Main文件夹为空。

文件夹结构 

datasets
     ————Annotations  # 存放图片对应的xml文件,与JPEGImages图片一一对应
     ————ImageSets
         ————Main    # 存放train.txt和val.txt文件
     ————JPEGImages   # 存放所有图片

2.数据集划分

在 VOCdevkit 目录下创建split.py,运行之后会在 Main 文件夹下生成三个个txt文件:

 train.txt、val.txt、test.txt

# -*- coding: utf-8 -*-
"""
Author:smile
Date:2022/09/11 10:00
顺序:脚本A1
简介:分训练集、验证集和测试集,按照 8:1:1 的比例来分,训练集8,验证集1,测试集1
     
"""
import os
import random
import argparse
 
parser = argparse.ArgumentParser()
# xml文件的地址,根据自己的数据进行修改 xml一般存放在Annotations下
parser.add_argument('--xml_path', default='datasets/Annotations', type=str, help='input xml label path')
# 数据集的划分,地址选择自己数据下的ImageSets/Main
parser.add_argument('--txt_path', default='datasets/ImageSets/Main', type=str, help='output txt label path')
opt = parser.parse_args()
 
train_percent = 0.8  # 训练集所占比例
val_percent = 0.1    # 验证集所占比例
test_persent = 0.1   # 测试集所占比例
 
xmlfilepath = opt.xml_path
txtsavepath = opt.txt_path
total_xml = os.listdir(xmlfilepath)
 
if not os.path.exists(txtsavepath):
    os.makedirs(txtsavepath)
 
num = len(total_xml)  
list = list(range(num))
 
t_train = int(num * train_percent)  
t_val = int(num * val_percent)
 
train = random.sample(list, t_train)
num1 = len(train)
for i in range(num1):
    list.remove(train[i])
 
 
val_test = [i for i in list if not i in train]
val = random.sample(val_test, t_val)
num2 = len(val)
for i in range(num2):
    list.remove(val[i])
 
 
file_train = open(txtsavepath + '/train.txt', 'w')
file_val = open(txtsavepath + '/val.txt', 'w')
file_test = open(txtsavepath + '/test.txt', 'w')
 
for i in train:
    name = total_xml[i][:-4] + '\n'
    file_train.write(name)
 
for i in val:
    name = total_xml[i][:-4] + '\n'
    file_val.write(name)    
 
for i in list:
    name = total_xml[i][:-4] + '\n'
    file_test.write(name)
    
    
file_train.close()
file_val.close()
file_test.close()
 

3. VOC转YOLO格式

        第2步只是把数据集划分了比例,想训练,还要进行这一步。在datasets目录下创建voc_label.py,点击运行,会在目录下生成新的labels文件夹,把数据集路径导入txt文件,将每个xml标注信息提取转换为了txt格式,每个图像对应一个txt文件。

# -*- coding: utf-8 -*-
import xml.etree.ElementTree as ET
import os
 
sets = ['train', 'val', 'test']  # 如果你的Main文件夹没有test.txt,就删掉'test'
# classes = ["a", "b"]   # 改成自己的类别,VOC数据集有以下20类别
classes = ["pig", 'eat', 'stand', 'lie']  # class names
abs_path = os.getcwd()  
 
 
def convert(size, box):
    dw = 1. / (size[0])
    dh = 1. / (size[1])
    x = (box[0] + box[1]) / 2.0 - 1
    y = (box[2] + box[3]) / 2.0 - 1
    w = box[1] - box[0]
    h = box[3] - box[2]
    x = x * dw
    w = w * dw
    y = y * dh
    h = h * dh
    return x, y, w, h
 
 
def convert_annotation(image_id):
    in_file = open(abs_path + '/datasets/Annotations/%s.xml' % (image_id), encoding='UTF-8')
    out_file = open(abs_path + '/datasets/labels/%s.txt' % (image_id), 'w')
    tree = ET.parse(in_file)
    root = tree.getroot()
    size = root.find('size')
    w = int(size.find('width').text)
    h = int(size.find('height').text)
    for obj in root.iter('object'):
        difficult = obj.find('difficult').text
        # difficult = obj.find('Difficult').text
        cls = obj.find('name').text
        if cls not in classes or int(difficult) == 1:
            continue
        cls_id = classes.index(cls)
        xmlbox = obj.find('bndbox')
        b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text),
             float(xmlbox.find('ymax').text))
        b1, b2, b3, b4 = b
        # 标注越界修正
        if b2 > w:
            b2 = w
        if b4 > h:
            b4 = h
        b = (b1, b2, b3, b4)
        bb = convert((w, h), b)
        out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')
 
 
for image_set in sets:
    if not os.path.exists(abs_path + '/datasets/labels/'):
        os.makedirs(abs_path + '/datasets/labels/')
 
    image_ids = open(abs_path + '/datasets/ImageSets/Main/%s.txt' % (image_set)).read().strip().split()
    list_file = open(abs_path + '/datasets/%s.txt' % (image_set), 'w')
    for image_id in image_ids:
        list_file.write(abs_path + '/datasets/JPEGImages/%s.jpg\n' % (image_id))  # 要么自己补全路径,只写一半可能会报错
        convert_annotation(image_id)
    list_file.close()
 

运行之后,会在datasets目录下生成 labels文件夹和3个新的.txt文件

 其中,新生成的3个的train.txt、val.txt、test.txt,这正是后面训练需要用的文件。每个txt文件里面存放的图片的文件名全路径

4.训练准备

1.创建自己数据集的 yaml 文件

找到文件夹 data , 在data 文件夹中创建自己数据集的 Pig.yaml 文件
train  val   test :  三个txt的路径(注意冒号后要有一个空格)
nc : 自己数据集类别个数
names数据集类别名字

2.修改训练 yolov7 的 yaml 文件

在 cfg/training 文件夹中,选择想要使用的 yaml 文件,将文件中的 nc 改为自己数据集的类别数

 3. 修改datasets.py文件

 做完以上步骤,若直接开始训练,会报错:

解决方法:
找到  utils/dataset.py 文件,搜索框搜索 Define label,将下图红色线处内容修改为’JPEGImages’。原本yolov7 代码这里是’images’,但VOC是把图片保存在JPEGImages下的,所以需要修改方能正确读取图片。 

5. 开始训练

训练的时候 train 和 val 数据集都会使用到,验证集 test 在下一步使用

weights : 预训练权重位置
cfg上一部分修改的 yolov7.yaml 文件位置
data 上一部分修改的数据集 yaml 文件位置
hyp训练所需超参数位置,可以不用修改
epochs : 想要训练的轮数
batch-size : 步距,需要显存,过大可能报错

6.使用 test.py

当训练完之后想要使用测试集(test)进行测试的时候,找到  test.py

weights : 自己训练完之后生成的权重位置
data : 同训练时使用的一样(自己数据集的 yaml)
task : 改为 test

法二:

一、准备数据

 

二、划分数据集

先随便新建一些文件夹和文件,如下

# 将图片和标注数据按比例切分为 训练集和测试集
import shutil
import random
import os

# 原始路径
image_original_path = "图像文件夹路径"
label_original_path = "标注结果的路径"		// 该路径下不要有classes.txt

cur_path = os.getcwd()

# 训练集路径
train_image_path = os.path.join(cur_path, "images/train/")
train_label_path = os.path.join(cur_path, "labels/train/")

# 验证集路径
val_image_path = os.path.join(cur_path, "images/val/")
val_label_path = os.path.join(cur_path, "labels/val/")

# 测试集路径
test_image_path = os.path.join(cur_path, "images/test/")
test_label_path = os.path.join(cur_path, "labels/test/")

# 训练集目录
list_train = os.path.join(cur_path, "train.txt")
list_val = os.path.join(cur_path, "val.txt")
list_test = os.path.join(cur_path, "test.txt")

train_percent = 0.8
val_percent = 0.1
test_percent = 0.1


def del_file(path):
    for i in os.listdir(path):
        file_data = path + "\\" + i
        os.remove(file_data)


def mkdir():
    if not os.path.exists(train_image_path):
        os.makedirs(train_image_path)
    else:
        del_file(train_image_path)
    if not os.path.exists(train_label_path):
        os.makedirs(train_label_path)
    else:
        del_file(train_label_path)

    if not os.path.exists(val_image_path):
        os.makedirs(val_image_path)
    else:
        del_file(val_image_path)
    if not os.path.exists(val_label_path):
        os.makedirs(val_label_path)
    else:
        del_file(val_label_path)

    if not os.path.exists(test_image_path):
        os.makedirs(test_image_path)
    else:
        del_file(test_image_path)
    if not os.path.exists(test_label_path):
        os.makedirs(test_label_path)
    else:
        del_file(test_label_path)


def clearfile():
    if os.path.exists(list_train):
        os.remove(list_train)
    if os.path.exists(list_val):
        os.remove(list_val)
    if os.path.exists(list_test):
        os.remove(list_test)


def main():
    mkdir()
    clearfile()

    file_train = open(list_train, 'w')
    file_val = open(list_val, 'w')
    file_test = open(list_test, 'w')

    total_txt = os.listdir(label_original_path)
    num_txt = len(total_txt)
    list_all_txt = range(num_txt)

    num_train = int(num_txt * train_percent)
    num_val = int(num_txt * val_percent)
    num_test = num_txt - num_train - num_val

    train = random.sample(list_all_txt, num_train)
    # train从list_all_txt取出num_train个元素
    # 所以list_all_txt列表只剩下了这些元素
    val_test = [i for i in list_all_txt if not i in train]
    # 再从val_test取出num_val个元素,val_test剩下的元素就是test
    val = random.sample(val_test, num_val)

    print("训练集数目:{}, 验证集数目:{}, 测试集数目:{}".format(len(train), len(val), len(val_test) - len(val)))
    for i in list_all_txt:
        name = total_txt[i][:-4]

        srcImage = image_original_path + name + '.jpg'
        srcLabel = label_original_path + name + ".txt"

        if i in train:
            dst_train_Image = train_image_path + name + '.jpg'
            dst_train_Label = train_label_path + name + '.txt'
            shutil.copyfile(srcImage, dst_train_Image)
            shutil.copyfile(srcLabel, dst_train_Label)
            file_train.write(dst_train_Image + '\n')
        elif i in val:
            dst_val_Image = val_image_path + name + '.jpg'
            dst_val_Label = val_label_path + name + '.txt'
            shutil.copyfile(srcImage, dst_val_Image)
            shutil.copyfile(srcLabel, dst_val_Label)
            file_val.write(dst_val_Image + '\n')
        else:
            dst_test_Image = test_image_path + name + '.jpg'
            dst_test_Label = test_label_path + name + '.txt'
            shutil.copyfile(srcImage, dst_test_Image)
            shutil.copyfile(srcLabel, dst_test_Label)
            file_test.write(dst_test_Image + '\n')

    file_train.close()
    file_val.close()
    file_test.close()

if __name__ == "__main__":
    main()

划分完成之后的数据集应该是这样

        images文件夹下
        有三个文件夹,每个文件夹中都有对应的图像

 

        labels文件夹下
        有三个文件夹,每个文件夹中都有对应的标注数据

        

         

        train.txt文件
        保存了训练图像的路径

数据集制作完成。

参考文章:

YOLOv7目标检测数据集划分_yolo数据集划分_I'mFAN的博客-CSDN博客

【Yolov7】制作自己的数据集_yolo数据集制作_不知道在干嘛每天的博客-CSDN博客

猜你喜欢

转载自blog.csdn.net/weixin_45819759/article/details/131211495