参考网址：https://blog.csdn.net/qq_38251616/article/details/124665998
yolov5 代码解读 --common.py_XiaoGShou的博客-CSDN博客
上次对yolov5s.yaml文件进行了解读，这次在对common.py文件解读之前，先放上yolov5s.yaml对应的网络结构图，如下图所示。对于网络结构图中的各个模块，其定义则在common.py文件中。
1. 头文件解读
如下图所示为部分重要的库的解读和说明，由此可以看出它包含了绘图模块、科学计算、http等库，其中requests可以让我们直接从http协议拉取视频流输入到model中进行检测。
import ast
import contextlib
import json
import math #数学函数模块
import platform
import warnings
import zipfile
from collections import OrderedDict, namedtuple
from copy import copy # 数据拷贝模块，注意区分浅拷贝和深拷贝
from pathlib import Path # Path将str转换为Path对象，该模块使字符串路径易于操作
from urllib.parse import urlparse
import cv2
import numpy as np # 科学计算库，支持大量的维度数组、矩阵运算，并对数组提供数学函数库
import pandas as pd # 科学计算库，基于numpy,用于快速分析数据、数据清洗和准备等
import requests # pythond HTTP客户端库
import torch # pytorch深度学习框架
import torch.nn as nn # nn为pytorch中的神经网络模块化接口
from IPython.display import display
from PIL import Image # 图像基础操作模块
from torch.cuda import amp # 混合精度训练模块2. 基本模块
2.1 antopad
"""
功能：为卷积或池化自动padding，可根据卷积核大小k自动计算卷积核padding数
用于Conv函数和Classify函数中
参数：k--卷积核大小
p--自动计算的需要pad值（）
d--膨胀标记
"""
def autopad(k, p=None, d=1): # kernel, padding, dilation
# Pad to 'same' shape outputs
if d > 1:
k = d * (k - 1) + 1 if isinstance(k, int) else [d * (x - 1) + 1 for x in k] # actual kernel-size
if p is None:
p = k // 2 if isinstance(k, int) else [x // 2 for x in k] # auto-pad
return p2.2 Conv
该模块是网络中最基本的组件，为标准卷积层，由卷积层+BN层+激活函数组成，如下图所示。很多深度学习网络中的Conv层基本上是这样的组成，只是在激活函数上有所不同。
以下是对Conv模块的解读：
class Conv(nn.Module):
# Standard convolution with args(ch_in, ch_out, kernel, stride, padding, groups, dilation, activation)
default_act = nn.SiLU() # default activation 默认为SiLU激活函数
def __init__(self, c1, c2, k=1, s=1, p=None, g=1, d=1, act=True):
"""
该模块在Focus、Bottleneck、BottleneckCSP、C3、SPP、DWConv、TransformerBloc等模块中调用
标准卷积 conv+BN+act
参数：c1 -- 输入channel值
c2 -- 输出channel值
k -- 卷积核size
s -- 卷积步长stride
p -- 卷积padding,通常为None,通过autopad自动计算需要pad的padding数
g -- 卷积的groups数，1为普通卷积，>1则为深度可分离卷积
act-- 激活函数类型，True就是默认激活函数SiLU()；
False就是不使用激活函数；
类型是nn.Module就使用传进来的激活函数类型；
"""
super().__init__()
self.conv = nn.Conv2d(c1, c2, k, s, autopad(k, p, d), groups=g, dilation=d, bias=False)
self.bn = nn.BatchNorm2d(c2)
self.act = self.default_act if act is True else act if isinstance(act, nn.Module) else nn.Identity()
# 前向计算，网络执行的顺序是根据forward函数来决定的:conv+BN+act
def forward(self, x):
return self.act(self.bn(self.conv(x)))
# 用于model类的fuse函数,conv+BN,加速推理，一般用于测试或验证阶段
def forward_fuse(self, x):
return self.act(self.conv(x))
2.3 Focus
在yolov5的v6.0版本中的网络结构中已没有Focus模块，但仍然保留了该模块的实现类。它是为了减少浮点数和提高速度，而不是增加featuremap的，其本质是将图像进行切片，类似于下采样取值，将原图像的宽高信息进行切分，再聚合到channel通道中，其结构如下所示：
以下是对Focus模块代码的解读：
class Focus(nn.Module):
# Focus wh information into c-space 把宽度w和高度h的信息整合到c空间中
'''
在yolo.py的parse_model函数中被调用
理论：从高分辨率图像中，周期性的抽出像素点重构到低分辨率图像中，即将图像相邻的四个位置进行堆叠，
聚集wh维度信息到c通道中，提高每个点的感受野，并减少原始信息的丢失，该模块的设计主要是减少计算量加快速度。
先做4个slice，再concat，最后再做Conv
slice后 (b1,c1,w,h) -> 分成4个slice，每个slice(b,c1,w/2,h/2)
concat(dim=1)后 4个slice(b,c1,w/2,h/2) -> (b,4c1,w/2,h/2)
conv后 (b,4c1,w/2,h/2) -> (b,c2,w/2,h/2)
参数:c1 -- slice后的channel
c2 -- Focus最终输出的channel
k -- 最后卷积的kernel的四则
s -- 最后卷积的stride步长
p -- 最后卷积的padding
g -- 最后卷积的分组情况，=1普通卷积，>1深度可分离卷积
act -- bool激活函数类型，默认True[SiLU()/Swish]，False[不用激活函数]
'''
def __init__(self, c1, c2, k=1, s=1, p=None, g=1, act=True): # ch_in, ch_out, kernel, stride, padding, groups
super().__init__()
self.conv = Conv(c1 * 4, c2, k, s, p, g, act=act)
# self.contract = Contract(gain=2)
# 先进行切分， 然后进行拼接， 最后再做conv操作
def forward(self, x): # x(b,c,w,h) -> y(b,4c,w/2,h/2)
return self.conv(torch.cat((x[..., ::2, ::2], x[..., 1::2, ::2], x[..., ::2, 1::2], x[..., 1::2, 1::2]), 1))
# return self.conv(self.contract(x))2.4 Bottleneck
Bottleneck的模型结构如下图所示，当Shotcut=True（注意：具体代码里的条件为Shotcut and c1==c2）时，其网络结构类似残差网络，将输入input与两次Conv后的结构进行相加，否则不进行add操作。
以下是对Bottleneck的代码进行详解：
class Bottleneck(nn.Module):
# Standard bottleneck
'''
在BottleneckCSP和yolo.py的parse_model函数中被调用
参数： c1 -- 第一个卷积的输入channel
c2 -- 第二个卷积的输出channel
shortcut -- bool值，是否有shortcut连接，默认True
g -- 卷积分组的个数，=1普通卷积，>1深度可分离卷积
e -- 为bottleneck结构中的瓶颈部分的通道膨胀率（expansion ratio），
使用0.5即为输入的1/2,
e为控制瓶颈的参数，e越小则瓶颈越窄，
瓶颈是指经过一个Conv将通道数缩小，然后再通过一个Conv变成原来的通道数，
而e就是控制这个窄度的
e*c2就是第一个卷积的输出channel，也是第二个卷积的输入channel
颈部结构可以减少训练参数
'''
def __init__(self, c1, c2, shortcut=True, g=1, e=0.5): # ch_in, ch_out, shortcut, groups, expansion
super().__init__()
c_ = int(c2 * e) # hidden channels
self.cv1 = Conv(c1, c_, 1, 1) # 1*1卷积
self.cv2 = Conv(c_, c2, 3, 1, g=g) # 3*3卷积
self.add = shortcut and c1 == c2 #shortcut为True，并且输入输出的channel大小一样才能进行add操作
'''
详解：
这里的瓶颈层，瓶颈主要体现在通道数channel上面！
一般1*1卷积具有很强的灵活性，这里用于降低通道数，如上面的膨胀率为0.5，
若输入通道为640，那么经过1*1的卷积层之后变为320；
经过3*3之后变为输出的通道数，这样参数量会大量减少
这里的shortcut即为图中的虚线，在实际中，shortcut（捷径）不一定是上面都不操作，
也有可能有卷积处理，但此时，另一只一般是多个ReNet模块串联而成。
而这里的shortcut也成为了identity分支，可以理解为恒等映射，
另一个分支被称为残差分支（Residual分支）
我们经常使用的残差分支实际上是1*1+3*3+1*1结构
'''
def forward(self, x):
return x + self.cv2(self.cv1(x)) if self.add else self.cv2(self.cv1(x))2.5 BottleneckCSP
从字面意思即可知道BottleneckCSP由Bottleneck和CSP组成，其具体结构如下图所示。它是由几个标准的Bottleneck的堆叠+几个标准卷积层
以下是对BottleneckCSP模块的解读
class BottleneckCSP(nn.Module):
# CSP Bottleneck https://github.com/WongKinYiu/CrossStagePartialNetworks
"""在C3模块和yolo.py的parse_model模块调用
参数： c1 -- 整个BottleneckCSP的输入channel
c2 -- 整个BottleneckCSP的输出channel
n -- 有n个Bottleneck
shortcut -- bool Bottleneck中是否有shortcut，默认True
g -- Bottleneck中的3x3卷积类型 =1普通卷积 >1深度可分离卷积
e -- expansion ratio c2xe=中间其他所有层的卷积核个数/中间所有层的输入输出channel数
"""
def __init__(self, c1, c2, n=1, shortcut=True, g=1, e=0.5): # ch_in, ch_out, number, shortcut, groups, expansion
super().__init__()
c_ = int(c2 * e) # hidden channels
self.cv1 = Conv(c1, c_, 1, 1)
self.cv2 = nn.Conv2d(c1, c_, 1, 1, bias=False)
self.cv3 = nn.Conv2d(c_, c_, 1, 1, bias=False)
self.cv4 = Conv(2 * c_, c2, 1, 1)
self.bn = nn.BatchNorm2d(2 * c_) # applied to cat(cv2, cv3)
self.act = nn.SiLU()
# n次Bottleneck
self.m = nn.Sequential(*(Bottleneck(c_, c_, shortcut, g, e=1.0) for _ in range(n)))
def forward(self, x):
y1 = self.cv3(self.m(self.cv1(x)))
y2 = self.cv2(x)
return self.cv4(self.act(self.bn(torch.cat((y1, y2), 1))))2.6 C3
下面是C3的网络结构图，从结构中可以看出它和Bottleneck的结构非常相似，它是Bottleneck的优化版本，比Bottleneck更简单、快速和轻量，而其实现的功能却基本上相差无几。
以下是对C3模块的解读
class C3(nn.Module):
# CSP Bottleneck with 3 convolutions
"""
在C3TR模块和yolo.py的parse_model模块调用
参数：c1 -- 整个BottleneckCSP的输入channel
c2 -- 整个BottleneckCSP的输出channel
n -- 有n个Bottleneck
shortcut -- bool Bottleneck中是否有shortcut，默认True
g -- Bottleneck中的3x3卷积类型 =1普通卷积 >1深度可分离卷积
e -- expansion ratio c2xe=中间其他所有层的卷积核个数/中间所有层的输入输出channel数
"""
def __init__(self, c1, c2, n=1, shortcut=True, g=1, e=0.5): # ch_in, ch_out, number, shortcut, groups, expansion
super().__init__()
c_ = int(c2 * e) # hidden channels
self.cv1 = Conv(c1, c_, 1, 1)
self.cv2 = Conv(c1, c_, 1, 1)
self.cv3 = Conv(2 * c_, c2, 1) # optional act=FReLU(c2)
self.m = nn.Sequential(*(Bottleneck(c_, c_, shortcut, g, e=1.0) for _ in range(n)))
def forward(self, x):
return self.cv3(torch.cat((self.m(self.cv1(x)), self.cv2(x)), 1))2.7 SPP
使用空间金字塔池化（Spatial Pyramid Pooling，SPP）的有两个作用：
- 将更多不同分辨率的特征进行融合
- 它使得我们构建的网络，可以输入任意大小的图片，不需要经过裁剪缩放等操作
高层网络层的感受野的语义信息表征能力强，低层网络层的感受野空间细节信息表征能力强。空间金字塔池化（Spatial Pyramid Pooling，SPP）是目标检测算法中对高层特征进行多尺度池化以增加感受野的重要措施之一。
CNN的卷积层是可以处理任意尺度的输入的，只是在全连接层处有限制尺度。而经典的空间金字塔池化模块首先将输入的卷积特征分成不同的尺寸，然后每个尺寸提取固定维度的特征，最后将这些特征拼接成一个固定的维度，如下图所示。输入的卷积特征图的大小为(w, h)，第一层空间金字塔采用4x4的刻度对特征图进行划分，其将输入的特征图分成了16个块，每块的大小为(w/4, h/4)；第二层空间金字塔采用2x2的刻度对特征图进行划分，将特征图分为4个块，每块大小为(w/2, h/2)；第三层空间金字塔将整张特征图作为一块，进行特征提取操作，最终的特征向量为16+4+1=21维。
SPP是在Feature Map经过不同尺度的池化后，将特征图们重新cat起来传到下一层侦测网络中，其网络结构如下图所示。这样SPP就融合了局部与全局特征，同时还兼顾了避免裁剪图像的作用。
以下是对SPP的解读
class SPP(nn.Module):
# Spatial Pyramid Pooling (SPP) layer https://arxiv.org/abs/1406.4729
'''
在yolo.py的parse_model函数中被调用
参数 c1: SPP模块的输入channel
c2: SPP模块的输出channel
k: 保存着三个maxpool的卷积核大小，默认是(5, 9, 13)
'''
def __init__(self, c1, c2, k=(5, 9, 13)):
super().__init__()
c_ = c1 // 2 # hidden channels
self.cv1 = Conv(c1, c_, 1, 1)
self.cv2 = Conv(c_ * (len(k) + 1), c2, 1, 1)
# m最大池化操作的list，通过nn.ModuleList进行构造一个m模块,在构造时对每一个k都要进行最大池化
self.m = nn.ModuleList([nn.MaxPool2d(kernel_size=x, stride=1, padding=x // 2) for x in k])
def forward(self, x):
x = self.cv1(x)
with warnings.catch_warnings():
warnings.simplefilter('ignore') # suppress torch 1.9.0 max_pool2d() warning
return self.cv2(torch.cat([x] + [m(x) for m in self.m], 1))2.8 Concat
Concat将自身按照某个维度进行concat，通常用来合并前后两个feature map，注意是合并，而非相加，需要区别shortcut。下图是对shortcut和concat的示意图，由图中可以看出，Concat将两个38*38*256的featuremap合并为一个38*38*512的featuremap，channel维的直接堆叠，而不是shortcut中channel维对应位置上值的相加。
（图片来自https://blog.csdn.net/HUASHUDEYANJING/article/details/126182551）
以下是对Concat的代码解读，其中参数dimension即指定concat的维度，实质调用的是torch中的cat函数。
class Concat(nn.Module):
# Concatenate a list of tensors along dimension
'''
在yolo.py的parse_model函数中被调用
参数： dimension-- 沿着该维度进行concat
'''
def __init__(self, dimension=1):
super().__init__()
self.d = dimension
def forward(self, x):
return torch.cat(x, self.d)对于torch.cat在指定维度究竟是如何cat的，可以用测试代码来查看，如下所示。3个2*3的x进行cat，维度d=0时，是在行向量上进行cat，cat后的维度为6*3；维度d=1时，是在列向量上进行cat，cat后的维度为2*9；
三维向量亦是如此，如下所示。注意torch中的tensor跟我们常规的维度顺序有所不同，如下所示，2*3*4的向量，我们通常会认为是2行*3列*4channel，但torch中的tensor则是2channel*3行*4列。
2.9 Contract、Expand
这两个函数都用来改变featuremap维度，其改变方法刚好相反，可以认为他们是featuremap维度改变的正逆变换，其中
（1）Contract函数：改变输入特征的shape，将feature map的 w 和 h 维度（缩小）的数据收缩到channel维度上（放大）。如：x(1,64,80,80) to x(1,256,40,40)。
（2）Expand函数：改变输入特征的shape，但与Contract的相反，是将channel维度（变小）的数据扩展到 W 和 H 维度（变大）。如：x(1,64,80,80) to x(1,16,160,160)。
以下是对这两个模块的解读。
class Contract(nn.Module):
# Contract width-height into channels, i.e. x(1,64,80,80) to x(1,256,40,40)
'''
在yolo.py的parse_model函数中被调用，用的不多
改变输入特征的shape，将w和h维度(缩小)的数据收缩到channel维度上(放大)
'''
def __init__(self, gain=2):
super().__init__()
# 缩放的尺度
self.gain = gain
def forward(self, x):
b, c, h, w = x.size() # assert (h / s == 0) and (W / s == 0), 'Indivisible gain'
s = self.gain
x = x.view(b, c, h // s, s, w // s, s) # x(1,64,40,2,40,2)
# permute: 改变tensor的维度顺序
x = x.permute(0, 3, 5, 1, 2, 4).contiguous() # x(1,2,2,64,40,40)
# .view: 改变tensor的维度
return x.view(b, c * s * s, h // s, w // s) # x(1,256,40,40)3. 扩展模块
Yolov5在最初搭建时就已经考虑了各方面的功能，除了包含yolov5本身需要的模块外，还包含很多扩展模块，比如给模型搭载NMS功能，给模型封装成包含前处理、推理、后处理的模块（预处理 + 推理 + NMS），二次分类等等功能。因此yolov5的模块比较齐全，在其基础上进行改进时，可以使用这些扩展模块。
3.1 非极大值抑制（NMS）
无论是双阶段还是单阶段目标检测算法，最终都会在同一目标的附近区域内产生一些重合度较高的预测框，通常会采用非极大值抑制(Non-max Suppression, NMS)来剔除冗余的预测框，筛选出高质量的检测结果。顾名思义，NMS 就是抑制同一类别中非极大值的元素，类似于局部最优搜索算法。简单来说就是模型会在同一个目标附近预测出很多框，我们最终应该选择哪个框。
非极大值抑制的基本原理：
- 将所有的矩形框按照不同的类别标签分组，组内按分数高低进行排序，取得分最高的矩形框先放入结果序列；
- 遍历剩余矩形框，计算与当前得分最高的矩形框的交并比IOU，若大于预设的阈值则剔除；
- 对剩余的检测框重复操作（2），直到处理完图像内所有的候选框，即可得到最后的框序列信息；
如下图所示，是使用NMS使用的前后效果。
在yolov5中，非极大值抑制的定义函数是位于utils/general.py的non_max_supression函数。在yolov5的6.0版本中common.py中并未对NMS进行类封装，而是直接调用non_max_supression函数。
3.2 AutoShape
这个模块是一个模型扩展模块，给模型封装成包含前处理、推理、后处理的模块（预处理 + 推理 + NMS），用的不多。autoshape模块在train中不会被调用，当模型训练结束后，会通过这个模块对图片进行重塑，来方便模型的预测。
该模块自动调整shape，由于我们输入的图像可能不一样，可能来自cv2/np/PIL/torch 对输入进行预处理，因此通过调用此模块调整其shape。以下为代码解析部分。
class AutoShape(nn.Module):
# YOLOv5 input-robust model wrapper for passing cv2/np/PIL/torch inputs. Includes preprocessing, inference and NMS
# YOLOv5模型包装器，用于传递 cv2/np/PIL/torch输入
# 包括预处理（preprocessing）、推理（inference）和NMS
conf = 0.25 # NMS confidence threshold
iou = 0.45 # NMS IoU threshold
agnostic = False # NMS class-agnostic
multi_label = False # NMS multiple labels per box
classes = None # (optional list) filter by class, i.e. = [0, 15, 16] for COCO persons, cats and dogs
max_det = 1000 # maximum number of detections per image
amp = False # Automatic Mixed Precision (AMP) inference
def __init__(self, model, verbose=True):
super().__init__()
if verbose:
LOGGER.info('Adding AutoShape... ')
copy_attr(self, model, include=('yaml', 'nc', 'hyp', 'names', 'stride', 'abc'), exclude=()) # copy attributes
self.dmb = isinstance(model, DetectMultiBackend) # DetectMultiBackend() instance
self.pt = not self.dmb or model.pt # PyTorch model
# 开启验证模式
self.model = model.eval()
if self.pt:
m = self.model.model.model[-1] if self.dmb else self.model.model[-1] # Detect()
m.inplace = False # Detect.inplace=False for safe multithread inference
m.export = True # do not output loss values
def _apply(self, fn):
# Apply to(), cpu(), cuda(), half() to model tensors that are not parameters or registered buffers
self = super()._apply(fn)
if self.pt:
m = self.model.model.model[-1] if self.dmb else self.model.model[-1] # Detect()
m.stride = fn(m.stride)
m.grid = list(map(fn, m.grid))
if isinstance(m.anchor_grid, list):
m.anchor_grid = list(map(fn, m.anchor_grid))
return self
@smart_inference_mode()
def forward(self, ims, size=640, augment=False, profile=False):
# Inference from various sources. For size(height=640, width=1280), RGB images example inputs are:
# file: ims = 'data/images/zidane.jpg' # str or PosixPath
# URI: = 'https://ultralytics.com/images/zidane.jpg'
# OpenCV: = cv2.imread('image.jpg')[:,:,::-1] # HWC BGR to RGB x(640,1280,3)
# PIL: = Image.open('image.jpg') or ImageGrab.grab() # HWC x(640,1280,3)
# numpy: = np.zeros((640,1280,3)) # HWC
# torch: = torch.zeros(16,3,320,640) # BCHW (scaled to size=640, 0-1 values)
# multiple: = [Image.open('image1.jpg'), Image.open('image2.jpg'), ...] # list of images
'''
这里的imgs针对不同的方法读入，官方也给了具体的方法，size是图片的尺寸
'''
dt = (Profile(), Profile(), Profile())
with dt[0]:
if isinstance(size, int): # expand
size = (size, size)
p = next(self.model.parameters()) if self.pt else torch.empty(1, device=self.model.device) # param
autocast = self.amp and (p.device.type != 'cpu') # Automatic Mixed Precision (AMP) inference
# 把图片转化成模型输入的形式
# 图片如果是tensor格式，说明是预处理过的，直接正常进行前向推理即可，NMS在推理结束进行(函数外写)
if isinstance(ims, torch.Tensor): # torch
with amp.autocast(autocast):
return self.model(ims.to(p.device).type_as(p), augment=augment) # inference
# Pre-process
# 输入的可能不是一张图片，因为你输入的形式应该是[batch_size,image style],这里获取到输入的n张图片，
# 然后每张图片存储在列表imgs里面
n, ims = (len(ims), list(ims)) if isinstance(ims, (list, tuple)) else (1, [ims]) # number, list of images
shape0, shape1, files = [], [], [] # image and inference shapes, filenames
# 遍历图片
for i, im in enumerate(ims):
f = f'image{i}' # filename
# 这个if条件基本上不会满足，他是针对一些特殊需求的，输入的是uri
# 这其实也是有效的，比如训练了一个黄图监测网络，然后通过爬虫从地址池里爬取img的uri，储存起来
if isinstance(im, (str, Path)): # filename or uri
im, f = Image.open(requests.get(im, stream=True).raw if str(im).startswith('http') else im), im
im = np.asarray(exif_transpose(im))
elif isinstance(im, Image.Image): # PIL Image
im, f = np.asarray(exif_transpose(im)), getattr(im, 'filename', f) or f
# 存放图像的名字
files.append(Path(f).with_suffix('.jpg').name)
'''
下面的操作主要是以下功用：
首先将图片原来的[H,W,C]的shape转换成[C,H,W]
然后将图像统一为3通道图像，灰度图则转化为RGB图
提取图像的[H,W]保存到shape0列表里面
用输入图像的size（上面默认的640）/max[H,W]，就可以得到缩放比例g
再将原始的[H,W]x缩放比例g得到模型输入的shape保存到shape1列表里面
然后更新imgs
'''
if im.shape[0] < 5: # image in CHW
im = im.transpose((1, 2, 0)) # reverse dataloader .transpose(2, 0, 1)
im = im[..., :3] if im.ndim == 3 else cv2.cvtColor(im, cv2.COLOR_GRAY2BGR) # enforce 3ch input
s = im.shape[:2] # HWC
shape0.append(s) # image shape
g = max(size) / max(s) # gain
shape1.append([int(y * g) for y in s])
ims[i] = im if im.data.contiguous else np.ascontiguousarray(im) # update
shape1 = [make_divisible(x, self.stride) for x in np.array(shape1).max(0)] # inf shape
x = [letterbox(im, shape1, auto=False)[0] for im in ims] # pad
x = np.ascontiguousarray(np.array(x).transpose((0, 3, 1, 2))) # stack and BHWC to BCHW
x = torch.from_numpy(x).to(p.device).type_as(p) / 255 # uint8 to fp16/32
with amp.autocast(autocast):
# Inference
with dt[1]:
y = self.model(x, augment=augment) # forward
# Post-process
with dt[2]:
# 然后对y进行nms处理，就得等到了最终的preds [batch_size, n, 4]和scores [batch_size,n,1]了
y = non_max_suppression(y if self.dmb else y[0],
self.conf,
self.iou,
self.classes,
self.agnostic,
self.multi_label,
max_det=self.max_det) # NMS
for i in range(n):
scale_boxes(shape1, y[i][:, :4], shape0[i])
# 把处理好的内容给到Detections类中做最后的处理
return Detections(ims, y, files, dt, self.names, x.shape)3.3 Detections
该模块是一个专门针对目标检测的封装类。
class Detections:
# YOLOv5 detections class for inference results
# YOLOv5推理结果检测类
def __init__(self, ims, pred, files, times=(0, 0, 0), names=None, shape=None):
super().__init__()
d = pred[0].device # device
gn = [torch.tensor([*(im.shape[i] for i in [1, 0, 1, 0]), 1, 1], device=d) for im in ims] # normalizations
self.ims = ims # list of images as numpy arrays
self.pred = pred # list of tensors pred[0] = (xyxy, conf, cls)
self.names = names # class names
self.files = files # image filenames
self.times = times # profiling times
self.xyxy = pred # xyxy pixels
self.xywh = [xyxy2xywh(x) for x in pred] # xywh pixels
self.xyxyn = [x / g for x, g in zip(self.xyxy, gn)] # xyxy normalized
self.xywhn = [x / g for x, g in zip(self.xywh, gn)] # xywh normalized
self.n = len(self.pred) # number of images (batch size)
self.t = tuple(x.t / self.n * 1E3 for x in times) # timestamps (ms)
self.s = tuple(shape) # inference BCHW shape
def _run(self, pprint=False, show=False, save=False, crop=False, render=False, labels=True, save_dir=Path('')):
s, crops = '', []
for i, (im, pred) in enumerate(zip(self.ims, self.pred)):
s += f'\nimage {i + 1}/{len(self.pred)}: {im.shape[0]}x{im.shape[1]} ' # string
if pred.shape[0]:
for c in pred[:, -1].unique():
n = (pred[:, -1] == c).sum() # detections per class
s += f"{n} {self.names[int(c)]}{'s' * (n > 1)}, " # add to string
s = s.rstrip(', ')
if show or save or render or crop:
annotator = Annotator(im, example=str(self.names))
for *box, conf, cls in reversed(pred): # xyxy, confidence, class
label = f'{self.names[int(cls)]} {conf:.2f}'
if crop:
file = save_dir / 'crops' / self.names[int(cls)] / self.files[i] if save else None
crops.append({
'box': box,
'conf': conf,
'cls': cls,
'label': label,
'im': save_one_box(box, im, file=file, save=save)})
else: # all others
annotator.box_label(box, label if labels else '', color=colors(cls))
im = annotator.im
else:
s += '(no detections)'
im = Image.fromarray(im.astype(np.uint8)) if isinstance(im, np.ndarray) else im # from np
if show:
display(im) if is_notebook() else im.show(self.files[i])
if save:
f = self.files[i]
im.save(save_dir / f) # save
if i == self.n - 1:
LOGGER.info(f"Saved {self.n} image{'s' * (self.n > 1)} to {colorstr('bold', save_dir)}")
if render:
self.ims[i] = np.asarray(im)
if pprint:
s = s.lstrip('\n')
return f'{s}\nSpeed: %.1fms pre-process, %.1fms inference, %.1fms NMS per image at shape {self.s}' % self.t
if crop:
if save:
LOGGER.info(f'Saved results to {save_dir}\n')
return crops
@TryExcept('Showing images is not supported in this environment')
def show(self, labels=True):
self._run(show=True, labels=labels) # show results
def save(self, labels=True, save_dir='runs/detect/exp', exist_ok=False):
save_dir = increment_path(save_dir, exist_ok, mkdir=True) # increment save_dir
self._run(save=True, labels=labels, save_dir=save_dir) # save results
def crop(self, save=True, save_dir='runs/detect/exp', exist_ok=False):
save_dir = increment_path(save_dir, exist_ok, mkdir=True) if save else None
return self._run(crop=True, save=save, save_dir=save_dir) # crop results
def render(self, labels=True):
self._run(render=True, labels=labels) # render results
return self.ims
def pandas(self):
# return detections as pandas DataFrames, i.e. print(results.pandas().xyxy[0])
new = copy(self) # return copy
ca = 'xmin', 'ymin', 'xmax', 'ymax', 'confidence', 'class', 'name' # xyxy columns
cb = 'xcenter', 'ycenter', 'width', 'height', 'confidence', 'class', 'name' # xywh columns
for k, c in zip(['xyxy', 'xyxyn', 'xywh', 'xywhn'], [ca, ca, cb, cb]):
a = [[x[:5] + [int(x[5]), self.names[int(x[5])]] for x in x.tolist()] for x in getattr(self, k)] # update
setattr(new, k, [pd.DataFrame(x, columns=c) for x in a])
return new
def tolist(self):
# return a list of Detections objects, i.e. 'for result in results.tolist():'
r = range(self.n) # iterable
x = [Detections([self.ims[i]], [self.pred[i]], [self.files[i]], self.times, self.names, self.s) for i in r]
# for d in x:
# for k in ['ims', 'pred', 'xyxy', 'xyxyn', 'xywh', 'xywhn']:
# setattr(d, k, getattr(d, k)[0]) # pop out of list
return x
def print(self):
LOGGER.info(self.__str__())
def __len__(self): # override len(results)
return self.n
def __str__(self): # override print(results)
return self._run(pprint=True) # print results
def __repr__(self):
return f'YOLOv5 {self.__class__} instance\n' + self.__str__()3.4 Classify
这是一个二级分类模块。比如做车牌识别，先识别出车牌，如果相对车牌上的字进行识别，就需要二级分类进一步检测。如果对模型输出的分类需要进行二次分类，就可以用这个模块。这个类写的比较简单，若进行复杂的二级分类，可以根据需要进行改写。
4. 修改模型
在使用yolov5时，若需要对模型进行修改，则需要修改相应的模块代码，例如，将C3模块修改为以下结构，则代码修改如下所示。
class C3(nn.Module):
# CSP Bottleneck with 3 convolutions
"""
在C3TR模块和yolo.py的parse_model模块调用
参数：c1 -- 整个BottleneckCSP的输入channel
c2 -- 整个BottleneckCSP的输出channel
n -- 有n个Bottleneck
shortcut -- bool Bottleneck中是否有shortcut，默认True
g -- Bottleneck中的3x3卷积类型 =1普通卷积 >1深度可分离卷积
e -- expansion ratio c2xe=中间其他所有层的卷积核个数/中间所有层的输入输出channel数
"""
def __init__(self, c1, c2, n=1, shortcut=True, g=1, e=0.5): # ch_in, ch_out, number, shortcut, groups, expansion
super().__init__()
c_ = int(c2 * e) # hidden channels
self.cv1 = Conv(c1, c_, 1, 1)
self.cv2 = Conv(c1, c_, 1, 1)
# self.cv3 = Conv(2 * c_, c2, 1) # optional act=FReLU(c2)
self.m = nn.Sequential(*(Bottleneck(c_, c_, shortcut, g, e=1.0) for _ in range(n)))
def forward(self, x):
# 修改C3的结构，若要保持最终输出的channel仍为c2，则中间层的channel需为c2/2
return torch.cat((self.m(self.cv1(x)), self.cv2(x)), 1)
# return self.cv3(torch.cat((self.m(self.cv1(x)), self.cv2(x)), 1))