一、meanshift

MeanShift有一个非常实用的定义：查找反投影图像上的对象。

原理

meanshift算法的原理很简单。假设你有一堆点集，还有一个小的窗口，这个窗口可能是圆形的，现在你可能要移动这个窗口到点集密度最大的区域当中。

        最开始的窗口是蓝色圆环的区域，命名为C1。蓝色圆环的圆心用一个蓝色的矩形标注，命名为C1_o。
        而窗口中所有点的点集构成的质心在蓝色圆形点C1_r处，显然圆环的形心和质心并不重合。所以，移动蓝色的窗口，使得形心与之前得到的质心重合。在新移动后的圆环的区域当中再次寻找圆环当中所包围点集的质心，然后再次移动，通常情况下，形心和质心是不重合的。不断执行上面的移动过程，直到形心和质心大致重合结束。这样，最后圆形的窗口会落到像素分布最大的地方，也就是图中的绿色圈，命名为C2。
        meanshift算法除了应用在视频追踪当中，在聚类，平滑等等各种涉及到数据以及非监督学习的场合当中均有重要应用，是一个应用广泛的算法。

流程

图像是一个矩阵信息，如何在一个视频当中使用meanshift算法来追踪一个运动的物体呢?大致流程如下:

**meanshift流程**
1.首先在图像上选定一个目标区域
2.计算选定区域的直方图分布，一般是HSV色彩空间的直方图
3.对下一帧图像 b 同样计算直方图分布
4.计算图像 b 当中与选定区域直方图分布最为相似的区域，使用meanshift算法将选定区域沿着最为相似的部分进行移动，直到找到最相似的区域，便完成了在图像b中的目标追踪。
5.重复3到4的过程，就完成整个视频目标追踪。
通常情况下我们使用直方图反向投影得到的图像和第一帧目标对象的起始位置，当目标对象的移动会反映到直方图反向投影图中，meanshift算法就把我们的窗口移动到反向投影图像中灰度密度最大的区域了。

**直方图反向投影流程**
假设我们有一张100x100的输入图像，有一张10x10的模板图像，查找的过程是这样的:
1.从输入图像的左上角(0,0)开始，切割一块(0,0)至(10,10)的临时图像
2.生成临时图像的直方图
3.用临时图像的直方图和模板图像的直方图对比，对比结果记为c
4.直方图对比结果c，就是结果图像(0,0)处的像素值
5.切割输入图像从(0,1)至(10,11)的临时图像，对比直方图，并记录到结果图像
6.重复1～5步直到输入图像的右下角，就形成了直方图的反向投影。

反投影图像原理详见文章：

python+OpenCV笔记（二十七）：反投影图像https://blog.csdn.net/qq_45832961/article/details/122669636

代码编写

OpenCV API

cv2.meanShift(probImage, window, criteria)

参数：

probImage：ROI区域，即目标直方图的反向投影
window：初始搜索窗口，就是定义ROI的rect
criteria：确定窗口搜索停止的准则，主要有迭代次数达到设置的最大值，窗口中心的漂移值大于某个设定的限值等

实现Meanshift的主要流程是︰

读取视频文件：cv.videoCapture()
感兴趣区域设置：获取第一帧图像，并设置目标区域，即感兴趣区域
计算直方图：计算感兴趣区域的HSV直方图，并进行归一化
目标追踪︰设置窗口搜索停止条件，直方图反向投影，进行目标追踪，并在目标位置绘制矩形框

import cv2 as cv

# 创建读取视频的对象
cap = cv.VideoCapture("E:\\555.mp4")

# 获取第一帧位置，并指定目标位置
ret, frame = cap.read()
c, r, h, w = 530, 160, 300, 320
track_window = (c, r, h, w)
# 指定感兴趣区域
roi = frame[r:r + h, c:c + w]

# 计算直方图
# 转换色彩空间
hsv_roi = cv.cvtColor(roi, cv.COLOR_BGR2HSV)
# 计算直方图
roi_hist = cv.calcHist([hsv_roi], [0], None, [180], [0, 180])
# 归一化
cv.normalize(roi_hist, roi_hist, 0, 255, cv.NORM_MINMAX)

# 目标追踪
# 设置窗口搜索终止条件：最大迭代次数，窗口中心漂移最小值
term_crit = (cv.TermCriteria_EPS | cv.TERM_CRITERIA_COUNT, 10, 1)

while True:
    ret, frame = cap.read()
    if ret:
        # 计算直方图的反向投影
        hsv = cv.cvtColor(frame, cv.COLOR_BGR2HSV)
        dst = cv.calcBackProject([hsv], [0], roi_hist, [0, 180], 1)

        # 进行meanshift追踪
        ret, track_window = cv.meanShift(dst, track_window, term_crit)

        # 将追踪的位置绘制在视频上，并进行显示
        x, y, w, h = track_window
        img = cv.rectangle(frame, (x, y), (x + w, y + h), 255, 2)
        cv.imshow("frame", img)

        if cv.waitKey(20) & 0xFF == ord('q'):
            break

    else:
        break

# 资源释放
cap.release()
cv.destroyAllWindows()

二、Camshift

meanshift有一个问题，就是检测的窗口的大小是固定的，但固定的窗口是不合适的。所以我们需要根据目标的大小和角度来对窗口的大小和角度进行修正。CamShift可以帮我们解决这个问题。

CamShift算法全称是“Continupusly Adaptive Mean-Shift”(连续自适应MeanShift算法)，是对MeanShift算法的改进算法，可随着跟踪目标的大小变化实时调整搜索窗口的大小，具有较好的跟踪效果。
Camshift算法首先应用meanshift，一旦meanshift收敛，它就会更新窗口的大小，还计算最佳拟合椭圆的方向，从而根据目标的位置和大小更新搜索窗口。

Camshift在OpenCV中实现时，只需将上述的meanshift函数改为Camshift函数即可:

meanshift中：

# 进行meanshift追踪
ret, track_window = cv.meanShift(dst, track_window, term_crit)

# 将追踪的位置绘制在视频上，并进行显示
x, y, w, h = track_window
img = cv.rectangle(frame, (x, y), (x + w, y + h), 255, 2)

改为：

# 进行Camshift追踪
ret, track_window = cv.CamShift(dst, track_window, term_crit)

# 将追踪的位置绘制在视频上，并进行显示
pts = cv.boxPoints(ret)
pts = np.int0(pts)
img = cv.polylines(frame, [pts], True, 222, 2)

python+OpenCV笔记（二十六）：视频追踪（meanshift、Camshift）

一、meanshift

原理

流程

代码编写

二、Camshift

猜你喜欢