1。概要
1.1 opencv の概要
OpenCV は Open Source Computer Vision Library の略称です。1999 年に Intel によって提案および確立され、現在は Willow Garage によってサポートされています。Windows、Linux、Mac 上のクロスプラットフォーム動作を実装できる高度にオープンソースのコンピュータ ビジョン ライブラリです。およびその他の複数のプラットフォーム。 opencv は、画像処理、解析、マシン ビジョンに使用されるオープン ソースの関数ライブラリであり、コンピューター ビジョンを学習するための強力なツールとなっています。侵入検知、特定ターゲット追跡、ターゲット検出、顔検出、顔認識、顔追跡などの分野で、opencvはその才能を発揮していると言えます。この記事では、opencv は主に銀行カード番号の識別に使用されます。
1.2 銀行カード番号の確認手順
キャッシュ カード番号の認識プロセスには、主に、画像の読み取り、処理されたキャッシュ カードを照合するためのテンプレートの使用、および最終的にキャッシュ カード番号の識別という基本的な画像操作が含まれます。関連する画像操作には、グレースケール変換、バイナリ変換、しきい値セグメンテーション、輪郭検出、トップハット操作、勾配操作、クロージング操作、およびテンプレート マッチングが含まれます。
1.2.1 テンプレート画像の前処理
まず、テンプレートの数字を個別に切り取り、次に銀行カードの数字を個別に切り取り、最後にテンプレート内の銀行カードの数字を 1 つずつ比較する必要があります (0 ~ 9、10 の数字)。
元の画像は次のとおりです。
ストレージ パスは「../data/card_template.jpg」です。
テンプレート内の各数字を長方形に切り出すとすると、まず各数字の外側の輪郭を見つけ、その輪郭に従って外側の長方形を取得し、それを切り出すことができます。バイナリ イメージを渡す必要があります。したがって、手順は次のとおりです。
- 画像テンプレートを読み込む
template = cv2.imread('../data/card_template.jpg')
ShowImage('template', template)
- グレースケール画像に変換する
# 将图像转化为灰度图
image_Gray = cv2.cvtColor(template, cv2.COLOR_RGB2GRAY)
ShowImage('gray', image_Gray)
- バイナリイメージに変換
# 转换为二值化图像,[1]表示返回二值化图像,[0]表示返回阈值177
image_Binary = cv2.threshold(image_Gray, 177, 255, cv2.THRESH_BINARY_INV)[1]
ShowImage('binary', image_Binary)
- 0~9の10個の数字の外側の輪郭を描きます
# 提取轮廓
refcnts, his = cv2.findContours(image_Binary.copy(), cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_SIMPLE)
cv2.drawContours(template, refcnts, -1, (0,0,255), 2)
ShowImage('contour', template)
- 境界四角形を計算し、適切なサイズにサイズ変更します。
# 遍历每一个轮廓
for (i, c) in enumerate(refCnts):
# 计算外接矩形并且resize成合适大小
(x, y, w, h) = cv2.boundingRect(c) #外接矩形
roi = ref[y:y + h, x:x + w]
roi = cv2.resize(roi, (57, 88))
# 每一个数字对应每一个模板
digits[i] = roi
1.2.2 銀行カード画像の前処理
銀行カードの画像の場合、背景をフィルタリングして除去し、主要な情報を保持する必要があります (以下のステップ 1 ~ 6)。上のテンプレートは長方形に切り抜いているので、カード番号も合わせやすいように長方形に切り抜きます。銀行カード番号の位置は 4 桁のグループになっており、最初に 1 つのグループを処理し、次に各グループ内の各番号を切り取ってテンプレート マッチングを行うことができます。アスペクト比を使用して、銀行カード上のカード番号以外の他の情報を除外できます。
銀行カード画像の保存パス: 「../data/credit03.jpg」
- 認識される銀行カードを読み取り、グレースケール画像に変換します
# 读取图像,进行预处理
image = cv2.imread("../data/credit03.jpg")
ShowImage('card', image)
表示される結果は次のとおりです。
image = resize(image, width=300)
# 将图像转化为灰度图
gray = cv2.cvtColor(image, cv2.COLOR_BGR2GRAY)
ShowImage('card_gray', gray)
表示される結果は次のとおりです。
- トップハット操作: トップハット操作により明るい領域を強調表示できます (元の入力 - 開口操作 (最初に腐食、次に拡張))
# 通过顶帽操作,突出更明亮的区域
tophat = cv2.morphologyEx(gray, cv2.MORPH_TOPHAT, rectKernel)
ShowImage('tophat_card', tophat)
表示される結果は次のとおりです。
-
勾配演算(ソーベル演算子):エッジ検出、輪郭計算可能
gradx = cv2.Sobel(tophat, ddepth=cv2.CV_32F, dx=1, dy=0, ksize=-1)
grady = cv2.Sobel(tophat, ddepth=cv2.CV_32F, dx=0, dy=1, ksize=-1)
gradx = np.absolute(gradx)
minVal = np.min(gradx)
maxVal = np.max(gradx)
# (minVal, maxVal) = (np.min(gradx), np.max(gradx))
# 保证值的范围在0-255之间
gradx = (255 * ((gradx - minVal) / (maxVal - minVal)))
gradx = gradx.astype("uint8")
print(np.array(gradx).shape)
ShowImage('gradx_card', gradx)
表示される結果は次のとおりです。
- クロージング操作: クロージング操作 (最初に拡張、次に浸食) を通じて数値を結合し、その後の長方形フレームの計算を容易にします。
# 通过闭操作,先膨胀后腐蚀,将数字连接在一块
gradx = cv2.morphologyEx(gradx, cv2.MORPH_CLOSE,rectKernel)
ShowImage('gradx_card', gradx)
表示される結果は次のとおりです。
- しきい値セグメンテーション: しきい値を使用して画像を 2 値化し、処理部分に焦点を当てます。
# THRESH_OTSU会自动寻找合适的阈值,适合双峰,需要把阈值设置为0
thresh = cv2.threshold(gradx, 0, 255, cv2.THRESH_BINARY | cv2.THRESH_OTSU)[1]
ShowImage('thresh_card', thresh)
表示される結果は次のとおりです。
- 次に、閉じる操作を実行します。画像内の接続された数字を少し多めに記入します。
# 再来一个闭合操作,填充白框内的黑色区域
thresh = cv2.morphologyEx(thresh, cv2.MORPH_CLOSE, sqKernel)
ShowImage('thresh2_card', thresh)
表示される結果は次のとおりです。
-
外側の輪郭を計算する: 上記の一連の操作の後、銀行カード内の数字である場所の明確な候補が得られました。テンプレート オブジェクトを処理するのと同じように、数字である可能性のある場所の外側の輪郭を通るすべての長方形のフレームを描画します。 。後で再度フィルタリングすることができます。
# 计算轮廓
threshCnts, his = cv2.findContours(thresh.copy(), cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_SIMPLE)
cnts = threshCnts
cur_img = image.copy()
cv2.drawContours(cur_img, cnts, -1, (0,0,255), 2)
ShowImage('contour_card', cur_img)
表示される結果は次のとおりです。
- 境界四角形を計算し、一致する四角形をフィルターします。
locs = []
# 遍历轮廓
for (i, c) in enumerate(cnts): # 函数用于遍历序列中的元素以及它们的下标
# 计算矩形
(x, y, w, h) = cv2.boundingRect(c)
ar = w/float(h)
# 选择合适的区域,根据实际任务来,这里是四个数字为一组
if ar > 2.5 and ar < 5.0:
if (w > 40 and w < 85) and (h > 10 and h < 20):
# 把符合的留下
locs.append((x,y,w,h))
# 将符合的轮廓根据x的值,从左到右排序
locs = sorted(locs, key=lambda x: x[0])
- 各長方形を個別に処理する
output =[]
# 遍历轮廓中的每一个数字
for (i,(gx, gy, gw, gh)) in enumerate(locs):
# 初始化链表
groupOutput = []
# 根据坐标提取每一个组,往外多取一点,要不然看不清楚
group = gray[gy-5:gy+gh+5,gx-5:gx+gw+5]
ShowImage('group', group)
# 预处理
group = cv2.threshold(group, 0, 255, cv2.THRESH_BINARY | cv2.THRESH_OTSU)[1] # 二值化
ShowImage('group', group)
# 找到每一组的轮廓
digitCnts, his = cv2.findContours(group.copy(), cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_SIMPLE)
# digitCnts = sortContours(digitCnts, method="LefttoRight")[0]
# 对找到的轮廓进行排序
digitCnts = sort_contours(digitCnts, method="left-to-right")[0]
1.2.3 テンプレートマッチングスコアの計算
# 计算每一组中的每一个数值
for c in digitCnts:
# 找到当前数值的轮廓,resize成合适的大小
(x,y,w,h) = cv2.boundingRect(c)
roi = group[y:y+h, x:x+w]
roi = cv2.resize(roi, (57,88))
ShowImage('roi', roi)
scores = []
for(digit, digitROI) in digits.items():
# 模板匹配
#
result = cv2.matchTemplate(roi, digitROI, cv2.TM_CCOEFF)
(_, score, _, _) = cv2.minMaxLoc(result)
scores.append(score)
# 得到最合适的数字
groupOutput.append(str(np.argmax(scores)))
1.2.4 描画結果
# 画矩形和字体
cv2.rectangle(image, (gx - 5, gy - 5), (gx+gw+5, gy+gh+5), (0,0,255),1)
cv2.putText(image, "".join(groupOutput), (gx, gy-15), cv2.FONT_HERSHEY_SIMPLEX,0.65, (0,0,255),2)
# 得到结果
output.extend(groupOutput)
2 銀行カード番号を識別するための完全なコード
import cv2
import numpy as np
def ShowImage(name, image):
cv2.imshow(name, image)
cv2.waitKey(0) # 等待时间,0表示任意键退出
cv2.destroyAllWindows()
def sort_contours(cnts, method="left-to-right"):
# reverse = False 表示升序,若不指定reverse则默认升序
reverse = False
i = 0
if method == "right-to-left" or method == "bottom-to-top":
reverse = True # reverse = True 表示降序
if method == "top-to-bottom" or method == "bottom-to-top":
i = 1
# 用一个最小的矩形,把找到的形状包起来,用x,y,h,w表示
boundingBoxes = [cv2.boundingRect(c) for c in cnts]
# zip函数用于打包可迭代数据,得到最终输出的cnts和boundingBoxes
(cnts, boundingBoxes) = zip(*sorted(zip(cnts, boundingBoxes),
key=lambda b: b[1][i], reverse=reverse))
return cnts, boundingBoxes
def resize(image, width=None, height=None, inter=cv2.INTER_AREA):
dim = None
(h, w) = image.shape[:2] # 获取图像的高度和宽度
if width is None and height is None:
return image
if width is None:
r = height / float(h)
dim = (int(w * r), height)
else:
r = width / float(w)
dim = (width, int(h * r))
resized = cv2.resize(image, dim, interpolation=inter) # 使用cv库的resize函数
return resized
template = cv2.imread('../data/card_template.jpg')
ShowImage('template', template)
# 将图像转化为灰度图
image_Gray = cv2.cvtColor(template, cv2.COLOR_RGB2GRAY)
ShowImage('gray', image_Gray)
# 转换为二值化图像,[1]表示返回二值化图像,[0]表示返回阈值177
image_Binary = cv2.threshold(image_Gray, 177, 255, cv2.THRESH_BINARY_INV)[1]
ShowImage('binary', image_Binary)
# 提取轮廓
refcnts, his = cv2.findContours(image_Binary.copy(), cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_SIMPLE)
cv2.drawContours(template, refcnts, -1, (0, 0, 255), 2)
ShowImage('contour', template)
refcnts = sort_contours(refcnts, method="left-to-right")[0]
digits = {}
# 遍历每个轮廓
for (i, c) in enumerate(refcnts): # enumerate函数用于遍历序列中的元素以及它们的下标
(x, y, w, h) = cv2.boundingRect(c)
roi = image_Binary[y:y+h, x:x+w]
roi = cv2.resize(roi, (57, 88))
digits[i] = roi
# 初始化卷积核
rectKernel = cv2.getStructuringElement(cv2.MORPH_RECT, (9,3))
sqKernel = cv2.getStructuringElement(cv2.MORPH_RECT, (5,5))
# 读取图像,进行预处理
image = cv2.imread("../data/credit03.jpg")
ShowImage('card', image)
image = resize(image, width=300)
# 将图像转化为灰度图
gray = cv2.cvtColor(image, cv2.COLOR_BGR2GRAY)
ShowImage('card_gray', gray)
# 通过顶帽操作,突出更明亮的区域
tophat = cv2.morphologyEx(gray, cv2.MORPH_TOPHAT, rectKernel)
ShowImage('tophat_card', tophat)
gradx = cv2.Sobel(tophat, ddepth=cv2.CV_32F, dx=1, dy=0, ksize=-1)
grady = cv2.Sobel(tophat, ddepth=cv2.CV_32F, dx=0, dy=1, ksize=-1)
gradx = np.absolute(gradx)
minVal = np.min(gradx)
maxVal = np.max(gradx)
# (minVal, maxVal) = (np.min(gradx), np.max(gradx))
# 保证值的范围在0-255之间
gradx = (255 * ((gradx - minVal) / (maxVal - minVal)))
gradx = gradx.astype("uint8")
print(np.array(gradx).shape)
ShowImage('gradx_card', gradx)
# 通过闭操作,先膨胀后腐蚀,将数字连接在一块
gradx = cv2.morphologyEx(gradx, cv2.MORPH_CLOSE,rectKernel)
ShowImage('gradx_card', gradx)
# THRESH_OTSU会自动寻找合适的阈值,适合双峰,需要把阈值设置为0
thresh = cv2.threshold(gradx, 0, 255, cv2.THRESH_BINARY | cv2.THRESH_OTSU)[1]
ShowImage('thresh_card', thresh)
# 再来一个闭合操作,填充白框内的黑色区域
thresh = cv2.morphologyEx(thresh, cv2.MORPH_CLOSE, sqKernel)
ShowImage('thresh2_card', thresh)
# 计算轮廓
threshCnts, his = cv2.findContours(thresh.copy(), cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_SIMPLE)
cnts = threshCnts
cur_img = image.copy()
cv2.drawContours(cur_img, cnts, -1, (0,0,255), 2)
ShowImage('contour_card', cur_img)
locs = []
# 遍历轮廓
for (i, c) in enumerate(cnts): # 函数用于遍历序列中的元素以及它们的下标
# 计算矩形
(x, y, w, h) = cv2.boundingRect(c)
ar = w/float(h)
# 选择合适的区域,根据实际任务来,这里是四个数字为一组
if ar > 2.5 and ar < 5.0:
if (w > 40 and w < 85) and (h > 10 and h < 20):
# 把符合的留下
locs.append((x,y,w,h))
# 将符合的轮廓根据x的值,从左到右排序
locs = sorted(locs, key=lambda x: x[0])
output =[]
# 遍历轮廓中的每一个数字
for (i,(gx, gy, gw, gh)) in enumerate(locs):
# 初始化链表
groupOutput = []
# 根据坐标提取每一个组,往外多取一点,要不然看不清楚
group = gray[gy-5:gy+gh+5,gx-5:gx+gw+5]
ShowImage('group', group)
# 预处理
group = cv2.threshold(group, 0, 255, cv2.THRESH_BINARY | cv2.THRESH_OTSU)[1] # 二值化
ShowImage('group', group)
# 找到每一组的轮廓
digitCnts, his = cv2.findContours(group.copy(), cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_SIMPLE)
# digitCnts = sortContours(digitCnts, method="LefttoRight")[0]
# 对找到的轮廓进行排序
digitCnts = sort_contours(digitCnts, method="left-to-right")[0]
# 计算每一组中的每一个数值
for c in digitCnts:
# 找到当前数值的轮廓,resize成合适的大小
(x,y,w,h) = cv2.boundingRect(c)
roi = group[y:y+h, x:x+w]
roi = cv2.resize(roi, (57,88))
ShowImage('roi', roi)
scores = []
for(digit, digitROI) in digits.items():
# 模板匹配
#
result = cv2.matchTemplate(roi, digitROI, cv2.TM_CCOEFF)
(_, score, _, _) = cv2.minMaxLoc(result)
scores.append(score)
# 得到最合适的数字
groupOutput.append(str(np.argmax(scores)))
# 画矩形和字体
cv2.rectangle(image, (gx - 5, gy - 5), (gx+gw+5, gy+gh+5), (0,0,255),1)
cv2.putText(image, "".join(groupOutput), (gx, gy-15), cv2.FONT_HERSHEY_SIMPLEX,0.65, (0,0,255),2)
# 得到结果
output.extend(groupOutput)
ShowImage('card_result', image)
操作結果: