手写数字图像识别

1 目标
通过KNN算法对手写数字图像进行识别。
2 思路
（1） 删除train文件夹中标签与图像明显错误的样本；
（2） 样本格式多种多样，将样本统一处理成 28*28 位深度为8；
（3） 将图像样本转换为txt格式；
（4） 将所用样本转换为数组矩阵,形成训练样本；
（5） 提取文件名的首字符，形成label；
（6） 基于KNN算法，在训练集上训练，并保存训练好的模型“knn.pkl”；
（7） 基于训练好的模型，在测试集上测试
3 理论基础
3.1 KNN 算法
KNN作为一种有监督分类算法，是最简单的机器学习算法之一，顾名思义，其算法主体思想就是根据距离相近的邻居类别，来判定自己的所属类别。算法的前提是需要有一个已被标记类别的训练数据集，具体的计算步骤分为一下三步：
A、计算测试对象与训练集中所有对象的距离，可以是欧式距离、余弦距离等，比较常用的是较为简单的欧式距离；
B、找出上步计算的距离中最近的K个对象，作为测试对象的邻居；
C、找出K个对象中出现频率最高的对象，其所属的类别就是该测试对象所属的类别。
4 实践过程
4.1 预处理
4.1.1 去除文件名与图片明显不对应的图片
如果在训练样本中有明显标记错误的样本，会对结果产生比较大的干扰，所以要先把异样样本剔除，经剔除后，train文件中剩余7643个样本。部分异常样本如下：

图1 部分异常样本
4.1.2 统一图像格式
图像格式多种多样，进行预处理，统一处理为28*28像素，单通道8位灰度（0-255）的图像格式，编写代码将原始数据转为可训练数据。
代码在 ResizeImg.py中：

This Python file uses the following encoding: utf-8

from PIL import Image
import os

def file_name(file_dir):
for root, dirs, files in os.walk(file_dir):
count = 1
print(files)
for i in files:
im = Image.open(‘train/’+i)
#filename = os.listdir(file_dir)
#print(filename)
out = im.resize((28,28))#Output Image 28*28pixels
out = out.convert(“L”) #Convert Image to 8 gray
out.save(‘data/ResizedImg/’+ i,‘PNG’)
count += 1
print(i)
if name == “main”:
file_name(‘train/’)#Input Image
完成后，将预处理完成的图片存储到data/ResizedImg文件夹下
4.2 将图片转换为数组矩阵
训练数据集与测试数据集都是标准化后的数组矩阵，而我们的试验对象是手写体数字图片，首先需要将图片进行一下数据化处理。
处理思路为：
通过提取像素值，并将黑色的像素用“1”表示，将白色的像素用“0”表示，再保存为txt格式的文档即可，保存在 data/txtdata 文件夹下。

图2 转换后的txt文件夹
处理后，txt文件结果如下：

图3 处理后的数字 “2”和“9”样本
然后，将所有的txt文件拼接成一个数组，保存在trainarr.txt中，作为最终的训练样本输入。
def data2array(fname):
arr = []
fh = open(fname)
for i in range(0,28):
thisline = fh.readline()
for j in range(0,28):
arr.append(int(thisline[j]))
return arr

4.3 制作label
通过提起文件名中的首字符，制作label，形成labels.txt
label = “图片路径”.split(".")[0].split("-")[0]
labels.txt中结果如下：

4.4 基于KNN算法进行训练
基于sklearn中的KNN 算法进行手写数字识别，并基于交叉检验进行超参数整定，选择最优的邻居数k,并将训练好的模型保存为knn.pkl
经训练，k=3时，模型效果最优，但是模型正确率仅为 31.2%。

基于KNN 进行分类识别

from maketraindata import traindata
from sklearn.model_selection import train_test_split
from sklearn.neighbors import KNeighborsClassifier
import pandas as pd
from sklearn.model_selection import GridSearchCV
import joblib

trainarr,labels = traindata()

特征工程

建立模型

knn = KNeighborsClassifier() # 在这边不设置超参数，将超参数在网格搜索和交叉验证中设置

扫描二维码关注公众号，回复： 14315677 查看本文章

设置网格搜索和交叉验证， cv(cross validation 交叉验证)

gc= GridSearchCV(estimator = knn, param_grid={‘n_neighbors’:[2,3,5],‘weights’:[‘uniform’,‘distance’]},cv=5)

模型训练

gc.fit(trainarr,labels)

print(“交叉验证与网格搜索最好的结果”,gc.best_estimator_)
print(‘交叉验证最好的训练分数’,gc.best_score_)

保存模型

joblib.dump(gc,“data/knn.pkl”)
4.5 在测试集上进行测试
在测试集上，调用训练好的模型进行预测，并将测试结果保存在test.txt文件中，程序test.py如下：
import joblib
from os import listdir
from PIL import Image
import numpy as np
import pandas as pd
import time

def test():
# 1 加载模型
KNN = joblib.load(‘data/knn.pkl’)
pngpath = “test/”
pnglist = listdir(pngpath)
txtpath = “data/testtxt/”
labels = []
results = []
for i in pnglist:
#加载图像
im = Image.open(pngpath+i)
#图像预处理
out = im.resize((28, 28)) # Output Image 20*20pixels
out = out.convert(“L”)
#图像转换为txt
fh = open(txtpath + i + ‘.txt’, “a”) # 打开待保存的文档
trainpath = txtpath + i + ‘.txt’
for m in range(0, 28): # 此32为图片的像素高度，也可以用width = im.size()[1]提取
for n in range(0, 28): # 此32为图片的像素宽度，也可以用width = im.size()[0]提取
pix = im.getpixel((n, m)) # 提取像素
#print(pix)
# pixs = pix[0]+pix[1]+pix[2]
# pixs = pix[0] + pix[1]
if pix ==0: # RGB数值相加为0，表示黑色(0,0,0)
fh.write(“1”) # 黑色用1表示
else:
fh.write(“0”) # 白色用1表示
fh.write("\n") # 每一行的末尾输入换行符
fh.close()

    # 图像转换为ndarry
    #trainfile = open(txtpath + i + '.txt')
    trainarr = np.zeros((1, 784))
    label = i.split(".")[0].split("-")[0]
    trainarr= data2array(trainpath)  # 将训练数据写入0矩阵
    trainarr = np.array(trainarr).reshape(1,-1)  # 在最新版本的sklearn中，所有的数据都应该是二维矩阵 ,list不能使用reshape，需要将其转化为array，然后就可以使用reshape
    #print(trainarr)

    # 测试
    result=KNN.predict(trainarr)
    # 将result 写入本地文件
    fh1 = open('data/test.txt', "a")  # 打开待保存的文档
    fh1.write(str(result)+'\n')
    fh1.close()

    print(label,result)
    labels.append(int(label))
    results.append(int(result))
return labels, results

def data2array(fname):
arr = []
fh = open(fname)
for i in range(0,28):
thisline = fh.readline()
for j in range(0,28):
arr.append(int(thisline[j]))
return arr

def text_save(filename, data):#filename为写入CSV文件的路径，data为要写入数据列表.
file = open(filename,‘a’)
for i in range(len(data)):
s = str(data[i]).replace(’[’,’’).replace(’]’,’’)#去除[],这两行按数据不同，可以选择
s = s.replace("’",’’).replace(’,’,’’) +’\n’ #去除单引号，逗号，每行末尾追加换行符
file.write(s)
file.close()
print(“保存文件成功”)

参考：添加链接描述