[机器学习]感知机

from matplotlib.colors import ListedColormap

class AdalineG(object):
    """
    eta:float
    学习效率，处于0和1之间
    n_iter:int    对训练数据进行学习改进次数
    w_:一维向量
    存储权重数值
    error_:    存储每次迭代改进时，网络对数据进行错误判断的次数
    """
    def __init__(self,eta=0.01,n_iter=50):
        self.eta = eta
        self.n_iter = n_iter
    def net_input(self, X):
        return np.dot(X, self.w_[1:]) + self.w_[0]
    def activation(self, X):
        return self.net_input(X)
    def predict(self, X):
        return np.where(self.activation(X) >=0, 1, -1)
    def fit(self, X, y):
        """
        X:二维数组[n_sampls, n_features]
        n_samples 表示X中含有训练数据条目数
        n_faetures 含有4个数据的一维向量，用于表示一条训练条目
        y:一维向量
        用于存储每一训练条目对应的正确分类
        """

        self.w_ = np.zeros(1 + X.shape[1])
        self.cost_ = []
        for i in range(self.n_iter):
            output = self.net_input(X)
            errors = (y-output)
            self.w_[1:] += self.eta * X.T.dot(errors)
            self.w_[0] += self.eta * errors.sum()
            cost = (errors ** 2).sum() /2.0
            self.cost_.append(cost)
        return self

file="iris1.xlsx"
import pandas as pd
#header为none目的表示第一行并不是头文件信息，并且读入
df=pd.read_excel(file,header=None)
import matplotlib.pyplot as plt
import numpy as np
y=df.loc[0:99,4].values
#对第四列数据信息进行处理，并且将其结果作为真实分类结果。
y=np.where(y=="Iris-setosa",-1,1)
#只需要第0列和第2列数据作为数据集
X=df.iloc[0:100,[0,2]].values

ada = AdalineG(eta=0.0001, n_iter=50)
ada.fit(X, y)
#以上用来更新权重，获取一个最新的权重值，作为分类器




#resolution划分数据的步长
def plot_decision_regions(X, y, classifier, resolution=0.02):
    #数据描点的形状，具体可见画图方法
    marker = ('s', 'x', 'o', 'v')
    #数据点的颜色
    colors = ('red', 'blue', 'lightgreen', 'gray', 'cyan')
    #根据数据种类选择形状和颜色，例如我们只有两类-1和1，只选择前两个红色和蓝色
    cmap = ListedColormap(colors[:len(np.unique(y))])
    #选择两列数据的最大值和最小值以便绘制数据轴坐标起止点
    x1_min, x1_max = X[:, 0].min() - 1, X[:, 0].max()
    x2_min, x2_max = X[:, 1].min() - 1, X[:, 1].max()
    #将x1、x2最大最小值通过arange函数得到的向量，扩展成两个二维矩阵
    xx1, xx2 = np.meshgrid(np.arange(x1_min, x1_max, resolution), np.arange(x2_min, x2_max, resolution))
    #预测（y=-1/1）
    Z = classifier.predict(np.array([xx1.ravel(), xx2.ravel()]).T) #ravel还原成单维向量
    #绘制
    Z= Z.reshape(xx1.shape) #将Z转换成与xx1一样的二维数组
    plt.contourf(xx1, xx2, Z, alpha=0.4, cmap=cmap) #在两组分类结果中间画分割线-->必须线性可分
    #x,y轴信息结果
    plt.xlim(xx1.min(), xx1.max())
    plt.ylim(xx2.min(), xx2.max())
    #plot和scatter本质上没有区别画图2d
    #按照分类最终结果绘图
    for idx, cl in enumerate(np.unique(y)):
        plt.scatter(x=X[y==cl, 0], y=X[y==cl, 1], alpha=0.8, c=cmap(idx), marker=marker[idx], label=cl)


plot_decision_regions(X, y, classifier=ada)
#数据的填充，增加数据，进行测试
plt.title('Adaline-Gradient descent')
plt.rcParams['font.sans-serif']=['SimHei']
plt.xlabel('花茎长度')
plt.ylabel('花瓣长度')
plt.legend(loc='upper left')
plt.show()