支持向量机课（SVM）前准备（三）--感知机

感知机（perceptron）是理解神经网络和支持向量机的基础，值得我们认真学习。

感知机原理很朴素，功能也较为单一，即在样本线性可分的情况下，求得一个超平面$\sum_{i=1}^{n}\theta _{i}\cdot x_{i}=0$，使得输入空间中的实例全部正确划分。

超平面的直观感受：

流程:

现有m个n维样本，n维简单理解为样本的特征（feature）个数。$x_{1}^{i},x_{2}^{i}···x_{n}^{i} ,y_{i}(i = 1,2,,,m,y=1/-1)$

目标：找到超平面$\sum_{i=1}^{n}\theta _{i}\cdot x_{i}=0$（令x₀=1），使得输入空间实例，满足

一部分实例$\sum_{i=1}^{n}\theta _{i}\cdot x_{i}>0$,

另一部分实例$\sum_{i=1}^{n}\theta _{i}\cdot x_{i}<0$

令w=[θ₀，···，θn]，x=[x_0，···，x_n]

定义感知机模型$f(x)=sign(w\cdot x+b) ,( b=\theta _{0}\cdot x_{0} )$　,　其中