数据挖掘学习（三）——分类 之人工神经网络

 感知器就是一个单层的前馈神经网络。感知器只能构造一个超平面，所以无法解决XOR问题。

多层神经网络，包括输入层、隐藏层和输出层。

支持向量机（support vector machine,SVM）,具有坚实的统计学理论基础，这种方法具有一个独特的特点，他使用训练实例的一个子集来表示决策边界，该子集乘坐支持向量（support vector）。   SVM与最大边缘超平面关系密切，超平面可将训练样例进行划分，需要从这些超平面中找到有最大边缘的超平面。 

      组合分类器的性能由于单个分类器必须满足两个必要条件：（1）基分类器之间应该是相互独立的；（2）基分类器应当好于随机猜测分类器。实际上，很难保证基分类器之间完全相互独立。尽管如此，我们看到在基分类器轻微相关的情况下，组合方法可以提高分类的准确率。

    随机森林 是一类专门为决策树分类器设计的组合方法。