统计模式识别
1.统计模式识别基本概念
- 特征（Feature）
特征是可以用来体现类别之间相互区别的某个或某些数学测度，测度的值称为特征值。
- 样本（Sample）
被分类或识别的模式个体称为样本，特征值必须由样本的原始数据计算得到。
- 特征空间（Feature Space）
由所有特征值为变量轴所形成的欧氏空间。
- 特征向量（Feature Vector）
以所有特征值为其分量的向量。
- 训练和学习
训练（Training）
对分类器或分类器设计提供一批类别已知的样本（统计学概念），使之可以确定适当的待分类别、待分类别个数、分类决策规则，以及估算错误分类的概率，从而形成可以对未知样本进行分类的分类器。这些类别已知的样本称为训练样本，否则称为未知样本或待分类样本（即识别对象）。
学习（Learning）
学习过程就是指训练过程，但两者的含义和出发点有所不同。训练是被动的，学习是主动的。
2.统计模式识别系统设计
系统组成部分
统计模式识别系统组成部分一般包含：传感器，数据预处理，特征计算和分类器。我们用一个通用的模式识别系统举例：
系统设计过程
统计模式识别系统设计一般包含这么几个步骤：收集样本数据——>选择特征集——>选择分类器——>训练分类器——>评价分类器。用流程图来表示：
学习过程（提供一批训练样本）：特征选择与提取——>分类器设计；
分类过程（针对待分类的未知样本）：特征形成与计算——>分类器决策 ;
- 特征的选择与提取
特征选择：从原始特征集中优选特征组合；
特征提取：由原始特征集进行数学（正交）变换得到新特征集
- 特征形成与计算
一个完整的统计模式识别系统设计流程大抵如此。