属性相关性分析
1.为什么要进行属性相关性分析
- 属性太多会降低系统性能,因此要过滤掉不相关和弱相关属性以提高系统性能
2.属性相关分析方法
属性相关性分析的基本思想是计算某种度量,用于量化属性与给定类或概念的相关性。这种度量包括信息增益
、gini索引、不确定性和相关系数。
信息增益计算:原理---删除信息量少的属性,收集信息量多的属性
训练集样本为S,根据某属性将S划分为m个类别,则S有si个Ci类样本,i=1,2,3......m
一个类为S属性的可能性为si/s
信息增益公式如下:
对于一个训练集给定阈值,如果根据某一属性计算所得的Gain小于给定阈值则认为其弱相关
概念描述的属性相关分析执行步骤:
- 数据收集
- 使用保守的AOI进行预相关分析
- 使用选定的相关分析度量删除不相关和弱相关属性
- 使用AOI产生概念描述