数据挖掘概念与技术-笔记(2)

属性相关性分析

1.为什么要进行属性相关性分析

  • 属性太多会降低系统性能,因此要过滤掉不相关和弱相关属性以提高系统性能

2.属性相关分析方法

属性相关性分析的基本思想是计算某种度量,用于量化属性与给定类或概念的相关性。这种度量包括信息增益

、gini索引、不确定性和相关系数。


信息增益计算:原理---删除信息量少的属性,收集信息量多的属性

训练集样本为S,根据某属性将S划分为m个类别,则S有si个Ci类样本,i=1,2,3......m

一个类为S属性的可能性为si/s

信息增益公式如下:




对于一个训练集给定阈值,如果根据某一属性计算所得的Gain小于给定阈值则认为其弱相关



概念描述的属性相关分析执行步骤:

  1. 数据收集
  2. 使用保守的AOI进行预相关分析
  3. 使用选定的相关分析度量删除不相关和弱相关属性
  4. 使用AOI产生概念描述


猜你喜欢

转载自blog.csdn.net/m0_37895939/article/details/80363710
今日推荐