机器学习 & 数据处理零散知识点

缺失值处理方法

综述
1.删除。缺失值达到一定比例后(比例数值主观判断),直接删除吧。因为缺失值填补会在一定程度上改变数据的分布。
2.人工填补法人工智能还是依赖于人工。
3.特殊值处理应用于类别特征存在缺失时,该方法容易理解。数值型特征缺失时,不建议使用。另外使用该方法会改变数据分布,所以并不建议使用。
4.同类填充(我自己命名)。缺失值为类别特征时,分析关联特征,然后进行groupby,使用该分组中的众数进行填充。数值型特征操作方法一致,但是田中方法可以换成均值,中位数,均值与中位数加权和等。
5.就近补齐找最近的,用它的值代替。
6.聚类补齐 使用聚类代替4中的分组,之后的处理方法一样。
7.一瞪眼法某些特征可能和时间等单个变量存在强相关性,利用强相关性的特征进行填充。
8.使用ML模型填充 会引入偏差。
9.多重插补 我的理解是先使用多种方法进行填充,生成多套数据,对多套数据分别进行试验,最后采用最优的数据(填充方法)

自相关检验

缺失值什么模型可以or不可以处理。共线性特征对什么模型存在影响。

猜你喜欢

转载自blog.csdn.net/weixin_44414593/article/details/107743020