R语言:用R语言填补缺失的数据

缺少数据在分析数据集时可能不是一个微不足道的问题。

如果缺失数据的量相对于数据集的大小非常小,那么为了不偏离分析而忽略缺少特征的少数样本可能是最好的策略,但是留下可用的数据点会剥夺某些数据的特征。

尽管某些快速修正如均值替代在某些情况下可能很好,但这种简单的方法通常会向数据中引入偏差。


在这篇文章中,我们将使用airquality数据集(在R中提供)来推测缺失值。

为了本文的目的,我将从数据集中删除一些数据点。


快速分类缺失数据

有两种类型的缺失数据:

MCAR:随意丢失。

MNAR:不是随意丢失的。随机数据丢失是一个更严重的问题,在这种情况下,进一步检查数据收集过程并尝试理解信息丢失的原因可能是明智的。例如,如果调查中的大多数人没有回答某个问题,他们为什么这样做?这个问题不清楚吗?

假设数据是MCAR,太多丢失的数据也可能成为一个问题。

pMiss < -  function(x){sum(is.na(x))/ length(x)* 100}


我们发现臭氧几乎失去了25%的数据点,因此我们可能会考虑将其从分析中删除或收集更多的测量数据。


其他变量低于5%的阈值,所以我们可以保留它们。就样本而言,仅缺少一个特征会导致每个样本缺失25%的数据。如果可能,应丢弃缺少2个或更多特征(> 50%)的样本。

查看缺失的数据模式

该mice软件包提供了一个很好的功能md.pattern(),可以更好地理解丢失数据的模式


输出结果告诉我们,104个样本是完整的,34个样本只错过臭氧测量,4个样本只错过了Solar.R值,等等。

一个可能更有用的视觉表示可以使用下面的VIM包得到



该图有助于我们理解几乎70%的样本没有遗漏任何信息,22%的人缺少臭氧值,剩余的样本显示其他遗漏的模式。通过这种方法,我认为情况看起来更清楚一些。


marginplot



左边的红色方块图显示Solar.R的分布与臭氧缺失,而蓝色方块图显示剩余数据点的分布。


如果我们假设MCAR数据是正确的,那么我们预计红色和蓝色方块图非常相似。


输入缺失的数据


现在我们可以使用该complete()函数返回已完成的数据集。

completedData < -  complete(tempData,1)


首先,我们可以使用散点图并将臭氧对所有其他变量进行绘图

xyplot(tempData,Ozone_Wind + Temp + Solar.R,pch = 18,cex = 1)




密度图:

densityplot



stripplot(tempData,pch = 20,cex = 1.2)



▍关注我们

大数据部落  -中国专业的第三方数据服务提供商,提供定制化的一站式数据挖掘和
统计分析和数据挖掘咨询服务: y0.cn/teradat (咨询服务请联系 官网客服
点击这里给我发消息 QQ: 3025393450

【服务场景】        
 
             
科研项目;
        
             
公司项目外包;线上线下一对一培训;学术研究。
【大数据部落】提供定制化的一站式数据挖掘和统计分析咨询服务
 
分享最新的大数据资讯,每天学习一点数据分析,让我们一起做有态度的数据人 【大数据部落】大数据部落提供定制化的一站式数据挖掘和统计分析咨询服务
微信客服号:lico_9e
QQ交流群:186388004  
欢迎关注微信公众号,了解更多数据干货资讯!

 

猜你喜欢

转载自blog.csdn.net/qq_19600291/article/details/80284723