填补方法与样本量相关
通常,数据挖掘领域 建模时 数据样本的填补方法与样本量的大小息息相关,一般,如果变量间取值关联程度较强,则模型填补的方式似乎更为常见:
一种方法是利用proc stdize过程步,这种方法只能利用基本的描述统计的方法进行填补,例如使用均值、中位数等方式,此外,这种方式也能够同时进行样本的标准化。工作中,这个过程步的使用频率很高。
另一种方法是利用proc mi过程步,这种方法为通过模型进行缺失值的填补。
一种方法是利用proc dmzip过程步,大量样本的数据挖掘领域通常很少使用均值、而是使用中位数进行填补,这种方式便提供了中位数填补的方法,尤其是数据间相关性较弱时,中位数填补的使用频率会更高。
另一种方法是利用决策树模型进行填补,这种方法的优点是运行模型的过程中便可以处理掉缺失值。
建模样本缺失类型
数据挖掘领域,由于收集困难、客观缺失等多种原因导致样本存在大量缺失值是非常正常的,如下为样本缺失的几种类型,通常,最后三种缺失情况最常见,只需依据Y的类型变通的选择对应的填补方法即可:
缺失值填补的代码实现
以上述第5种缺失情形为例,即待填补变量的类型Y为连续变量时,通常我会用FCS回归的方式去实现缺失值的填补,SAS代码如下:
这里利用了proc mi过程步、即模型的方法进行了缺失值的填补,方法依托于多重插补作为理论基础去解决填补过程中的随机偏差,其中:
本文分享自 Data Analyst 微信公众号,前往查看
如有侵权,请联系 cloudcommunity@tencent.com 删除。
本文参与 腾讯云自媒体同步曝光计划 ,欢迎热爱写作的你一起参与!