文章/答案/技术大牛

发布

社区首页 >专栏 >kaggle

kaggle

西红柿炒鸡蛋

发布于 2020-06-28 04:21:05

1K00

代码可运行

文章被收录于专栏：自学笔记自学笔记

运行总次数：0

代码可运行

kaggle：房价预测

首先，先把数据搞下来

整整80个特征。label标签是不是正态分布，如果不是正态分布很多算法就用不上了,因为回归分析就是基于正态分布的。

这看起来像是正态分布，但不完全是，右边的尾巴有点长，看看偏度是多少：

偏度有点大，待会需要调整。

特征太多了，不可能全用上，先画二部图看看相关性：

挑选前十个与SalePrice最相关的特征。

正式处理数据

数据里面首先要看看有没有缺失值

total = df_train.isnull().sum().sort_values(ascending=False)
percent = ((df_train.isnull().sum())/df_train.isnull().count()).sort_values(ascending=False)
missing_data = pd.concat([total, percent], axis=1, keys=['total', 'percent'])
missing_data.head(20)

不得不说，前面那几个特征几乎是没了的，要不填充他，要不就丢了。在处理缺失值之前，先去掉ID号，这种唯一标识符没什么用：

train.drop('Id', axis = 1, inplace=True)
test.drop('Id', axis = 1, inplace=True)

一般情况下，房子的价格是和房子的面积息息相关，所以把房子的面积和房子的价格先画个二维散点图看看：

很明显，右下角那两玩意肯定不是正常点，面积越大反而越便宜，除非是凶宅，这种情况也少见，不能把这两个点加入训练。

train.drop(train[(train['GrLivArea'] > 4000) & (train['SalePrice'] < 300000)].index, inplace=True)

var = 'GrLivArea'
data = pd.concat([train['SalePrice'], train[var]], axis=1)
data.plot.scatter(x=var, y='SalePrice', ylim=(0, 800000));

我们目前要做的，是对label进行正态化：

可以看到，大致是符合的，但是可惜右边太高，也就是说，随着价格升高，降低的速率放缓了。所以这就需要样本正态分布的变换：有一个样本量为n的样本，

，数据变换是指某一个函数经过

变换，得到新样本

。

选择这样的样本，首先要求样本之间的大小关系不能发生变化。

现在要把右边的值变小，那么在数据变换的时候就需要选择数据越小，增加幅度越大，数据越大，增加幅度越大的函数，常见的比如

train['SalePrice'] = np.log1p(train['SalePrice'])
sns.distplot(train['SalePrice'], fit=norm)

这里是

，使其大于等于0，注意在算出结果后还需要还原。

差不多了。

填充

接下来就是把那些缺失值给填了。

挺多的，其实那几个缺失值比较多也可以丢了。如果是数字，可以取众数和中位数，平均值最好不要取，因为总有些人会乱写，平均值可能受影响。填充完了还有问题，就是离散值的问题，离散值可不能作为训练数据的：

给他们编码。

自变量分布

回归问题就涉及到正态分布了，计算每一个特征的偏差，如果偏差过大，那么证明其偏离正态分布太远了，这样就需要用Box-cox变换调整。

Box-cox变换

如果按照之前那样先把偏差算出来太麻烦了，这里提供了一个自动的变换

一般情况下取0.15作为经验值

from scipy.stats import norm, skew
numeric_feats = all_data.dtypes[all_data.dtypes != 'object'].index
skewed_feats = all_data[numeric_feats].apply(lambda x : skew(x.dropna())).sort_values(ascending=False)
skewness = pd.DataFrame({'skew':skewed_feats})
skewness.head(10)

先把偏差值计算出来。

大于0.75的全部处理了。

skewness = skewness[abs(skewness) > 0.75]
from scipy.special import boxcox1p
skewed_features = skewness.index
lam = 0.15
for feat in skewed_features:
    all_data[feat] = boxcox1p(all_data[feat], lam)

训练模型

选取了4个模型进行训练，都差不多。但机器学习里面聚合模型一般是效果比较好的，选取平均模型：

class AveragingModels(BaseEstimator, RegressorMixin, TransformerMixin):
    def __init__(self, models):
        self.models = models
    def fit(self, X, y):
        self.models_ = [clone(x) for x in self.models]
        for model in self.models_:
            model.fit(X, y)
        return self
    def predict(self, X):
        predictions = np.column_stack([model.predict(X) for model in self.models_])
        return np.mean(predictions, axis=1)

比单个模型要好点。

主要复杂的还是数据处理阶段，离群点，缺失值，回归问题注意正态分布，正态分布变化，偏差，使用Box-cox进行正态分布变换，还有最后模型阶段如何调包调参还不是特别熟悉。

kaggle：房价预测 Another Solution

https://www.kaggle.com/lavanyashukla01/how-i-made-top-0-3-on-a-kaggle-competition

在kaggle上找了另外一个大佬的Solution，和我的差不多，但是别人的够专业。回归问题还是要看看label的分布是什么：

sns.set_style("white")
sns.set_color_codes(palette='deep')
f, ax = plt.subplots(figsize = (8, 7))
sns.distplot(train['SalePrice'], color = 'b')
ax.xaxis.grid(False)
ax.set(ylabel = 'Frequency')
ax.set(xlabel = 'SalePrice')
ax.set(title="SalePrice distribution")
sns.despine(left=True)
plt.show()

然后把所有数字化的特征都打印出来，太多了，不写。

二部图查看类别之间的联系。

画箱线图：

data = pd.concat([train['SalePrice'], train['OverallQual']], axis=1)
plt.subplots(figsize = (8, 8))
sns.boxplot(train['OverallQual'], train['SalePrice'], data=data)

这一步我没有做，这一步可以看离群点以及数据整体的分布。

然后就是画散点图了，看看特征和SalePrice的散点图，离群点有多少，是否符合一般情况。然后做Features Engineering。SalePrince的特征工程和我的做法一样。都是log化。丢弃离群点这些也是一样的，还有查看缺失值。缺失值的填充也差不多。这里的特征工程还有一步，即是增加特征这块，这里填充了许多：

all_features['BsmtFinType1_Unf'] = 1*(all_features['BsmtFinType1'] == 'Unf')
all_features['HasWoodDeck'] = (all_features['WoodDeckSF'] == 0) * 1
all_features['HasOpenPorch'] = (all_features['OpenPorchSF'] == 0) * 1
all_features['HasEnclosedPorch'] = (all_features['EnclosedPorch'] == 0) * 1
all_features['Has3SsnPorch'] = (all_features['3SsnPorch'] == 0) * 1
all_features['HasScreenPorch'] = (all_features['ScreenPorch'] == 0) * 1
all_features['YearsSinceRemodel'] = all_features['YrSold'].astype(int) - all_features['YearRemodAdd'].astype(int)
all_features['Total_Home_Quality'] = all_features['OverallQual'] + all_features['OverallCond']
all_features = all_features.drop(['Utilities', 'Street', 'PoolQC',], axis=1)
all_features['TotalSF'] = all_features['TotalBsmtSF'] + all_features['1stFlrSF'] + all_features['2ndFlrSF']
all_features['YrBltAndRemod'] = all_features['YearBuilt'] + all_features['YearRemodAdd']

all_features['Total_sqr_footage'] = (all_features['BsmtFinSF1'] + all_features['BsmtFinSF2'] +
                                 all_features['1stFlrSF'] + all_features['2ndFlrSF'])
all_features['Total_Bathrooms'] = (all_features['FullBath'] + (0.5 * all_features['HalfBath']) +
                               all_features['BsmtFullBath'] + (0.5 * all_features['BsmtHalfBath']))
all_features['Total_porch_sf'] = (all_features['OpenPorchSF'] + all_features['3SsnPorch'] +
                              all_features['EnclosedPorch'] + all_features['ScreenPorch'] +
                              all_features['WoodDeckSF'])
all_features['TotalBsmtSF'] = all_features['TotalBsmtSF'].apply(lambda x: np.exp(6) if x <= 0.0 else x)
all_features['2ndFlrSF'] = all_features['2ndFlrSF'].apply(lambda x: np.exp(6.5) if x <= 0.0 else x)
all_features['GarageArea'] = all_features['GarageArea'].apply(lambda x: np.exp(6) if x <= 0.0 else x)
all_features['GarageCars'] = all_features['GarageCars'].apply(lambda x: 0 if x <= 0.0 else x)
all_features['LotFrontage'] = all_features['LotFrontage'].apply(lambda x: np.exp(4.2) if x <= 0.0 else x)
all_features['MasVnrArea'] = all_features['MasVnrArea'].apply(lambda x: np.exp(4) if x <= 0.0 else x)
all_features['BsmtFinSF1'] = all_features['BsmtFinSF1'].apply(lambda x: np.exp(6.5) if x <= 0.0 else x)

all_features['haspool'] = all_features['PoolArea'].apply(lambda x: 1 if x > 0 else 0)
all_features['has2ndfloor'] = all_features['2ndFlrSF'].apply(lambda x: 1 if x > 0 else 0)
all_features['hasgarage'] = all_features['GarageArea'].apply(lambda x: 1 if x > 0 else 0)
all_features['hasbsmt'] = all_features['TotalBsmtSF'].apply(lambda x: 1 if x > 0 else 0)
all_features['hasfireplace'] = all_features['Fireplaces'].apply(lambda x: 1 if x > 0 else 0)

把缺失值特别多的特征丢弃，增加了许多布尔特征和一些总面积。 另外，还对特征进行了log和均方变化：

def logs(res, ls):
    m = res.shape[1]
    for l in ls:
        res = res.assign(newcol=pd.Series(np.log(1.01+res[l])).values)   
        res.columns.values[m] = l + '_log'
        m += 1
    return res

log_features = ['LotFrontage','LotArea','MasVnrArea','BsmtFinSF1','BsmtFinSF2','BsmtUnfSF',
                 'TotalBsmtSF','1stFlrSF','2ndFlrSF','LowQualFinSF','GrLivArea',
                 'BsmtFullBath','BsmtHalfBath','FullBath','HalfBath','BedroomAbvGr','KitchenAbvGr',
                 'TotRmsAbvGrd','Fireplaces','GarageCars','GarageArea','WoodDeckSF','OpenPorchSF',
                 'EnclosedPorch','3SsnPorch','ScreenPorch','PoolArea','MiscVal','YearRemodAdd','TotalSF']

all_features = logs(all_features, log_features)

def squares(res, ls):
    m = res.shape[1]
    for l in ls:
        res = res.assign(newcol=pd.Series(res[l]*res[l]).values)   
        res.columns.values[m] = l + '_sq'
        m += 1
    return res 

squared_features = ['YearRemodAdd', 'LotFrontage_log', 
              'TotalBsmtSF_log', '1stFlrSF_log', '2ndFlrSF_log', 'GrLivArea_log',
              'GarageCars_log', 'GarageArea_log']
all_features = squares(all_features, squared_features)

应该是想增强数字特征的显著性吧。然后就是one-hot编码那些非数字特征了。 训练特征这块有一个混合模型比较特别，显示用7个模型做了堆叠，然后再把这7个模型和堆叠模型混合成一个aggregation model。

def blended_predictions(X):
    return ((0.1 * ridge_model_full_data.predict(X)) + \
            (0.2 * svr_model_full_data.predict(X)) + \
            (0.1 * gbr_model_full_data.predict(X)) + \
            (0.1 * xgb_model_full_data.predict(X)) + \
            (0.1 * lgb_model_full_data.predict(X)) + \
            (0.05 * rf_model_full_data.predict(X)) + \
            (0.35 * stack_gen_model.predict(np.array(X))))

在最后处理的阶段，还有一个调整预测值的操作。

q1 = submission['SalePrice'].quantile(0.0045)
q2 = submission['SalePrice'].quantile(0.99)
submission['SalePrice'] = submission['SalePrice'].apply(lambda x: x if x > q1 else x*0.77)
submission['SalePrice'] = submission['SalePrice'].apply(lambda x: x if x < q2 else x*1.1)
submission.to_csv("submission_regression1.csv", index=False)

这部分操作一开始看的我一脸懵逼，后来问了问原作者才知道，一般的预测都是低的变高点，高的变低一点，但是房价不一样，一般的越边远的地区，房价越低，低的可怜，高的一般会更高，所以我们算q1其实就是小到大排序0.0045%个房价，如果低于这个房价就把他再降一点，q2同理。

最后的结果还差点但是相差不大，不过很专业。

首先是正态分布化，我原来是默认lambda=0.5的，这里用了normax函数选择最优。
二部图和箱线图。
增加特征。
堆叠模型和混合模型的结合。
根据实际情况对预测数据做处理。

10 monkey species

这个数据集的存储方式有点奇怪，读取的时候用了图片生成器，这玩意也是第一次用。 https://www.kaggle.com/greenarrow2018/10-monkeys-with-resnet50-93 具体做法已有，已达到97%的准确率了，看了一下其他的kernel，好像最屌的也就和我差不多了。

本文参与腾讯云自媒体同步曝光计划，分享自作者个人站点/博客。

如有侵权请联系 cloudcommunity@tencent.com 删除

特征工程