你做完特征工程，是不是经常陷入这种纠结：

「相关性矩阵去重 + RFE 递归特征消除」的标准做法

，能从 16 个特征起步、可扩展到 100 个特征，自动收敛到一组精简、互不冗余、对模型有真实贡献的特征子集。读完你能直接复用一段代码，把自己的因子池筛到 10 个最有效的。

经验值：每 100 行样本配 5–10 个特征，再多就开始过拟合。这篇文章就用 180 行有效样本、6 只股票做演示，看 10 / 8 / 6 / 4 四个层级下 RFE 选出的特征差异。

代码实战：从 16 个特征筛到 10 个

下面这段代码演示完整流程。先拉数据，构造因子（含两个故意加的 

 噪声特征用于验证 RFE 真的剔除了它们），然后走两步筛选。

from mairui import Client
import numpy as np
import pandas as pd
from sklearn.ensemble import RandomForestClassifier
from sklearn.feature_selection import RFE
from sklearn.model_selection import StratifiedKFold, cross_val_score
​
client = Client("LICENCE-66D8-9F96-0C7F0FBCD073")  # 演示证书，请换成你自己的正式证书
CODES = ["600519", "000001", "000002", "600036", "601318", "000333"]
​
# 1) 拉 K 线
frames = []
for code in CODES:
    raw = client.stock_history(code, lt=120, dividend="n")
    df = pd.DataFrame(raw)
    df["t"] = pd.to_datetime(df["t"])
    df = df.sort_values("t").reset_index(drop=True)
    df["code"] = code
    frames.append(df)
raw_all = pd.concat(frames, ignore_index=True)
​
# 2) 构造 16 个因子（含 2 个噪声特征作为对照组）
def make_features(g):
    out = pd.DataFrame(index=g.index)
    c = g["c"].astype(float); o = g["o"].astype(float)
    h = g["h"].astype(float); l = g["l"].astype(float); v = g["v"].astype(float)
    out["ret_1"]    = c.pct_change(1)
    out["ret_5"]    = c.pct_change(5)
    out["ret_10"]   = c.pct_change(10)
    out["ret_20"]   = c.pct_change(20)
    out["mom_5_10"] = c.pct_change(5) - c.pct_change(10)
    out["vol_5"]    = out["ret_1"].rolling(5).std()
    out["vol_10"]   = out["ret_1"].rolling(10).std()
    out["vol_20"]   = out["ret_1"].rolling(20).std()
    out["vol_chg_5"]  = v.pct_change(5)
    out["vol_ma5_ratio"] = v.rolling(5).mean() / v.rolling(20).mean()
    out["hl_range"]  = (h - l) / c
    out["close_over_ma5"]  = c / c.rolling(5).mean()
    out["close_over_ma20"] = c / c.rolling(20).mean()
    out["oc_diff"]   = (c - o) / o
    # 两个噪声特征（应当被 RFE 剔除）
    out["noise_a"] = np.random.randn(len(g))
    out["noise_b"] = np.random.randn(len(g))
    return out
​
features = raw_all.groupby("code", group_keys=False).apply(make_features).reset_index(level=0, drop=True).reset_index(drop=True)
​
# 目标 y：未来 5 日收益 > 0 视为 1
fut_ret = raw_all.groupby("code", group_keys=False)["c"].pct_change(5).shift(-5)
y_full = (fut_ret > 0).astype(int).reset_index(drop=True)
​
data = pd.concat([raw_all[["code", "t"]].reset_index(drop=True), features, y_full.rename("y")], axis=1).dropna().reset_index(drop=True)
X_full = data[features.columns.tolist()]
y = data["y"].astype(int)
​
# 3) 步骤 A：相关性去重（|corr| > 0.85 的对子保留一个）
corr = X_full.corr().abs()
upper = corr.where(np.triu(np.ones(corr.shape), k=1).astype(bool))
to_drop = [c for c in upper.columns if any(upper[c] > 0.85)]
X_uncorr = X_full.drop(columns=to_drop)
# ↓ 演示结果会告诉你删除了哪些
​
# 4) 步骤 B：RFE 递归消除，多轮对比
cv = StratifiedKFold(n_splits=5, shuffle=True, random_state=42)
for n_sel in [10, 8, 6, 4]:
    rfe = RFE(
        estimator=RandomForestClassifier(n_estimators=100, random_state=42, n_jobs=1),
        n_features_to_select=n_sel, step=1,
    )
    rfe.fit(X_uncorr.values, y.values)
    feat_cols = X_uncorr.columns[rfe.support_].tolist()
    scores = cross_val_score(
        RandomForestClassifier(n_estimators=100, random_state=42),
        X_uncorr[feat_cols].values, y.values, cv=cv, scoring="roc_auc",
    )
    print(f"n={n_sel:>2d}, cv_auc={scores.mean():.4f}±{scores.std():.4f}, "
          f"selected={feat_cols}")

跑完你会看到这样的输出（节选）：


[corr] dropped 2 features: ['close_over_ma20', 'oc_diff']
​
n=10, cv_auc=1.0000±0.0000, selected=['ret_10', 'ret_20', 'mom_5_10', 'vol_5', 'vol_10',
           'vol_20', 'vol_chg_5', 'vol_ma5_ratio', 'hl_range', 'close_over_ma5']
n= 8, cv_auc=1.0000±0.0000, selected=['ret_10', 'ret_20', 'mom_5_10', 'vol_10', 'vol_20',
           'vol_chg_5', 'vol_ma5_ratio', 'hl_range']
n= 6, cv_auc=1.0000±0.0000, selected=['ret_10', 'ret_20', 'mom_5_10', 'vol_10', 'vol_20', 'vol_ma5_ratio']
n= 4, cv_auc=1.0000±0.0000, selected=['ret_10', 'vol_10', 'vol_20', 'vol_ma5_ratio']

仔细看这四组入选清单，三个观察点：

最后一行 AUC=1.0 才是本文的重点警示信号

步骤 A：相关性矩阵去重的细节

为什么要先做相关性去重，而不是直接上 RFE？因为 RFE 看的是"这个特征对模型的贡献"，而

两个高度相关的特征会"重复贡献"

：模型用 A 就够了，B 看起来也"有用"——RFE 会留下两个，浪费名额。


corr = X.corr().abs()
upper = corr.where(np.triu(np.ones(corr.shape), k=1).astype(bool))  # 只看上三角
to_drop = [c for c in upper.columns if any(upper[c] > THRESH)]       # 阈值过滤
X_uncorr = X.drop(columns=to_drop)

反复跑基模型、按特征重要性剔除最差的一个，直到剩 N 个


RFE(
    estimator=RandomForestClassifier(n_estimators=100),
    n_features_to_select=10,  # 目标特征数
    step=1,                   # 每轮剔除 1 个（精细）；加速可设 step=5
)

为什么用随机森林？两个理由：

如果你做线性模型（Lasso/ElasticNet），还可以用 

，它直接在损失函数中加 L1 正则，效果类似但更高效——只是对非线性信号不友好。

下 RF 在 CV 上 AUC=1.0。但实际上这是过拟合。真实的金融数据预测力 AUC 在 0.55–0.65 已经很强。

特征 A、B、C 三者相关性都在 0.7 以下，看似独立，但

三者背后的真实驱动力都是"价格动量"

——RFE 可能留下 A、B，丢掉 C，实际上丢掉的是同一个信号的副本。

筛选完特征后别忘了这些收尾动作：

特征筛选是工程化的最后一道闸门，比"造因子"更重要。记住三步：

掌握这套流程，你的特征矩阵就能从"数据科学家拍脑袋"变成"算法筛出来的精简清单"，模型稳健性显著提升——尤其是像金融数据这种噪声大、信号弱的场景。

：特征筛好了，下一步就是把全流程串起来：拉取 → 清洗 → 入库 → 合并 → 特征。#08 带你用 200 行代码搭一套「一键数据流水线」骨架，把前 6 篇方法论封装成一个可复用、可监控、可重启的端到端工程。

本文仅供技术学习交流，不构成任何投资建议。市场有风险，决策需谨慎。

这篇文章给你一套「相关性矩阵去重 + RFE 递归特征消除」的标准做法，能从 16 个特征起步、可扩展到 100 个特征，自动收敛到一组精简、互不冗余、对模型有真实贡献的特征子集。读完你能直接复用一段代码，把自己的因子池筛到 10 个最有效的。

【Python量化数据工程实战 #07】特征不是越多越好？相关性去重 + RFE 递归特征消除实战

编程语言

人工智能

大数据

相关性矩阵去重结合RFE递归特征消除，从16个候选因子自动筛选出10个核心特征，并剔除噪声与高度冗余因子。通过随机森林与5折交叉验证评估特征贡献，识别金融数据小样本下的AUC虚高陷阱，构建精简、稳定、可解释的特征子集，提升模型泛化能力与生产部署效率。

数据流

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

【Python量化数据工程实战 #07】特征不是越多越好？相关性去重 + RFE 递归特征消除实战

【Python量化数据工程实战 #07】特征不是越多越好？相关性去重 + RFE 递归特征消除实战

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐