首页
学习
活动
专区
圈层
工具
发布
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    评分卡应用 - 利用Toad进行有监督分箱(卡方分箱决策树分箱)

    4 toad分箱 4.1 卡方分箱 4.2 决策树分箱 4.3 toad调用函数 5 观察分箱并调整 6 WOE转化 7 用gbdt编码,用于gbdt + lr建模的前置 8 一个完整的code示例...4.1 卡方分箱 参考:【数据建模 特征分箱】特征分箱的方法 有监督的卡方分箱法(ChiMerge) 自底向上的(即基于合并的)数据离散化方法。...4.2 决策树分箱 数据处理实战: Chimerge和决策树分箱 不同于Chimerge的自下而上, 决策树是自顶向下划分的, 但两者都是监督式分箱方法, 即都需要使用到标签变量。...由于分箱时使用了类信息, 因此区间的边界更有可能定义在有帮助于提高分类准确率的地方。 4.3 toad调用函数 toad的分箱功能支持数值型数据和离散型分箱,默认分箱方法使用 卡方分箱。...,支持’chi’ (卡方分箱), ‘dt’ (决策树分箱), ‘kmean’ , ‘quantile’ (等频分箱), ‘step’ (等步长分箱) min_samples: 每箱至少包含样本量,可以是数字或者占比

    4.4K20

    数据分箱技术Binning

    数据分箱技术Binning 数据分箱就是按照某种规则将数据进行分类。就像可以将水果按照大小进行分类,售卖不同的价格一样。...对Series进行分箱 创建一个整形随机的series,表示学生的成绩: import numpy as np import pandas as pd from pandas import Series...然后指定一个分箱原则 bins = [0,59,70,80,100] 12 bins = [0,59,70,80,100] 然后利用pandas中的cut方法,指定分箱规则和对象,结果将获得一个Categories...对Dataframe分箱 创建一个包含学生分数和姓名的dataframe: df = DataFrame() df['score'] = score_list df['student'] = [pd.util.testing.rands...然后使用前面的bins标准对df1进行分箱,得到一个Categories对象: df['Categories'] = pd.cut(df['score'],bins) 12 df['Categories

    1.5K20

    Machine Learning-特征工程之卡方分箱(Python)

    初次接触变量分箱是在做评分卡模型的时候,SAS软件里有一段宏可以直接进行连续变量的最优分箱,但如果搬到Python的话,又如何实现同样或者说类似的操作呢,今天就在这里简单介绍一个办法——卡方分箱算法。...五、ChiMerge分箱算法 ChiMerge卡方分箱算法由Kerber于1992提出。 它主要包括两个阶段:初始化阶段和自底向上的合并阶段。...六、Python代码实现 1.导入相关库 import numpy as np from scipy.stats import chi2 import pandas as pd from pandas...np.log(gbri[1]/gbri[0]) gbri['iv'] = (gbri[1] - gbri[0])*gbri['woe'] return gbri['iv'].sum() 七、Python...评分卡建模—卡方分箱(1) 2.Python评分卡建模—卡方分箱(2)之代码实现 3.python评分卡建模—实现WOE编码及IV值计算 (以上文章均来自“风控建模”公众号,作者为东东&Monica)

    6.4K20

    K-means分箱

    首先,最简单的是等距分箱、等频分箱以及自定义分箱。 所谓等距分箱,就是隔着同样的距离把整体切分。比如将薪酬按照1000-2000、2000-3000、3000-4000这样每隔1000分一段。...对于有些情况,自定义分箱是个不错的选择,有时候自定义分箱,也可以在其他分箱的基础上,来补充一些数据上无法体现的东西。...当然也有用各种各样有监督的无监督的手段来分箱的,都可以进行尝试。但今天我们要说的是一个纯粹根据数据分布规律进行分箱的策略——K-means分箱。...大部分数据分析软件都有K-means现成的包,笔者认为相比于python和R, Matlab在数据处理上总是更胜一筹,最后也会给大家分享案例实现的代码。...那么我们用W-K分箱(加权kmeans,在kmeans分箱的基础上附上套数作为权重),就可以得到结果如下 W-K分箱 方差 占比 [69-72) 0.67 12% [79-82) 0.67 22% [89

    89030

    3种特征分箱方法

    离散化的过程中连续型变量重新进行了编码,本文主要介绍是3种常见的特征分箱方法: 分箱特点 连续型变量执行离散化的分箱操作,能够更加简洁地呈现数据信息 消除特征变量的量纲影响,因为分箱之后都是类别数,例如...,默认是5个 strategy 指定不同的分箱策略strategy:KBinsDiscretizer类实现了不同的分箱策略,可以通过参数strategy进行选择: 等宽:uniform 策略使用固定宽度的...所谓的等宽分箱就是将数据分成等宽的几份,比如模拟数据中INCOME的范围是0-150。...8]: dis.n_bins Out[8]: 3 等频分箱 等频分箱指的是每个区间内包含的取值个数是相同的,和等宽分箱的区别: 等频分箱:每个区间内包括的值一样多,pd.qcut 等宽分箱:每两区间之间的距离是一样的...,pd.cut 在实施等频分箱之前,我们需要先对数据进行升序排列,然后取中间值进行分箱 In [9]: # 1、先排序 sort_df = sorted(df["INCOME"]) sort_df Out

    84530

    数据分析01-数据分箱

    在数仓或数据分析常用以下三种”分箱”方式 1.基于规则的分箱 基于规则的分箱是一种数据预处理方法,它根据预先定义的规则或标准将数据点分配到不同的箱子(或区间)中。...以下是基于规则分箱的一些关键特点和步骤: 特点: 1.自定义规则:分箱的规则是根据业务需求、数据分析目标或领域专家的建议来定义的。这些规则可以是简单的阈值,也可以是复杂的逻辑表达式。...2.灵活性:基于规则的分箱允许用户根据实际情况灵活地设计分箱逻辑,这在处理具有特定业务含义的数据时非常有用。...等距分箱是一种将连续数值数据分布到固定数量的等间隔区间的方法。...等频分箱是将数据集划分为具有相同数量的区间或“箱子”。

    1.4K10

    机器学习(十六)特征工程之数据分箱

    1 分箱简介 数据分箱(也称为离散分箱或分段)是一种数据预处理技术,用于减少次要观察误差的影响,是一种将多个连续值分组为较少数量的“分箱”的方法。...分箱后的数据 分箱的数据不一定必须是数字,它们可以是任何类型的值,如“狗”,“猫”,“仓鼠”等。 分箱也用于图像处理,通过将相邻像素组合成单个像素,它可用于减少数据量。 ?...3、对于类别型变量,需要分箱时需要按照某种方式进行排序。 最小熵法分箱 ?...】特征分箱的方法 - 简书 【有监督分箱】方法一:卡方分箱 - hxcaifly的博客 - CSDN博客 Python数据分箱,计算woe,iv - 知乎 数据分级 - 维基百科 Numerical &...Scientific Computing with Python: Binning Data with Python and with Pandas binning data in python with

    13.7K42

    Pandas 对数值进行分箱操作的 4 种方法

    分箱是一种常见的数据预处理技术有时也被称为分桶或离散化,他可用于将连续数据的间隔分组到“箱”或“桶”中。在本文中,我们将讨论使用 python Pandas 库对数值进行分箱的 4 种方法。...cut的参数如下: x:要分箱的数组。必须是一维的。 bins:标量序列:定义允许非均匀宽度的 bin 边缘。 labels:指定返回的 bin 的标签。必须与上面的 bins 参数长度相同。...示例中有 1000 名学生,因此每个分箱应该有大约 333 名学生。 qcut参数: x:要分箱的输入数组。必须是一维的。 q:分位数。10 表示十分位数,4 表示四分位数等。...总结 在本文中,介绍了如何使用 .between、.cut、.qcut 和 .value_counts 对连续值进行分箱。

    1.8K20

    从论文分析,告诉你什么叫 “卡方分箱”?

    前些日子,星球里讨论风控建模面试中的一些问题,其中就提到了 “卡方分箱”。大家对卡方分箱都有或多或少的疑问,应星球朋友要求,最近整理了一下我对卡方分箱的理解,也借此分享给公众号的朋友们。...为什么要分箱? 分箱的好处还是很多的,尤其是使用逻辑回归的评分卡建模中,分箱woe也是一种标配。...分箱的方法有很多,卡方分箱属于其中一种,属于有监督系列的。卡方分箱正是一种基于卡方检验的分箱方法,更具地说是基于上面提到的第二种应用,独立性检验,来实现核心分箱功能的。...当然,我们一般会设置一些停止条件: 卡方停止的阈值 分箱数目的限制 意思就是说,只要当所有分箱对的卡方值都大于阈值,并且分箱数目小于最大分箱数时,计算就会继续,直到不满足。...对于卡方分箱的实现有一些特殊情况需要注意,比如初始分箱中每个分箱中的数量,以及是否有全是同一类别的分箱出现等等。不过,如果掌握了上面的核心原理和计算部分,这些特殊情况都可迎刃而解。

    8.7K30

    3种连续变量分箱方法的代码分享

    在上一篇我们介绍了3种业界常用的自动最优分箱方法。...1)基于CART算法的连续变量最优分箱 2)基于卡方检验的连续变量最优分箱 3)基于最优KS的连续变量最优分箱 今天这篇文章就来分享一下这3种方法的Python实现。...00 Index 01 测试数据与评估方法准备 02 基于CART算法的最优分箱代码实现 03 基于卡方检验的最优分箱代码实现 04 基于最优KS的最优分箱代码实现 05 测试效果与小节 01 测试数据与评估方法准备...target: String,Y列名称 min_sample: int,分箱的最小数据样本,也就是数据量至少达到多少才需要去分箱,一般作用在开头或者结尾处的分箱点...Python实现了一下,马上来测试下效果吧。

    1.7K30

    一文弄懂卡方分箱的原理和应用

    风控建模中的分箱方法通常包含有监督分箱和无监督分箱。 其中有监督分箱主要包括:卡方分箱和决策树分箱。无监督分箱主要包括:等距分箱、等频分箱和聚类分箱等。...五、卡方分箱实现代码 最后介绍卡方分箱的实现代码,由于toad包中变量分箱自带卡方分箱,我们直接调用即可。 1 读取数据 首先导入挑选完入模变量后的建模数据,包括12个自变量,1个因变量。...2 变量分箱在做变量的WOE变换之前需要先做变量分箱,分箱的好坏直接影响WOE的结果,以及变换后的单调性。toad支持等频分箱、等距分箱、卡方分箱、决策树分箱、最优分箱等。...empty_separate: 是否将空值单独分箱,默认是False,即将空值自动归到最佳箱。 得到结果: 可以发现我们只要把method设置为chi,即选用了卡方分箱进行变量分箱。...至此,卡方分箱的原理和实现就分享完了

    2.2K10

    pandas基础:使用between方法进行数据分箱(Binning Data)

    标签:pandas,between方法 有时候,我们需要执行数据分箱操作,pandas的between方法可以帮助我们实现这个目的。...数据分箱(Databinning)是指我们将数据放入离散区间或段/箱的过程。 我们将创建一些随机样本,显示100人的年龄及其货币净值。然后,我们将按年龄将数据存储到不同的“存储箱”中。...in range(4): age_bins.append([age_band[i],age_band[i+1]]) [[0,20],[20,60], [60,90], [90,120]] #分箱数据...虽然使用循环并不太糟糕,但在处理大量的分箱时,这种方法可能会变得效率低下,因为需要将该过程重复N次(箱子数量)。...获取分箱数据的一种更简单的方法是使用pandas的cut方法,具体参见:《Pandas基础:使用Cut方法进行数据分箱(Binning Data)》。

    3.7K20

    数据科学 IPython 笔记本 8.8 直方图,分箱和密度

    8.8 直方图,分箱和密度 原文:Histograms, Binnings, and Density 译者:飞龙 协议:CC BY-NC-SA 4.0 本节是《Python 数据科学手册》(Python...函数是可用的: counts, bin_edges = np.histogram(data, bins=5) print(counts) # [ 12 190 468 301 29] 二维直方图和分箱...30, cmap='Blues') cb = plt.colorbar() cb.set_label('counts in bin') 就像plt.hist一样,plt.hist2d有许多微调绘图和分箱的额外选项来...np.histogram2d中也存在对应,可以按如下方式使用: counts, xedges, yedges = np.histogram2d(x, y, bins=30) 对于维度大于 2 的直方图分箱的推广...plt.hexbin:六边形分箱 二维直方图创建了横跨坐标轴的正方形细分。这种细分的另一种自然形状是正六边形。

    77420
    领券