数据挖掘经典算法之C4.5

如果想要成为一个合格的数据挖掘分析师及数据科学家？

必不可少的是学习数据挖掘算法。

这就好比做菜的话，那这些算法就相当于烹饪工具。对原始的食材进行预处理、加工、整合，选择合适烹饪工具，以及对应的方法步骤，最后收获舌尖上的美味。

那该从何学起？

国际权威的学术组织 ICDM 曾经评选出了数据挖掘领域的十大经典算法：C4.5, k-Means, SVM, Apriori, EM, PageRank, AdaBoost, kNN, Naive Bayes, and CART。

今天我们就来谈谈排在第一的C4.5。

为什么使用 C4.5算法呢？

可以这么说，决策树最好的卖点是他们方便于翻译和解释。他们速度也很快，是种比较流行的算法。输出的结果简单易懂。

C4.5算法是机器学习算法中的一种分类决策树算法......

等等，什么是决策树？

决策树算法

从数据产生决策树的机器学习技术叫做决策树学习, 通俗说就是决策树。

决策树是一个预测模型；他代表的是对象属性与对象值之间的一种映射关系。树中每个节点表示某个对象，而每个分叉路径则代表的某个可能的属性值，而每个叶结点则对应从根节点到该叶节点所经历的路径所表示的对象的值。决策树仅有单一输出，若欲有复数输出，可以建立独立的决策树以处理不同输出。

决策树学习也是数据挖掘中一个普通的方法。在这里，每个决策树都表述了一种树型结构，由他的分支来对该类型的对象依靠属性进行分类。每个决策树可以依靠对源数据库的分割进行数据测试。这个过程可以递归式的对树进行修剪。当不能再进行分割或一个单独的类可以被应用于某一分支时，递归过程就完成了。另外，随机森林分类器将许多决策树结合起来以提升分类的正确

率。

决策树是如何工作的？

1、决策树一般都是自上而下的来生成的。

2、选择分割的方法有好几种，但是目的都是一致的：对目标类尝试进行最佳的分割。

3、从根到叶子节点都有一条路径，这条路径就是一条―规则

4、决策树可以是二叉的，也可以是多叉的。

对每个节点的衡量：

1) 通过该节点的记录数

2) 如果是叶子节点的话，分类的路径

3) 对叶子节点正确分类的比例。

了解过了决策树算法，我们再来看C4.5算法。

C4.5核心算法的核心是ID3 算法，由于ID3算法在实际应用中存在一些问题，于是Quilan提出了C4.5算法，严格上说C4.5是ID3的一个改进算法。

C4.5算法继承了ID3算法的优点，并在以下几方面对ID3算法进行了改进：

1) 用信息增益率来选择属性，克服了用信息增益选择属性时偏向选择取值多的属性的不足；

2) 在树构造过程中进行剪枝；

3) 能够完成对连续属性的离散化处理；

4) 能够对不完整数据进行处理。

综合看来，C4.5算法有如下优点：

产生的分类规则易于理解，准确率较高。

其缺点是：在构造树的过程中，需要对数据集进行多次的顺序扫描和排序，因而导致算法的低效。

此外，C4.5只适合于能够驻留于内存的数据集，当训练集大得无法在内存容纳时程序无法运行。

很多人认为数据挖掘需要掌握复杂高深的算法，需要掌握技术开发，才能把数据挖掘分析做好，实际上并非这样。如果钻入复杂算法和技术开发，只能让你走火入魔，越走越费劲，并且效果不大。在公司实际工作中，最好的大数据挖掘工程师一定是最熟悉和理解业务的人。对于大数据挖掘的学习心得，学习数据挖掘一定要结合实际业务背景、案例背景来学习，这样才是以解决问题为导向的学习方法。

版权所有©️德塔大数据研究院

转载请注明出处

DaaS慧报（有温度的大数据报告）

大数据落地方案

大数据思想

欢迎在下方留言，“塔塔”会在第一时间回复您！