学习算法的经典 - 腾讯云开发者社区 - 腾讯云

开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

【机器学习 | 基于实例学习】经典算法—KDD算法详解

希望大佬带带）【深度学习 | 核心概念】那些深度学习路上必经的核心概念，确定不来看看？...（一）作者：计算机魔术师版本： 1.0 （ 2023.8.27 ）摘要：本系列旨在普及那些深度学习路上必经的核心概念，文章内容都是博主用心学习收集所写，欢迎大家三联支持...欢迎大家订阅基于实例学习 KDD K最近邻（K Nearest Neighbors，简称KNN）算法是一种常用的分类和回归算法。...它基于实例之间的相似性进行预测，即通过找到距离新样本最近的K个训练样本，根据这K个样本的标签来预测新样本的标签。下面是KNN算法的详细步骤计算训练样本中每个样本与其他样本的距离。...from sklearn.model_selection import train_test_split from sklearn.metrics import accuracy_score # 加载经典的鸢尾花数据集

4021 0

经典算法学习之贪心算法

贪心算法也是用来求解最优化问题的，相比较动态规划很多问题使用贪心算法更为简单和高效，但是并不是所有的最优化问题都可以使用贪心算法来解决。贪心算法就是在每个决策点都做出在当时看来最佳的选择。...贪心算法的设计步骤： 1、将最优化问题转换为：对其做出一次选择之后，只剩下一个问题需要求解的形式(动态规划会留下多个问题需要求解) 2、证明做出贪心选择之后，原问题总是存在最优解，即贪心算法总是安全的...3、证明做出贪心选择后，剩余的子问题满足性质：其最优解与贪心选择组合即可得到原问题的最优解，这样就得到了最优子结构其中2、3两步主要是为了证明一个问题适不适合使用贪心算法下面是一个使用贪心算法解决问题的例子...贪心算法的主要思想就是对问题求解时，总是做出在当前看来是最好的选择，产生一个局部最优解。...声明：本文部分内容改自：Anker—学习成长笔记：http://www.cnblogs.com/Anker/archive/2013/03/16/2963625.html

2K7 0

您找到你想要的搜索结果了吗？

是的

没有找到

深度学习经典算法 | 粒子群算法详解

群鸟觅食其实是一个最佳决策的过程，与人类决策的过程相似。Boyd和Re chars on探索了人类的决策过程，并提出了个体学习和文化传递的概念。...每只鸟都不知道食物在哪里，但是随着时间的推移，这些初始处于随机位置的鸟类通过群内相互学习、信息共享和个体不断积累字觅食物的经验，自发组织积聚成一个群落，并逐渐朝唯一的目标-—食物前进。...PSO算法的优缺点 PSO算法的搜索性能取决于其全局探索和局部细化的平衡，这在很大程度上依赖于算法的控制参数，包括粒子群初始化、惯性因子w、最大飞翔速度 v_{max} 和加速常数 c_{1} 与 c_...PSO算法具有以下优点： 1)不依赖于问题信息，采用实数求解，算法通用性强。需要调整的参数少，原理简单，容易实现，这是PSO算法的最大优点。...PSO算法程序设计 PSO算法实现的流程图如下图所示：程序设计流程图 PSO算法设计的具体步骤如下：步骤1：初始化粒子群（速度和位置）、惯性因子、加速常数、最大迭代次数、算法终止的最小允许误差。

2.1K1 0

深度学习经典算法 | 遗传算法详解

遗传算法生物学基础在一定的时间内，有一群兔子，其中一些比另外一些兔子跑得快，而且更聪明，这些兔子被狐狸吃掉的可能性比较小，因此它们中的多数就存活下来并繁殖更多的兔子。...遗传算法的实现步骤 GA由解编码、个体适应度评估和遗传算法三大模块构成，而遗传算法又包括染色体复制、交叉、变异甚至倒位等。改良的遗传算法和融合新型技术的遗传算法都是SGA的变异形式。...在遗传算法中，定义种群或群体为所有编码后的染色体集合，表征每个个体的是其相应的染色体。 1、编码遗传算法的编码有浮点编码和二进制编码两种，这里只介绍二进制编码规则。...落在各个区域的几率对应遗传算法中各条染色体被遗传到下一代的几率，其坠落的位置对应自变量取值。遗传算法依照与个体适应度成正比的几率决定当前种群中各个个体遗传到下一代群体中的机会。...程序设计流程遗传算法伪代码 matlab GA工具箱求解多约束非线性规划问题举例如下所示： matlab实现主函数： %主程序：本程序采用遗传算法接力进化， %将上次进化结束后得到的最终种群作为下次输入的初始种群

7722 0

集成学习经典算法之XGBoost

在算法圈，相信大家对XGBoost的大名早有耳闻，在CTR广告点击预估中更是炙手可热的大神器，接下来我就给大家简单介绍下，XGBoost到底是何方神圣? 1. ...关于XGBoost 在正式介绍XGBoost之前，首先说下GBDT，它是一种基于boosting增强策略的加法模型，训练的时候采用前向贪心算法进行学习，每次迭代都学习一棵CART树来拟合之前 t-1...棵树的预测结果与训练样本真实值之间的残差。...正则化：XGBoost的目标函数加了正则项，相当于预剪枝，这样学习出来的模型更加不容易过拟合。随机选特征：与随机森林类似，XGBoost支持特征随机选取，防止过拟合。...缺失值处理：对于每棵树中的每个非叶子结点，XGBoost可以自动学习出它的默认分裂方向。如果某个样本该特征值缺失，则会将其划入默认分支。

8404 0

深度学习经典算法 | 模拟退火算法详解

模拟退火算法基本思想现代的模拟退火算法形成于20世纪80年代初，其思想源于固体的退火过程，即将固体加热至足够高的温度，再缓慢冷却。...由于算法初始温度比较高，这样，使E增大的新解在初始时也可能被接受.因而能跳出局部极小值，然后通过缓慢地降低温度，算法就最终可能收敛到全局最优解。...几点说明为了更好地实现模拟退火算法，还需要注意以下一些方面。状态表达上文已经提到过，SA算法中优化问题的一个解模拟了(或说可以想象为)退火过程中固体内部的一种粒子分布情况。...参数的选择 (1)控制参数Ｔ的初值T。求解全局优化问题的随机搜索算法一般都采用大范围的粗略搜索与局部的精细搜索相结合的搜索策略。...小的衰减量可能导致算法进程迭代次数的增加，从而使算法进程接受更多的变换，访问更多的邻域，搜索更大范围的解空间，返回更好的最终解。

1.5K2 0

经典算法学习之-----索引查找

索引查找一、什么是算法本专栏为《手撕算法》栏目的子专栏：《经典算法》，会讲述一些经典算法，并进行分析。在此之前我们要先了解什么是算法，能够解决什么样的问题。 1....算法的定义以下为经典教材《Introduction.to.Algorithms》开篇中的内容。...补充的概念数据结构算法经常会和数据结构一起出现，这是因为对于同一个问题（如：排序），使用不同的数据结构来存储数据，对应的算法可能千差万别。所以在整个学习过程中，也会涉及到各种数据结构的使用。...常见的数据结构包括：数组、堆、栈、队列、链表、树等等。算法的效率在一个算法设计完成后，还需要对算法的执行情况做一个评估。一个好的算法，可以大幅度的节省运行的资源消耗和时间。...时间复杂度通常把算法中的基本操作重复执行的频度称为算法的时间复杂度。算法中的基本操作一般是指算法中最深层循环内的语句（赋值、判断、四则运算等基础操作）。

951 0

经典算法学习之-----希尔排序

一、什么是算法本专栏为《手撕算法》栏目的子专栏：《经典算法》，会讲述一些经典算法，并进行分析。在此之前我们要先了解什么是算法，能够解决什么样的问题。 1....算法的定义以下为经典教材《Introduction.to.Algorithms》开篇中的内容。...补充的概念数据结构算法经常会和数据结构一起出现，这是因为对于同一个问题（如：排序），使用不同的数据结构来存储数据，对应的算法可能千差万别。所以在整个学习过程中，也会涉及到各种数据结构的使用。...时间复杂度通常把算法中的基本操作重复执行的频度称为算法的时间复杂度。算法中的基本操作一般是指算法中最深层循环内的语句（赋值、判断、四则运算等基础操作）。...时间复杂度在上文中已经提到，增量的变化会直接影响到希尔排序的性能，因此希尔排序的时间复杂度与增量序列高度相关，以下列举几个经典增量序列： Shell增量序列递推公式： h t = ⌊ n 2 ⌋ ,

851 0

经典算法学习之动态规划

2、子问题重叠(如果子问题不重叠就可以用递归的方法解决了) 具备上述两个要素的问题之所以用动态规划而不用分治算法是因为分治算法会反复的调用重叠的子问题导致，效率低下，而动态规划使用了运用了空间置换时间的思想...动态规划算法设计步骤： 1.刻画一个最优解的结构特征。 2.递归定义最优解的值。 3.计算最优解的值，通常采用自底向上的方法。 4.利用计算出的信息构造一个最优解。...动态规划的实现方法：带备忘的自顶向下法：此方法仍按自然的递归形式编写过程，但过程会保存每个子问题的解（通常保存在一个数组或散列表中）。当需要一个子问题的解时，过程首先检查是否已经保存过此解。...如果是，则直接返回保存的值，从而提高时间效率。自底向上法：这种方法一般需要恰当定义子问题“规模”的概念，使得任何子问题的求解都依赖于“更小的”子问题的求解。...从递归树中可以看出有大量的求解都是重叠的，所以也满足动态规划的第二个特征，那么这个问题选择用动态规划的方法来求解很可能是一个很好的办法！

81710 1

经典算法学习之------冒泡排序

冒泡排序学习的最大理由是想摆脱平庸，早一天就多一份人生的精彩；迟一天就多一天平庸的困扰。活动地址：CSDN21天学习挑战赛一、什么是算法 1....算法的定义以下为经典教材《Introduction.to.Algorithms》开篇中的内容。...补充的概念数据结构算法经常会和数据结构一起出现，这是因为对于同一个问题（如：排序），使用不同的数据结构来存储数据，对应的算法可能千差万别。所以在整个学习过程中，也会涉及到各种数据结构的使用。...时间复杂度通常把算法中的基本操作重复执行的频度称为算法的时间复杂度。算法中的基本操作一般是指算法中最深层循环内的语句（赋值、判断、四则运算等基础操作）。...冒泡排序也称气泡排序，是经典的交换排序方法。整个过程就是在无序区中对相邻元素进行两两比较，将不满足相对顺序的一对儿元素进行交换，再进行下一对儿元素的比较。

521 0

经典算法学习之回溯法

回溯法的应用范围：只要能把待求解的问题分成不太多的步骤，每个步骤又只有不太多的选择就可以考虑使用回溯法。若用回溯法求问题的所有解时，要回溯到根，且根结点的所有可行的子树都要已被搜索遍才结束。...而若使用回溯法求任一个解时，只要搜索到问题的一个解就可以结束。回溯法将问题的候选解按照某一顺序逐一枚举和检验。...当发现当前候选解不可能是解时，就选择下一个候选解，若当前候选解符合要求，且还未达到求解的规模，则继续扩展当前候选解的规模，如果候选解已经满足了所有要求，并且也达到了问题的规模，那么该候选解就是问题的一个解...例、在9（3*3）的方格内填入1到N（N>=10）内的某9个数字，每个方格填入一个数字，使方格内所有相邻的两个数的和为质数，试求出满足要求的所有填法。...13 } 14 ok=检查填入的m个数的合理性； 15 }while((m!

6858 0

经典算法学习之------快速排序

快速排序一、什么是算法本专栏为《手撕算法》栏目的子专栏：《经典算法》，会讲述一些经典算法，并进行分析。在此之前我们要先了解什么是算法，能够解决什么样的问题。 1....算法的定义以下为经典教材《Introduction.to.Algorithms》开篇中的内容。...补充的概念数据结构算法经常会和数据结构一起出现，这是因为对于同一个问题（如：排序），使用不同的数据结构来存储数据，对应的算法可能千差万别。所以在整个学习过程中，也会涉及到各种数据结构的使用。...时间复杂度通常把算法中的基本操作重复执行的频度称为算法的时间复杂度。算法中的基本操作一般是指算法中最深层循环内的语句（赋值、判断、四则运算等基础操作）。...冒泡排序也称气泡排序，是经典的交换排序方法。整个过程就是在无序区中对相邻元素进行两两比较，将不满足相对顺序的一对儿元素进行交换，再进行下一对儿元素的比较。

781 0

机器学习经典算法优缺点总结

决策树回归方法，采用切分点与切分变量来计算的损失来估计函数。如果目标变量是标称的，称为分类树；如果目标变量是连续的，称为回归树。分类树是使用树结构算法将数据分成离散类的方法。...特点：不具有显示的学习过程，通过多数表决方式进行预测，k值选择、距离度量、分类决策规则是K近邻法的三要素优点：简单，分类与回归均可操作，可用于非线性分类，复杂度为O(n)，对outlier不敏感...每次都需要计算支持度，需对全部记录扫描，需要很大I/O负载 Boosting 特点：通过改变样本权值进行学习，将最终的多个分类器根据性能进行组合优点：低泛化误差，以实现，分类准确率高，无太多参数需要调节...，学习规则简单，很强的鲁棒性，具有记忆能力、自学能力,误差反向传播，并行性好 (RBF)唯一最佳逼近特性，无局部最小问题，前反馈网络中RBF网络完成映射功能最优，分类能力好，收敛性比BP快非常多缺点：...针对以下三个问题，人们提出了相应的算法 *1 评估问题：前向算法 *2 解码问题： Viterbi算法 *3 学习问题： Baum-Welch算法(向前向后算法) 优点：解决了标注问题缺点：做了齐次马尔科夫假设及观测股利性假设

1.3K8 0

经典算法学习之---折半查找

一、什么是算法算法是如何解决一类问题的明确规范，可以执行计算、数据处理、自动推理和其他任务。 ️1.算法概念：算法可以在有限的空间和时间内用定义明确的形式语言来表示，以计算函数。...算法的一个典型例子是欧几里德算法，用于确定两个整数的最大公约数。...因为，计算机的发明就是用于处理大量数据的。我们需要学习前人的算法，避免重复造轮子，站在巨人的肩膀上前进，才能走的更远。...所以在整个学习过程中，也会涉及到各种数据结构的使用。常见的数据结构包括：数组、堆、栈、队列、链表、树等等。...5.算法的效率算法效率是指算法执行的时间，算法执行时间需通过依据该算法编制的程序在计算机上运行时所消耗的时间来度量。

981 0

「经典重温」图表示学习经典算法 node2vec

但事实上，论文中给出的结论却是 DFS擅长学习网络的同质性，BFS擅长学习网络的结构性。...仍然能学习出这样的信息。...这里先给出后面做完实验后，感觉比较合适的一个解释。作者说的结构性并不是宏观上有相似的连接方式，而是指能够充分学习微观上的局部结构。...在得到随机游走的路径后，node2vec 就会把结点看作词，像 word2vec 学习词向量那样学习每个结点的 embedding 了。...0 和 19 之间的距离无法被推远，这也使得别的结点的 embedding 学习收到影响，无法像 DFS 中那样分散到两个不同的簇中。

1.2K3 0

Adaboost算法:基于集成学习的又一经典分类算法

对于集成学习而言，常用的有bagging和boosting两种策略，在之前的文章中，介绍了bagging策略的经典算法-随机森林，本文介绍基于boosting策略的经典分类算法-Adaboost。...经典的boosting系列算有有以下几种 1. Adaboost 2. GBDT 3....XGboost 其中Adaboost是最早提出，最为经典的一种监督学习算法，通过多次迭代的方式来构建多个弱分类器，并最终组合成为一个强分类器。...，Adaboost算法可以提高分类的准确率，同时具有较强的解释性；缺点在于对异常值比较敏感，异常点需要进行过滤。...·end· —如果喜欢，快分享给你的朋友们吧— 原创不易，欢迎收藏，点赞，转发！生信知识浩瀚如海，在生信学习的道路上，让我们一起并肩作战！

7641 0

经典算法

一、给定数轴上点，寻找一个点到其他点的距离之和最小\ 给你一个数轴上的许多个点，让你寻找一个点A，使得A到其他所有数轴上的点的距离之和最短毫无疑问，当数轴上的点的数量是偶数的时候，A取在数轴上所有点按照其坐标排列...，排在最中间的两个点中间，当数轴上的点的数量是奇数的时候，A取这些所有点按照其坐标排列，排在最中间的点当取好A之后求所有点到其距离之和即可牛牛有4根木棍,长度分别为a,b,c,d。...羊羊家提供改变木棍长度的服务,如果牛牛支付一个硬币就可以让一根木棍的长度加一或者减一。牛牛需要用这四根木棍拼凑一个正方形出来,牛牛最少需要支付多少硬币才能让这四根木棍拼凑出正方形。...输入描述: 输入包括一行,四个整数a,b,c,d(1 ≤ a,b,c,d ≤ 10^6), 以空格分割输出描述: 输出一个整数,表示牛牛最少需要支付的硬币输入例子1: 4 1 5 4 输出例子1:

8210 0

经典算法

1 支持向量机知识点：SVM模型推导、核函数、SMO算法问题：在空间上线性可分的两类点，分别向SVM分类的超平面做投影，这些点在超平面上的投影仍然是线性可分的吗？...本文旨在找到一组参数满足训练误差为0，且是SVM模型的一个解问题：加入松弛变量的SVM的训练误差可以为0吗？使用SMO算法训练的线性分类器并不一定能得到训练误差为0的模型。...二者都使用了极大似然估计来对训练样本进行建模；二者在求解超参数的过程中，都可以使用梯度下降的方法，这也是监督学习中一个常见的相似之处。...常用的决策树算法有ID3，C4.5，CART，它们构建所使用的的启发式函数各是什么？除了构建准则之外，它们之间的区别于联系是什么？...后剪枝的核心思想是让算法生成一颗完全生长的决策树，然后从最底层向上计算是否剪枝。剪枝过程将子树删除，用一个叶子结点替代，该结点的类别同样按照多数投票的原则进行判断。

8183 0

机器学习——经典十大算法之EM算法

今天是机器学习专题的第14篇文章，我们来聊聊大名鼎鼎的EM算法。 EM算法的英文全称是Expectation-maximization algorithm，即最大期望算法，或者是期望最大化算法。...EM算法号称是十大机器学习算法之一，听这个名头就知道它非同凡响。...我们来看一个经典的例子，同样是抛硬币，但是我们将题目的条件稍作修改，那么整个问题就会完全不同。这个例子来源于阐述EM算法的经典论文：《Do, C....同理当我们有了的取值之后，又可以来优化z。这种两个变量固定一个，轮流优化另一个的方法叫做坐标上升法，也是机器学习当中非常常用的求解方式。 ? 如上图所示，这个一圈一圈的是损失函数的等高线。...并且更难得的是，即使我们抛弃掉数学上严谨的证明和推导，也不妨碍我们直观地理解算法的思路。难怪该算法可以列入十大机器学习算法之一，的确非常经典。

1.3K3 0

经典机器学习算法回顾之Boost框架

在整个西海岸的小伙伴都跑到Vegas去听周董地表最强的演唱会的时候，淡定的包子君将带大家来快速回顾一下经典 Boost 机器学习算法。 ?...它和一般的 Bagging 投票方法相比较，它们的相同点都是累加弱模型，但区别是在投票模型中，每一个弱模型都是预测最终结果的（通过不同Groups的features），而 Boost 框架中的第k个弱模型是预测前面...Boost 框架的一般形式为： ? M是总共弱模型个数，是每个弱模型的权重，是每个弱模型。我们也可把它写成递归的形式： ? Boost 框架训练的目标为： ?...我们通过尝试M个不同的弱分类器，假设 ? 可以找到，损失函数最小的那个，并且通过对求导等于零来得到其系数的值： ? 其中： ? 迭代以上步骤M次即可得到由M个弱分类器组成的强分类器。...的方法来说恰恰相反，每一弱分类器都独立预测了最终的结果，通过平均结果的方法，我们把预测结果的方差也减少到了原来每个弱分类器的 ?

1.4K3 0

点击加载更多

扫码

添加站长进交流群

领取专属 10元无门槛券

手把手带您无忧上云

扫码加入开发者社群

相关资讯

热门标签

活动推荐

运营活动

活动名称

广告关闭