今天简单介绍一下Shell基础,包括变量、数组以及四则运算等方面内容。 1、变量 1.1 变量分类 1)本地变量:当前用户自定义的变量。当前进程中有效,其他进程及当前进程的子进程无效。...1.2 变量定义规则 1)默认情况下,shell里定义的变量是不分类型的,可以给变量赋予任何类型的值;等号两边不能有空格,对于有空格的字符串做为赋值时,要用引号引起来(变量名=变量值) 2)变量的获取方式...1.3 有类型变量 使用declare声明类型,常见如下: -i:定义整数变量 -r:定义只读变量 readonly -x:标记变量通过环境导出 export -a:指定为索引数组(普通数组);查看普通数组...-A:指定为关联数组;查看关联数组 2、数组 1)普通数组:只能使用整数作为数组索引(下标) 2)关联数组:可以使用字符串作为数组索引(下标) 2.1 数组定义 普通数组定义:用括号来表示数组,数组元素...定义数组的形式为如下。
,价值函数即是以状态为自变量,价值为因变量的函数,定义如下 V(s)=E[G_{t}|S_{t}=s] 它表示了所有状态回报之和的一种平均,可能这里有些人对这个期望不是很理解,既然我的S固定了,...,还与动作有关 同理,P也与动作联系起来了,因此它不再是一个二维数组矩阵,而是变成了一个三维矩阵 在描述马尔可夫决策过程的元组中,我们发现了许多强化学习中的元素:状态,奖励,动作,可以看到我们逐渐与我们的目的...:从状态s出发遵循策略π可以获得的期望回报 定义好了状态价值函数,我们再来定义动作价值函数,动作价值函数是遵循策略π时,在当前状态下采取动作a能得到的期望回报 Q^{\pi}(s,a)=E_{\pi...如下是一个简单的例子,使用蒙特卡洛方法求圆的面积,我们已知三角形的面积,则先随机选取多个点,然后就可以通过比例计算出圆形的面积 2.在强化学习中的应用 那么如何在强化学习中应用蒙特卡洛方法呢,我们试着求状态价值...pi^{*}(s) 再定义最优状态价值函数 V^{*}(s)=max_{\pi}V^{\pi}(s) 和最优动作价值函数 Q^{*}(s,a)=max_{\pi}Q^{\pi}(s,a)
那么我们的问题来了,就从上面这个例子来说,我们有无数根直线都能将他们划分开,难道这无数根直线都是我们的解吗? 当然不是的,我们需要做的是从这无数个直线中找出最优解,这才是我们SVM干的事情。...我们是不是发现了,一条线分隔了一个平面,也就是说一维的东西分隔了而为的数据,同样的道理,二维的平面可以分隔三维的空间(你家的房子被你家的墙划分成两个空间),所以我们可以知道,对于N维的数据,我们需要N-...OK,我们如何去寻找最大间隔? 还记得我们在高中的时候学过的点到直线的距离公式吗? ?...max_{关于w, b} \frac{1}{||w||} \) => 就是求: \(arg: min_{关于w, b} ||w|| \) (求矩阵会比较麻烦,如果x只是 \(\frac{1}{2}*x...准备数据: 对文件进行逐行解析,从而得到第行的类标签和整个特征矩阵 ?
常用的可视化图表 我们常用的图表其实也有很多,比如说文本表格,条形图,饼图等等。下面我就来简单介绍10种常见的图表 散点图 散点图一般是两个变量的二维图表,很适合展示两个变量之间的关系。...当然也有三维散点图,不过使用的并不是很多 折线图 折线图可以很好的呈现数据随着时间迁移的变化趋势 直方图 直方图把横坐标等分成一定数量的区间,然后再每个区间内用矩形条展示该区间内的数值,可以很好的查看数据的分布情况...饼图 饼图可以很好的呈现每类数据所占总数据的比例情况 热力图 热力图是把数据用矩阵表示的形式,不同数据颜色不同,可以通过颜色直观的判断某个位置上的数值情况 雷达图 可以很好的显示一对多的关系,比如王者荣耀中的对局信息...:饼图 分布 关注变量的分布情况,例如:直方图 下面有两张图片,很好的概括了不同情况下,该如何选择合适的图表 ?...图片 在以后的工作中,如果遇到可视化工作,又不太确定如何更好的呈现数据,可以来看看上面的图片,也许能找到灵感。
Subsets II 解题思路: 这道题是给一个数组,数组中的数字可能有重复,返回所有可能的子集。...每个细胞与其八个相邻位置(水平,垂直,对角线)的细胞遵循四条生存定律,求根据当前 01 矩阵状态计算下一个 01 矩阵状态。...这道题需要注意的有两点:(1)所有细胞改变改变是同时发生的;(2)要在原矩阵上修改,不能创建额外的空间。...我们可以先把 1 改成 -1,后面的细胞每次判断加一个 abs,-1 的绝对值还是 1,就不影响;而对于 0 而言,因为不可能改成 -0,所以先随便改一个,如 float("inf")(反正不是 1 和..._ = max(max_, dp[i][j]) return max_
(拉格朗日乘子)构成了一个新的函数,这样就将限定条件转换为了未知变量。...我们定义原始问题最优解: p∗=minxθP(x) p^*=\min_{x}\theta_P(x) 总结一下原始问题和拉格朗日函数: 从原始问题开始,通过拉格朗日函数重新定义一个无约束问题...也就是将d个变量和k个约束条件的最优化问题转换为d+k个变量的最优化问题。到此我们还是无法求解,我们需要将原始问题转换成对偶问题来求解。 3....定义对偶问题的最优值 d∗=maxα,βθD(α,β) d^* = \max_{\alpha,\beta}\theta_D(\alpha,\beta) 对比原始问题,对偶问题是先固定 α,...x)=Ax+b f(\boldsymbol{x})=\boldsymbol{A}\boldsymbol{x}+b 仿射函数就是一个线性函数,其输入是n维向量,参数 A可以是常数,也可以是m×n的矩阵
@Author:Runsen @Date:2020/7/5 人生最重要的不是所站的位置,而是内心所朝的方向。...假设我们有一个100kg的背包,可以装飞中物品,如何将所装的物品总价值最大 ?...时间复杂度无疑是线性的。 最大和的连续子数组 我不知道这题是不是Leetcode,但出现的频率很高。好像是牛课的,反正是一个面试题。...第一时间想到的当然是暴力解决,基本思路就是遍历一遍,用两个变量,一个记录最大的和,一个记录当前的和。...nums[i] + i; 初始化:设置变量i代表当前所处的位置,初始化为0;设置变量max_index代表从第0位置至第i位置的这个过程中,最远可到达的位置,初始化为index[0]。
更多 插补数据不是填补缺失值的唯一方法。数据对称分布且没有异常值时,才会返回一个合理的值;如果分布比较偏,平均值是有偏差的。衡量集中趋势更好的维度是中位数。...探索模型中变量之间的相互作用时也建议这么处理。 计算机是有限制的:整型值是有上限的(尽管目前在64位机器上这不是个问题),浮点型的精确度也有上限。 数据规范化是让所有的值落在0到1的范围内(闭区间)。...怎么做 要实现规范化与标准化,我们定义了两个辅助函数(data_standardize.py文件): def normalize(col): ''' 规范化 ''' return (col - col.min...可轻松处理大型数组和矩阵,还提供了极其丰富的函数操作数据。想了解更多,可访问: http://www.numpy.org .digitize(...)方法对指定列中的每个值,都返回所属的容器索引。...要使用它们,我们要先进行编码,也就是给它们一个唯一的数字编号。这解释了什么时候做。至于如何做—应用下述技巧即可。 1. 准备 要实践本技巧,你要先装好pandas模块。 其他没有什么要准备的了。
现在,我们已经做好为模型编写代码的所有准备。 读取数据 如果你还记得的话,这些数据是法国网站 leboncoin.fr报废的,而不是经过清理和规范化,并保存到 CSV文件中的数据。...我们使用之前定义的 DataSet 类。您可以在这里下载 CSV 数据集。 我们需要类型和形状来定义一个张量。...我们将得到两个占位符,x 包含汽车功能和每辆车的相应价格。 该网络有两个隐藏层,因此我们将得到三个权重矩阵和三个偏差矩阵。...而 Python 是在 C ++ 下完成的,我们必须定义一个变量和一个 Assign 节点,以便为该变量分配一个默认值。通过使用 RandomNormal 来初始化变量,我们获得正态分布的随机值。...使用 C ++,我们必须保留变量列表。每个 RandomNormal 输出将被分配给 Assign 节点中定义的变量。 现在,我们可以循环训练步骤。在示例中,我们将做 5000 步训练。
公式二 对于较大的误差误差,L2比L1给出的惩罚更大。此外,加入L2正则后,模型系数会向0聚拢,但不会出现完全为0的情况,而L1损失函数则能使部分系数完全为0。 如何寻找百分位数?...针对这个问题,我们会有很多不同的答案。比如,一个不能很好地处理异常值(outliers)的可视化,就不是一个好的可视化。...比如说我们有一个数组,在一系列小数字中有一个很大的数据([1,2,3,4,7777,5,6,9,2,3]),当我们可视化这个数组的时候,会产生如下的图: 右图→原始图片;中间图→规范化值;左图→标准化值...正如上图所示,即使我们对分析值进行了标准化或者规范化,产生的折线图依然不能很好地表示这组数组。究竟要怎么做呢?欢迎留言发表看法。 怎样更快地计算出逆矩阵? 比如,可以考虑Gauss-Jordan法。...如果是一个2x2的矩阵就很简单了。 逆矩阵是: ad-bc≠0 只需要交换a和b,取b和c的负值,然后除以方阵ad-bc。 定义方差 方差是每个数据点与整个数据集平均值之间差值的平方和。
但是就这样的程度让人觉得非常虚,那就拿起小蓝书跟条件随机场来个了断吧~ 条件随机场定义 首先给出来自小蓝书的CRF定义: 条件随机场是给定从输入随机变量X条件下,输出随机变量Y的马尔科夫随机场。...「条件随机场」:CRF是马尔科夫随机场的特例,它假设马尔科夫随机场中只有X和Y两种变量,且X一般是给定的输入变量,而Y是我们需要输出的变量(在给定X的条件下)。这样一个马尔科夫随机长就形成了CRF。...例如,在标注问题中,X表示输入观测序列,Y表示对应的输出标记序列。 linear-CRF参数化形式 那么对于linear-crf,我们如何将其转换成可以学习的机器学习模型呢?...其中Z为规范化参数 CRF矩阵形式 条件随机场也有矩阵形式,是一种模型按时序展开分步计算的形式。...为此我们定义一个m x m的矩阵M,m为y所有可能的状态的取值个数: 同时引入起点和终点标记 ,这样标记序列y的非规范化概率可以通过n+1个矩阵元素的乘积得到: 其中Z(x)为规范化因子。
通过拉格朗日函数对各个变量求导,令其为零,可以求得候选值集合,然后验证求得最优值。 对于第(iii)类的优化问题,常常使用的方法就是KKT条件。...(a) 拉格朗日乘子法(Lagrange Multiplier) 对于等式约束,我们可以通过一个拉格朗日系数a 把等式约束和目标函数组合成为一个式子L(a, x) = f(x) + a*h(x), 这里把...(b) KKT条件 对于含有不等式约束的优化问题,如何求取最优值呢?...g(x)=0,x是向量,在x构成的平面或者曲面上是一条曲线,假设g(x)与等高线相交,交点就是同时满足等式约束条件和目标函数的可行域的值,但肯定不是最优值,因为相交意味着肯定还存在其它的等高线在该条等高线的内部或者外部...) = max_{a,b} min_x L(a,b,x) = min_x max_{a,b} L(a,b,x) =f(x0),我们来看看中间两个式子发生了什么事情: f(x0) = max_{a,b
import pywt #导入PyWavelets coeffs = pywt.wavedec(signal, 'bior3.7', level = 5) #返回结果为level+1个数字,第一个数组为逼近系数数组...在应用中,通常是选出比原始变量个数少,能解释大部分数据中的变量的几个新变量,即所谓主成分,来代替原始变量进行建模。...,得到单值元素列表,它是对象的方法名 Pandas/Numpy isnull 判断是否空值 Pandas notnull 判断是否非空值 Pandas PCA 对指标变量矩阵进行主成分分析 Scikit-Leam...(5) PCA 1 ) 功能:对指标变量矩阵进行主成分分析。使用前需要用from skleam.decomposition import PCA引入该函数。...规约和数值(横向)规约两个方面介绍了如何对数据进行规约,使挖掘的性 能和效率得到很大的提高。
Max Consecutive Ones III 解题思路: 这道题是最多改变 K 个 1 变成 0,然后求最长连续 1 子数组的长度。...很容易想到滑动窗口的思路(487 做法和本题做法一致,只不过 487 中 K = 1): 我们来定义本题的滑动窗口:因为肯定将所有 K 个 0 改成 1 才能获得最大长度,因此滑动窗口中记录包含 K 个...0 之后的最长连续 1 子数组。...注意到这个滑动窗口的大小是不固定的,因此,我们在滑动的过程中,要记录滑动窗口的起始位置(终止位置不用记,因为终止位置就是当前遍历的位置)。 如何更新滑动窗口呢?...我们来定义本题的滑动窗口:因为肯定当技能 X 发挥时能获得的满意度最大,且这个窗口是连续的,因此窗口的大小是固定的。长度为 X 的滑动窗口中记录增加的满意度。
我们将看到3个不同的下降矢量(或方向矢量): 牛顿方向,梯度方向和渐变+最佳步长方向。首先,我们需要定义一个供测试用的函数。...我们解出关于g的这个方程式,而不是计算hessian矩阵的逆,并使更新规则如下: ?...我添加了一个max_ iteration参数,以便该算法在不收敛时不会永远运行下去。 Let’stry it!...梯度方向和最佳步长 对经典梯度下降法的一种改进是:在每次迭代中使用可变步长,而不是常数。它不仅是可变的步长,而且最好还是最佳步长。 ? αk为每次迭代的步长 每次迭代更新为: ? 我们如何找到α?...因此,我们可以定义一个新函数q: ? 其中q实际上是一个单一变量函数。我们想找到使该函数最小化的α。emmm..梯度下降?
随机变量的集合称为随机过程。由一个空间变量索引的随机过程,称为随机场。 也就是说,一组随机变量按照某种概率分布随机赋值到某个空间的一组位置上时,这些赋予了随机变量的位置就是一个随机场。...上面的例子中没有提到命名实体识别,但其实命名实体识别的原理和上面的例子是一样的,也是用到了linear-CRF,后面会提到。 CRF如何提取特征?...49种组合的分数(或称作非规范化概率),表示了各个组合的可能性。...这个矩阵一开始是随机初始化的,通过训练后慢慢会知道哪些组合更符合规则,哪些更不符合规则。从而为模型的预测带来类似如下的约束: 句子的开头应该是“B-”或“O”,而不是“I-”。...因为人工虽然能判断出预测的标注前后关系是否符合规则,但是无法知道如何对不符合规则的预测进行调整,比如我们知道句子的开头应该是“B-”或“O”,而不是“I-”,但是究竟是B-还是O呢?
推而广之,n个特征的假设函数如下图所示。为了方便,我们定义 x1=1 ,采用列向量来表示参数 θ和 输入 X。 ? 这样,假设函数 hθ(x) 可表示为: ?...多变量的线性回归问题与单变量类似,由于特征数量从1变为n,所以需要更多的计算。其对比如下: ? 三、特征规范化(Feature Scaling) 由于现在有多个特征,且各个特征的取值范围有所不同。...那么,就需要利用特征规范化的方法,将所有特征都限定在一个范围左右。 ? 在上图左就可以看出,由于未进行特征规范化,等值线呈现出扁平化,导致收敛速度较慢。...均值标准化 利用特征均值与范围,将特征规范到 -0.5~0.5 的范围内。 四、学习率(Learning Rate) 本节见介绍,如何确认梯度下降正常工作,以及如何选择学习率 α 。 ?...但是,当 n 很大时,正规方程将花费大量的时间进行矩阵求逆运算,这个时候,选用梯度下降方法更好。
基础篇 书推荐:《用python做科学计算》 扩展库 简介 Numpy数组支持,以及相应的高效处理函数 Scipy矩阵支持,以及相应的矩阵数值计算模块 Matplotlib强大的数据可视化工具、作图库...,用于建立神经网络以及深度学习模型 Gensim 文本主题模型的库,文本挖掘用 ----- 贵阳大数据认证 ----- Numpy 提供了数组功能,以及对数据进行快速处理的函数。...支持类似于SQL的增删改查,有丰富的数据处理函数,支持时间序列分析功能,支持灵活处理缺失数据等 Pandas基本的数据结构实Series和DataFrame,序列(一维数组)和表格(二维数组) StatsModels...相关性分析 直接绘制散点图 绘制散点图矩阵,对多个变量两两关系的散点图 计算相关系数,[1]Pearson相关系数(要求数据服从正态分布);[2]Spearman秩相关系数。...[1]最小-最大规范化,也称离差标准化。x*=(x-min)/(max-min);缺点:异常值影响;之后的范围限制在[min,max]中 [2]零-均值规范化,也称标准差规范化,处理后[0,1]。
超参数在机器学习的上下文中,超参数是在开始学习过程之前设置值的参数,而不是通过训练得到的参数数据。...因为一般情况下我们将可以根据模型自身的算法,通过数据迭代自动学习出的变量称为参数,而超参数的设置可以影响到这些参数是如何训练,所以称其为超参数。 14、如果学习率设置得太低或太高会发生什么?...当学习率太低时,模型的训练将进展得非常缓慢,因为只对权重进行最小的更新。它需要多次更新才能达到最小值。如果非常小可能最终的梯度可能不会跳出局部最小值,导致训练的结果并不是最优解。...池化用于减少CNN的空间维度。它执行下采样操作来降低维数,并通过在输入矩阵上滑动一个过滤器矩阵来创建一个汇集的特征映射。 21、LSTM是如何工作的?...24、深度学习框架中的张量是什么意思? 这是另一个最常被问到的深度学习面试问题。张量是用高维数组表示的数学对象。这些具有不同维度和等级的数据数组作为神经网络的输入被称为“张量”。
hplot(diab.对于 MLM 的方法会给出一个散点图矩阵,其中包含所有响应变量之间的 HE 图。从结果中可以看出,Diabetes 变量的模式与其他变量不同。...组均值的位置显示了它们在典型维度上的表现。响应变量与典型维度的关系通过矢量(类似于双标图)显示出来。每个矢量由其与典型维度的相关系数(结构系数)定义。...这个维度与检测过程中的血浆胰岛素水平密切相关。这验证了我们在HE矩阵图中对所有响应变量的观察结果。规范化的得分数据椭圆的相对大小是方差异质性缺乏的另一个视觉指标。...规范化的HE图使用规范判别分析的HE图可以概括展示出规范判别分析的结果。变量向量与规范结构图中的变量向量相同。...此外,LDA允许指定组成员身份的先验概率,以使分类错误率与所关注人群中获得的结果可比较。二次判别分析允许组之间的协方差矩阵存在差异,并给出二次而不是线性的分类边界。
领取专属 10元无门槛券
手把手带您无忧上云