首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

Spark常用的算子以及Scala函数总结

Spark与Scala 首先,介绍一下scala语言: Scala 是一种把面向对象和函数式编程理念加入到静态类型语言中的混血儿。 为什么学scala?...新手学习Spark编程,在熟悉了Scala语言的基础上,首先需要对以下常用的Spark算子或者Scala函数比较熟悉,才能开始动手写能解决实际业务的代码。...Action算子,这类算子会触发SparkContext提交Job作业 下面是我以前总结的一些常用的Spark算子以及Scala函数: map():将原来 RDD 的每个数据项通过 map 中的用户自定义函数...case:匹配,更多用于 PartialFunction(偏函数)中 {case …} saveAsTextFile:函数将数据输出,存储到 HDFS 的指定目录 cache : cache 将...RDD中每个元素,而mapPartitions()的输入函数是应用于每个分区 package test import scala.Iterator import org.apache.spark.SparkConf

4.9K20
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    Spark基础-scala学习(四、函数式编程)

    函数式编程 将函数赋值给变量 匿名函数 高阶函数 高级函数的类型推断 scala的常用高阶函数 闭包 sam转换 currying函数 return 将函数赋值给变量 scala中的函数是一等公民,可以独立定义...> Unit = $$Lambda$1061/1964697764@235d659c scala> sayHelloFunc("leo") Hello, leo 匿名函数 scala中,函数也可以不需要命名...,此时函数被称为匿名函数 可以直接定义函数后,将函数赋值给某个变量;也可以将直接定义的匿名函数传入其他函数之中 scala定义匿名函数的语法规则就是,(参数名:参数类型)=>函数体 scala> val...> sayHelloFunc("leo") hello, leo 高阶函数 scala中函数时一等公民,因此可以直接将某个函数传入其他函数,作为参数。...在scala中,return用于在匿名函数中返回值给包含匿名函数的带名函数,并作为带名函数的返回值 使用return的匿名函数,是必须给出返回类型的,否则无法通过编译 scala> :paste //

    79430

    Spark常用的算子以及Scala函数总结

    Spark与Scala 首先,介绍一下scala语言: Scala 是一种把面向对象和函数式编程理念加入到静态类型语言中的混血儿。 为什么学scala?...spark的,你不学scala还让你师父转python啊!...新手学习Spark编程,在熟悉了Scala语言的基础上,首先需要对以下常用的Spark算子或者Scala函数比较熟悉,才能开始动手写能解决实际业务的代码。...3、Action算子,这类算子会触发SparkContext提交Job作业 下面是我以前总结的一些常用的Spark算子以及Scala函数: map():将原来 RDD 的每个数据项通过 map 中的用户自定义函数...case:匹配,更多用于 PartialFunction(偏函数)中 {case …} saveAsTextFile:函数将数据输出,存储到 HDFS 的指定目录 cache : cache 将

    1.9K120

    Scala基础入门(十二 ) Scala 模式匹配

    Scala 中提供了基于是否匹配某个条件来执行相应动作的模式匹配,这很类似其他语言的switch-case语句。...所有的匹配表达式都以要匹配的 值 开头, 后面跟着 match 关键字、左花括号、和一组可能匹配到的项以及关联的动作,最后以右花括号结尾。...每一组可能匹配到的项以 关键字case 开头、后面跟匹配表达式,该表达式的值如果与目标值匹配, => 右边的表达式就会作为该match 的结果。...我们以一个划分学生期末成绩等级的例子来解释 Scala 模式匹配的用法: package com.byron4j.scala.basic /** * Scala 模式匹配的用法 */ object...需要注意的是, case 后面只能接 常量,不能是条件表达式。

    14910

    Scala 【 12 模式匹配 】

    模式匹配 ​ Scala 的模式匹配除了可以对值进行匹配之外,还可以对类型进行匹配、对 Array 和 List 的元素情况进行匹配、对 case class 进行匹配、甚至对有值或没值(Option)...模式匹配 ​ Scala 是没有 Java 中的 switch case 语法的,相对应的,Scala 提供了更加强大的 match case 语法,即模式匹配,类替代 switch case,match...Scala 的 match case 与 Java 的 switch case 最大的不同点在于,Java 的 switch case 仅能匹配变量的值,比1、2、3等;而 Scala 的 match...case class 的主构造函数接收的参数通常不需要使用 var 或 val 修饰,Scala 自动就会使用 val 修饰(但是如果你自己使用 var 修饰,那么还是会按照 var 来)。 ​...Scala 自动为 case class 定义了伴生对象,也就是 object,并且定义了 apply() 方法,该方法接收主构造函数中相同的参数,并返回 case class 对象。

    58610

    Scala 的模式匹配

    最近开始学习 Scala,相较于学习 Haskell 的过程来看,Scala 真是直观得多,友好得多,更容易上手。...这里的模式匹配可能是历经函数式编程才引入的概念,是广泛存在于编程语言函数使用中的,而并非以前接触的 “正则表达式” 这样仅仅用于字符串处理的特性。...再挪到 Scala 里面看模式匹配,上面的情况也都能够支持。...但是在这里的模式匹配上,这个变化点被移到了函数(或者说方法)上,看起来实现的功能是类似的,但是二者各有优劣: 如果使用传统的多态方式,思维基于类和对象,方法只是某一类或对象的附庸,方法本身单独存在并无意义...相反,模式匹配使得关注的核心点变成了函数本身,函数变成了一等公民,它可以脱离类和对象的附庸而独立存在了。

    98230

    有趣的Scala模式匹配

    Scala提供了一种类比switch/case更为强大的选择匹配模式,写作 选择语句 match {可选分支} 它被称为模式匹配,模式匹配包含了一系列以case关键字开头的分支,每一个分支包含一个模式或者是多个表达式...(1) 1 scala> matchTest(2) 2 scala> matchTest(4) 3 match表达式会逐个尝试case里的模式直到匹配为止,如果没有匹配上就会抛出异常MatchError...上例所展示的就是常量模式的常量1,2去匹配,还使用了_通配符匹配任何对象(建议放在最后面,因为Scala的模式匹配是按顺序的)。...(b) res1: Test2 = Test2(cd) 我们创造了两个样例类Test1和Test2,Test1接受Test2作为构造参数,实例化两个样例类后发现,在构造方法匹配中,Scala采用了深度匹配...由构造方法匹配自然而然就可以引申为序列模式匹配和元组匹配。

    1.1K40

    Scala--spark必备

    Scala 是 Scalable Language 的简写,是一门多范式的编程语言。 ? Scala 是一门多范式的编程语言,类似于 Java 。...设计初衷是实现可伸缩的语言、并集成面向对象编程和函数式编程的各种特性。可以大致总结下面几种优势。...1).Java和scala可以无缝混编,都是运行在JVM上的 2).类型推测(自动推测类型),不用指定类型 3).并发和分布式(Actor,类似Java多线程Thread) 4).特质trait,...特征(类似java中interfaces 和 abstract结合) 5).模式匹配,match case(类似java switch case) 6).高阶函数(函数的参数是函数,函数的返回是函数),...可进行函数式编程 spark 底层就是用scala编写的,所以想要更好的使用spark了解一下scala语言还是有必要的,并且从java看过去,scala很好理解,因为有很多语法和关键字都是一样的。

    44820

    Scala:样例类、模式匹配、Option、偏函数、泛型(三)

    Scala:样例类、模式匹配、Option、偏函数、泛型 课程目标 掌握样例类的使用 掌握模式匹配的使用 1....,如果能匹配,返回一句话 打印这句话 单词 返回 hadoop 大数据分布式存储和计算框架 zookeeper 大数据分布式协调服务框架 spark 大数据分布式内存计算框架 未匹配 未匹配 参考代码...") } 3.4 匹配样例类 scala可以使用模式匹配来匹配样例类,从而可以快速获取样例类中的成员数据。...") } } 3.5 匹配集合 scala中的模式匹配,还能用来匹配集合。...偏函数 偏函数可以提供了简洁的语法,可以简化函数的定义。配合集合的函数式编程,可以让代码更加优雅。

    2.4K20
    领券