Mac 安装 ApacheFlink + Scala + SBT flink: https://ci.apache.org/projects/flink/flink-docs-release-1.8/tutorials...先下载再安装-快速 既然 flink 的 tar 包地址已经拿到了,直接迅雷下载到 mac 的 Download 目录。...我们只需要通过 fetch 拿到带 SHA-256 hash 的名称的文件。...,但是好歹包不大,不用等那么久 brew install scala@2.11 安装 SBT scala-sbt doc brew install sbt@1 也很慢: ==> Downloading...我们只需要通过 fetch 拿到带 SHA-256 hash 的名称的文件。
前提Spark集群已经搭建完毕,如果不知道怎么搭建,请参考这个链接: http://qindongliang.iteye.com/blog/2224797 注意提交作业,需要使用sbt打包成一个jar...,然后在主任务里面添加jar包的路径远程提交即可,无须到远程集群上执行测试,本次测试使用的是Spark的Standalone方式 sbt依赖如下: ?...demo1:使用Scala读取HDFS的数据: /** * * Spark读取来自HDFS的数据 */ def readDataFromHDFS(): Unit ={...Spark SQL 映射实体类的方式读取HDFS方式和字段,注意在Scala的Objcet最上面有个case 类定义,一定要放在 这里,不然会出问题: ?...val jarPaths="target/scala-2.11/spark-hello_2.11-1.0.jar" /**Spark SQL映射的到实体类的方式**/ def mapSQL2()
$ java -version $ brew install sbt $ sbt about Getting org.scala-sbt sbt 0.13.16 ---- 2....创建 scala project 选择 create new project: ? 选择 scala - sbt: ? 为项目命名,确认 JDK 为配置的版本: ? ---- 4....创建 scala class 新建 scala class 的方法: ? 命名: ?...打开 SBT project 的方法 在 Intelli J 的导航 file 处先关闭当前项目: ? 选择 import: ? 选择 build.sbt: ? ? ? ---- 7....可以用 terminal 执行 sbt 命令 打开 intellij 左下角的 Terminal: 输入 $ sbt >compile ?
和Sbt的离线安装 进入scala的官网下载压缩包 https://www.scala-lang.org/download/ sbt官网: https://www.scala-sbt.org/download...sudo mkdir /opt/sbt sudo mkdir /opt/scala 然后在执行解压指令: sbt_file和scala_file需要替换为你的压缩包名字 sudo tar -xzf...sbt_file.tgz -C /opt/sbt sudo tar -xzf scala_file.tgz -C /opt/scala 进入解压后的文件夹: 直到找到你的bin文件夹,然后记住该路径,...scala和sbt一样的 cd /opt/sbt 下面开始配置环境变量: 使用指令 nano ~/.bashrc 在该文件的最后一行加入 export PATH=/your/path/to/sbt/bin....bashrc 这样我们的sbt和scala的离线安装就完成了,当然,我们在这之前还需要安装java jdk,最好是安装最新的版本,我们可以使用指令查看我们的版本 java --version sbt
%%:用于 Scala 库依赖,会自动添加当前项目的 Scala 版本号。...反之%则不会自动添加,%用于 Java 库依赖或需要指定 Scala 版本的情况。...test/: 测试代码目录,包含了用于测试项目代码的测试代码和资源文件。 scala/: 测试用的Scala源代码文件存放的目录。 resources/: 测试用的资源文件存放的目录。...target/: 这个目录是sbt生成的,用于存放编译生成的类文件、打包文件以及其他构建过程中生成的临时文件。...相对于maven(maven使用的XML语言并不是专门为maven而设计的),sbt的这种灵活性使得sbt适用于复杂项目和需求频繁变化的项目。 4.
SBT 是 Scala 的构建工具,全称是 Simple Build Tool, 类似 Maven 或 Gradle。...SBT 的野心很大,采用Scala编程语言本身编写配置文件,这使得它稍显另类,虽然增强了灵活性,但是对于初学者来说同时也增加了上手难度。...另外由于SBT默认从国外下载依赖,导致第一次构建非常缓慢,使用体验非常糟糕! 如果你是一名Scala初学者,本文希望帮你减轻一些第一次使用的痛苦。...本文的主要内容是帮助初学者从头到尾构建并运行一个Scala项目,重点在于讲解国内镜像仓库的配置。... 仅适用于 Mac/Linux 平台。
SBT 一直以来都是 Scala 开发者不可言说的痛,最主要的原因就是官方文档维护质量较差,没有经过系统的、循序渐进式的整理,导致初学者入门门槛较高。...虽然也有其它构建工具可以选择(例如 Mill), 但是在短时间内基本上不可能撼动 SBT 的地位,毕竟它是 Scala 名正言顺的亲儿子。...当然还有另外一个原因可能导致其它构建工具永远没有机会,Scala 语言以其卓越的编译器著称,编译器支持的丰富特性需要和构建工具进行无缝对接,例如 Scala 的 Macro 需要和构建工具的增量编译密切配合...Windows 命令行上执行: set JAVA_OPTS="-Xmx1g -Xmx1g" 配置文件 在项目根目录下创建.jvmopts文件,内容如下: -Xmx1g -Xmx1g 命令行参数 只有用于类...Linux平台的sbt脚本支持命令行参数方式,用于Windows平台的sbt.bat无缘该方式,这种不统一的做法竟然没有任何文档说明,哎!
,用于结构化数据。...更多的功能可以查看完整的 DataFrames API ,此外 DataFrames 也包含了丰富的 DataFrames Function 可用于字符串处理、日期计算、数学计算等。...因此,你可以复用批处理的代码,使用 Spark Streaming 构建强大的交互式应用程序,而不仅仅是用于分析数据。.../sbt Shell 命令 最后检验 sbt 是否可用(首次运行会处于 “Getting org.scala-sbt sbt 0.13.9 …” 的下载状态,请耐心等待。...点击查看:解决 sbt 无法下载依赖包的问题 使用 sbt 打包 Scala 程序 为保证 sbt 能正常运行,先执行如下命令检查整个应用程序的文件结构: cd ~/sparkappfind .
二、SBT简介 使用Scala语言编程,最好使用SBT框架,可以自动帮你完成包管理等,相当于java中的maven,下面先简单介绍一下SBT基础。 ...安装完成之后,在IDEA中安装sbt插件,然后选择创建SBT项目,与普通Scala语言最主要的不同是会创建一个build.sbt文件,这个文件主要记录的就是项目的依赖等,要添加依赖就可以添加如下两行代码...文件是一个被SBT直接管理的scala源文件,里面的语句均要符合Scala语法,其中libraryDependencies和resolvers 是定义好的Key,+= % at等都是写好的方法。...是一个偏函数,用于接收并处理其他Actor发送的消息,这里就用到了模式匹配,可以根据不同的消息类型进行不同的处理,相当于路由。...引入akka只需要在build.sbt文件中添加在SBT操作一节中介绍的代码即可,但是要根据自己的Scala版本以及要使用的akka版本进行修改。添加完之后IDEA会自动去下载akka的actor包。
背景简介 Spark App(用Spark APIs编写的)需要submit到Spark Cluster运行,对于Scala编写的代码,提交之前要用sbt或者maven把以下内容: 源代码 依赖的jar...常见的Maven公共repo有: search.maven.org…用于搜索你的依赖包。 https://mvnrepository.com/…maven仓库。...总结 对于Java/Scala的编译问题,我曾经特别抗拒,因为maven和sbt的配置文件很冗杂,没有Python的简洁明了。...Python里20行的依赖文件在maven/sbt里至少200行,而且只要有一个地方没写正确就无法正确编译。 现在发现要想正确编译,保证源代码没问题的情况下,就需要指定正确的依赖包和格式。...当看到sbt编译失败的时候就应该根据报错信息推测出问题的原因:“依赖包版本不正确”,然后把版本指定正确就可以了。
2、使用IDEA SBT开发Scala 上面我们通过Idea安装并运行了Scala的程序 我们已经可以在IDEA中开发Scala了!...sbt为我们创建了目录结构 这些都很有用 都是sbt的基本结构 build.properties里记录了sbt.version build.sbt里记录了 项目名 scalaVersion 等信息...: org.scala-sbt#sbt;0.13.8: not found 1.出现场景:在idea中使用sbt构建工程时,使用默认的sbt版本为0.13.8,而我本地安装的sbt版本是0.13.7,所以在仓库中找不到对应的...构建Scala 首先根据不同的系统安装Sbt Windows下载地址为https://www.scala-sbt.org/1.x/docs/Installing-sbt-on-Windows.html...五、Scala Java同时运行 sbt是scala专属的 所以如果我们有scala和java代码同时执行的情况时 需要新建一个maven工程 pom文件写法如下: <dependencies
$ java -version java version "1.8.0_131" 如果显示了java安装的版本,则表示已正确安装,可以进行下一步了。 安装Scala 1、下载Scala的压缩文件。...安装sbt 1、下载Spark的压缩文件。...下载地址为: http://www.scala-sbt.org/download.html 2、下载sbt-0.13.15.tgz后,解压到指定的目录: $ tar -zxvf sbt-0.13.15...$ mkdir /opt/scala/sbt/ $ cd /opt/scala/sbt/ $ touch sbt 脚本内容如下,注意sbt-launch.jar的路径 SBT_OPTS="-Xms512M...$ sbt sbt-version [info] 0.13.15 第一次执行的时候会下载很多东西,不用管它,后来就好了。 如果出现sbt的版本信息就表示安装成功。
Selenium WebDriver:Selenium是一个用于自动化Web应用测试的工具,可以从Selenium官网下载对应浏览器的WebDriver。...本文以PhantomJS为例,下载完成后,将其解压并添加到系统的PATH环境变量中。 构建工具:为了方便项目管理和依赖管理,推荐使用sbt(Scala Build Tool)作为构建工具。...可以从sbt官网下载并安装sbt。 二、项目搭建 创建项目目录:在任意位置创建一个新的文件夹,作为项目的根目录。...初始化sbt项目:在项目根目录下,创建一个名为build.sbt的文件,用于配置项目的构建信息。...在scala文件夹下,创建一个名为ZhihuCrawler.scala的文件,用于编写爬虫代码。 三、编写爬虫代码 1.
前言 我们用IDEA创建Spark项目的时候,默认都是使用SBT作为构建工具的,那么SBT是个啥?...SBT是 Scala 的构建工具,全称是 Simple Build Tool, 类似 Maven 或 Gradle。...SBT 的野心很大,采用Scala编程语言本身编写配置文件,这使得它稍显另类,虽然增强了灵活性,但是对于初学者来说同时也增加了上手难度。 另外由于SBT默认从国外下载依赖,导致第一次构建非常缓慢。...设置全局仓库 默认从国外下载依赖,我们可以设置仓库的地址来加快构建速度。...方法一:修改SBT配置文件(推荐) 提醒一下, sbt-1.3.0/conf/ 目录下有两个配置文件, sbtconfig.txt 仅适用于 Windows 平台,而 sbtopts 仅适用于 Mac
Selenium WebDriver:Selenium是一个用于自动化Web应用测试的工具,可以从Selenium官网下载对应浏览器的WebDriver。...本文以PhantomJS为例,下载完成后,将其解压并添加到系统的PATH环境变量中。构建工具:为了方便项目管理和依赖管理,推荐使用sbt(Scala Build Tool)作为构建工具。...可以从sbt官网下载并安装sbt。二、项目搭建创建项目目录:在任意位置创建一个新的文件夹,作为项目的根目录。...初始化sbt项目:在项目根目录下,创建一个名为build.sbt的文件,用于配置项目的构建信息。...在scala文件夹下,创建一个名为ZhihuCrawler.scala的文件,用于编写爬虫代码。三、编写爬虫代码1.
安装sbt 安装sbt我参考的是这篇文章ubuntu14手动安装sbt 官网下载解压 # mkdir /opt/scala/ # wget https://dl.bintray.com/sbt/native-packages.../sbt/0.13.13/sbt-0.13.13.tgz # tar -zxvf sbt-0.13.13.tgz -C /opt/scala/ # cd /opt/scala/ # mv sbt-launcher-packaging...建立启动sbt的脚本 # mkdir /opt/scala/sbt/ # cd /opt/scala/sbt/ # touch sbt # 脚本内容如下,注意sbt-launch.jar的路径...-jar /opt/scala/sbt/bin/sbt-launch.jar "$@" 修改sbt文件权限 # chmod u+x sbt 测试sbt # sbt sbt-version Getting...org.scala-sbt sbt 0.13.13 ...
sbt类似与maven, gradle的项目管理工具,主要用在scala,也可以用在java项目,本文介绍一下常用的使用命令和语法 安装 mac brew install sbt redhat¢os...session save 保存当前会话信息到build.sbt test执行测试, ~testQuick自动检测并执行测试 projects列出所有项目 build.sbt语法 # 设置scala...类似于maven中的scope,可以Test, Compile # 如果是scala的库,一般使用%%,这样就会找到对应scala版本的库 libraryDependencies +=...后terminal窗口会停在Getting org.scala-sbt sbt上,也不知道发生了什么。...可以用如下命令,查看程序进展tail -f $HOME/.sbt/boot/update.log 参考 sbt by example stuck at "Getting org.scala-sbt sbt
/sbt/rpm/rpm [admin@bdc01 ~]$ sudo yum install sbt -y # 2.配置,文件:/etc/sbt/sbtopts,未列出的保持默认即可 -sbt-create...创建自定义的目录 [admin@bdc01 ~]$ sudo mkdir -p /opt/sbt/boot [admin@bdc01 ~]$ sudo mkdir -p /data/sbt/repo [...,耐心等待,之后下载会很快 [info] [launcher] getting org.scala-sbt sbt 1.4.2 (this may take some time)... downloading...https://maven.aliyun.com/nexus/content/groups/public/org/scala-sbt/sbt/1.4.2/sbt-1.4.2.jar ... downloading...[SUCCESSFUL ] org.scala-sbt#sbt;1.4.2!sbt.jar (528ms) ...
根目录下的build.sbt文件表明这是一个SBT项目,另外还有一个sbt.bat启动脚本,说明Starter Project已经内置SBT构建工具,如果你已经成功安装SBT,则可以删除sbt-dist...通过SBT命令行创建 这种方式需要你事先安装SBT,然后执行创建命令: sbt new playframework/play-scala-seed.g8 命令执行成功后,在当前目录下会生成类似Starter...发布Play项目 Play项目的发布也是通过sbt命令完成的,进入命令行执行sbt dist,命令执行完成后,在target\universal目录下会生成应用文件play-scala-starter-example...bin目录中包含了应用的启动脚本play-scala-starter-example,与项目名称同名。...选中窗口左侧的Scala插件,单击右侧Install按钮,等待插件安装完成后重启IDEA。
Scala Scala 3 支持 此版本包括对上下文边界和 given 的新语法的改进支持 (SIP-64)。...针对 Scala 的改进代码高亮显示 在 2024.3 版本中,我们引入了对 Scala 3 中透明内联方法的支持。 我们继续推进对 Scala 宏的支持,现已提供对 Scala 2 宏类型的支持。...新的 Generate sbt managed sources(生成 sbt 托管源)操作可以帮助您避免良好代码被标记为红色的情况,因为它依赖于项目导入期间生成的源。...此检查会高亮显示不正确的 ENTRYPOINT 用法并指导您采用最佳做法,帮助您维护更整洁的 Dockerfile 和更稳健的容器生命周期。...其他改进包括分阶段同步(可让您更快导入和获取代码)、在目录或目标树中运行所有测试的功能、用于复制目标 ID 的上下文菜单操作,以及用于创建新项目的简单向导。 在这篇博文中了解详情。