Loading [MathJax]/jax/output/CommonHTML/config.js
前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >IDEA 本地运行 Spark Demo 报错

IDEA 本地运行 Spark Demo 报错

作者头像
runzhliu
发布于 2020-08-06 02:10:40
发布于 2020-08-06 02:10:40
9810
举报
文章被收录于专栏:容器计算容器计算

运行spark demo时出现java.lang.NoSuchMethodError: scala.Predef$.refArrayOps([Ljava/lang/Object;)。 这个问题可以说是新手必须会遇到的问题了,主要原因是环境中的 Scala 版本和 Spark 的 Scala 版本不一致所导致的。 很多文章也提到了,把 pom.xml 文件改一下,到 Project 信息里查看 Scala 的版本等等。 不过有时候这个也不能完全解决的,因为 IDEA 会 Cache 一些配置文件的信息,有时候即使你改了,还是会报一样的错。 也不是不能排查,大概可以看看运行的 Console 里,会打印出完成的 ClassPath,去里面看看到底引入了哪个版本的 Scala 即可。有时候你甚至会发现 Project Setting 已经改好 Scala 的版本了,但是 Path 里还会有不应该存在的 Jar 包。

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2019/11/28 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
scala.Predef$.$scope()Lscala/xml/TopScope$和not found: type Application异常
该文介绍了在Spark中,通过使用SparkContext和SparkSession来创建和关闭SparkContext,并介绍了SparkContext的作用。同时,文章还介绍了如何通过在创建SparkContext时设置spark.master和spark.app.name参数来配置Spark的集群模式和应用程序名称。最后,文章介绍了在Spark应用程序中,如何通过使用SparkSession来运行SparkSQL查询。
程裕强
2018/01/02
1.7K0
基于scala语言的Spark环境搭建
IntelliJ IDEA版本:2019.3.4(community Edition)
liddytang
2023/09/26
5980
Mac 使用 IDEA 写第一个 Spark 程序
实在是菜的抠脚,对 Java 是真一窍不通,开始在网上找了相关的教程,但是始终没有跑起来。最后结合多篇教程,还是跑起来了第一个 Demo。
拾贰
2019/08/28
1.6K0
Mac 使用 IDEA 写第一个 Spark 程序
spark在yarn-cluster上面执行报错
在单机模式下执行成功的spark程序,在yarn上面就报错。异常信息如下: 1 14/08/14 02:05:42 INFO DAGScheduler: Completed ResultTask(2, 0) 2 14/08/14 02:05:42 INFO DAGScheduler: Stage 2 (saveAsTextFile at FileUtil.scala:114) finished in 0.179 s 3 14/08/14 02:05:42 INFO SparkContext: Job
随机来个数
2018/04/16
1.3K0
记一次maven jar包冲突的排查和解决过程,干货分享
(1) 由于这个项目是一个maven项目,直接用maven编译命令查看是否可以编译成功,发现都SUCCESS.
明明如月学长
2021/08/31
8630
记一次maven jar包冲突的排查和解决过程,干货分享
spark和kafka jar包冲突NoSuchMethodError: net.jpountz.lz4.LZ4BlockInputStream
在利用Spark和Kafka处理数据时,有时会同时在maven pom中引入Spark和Kafka的相关依赖。但是当利用Spark SQL处理数据生成的DataSet/DataFrame进行collect或者show等操作时,抛出以下异常信息:
大数据学习与分享
2020/08/31
1.4K0
推荐系统那点事 —— 基于Spark MLlib的特征选择
在机器学习中,一般都会按照下面几个步骤:特征提取、数据预处理、特征选择、模型训练、检验优化。那么特征的选择就很关键了,一般模型最后效果的好坏往往都是跟特征的选择有关系的,因为模型本身的参数并没有太多优化的点,反而特征这边有时候多加一个或者少加一个,最终的结果都会差别很大。 在SparkMLlib中为我们提供了几种特征选择的方法,分别是VectorSlicer、RFormula和ChiSqSelector。 下面就介绍下这三个方法的使用,强烈推荐有时间的把参考的文献都阅读下,会有所收获! VectorS
用户1154259
2018/01/17
1.4K0
Spark2.x学习笔记:6、在Windows平台下搭建Spark开发环境(Intellij IDEA)
本文介绍了如何使用IntelliJ IDEA和Scala进行Spark编程,包括创建Scala和Spark项目、安装和配置Scala和Spark、编写Spark程序等步骤。
程裕强
2018/01/02
3.1K0
Spark2.x学习笔记:6、在Windows平台下搭建Spark开发环境(Intellij IDEA)
使用IDEA开发Spark程序
链接:https://pan.baidu.com/s/1YczOo5novINV_MimJ9Xpqg 提取码:psvm
码客说
2022/04/23
9110
使用IDEA开发Spark程序
在idea 2021 上 配置本地 scala 2.12 spark 3.0.2 开发环境
基本开发环境 下载对应包 maven:https://mvnrepository.com/search?q=spark spark:http://spark.apache.org/downloads
流川疯
2021/12/06
1.5K0
在idea 2021 上 配置本地 scala 2.12 spark 3.0.2 开发环境
SparkSQL真的不支持存储NullType类型数据到Parquet吗?
最近后台有小伙伴提了一些实际工作中使用Spark遇到的问题,笔者挑选了几个相对常见的问题,分别从场景模拟/问题现象、问题分析、解决方案三个层面,来深入分析这些问题,并且提供一个解决类似问题的思路。
大数据学习与分享
2020/11/03
2.8K0
SparkSQL真的不支持存储NullType类型数据到Parquet吗?
hive on spark 报错
1.自从spark2.0.0发布没有assembly的包了,在jars里面,是很多小jar包
Dlimeng
2023/06/28
3300
hive on spark 报错
从0-1搭建Spark本地开发环境(idea)
https://www.scala-lang.org/download/2.11.12.html
Eights
2020/07/10
3.4K0
从0-1搭建Spark本地开发环境(idea)
记录一次 Spring boot 应用排错过程
一个spring boot开发的项目,spring boot版本是1.5.7,携带的spring版本是4.1.3。开发反馈,突然在本地启动不起来了,表象特征就是在本地IDEA上运行时,进程卡住也不退出,应用启动时加载相关组件的日志也不输出。症状如下图:
搜云库技术团队
2019/12/06
8430
大数据常见错误解决方案 转
1、用./bin/spark-shell启动spark时遇到异常:java.net.BindException: Can't assign requested address: Service 'sparkDriver' failed after 16 retries! 解决方法:add export SPARK_LOCAL_IP="127.0.0.1" to spark-env.sh 2、java Kafka producer error:ERROR kafka.utils.Utils$ - fet
stys35
2019/03/05
3.8K0
windows环境下搭建spark开发环境(IDEA)
“大数据”(Big Data)指一般的软件工具难以捕捉、管理和分析的大容量数据。“大数据”之“大”,并不仅仅在于“容量之大”,更大的意义在于:通过对海量数据的交换、整合和分析,发现新的知识,创造新的价值,带来“大知识”、“大科技”、“大利润”和“大发展”。“大数据”能帮助企业找到一个个难题的答案,给企业带来前所未有的商业价值与机会。大数据同时也给企业的IT系统提出了巨大的挑战。通过不同行业的“大数据”应用状况,我们能够看到企业如何使用大数据和云计算技术,解决他们的难题,灵活、快速、高效地响应瞬息万变的市场需求。
量子态的沐子呓
2019/12/25
7.2K0
windows环境下搭建spark开发环境(IDEA)
idea中使用scala运行spark出现Exception in thread "main" java.lang.NoClassDefFoundError: scala/collection/Gen
idea中使用scala运行spark出现: Exception in thread "main" java.lang.NoClassDefFoundError: scala/collection/GenTraversableOnce$class 查看build.sbt: name := "ScalaSBT" version := "1.0" scalaVersion := "2.11.8" libraryDependencies += "org.apache.spark" % "spark-core
hbbliyong
2018/03/06
4.2K0
idea中使用scala运行spark出现Exception in thread "main" java.lang.NoClassDefFoundError: scala/collection/Gen
使用SBT正确构建IndexedRDD环境
IndexedRDD由AMPLab的Ankur Dave提出,它是Immutability和Fine-Grained updates的精妙结合。IndexedRDD是一个基于RDD的Key-Value Store,扩展自RDD[(K, V)],可以在IndexRDD上进行高效的查找、更新以及删除。由于其并没有合并到 Spark 的主项目分支,所以在使用时需要引入特别的对其的支持。
ZONGLYN
2019/08/08
1.1K0
【Spark】用scala2.11编译打包构建镜像
如果关注 Spark 社区的同学已经知道,从 Spark 3.0 开始,就不再支持用 Scala 2.11 来编译了,Scala 2.11 相关的依赖也被 Owen 去掉了,所以如果要用 Spark 3.0 的同学就需要用 Scala 2.12 去编译打包了。
runzhliu
2020/07/27
1.2K0
spark环境搭建(idea版本)
【鼠标右键】点击【Run】执行即可,第一次执行需要的时间比较长,请耐心等待,可能【1分钟】后才能出来结果哦。
红目香薰
2022/11/29
1K0
spark环境搭建(idea版本)
推荐阅读
相关推荐
scala.Predef$.$scope()Lscala/xml/TopScope$和not found: type Application异常
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档