Loading [MathJax]/jax/output/CommonHTML/config.js
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >YARN调试过程中的常见问题

YARN调试过程中的常见问题

作者头像
瑾诺学长
发布于 2018-09-21 08:45:55
发布于 2018-09-21 08:45:55
1.3K00
代码可运行
举报
文章被收录于专栏:专注研发专注研发
运行总次数:0
代码可运行

执行操作:

hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.0.jar wordcount  /user/today/input  /user/today/output

报错:

错误: 找不到或无法加载主类 org.apache.hadoop.mapreduce.v2.app.MRAppMaster

解决:

在mapred-site.xml 和 yarn-site.xml添加如下

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
<property>
    <name>yarn.application.classpath</name>
    <value>
        /opt/hadoop-2.6.0/etc/hadoop,
        /opt/hadoop-2.6.0/share/hadoop/common/*,
        /opt/hadoop-2.6.0/share/hadoop/common/lib/*,
        /opt/hadoop-2.6.0/share/hadoop/hdfs/*,
        /opt/hadoop-2.6.0/share/hadoop/hdfs/lib/*,
        /opt/hadoop-2.6.0/share/hadoop/mapreduce/*,
        /opt/hadoop-2.6.0/share/hadoop/mapreduce/lib/*,
        /opt/hadoop-2.6.0/share/hadoop/yarn/*,
        /opt/hadoop-2.6.0/share/hadoop/yarn/lib/*
    </value>
  </property>

报错:

INFO mapreduce.Job: Task Id : attempt_1533612124021_0001_m_000000_2, Status : FAILED

Container [……] is running 482732544B beyond the 'VIRTUAL' memory limit. Current usage: 34.4 MB of 1 GB physical memory used; 2.5 GB of 2.1 GB virtual memory used. Killing container.

解决:

在etc/hadoop/yarn-site.xml文件中,修改检查虚拟内存的属性为false

<property>

    <name>yarn.nodemanager.vmem-check-enabled</name>

    <value>false</value>

</property>

执行成功

web页面 ip:8088

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2018-08-07 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
YARN的基础配置
添加:export JAVA_HOME=/opt/module/jdk1.8.0_144 
瑾诺学长
2018/09/21
1.8K0
YARN的基础配置
Hadoop2.6版本集群环境搭建
2、linux版本:[spark@S1PA11 ~]$ cat /etc/issue Red Hat Enterprise Linux Server release 5.4 (Tikanga)
星哥玩云
2022/07/04
3810
Hadoop3-伪分布式模式安装
今天无意间看到Hadoop3去年年底就release了,今天就准备装个环境看看。 安装配置 首先从下面的地址下载安装包 http://hadoop.apache.org/releases.html 这里我下载的是hadoop-3.0.0.tar.gz包,解压安装。 $ tar zxvf hadoop-3.0.0.tar.gz $ cd hadoop-3.0.0/ 编辑etc/hadoop/hadoop-env.sh文件,设置JAVA_HOME环境变量, export JAVA_HOME=/opt/jdk8
kongxx
2018/05/14
1.2K0
分布式资源调度——YARN框架
YARN是Hadoop2.x才有的,所以在介绍YARN之前,我们先看一下MapReduce1.x时所存在的问题:
端碗吹水
2020/09/23
6350
分布式资源调度——YARN框架
Hadoop基础教程-第5章 YARN:资源调度平台(5.3 YARN集群配置)
这个文件在《3.4 HDFS集群模式》http://blog.csdn.net/chengyuqiang/article/details/72058013中已经配置过了,这里不再重复配置。 需要注意:这个文件是指定子节点的位置,同时也是帮助Yarn指定NodeManager启动的位置。即如果HDFS没有指定slaves的话,将没有DataNode;如果Yarn没有指定slaves的话,将没有NodeManager。
程裕强
2022/05/06
2400
hadoop 多机全分布式安装步骤(虚拟机1master+2slave)
同理,另外两台 ip 为:192.168.253.128, 192.168.253.129(个人根据自己的情况来)
Michael阿明
2021/09/06
7460
Hadoop基础教程-第5章 YARN:资源调度平台(5.4 YARN集群运行)
求解wordcount过程中,我们可以观察页面http://192.168.80.131:8088,
程裕强
2022/05/06
2640
Hadoop基础教程-第5章 YARN:资源调度平台(5.4 YARN集群运行)
Hadoop3.0通用版集群安装高可靠详细教程
问题导读 1.hadoop3.x检测虚拟内存的情况下,可能会产生什么问题? 2.hadoop3.x中,下面各个配置的作用是什么? 3.dfs.blocksize可以使用哪些单位? hadoop
用户1410343
2018/03/26
1.3K0
Hadoop3.0通用版集群安装高可靠详细教程
Hadoop2.6安装配置以及整合Eclipse开发环境
4.sudochown -R castle:castle hadoop-2.6.0修改权限
星哥玩云
2022/07/04
3860
hadoop 2.6全分布安装
这一步完成后,最好重启一次系统,以便生效。然后可以用ping master(或slave01、slave02)试下,正常的话,应该能ping通
菩提树下的杨过
2018/09/20
5320
我的 Hadoop 3.2.2 之旅 【收藏夹吃灰系列】
这样的心情,大学时代更有体会。每次假期回家,总要带回一大包书,告诉自己要奋斗,要看书,结果回校前一夜,发现包里的书,安静如初。如果不赶紧翻出来品上一两页,缓解下心焦,那可耻的厌恶感,总挥之不去。
Lenis
2021/04/19
7870
我的 Hadoop 3.2.2 之旅 【收藏夹吃灰系列】
Zookeeper + Hadoop2.6 集群HA + spark1.6完整搭建与所有参数解析
yum install autoconfautomake libtool cmake
用户3003813
2018/09/06
7290
Zookeeper + Hadoop2.6 集群HA + spark1.6完整搭建与所有参数解析
Hive on spark的搭建记录 原
    注:Hadoop-2.7.7、Hive-2.1.1、spark-1.6.0-bin-hadoop2.6,操作系统是Ubuntu18  64bit。最近做Hive on spark的任务,记录下。
克虏伯
2019/04/15
1.4K0
如何在 CentOS 上安装 Apache Hadoop
Apache Hadoop 软件库是一个框架,它允许使用简单的编程模型在计算机集群上对大型数据集进行分布式处理。Apache™ Hadoop® 是可靠、可扩展、分布式计算的开源软件。
用户8989785
2021/09/09
5850
Spark2.x学习笔记:5、Spark On YARN模式
程裕强
2018/01/02
3.8K1
Spark2.x学习笔记:5、Spark On YARN模式
Hadoop2.6.0-cdh5.4.1源码编译安装
版本使用范围,大致 与Apache Hadoop编译步骤一致大同小异,因为CDH的Hadoop的本来就是从社区版迁过来的,所以,这篇文章同样适合所有的以Apache Hadoop为原型的其他商业版本的hadoop编译,例如,Cloudera(CDH)的hadoop和Hortonworks(HDP)的的hadoop编译,下面开工: 1,环境准备(Cenots6.x,其他的大同小异) (1)yum安装 sudo yum install -y autoconf automake libtool git
我是攻城师
2018/05/11
2.5K0
如何安装和设置3节点Hadoop集群
Hadoop是一个开源Apache项目,允许在大型数据集上创建并行处理应用程序,分布在网络节点上。它由处理节点间数据可扩展性和冗余的Hadoop分布式文件系统(HDFS™)和Hadoop YARN组成:用于在所有节点上执行数据处理任务的作业调度框架。
chokwin
2018/09/11
2.2K0
如何安装和设置3节点Hadoop集群
Hadoop单机伪分布式部署
由于没有那么多机器,就在自己的虚拟机上部署一套Hadoop集群,这被称作伪分布式集群,但是不管怎么样,这里主要记录部署hadoop的过程以及遇到的问题,然后再使用一个简单的程序测试环境。
星哥玩云
2022/07/04
5490
Yarn资源调度器
Yarn是一个资源调度平台,负责为运算程序提供服务器运算资源,相当于一个分布式的操作系统平台,而MapReduce等运算程序则相当于运行于操作系统之上的应用程序。
ha_lydms
2023/09/07
4040
Yarn资源调度器
Spark部署模式另类详解
一, Spark的运行模式讲解 Spark运行模式有很多种,本文主要是将local,Standalone,yarn。因为平时生产中用的最多的也是yarn,所以,我们后面也重点讲解基于yarn的。其实,原因很简单,集群服务角色越多,越难运维,所以,统一调度系统,也是降低运维难度,减少故障源。 1, local模式 这种模式,主要是用来简单的逻辑验证类的,也可以进行对Spark应用进行debug。实际生产中我们可以用client模式进行验证性测试。使用方法很简单,我们只需要指定Master
Spark学习技巧
2018/01/31
1.5K0
Spark部署模式另类详解
相关推荐
YARN的基础配置
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
本文部分代码块支持一键运行,欢迎体验
本文部分代码块支持一键运行,欢迎体验