前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >hadoop-3.2.0------>入门六 伪分布式 YARN运行MapReduce

hadoop-3.2.0------>入门六 伪分布式 YARN运行MapReduce

作者头像
用户5899361
发布2020-12-07 14:42:55
7490
发布2020-12-07 14:42:55
举报
文章被收录于专栏:学习java的小白

一、配置yarn配置文件:

1、进入到hadoop根目录下

2、配置yarn-env.sh(命令:vi etc/hadoop/yarn-env.sh)

将jdk安装路径配置到配置文件最下方(配置文件写法:export JAVA_HOME=/usr/local/java/jdk1.8.0_131)

3、配置yarn-site.xml (命令:vi etc/hadoop/yarn-site.xml )

代码语言:javascript
复制
<!--Reducer获取数据方式-->
                <property>
                  <name>yarn.nodemanager.aux-services</name>
                  <value>mapreduce_shuffle</value>
                </property>
                <!--yarn的resourcemanager地址-->
                <property>
                  <name>yarn.resourcemanager.address</name>
                  <value>localhost</value>
                </property>

4、配置mapred-env.sh (命令:vi etc/hadoop/mapred-env.sh)

将jdk安装路径配置到配置文件最下方(配置文件写法:export JAVA_HOME=/usr/local/java/jdk1.8.0_131)

5、配置mapred-site.xml(命令:vi etc/hadoop/mapred-site.xml)

注意:如果没有mapred-site.xml文件,可以查看有没有mapred-site.xml.template文件,如果有将该文件重命名为mapred-site.xml,在进行下面操作。

将下面配置信息粘贴进去

代码语言:javascript
复制
               <!--指定MR运行在yarn上-->
                <property>
                      <name>mapreduce.framework.name</name>
                      <value>yarn</value>
                </property>
                <property>
                      <name>yarn.app.mapreduce.am.env</name>
                      <value>HADOOP_MAPRED_HOME=${HADOOP_HOME}</value>
                </property>
                <property>
                      <name>mapreduce.map.env</name>
                      <value>HADOOP_MAPRED_HOME=${HADOOP_HOME}</value>
                </property>
                <property>
                      <name>mapreduce.reduce.env</name>
                      <value>HADOOP_MAPRED_HOME=${HADOOP_HOME}</value>
                </property>

二、起动集群

1、先查看namenode和datanode有没有启动,如果没启动先启动这两个节点

查看命令:jps

启动namenode命令:sbin/hadoop-daemon.sh start namenode

启动datanode命令:sbin/hadoop-daemon.sh start datanode

2、启动resourcemanager节点

命令:sbin/yarn-daemon.sh start resourcemanager

查看节点是否起来命令:jps

3、启动NodeManager节点

命令:sbin/yarn-daemon.sh start nodemanager

查看节点是否起来命令:jps

三、查看YARN的管理界面。

1、路径ip+8088,就会查看到如下页面

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 一、配置yarn配置文件:
  • 二、起动集群
  • 三、查看YARN的管理界面。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档