首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >Hadoop 集群安装

Hadoop 集群安装

作者头像
兮动人
发布于 2021-06-11 11:09:02
发布于 2021-06-11 11:09:02
84600
代码可运行
举报
文章被收录于专栏:兮动人的博客兮动人的博客
运行总次数:0
代码可运行

文章目录

1. Step8:NameNode format(格式化操作)

  • 首次启动HDFS时,必须对其进行格式化操作。
  • format本质上是初始化工作,进行HDFS清理和准备工作
  • 命令:
代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
hdfs namenode -format

2. Hadoop集群启动关闭-手动逐个进程启停

  • 每台机器上每次手动启动关闭一个角色进程
  • HDFS集群
代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
hdfs --daemon start namenode|datanode|secondarynamenode
hdfs --daemon stop  namenode|datanode|secondarynamenode
  • YARN集群
代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
yarn --daemon start resourcemanager|nodemanager
yarn --daemon stop  resourcemanager|nodemanager

3. Hadoop集群启动关闭-shell脚本一键启停

  • 在node1上,使用软件自带的shell脚本一键启动
  • 前提:配置好机器之间的SSH免密登录和workers文件。
  • HDFS集群
代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
start-dfs.sh 
stop-dfs.sh 
  • YARN集群
代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
start-yarn.sh
stop-yarn.sh
  • Hadoop集群
代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
start-all.sh
stop-all.sh 

4. Hadoop集群启动日志

  • 启动完毕之后可以使用jps命令查看进程是否启动成功
  • Hadoop启动日志 日志路径:/export/server/hadoop-3.1.4/logs/

5. Hadoop Web UI页面-HDFS集群

  • 地址:http://namenode_host:9870 其中namenode_host是namenode运行所在机器的主机名或者ip 如果使用主机名访问,别忘了在Windows配置hosts
  • HDFS文件系统Web页面浏览

6. Hadoop Web UI页面-YARN集群

  • 地址:http://resourcemanager_host:8088 其中resourcemanager_host是resourcemanager运行所在机器的主机名或者ip 如果使用主机名访问,别忘了在Windows配置hosts
本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2021/04/02 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
大数据_Hadoop初体验
root@node1 server$ scp -r /export/server/hadoop root@node2:$PWD
Pandolar
2022/01/04
1.1K0
大数据_Hadoop初体验
Hadoop集群安装
Hadoop安装主要就是配置文件的修改,一般在主节点进行修改,完毕后scp分发给其他各个从节点机器。
张哥编程
2024/12/07
3600
安装和配置Hadoop集群(3节点)
在 安装和配置Hadoop(单节点) 这篇文章中,已经进行了Hadoop单机伪集群模式的部署。生产环境中,Hadoop都是以集群方式进行安装和部署的,否则,就不需要使用Hadoop了,分布式存储和分布式运算是Hadoop提供的核心功能。这篇文章将在单机安装的基础上,进行3个节点Hadoop集群的安装,因此如果你还没有单机安装过Hadoop,那么请先查看一下单机安装的这篇文章。
张子阳
2018/09/30
8.1K1
安装和配置Hadoop集群(3节点)
hadoop集群的启动与停止
这些名称是我的三台机器的主机名,各位请改成自己的主机名! 注意:该文件中添加的内容结尾不允许有空格,文件中不允许有空行。
孙晨c
2020/07/10
1.7K0
2021年大数据Hadoop(六):全网最详细的Hadoop集群搭建
HADOOP集群具体来说包含两个集群:HDFS集群和YARN集群,两者逻辑上分离,但物理上常在一起。
Lansonli
2021/10/11
3.9K0
RedHat 6.8 搭建 Hadoop 集群
#授予权限 chmod 700 hadoop-2.7.7.tar.gz ​ #解压到当前路径 [root@node-1 hop]# tar zxvf hadoop-2.7.7.tar.gz ​
星哥玩云
2022/08/08
7950
RedHat 6.8 搭建 Hadoop 集群
Hadoop学习指南:探索大数据时代的重要组成——Hadoop运行模式(下)
日志聚集功能好处:可以方便的查看到程序运行详情,方便开发调试。 ==注意:开启日志聚集功能,需要重新启动 NodeManager 、ResourceManager 和 HistoryServer。 == 开启日志聚集功能具体步骤如下:
老虎也淘气
2024/01/30
2290
Hadoop学习指南:探索大数据时代的重要组成——Hadoop运行模式(下)
Hadoop3.0分布式集群安装知识
挖掘大数据
2018/01/08
2.1K0
Hadoop伪分布式安装
进入文件之后,除了127.0.0.1以及::1这开头的两行以外,其余的行全部删除
青灯古酒
2023/10/16
4660
Hadoop完全分布式安装
完全分布式安装部署,其实步骤上来说与伪分布式没有太大的区别,主要增加2台虚拟机部署称为一个3台的集群
我脱下短袖
2019/12/21
5110
Hadoop集群搭建
'readonly' option is set (add ! to override) 查看5.1解决。
ha_lydms
2023/08/10
7660
Hadoop集群搭建
大数据成长之路------hadoop集群的部署(2)Hadoop集群安装部署
7、启动集群 a)格式化集群 在第一个节点执行 hadoop namenode -format
Maynor
2022/11/30
5070
大数据成长之路------hadoop集群的部署(2)Hadoop集群安装部署
CentOS7搭建Hadoop-3.3.0集群
这篇文章是基于Linux系统CentOS7搭建Hadoop-3.3.0分布式集群的详细手记。
Throwable
2020/12/29
2.3K0
安装和配置Hadoop集群(3节点)
在 安装和配置Hadoop(单节点) 这篇文章中,已经进行了Hadoop单机伪集群模式的部署。生产环境中,Hadoop都是以集群方式进行安装和部署的,否则,就不需要使用Hadoop了,分布式存储和分布式运算是Hadoop提供的核心功能。这篇文章将在单机安装的基础上,进行3个节点Hadoop集群的安装,因此如果你还没有单机安装过Hadoop,那么请先查看一下单机安装的这篇文章。
张子阳
2018/08/21
3.2K0
安装和配置Hadoop集群(3节点)
一脸懵逼学习基于CentOs的Hadoop集群安装与配置(三台机器跑集群)
根据文章内容总结的摘要
别先生
2018/01/02
1.7K0
一脸懵逼学习基于CentOs的Hadoop集群安装与配置(三台机器跑集群)
Hadoop完全分布式安装部署
Hadoop运行模式包括:本地模式、伪分布式模式以及完全分布式模式。我们本次主要完成搭建实际生产环境中比较常用的完全分布式模式,搭建完全分布式模式之前需要对集群部署进行提前规划,不要将过多的服务集中到一台节点上,我们将负责管理工作的namenode和ResourceManager分别部署在两台节点上,另外一台节点上部署SecondaryNamenode,所有节点均承担Datanode和Nodemanager角色,并且datanode和nodemanager通常存在同一节点上,所有角色尽量做到均衡分配。
程序狗
2021/09/02
9020
基于腾讯云CVM搭建Hadoop集群及数据迁移最佳实践
本文主要介绍如何在腾讯云CVM上搭建Hadoop集群,以及如何通过distcp工具将友商云Hadoop中的数据迁移到腾讯云自建Hadoop集群。
Vicwan
2019/03/22
14.5K0
基于腾讯云CVM搭建Hadoop集群及数据迁移最佳实践
大数据实训之集群规划
vi /etc/sysconfig/network-scripts/ifcfg-ens33
张哥编程
2024/12/07
1780
大数据实训之集群规划
Hadoop完全分布式搭建部署
1)在各个JournalNode节点上,输入以下命令启动journalnode服务:(前提zookeeper集群已启动)
星哥玩云
2022/08/08
5390
Hadoop完全分布式搭建部署
搭建hadoop集群的三种方式_hadoop集群部署
安装VMware,使用三台 Ubuntu18.04 虚拟机进行集群搭建,下面是每台虚拟机的规划:
全栈程序员站长
2022/11/17
2.3K0
搭建hadoop集群的三种方式_hadoop集群部署
相关推荐
大数据_Hadoop初体验
更多 >
LV.4
这个人很懒,什么都没有留下~
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档