首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >Hadoop 集群安装

Hadoop 集群安装

作者头像
兮动人
发布于 2021-06-11 11:09:02
发布于 2021-06-11 11:09:02
79900
代码可运行
举报
文章被收录于专栏:兮动人的博客兮动人的博客
运行总次数:0
代码可运行

文章目录

1. Step8:NameNode format(格式化操作)

  • 首次启动HDFS时,必须对其进行格式化操作。
  • format本质上是初始化工作,进行HDFS清理和准备工作
  • 命令:
代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
hdfs namenode -format

2. Hadoop集群启动关闭-手动逐个进程启停

  • 每台机器上每次手动启动关闭一个角色进程
  • HDFS集群
代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
hdfs --daemon start namenode|datanode|secondarynamenode
hdfs --daemon stop  namenode|datanode|secondarynamenode
  • YARN集群
代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
yarn --daemon start resourcemanager|nodemanager
yarn --daemon stop  resourcemanager|nodemanager

3. Hadoop集群启动关闭-shell脚本一键启停

  • 在node1上,使用软件自带的shell脚本一键启动
  • 前提:配置好机器之间的SSH免密登录和workers文件。
  • HDFS集群
代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
start-dfs.sh 
stop-dfs.sh 
  • YARN集群
代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
start-yarn.sh
stop-yarn.sh
  • Hadoop集群
代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
start-all.sh
stop-all.sh 

4. Hadoop集群启动日志

  • 启动完毕之后可以使用jps命令查看进程是否启动成功
  • Hadoop启动日志 日志路径:/export/server/hadoop-3.1.4/logs/

5. Hadoop Web UI页面-HDFS集群

  • 地址:http://namenode_host:9870 其中namenode_host是namenode运行所在机器的主机名或者ip 如果使用主机名访问,别忘了在Windows配置hosts
  • HDFS文件系统Web页面浏览

6. Hadoop Web UI页面-YARN集群

  • 地址:http://resourcemanager_host:8088 其中resourcemanager_host是resourcemanager运行所在机器的主机名或者ip 如果使用主机名访问,别忘了在Windows配置hosts
本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2021/04/02 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
SpringCloud Stream消息驱动代码实战
cloud-stream-rabbitmq-provider8801, 作为生产者进行发消息模块
一个风轻云淡
2022/11/13
2370
SpringCloud Stream消息驱动代码实战
10SpringCloud Stream消息驱动
原因:rabbitmq从3.3.0开始禁止使用guest/guest权限通过除localhost外的访问
Remember_Ray
2020/11/04
3490
10SpringCloud Stream消息驱动
SpringCloud Stream消息驱动
cheese
2023/10/25
3470
SpringCloud Stream消息驱动
SpringCloud集成Stream
有没有一种新的技术诞生,让我们不再关注具体MQ的细节,我们只需要用一种适配绑定的方式,自动的给我们在各种MQ内切换。(类似于Hibernate)
大忽悠爱学习
2021/12/08
5010
SpringCloud集成Stream
Stream 消息驱动
有没有一种新的技术诞生,让我们不再关注具体MQ的细节,我们只需要用一种适配绑定的方式,自动的给我们在各种MQ内切换。(类似于Hibernate)
用户9615083
2022/12/25
4200
Stream 消息驱动
SpringCloud之Stream
比方说我们用到了RabbitMQ和Kafka,由于这两个消息中间件的架构上的不同,像RabbitMQ有exchange,kafka有Topic和Partitions分区。
shaoshaossm
2022/12/27
3780
SpringCloud之Stream
SpringCloud Stream消息驱动
  官方定义 Spring Cloud Stream 是一个构建消息驱动微服务的框架。应用程序通过 inputs 或者 outputs 来与 Spring Cloud Stream中binder对象交互。通过我们配置来binding(绑定) ,而 Spring Cloud Stream 的 binder对象负责与消息中间件交互。
别团等shy哥发育
2023/02/25
4390
SpringCloud Stream消息驱动
15-SpringCloud Stream
应用程序通过inputs或者 outputs 来与Spring Cloud Stream中binder对象交互。
彼岸舞
2021/09/09
5570
15-SpringCloud Stream
SpringCloud Stream消息驱动
目前市面上常用的四种消息中间件:ActiveMQ、RabbitMQ、RocketMQ、Kafka。由于每个项目需求的不同,在消息中间件的选型上也就会不同。
乐心湖
2021/01/18
8950
SpringCloud Stream消息驱动
springcloud : Stream消息驱动
官网 : https://spring.io/projects/spring-cloud-stream#overview
冷环渊
2021/10/19
6870
消息驱动(SpringCloud Stream)
官网:https://spring.io/projects/spring-cloud-stream#overview https://cloud.spring.io/spring-cloud-static/spring-cloud-stream/3.0.1.RELEASE/reference/html/ Spring Cloud Stream中文指导手册: https://m.wang1314.com/doc/webapp/topic/20971999.html
鱼找水需要时间
2023/02/16
4390
消息驱动(SpringCloud Stream)
微服务(十二)——Steam消息驱动&Sleuth链路监控
有没有一种新的技术诞生,让我们不再关注具体MQ的细节,我们只需要用一种适配绑定的方式,自动的给我们在各种MQ内切换。(类似于Hibernate)
不愿意做鱼的小鲸鱼
2022/09/26
4700
微服务(十二)——Steam消息驱动&Sleuth链路监控
springCloud --- 中级篇(3)
本系列笔记涉及到的代码在GitHub上,地址:https://github.com/zsllsz/cloud
贪挽懒月
2020/06/08
8330
springCloud --- 中级篇(3)
springcloud之Stream
创建项目cloud-stream-rabbitmq-consumer8803与cloud-stream-rabbitmq-consumer8802是并列的消费者。 此时生产者发送消息,这两个消费者都会收到,因为默认情况下不同的微服务是不同组,是并列关系,只要改为竞争关系即可。
Java微观世界
2025/01/20
910
springcloud之Stream
Spring Cloud 学习笔记(2 / 3)
1:N除了个别重要核心业务有专属,其它普通的可以通过@DefaultProperties(defaultFallback = “”)统一跳转到统一处理结果页面
全栈程序员站长
2022/09/05
2K0
Spring Cloud 学习笔记(2 / 3)
SpringCloud - 待整理
1.cloud-provider-payment8001微服务提供者支付Module模块
郭顺发
2021/12/17
7250
springCloud - 第4篇 - 消费者调用服务 ( Feign )
2. spring Initializr - module SDK 选择自己的 JDK ,其余的可以不用填写,next。
微风-- 轻许--
2019/08/01
5370
SpringCloud Bus 消息总线
​ 分布式自动刷新配置功能,Spring Cloud Bus 配合 Spring Cloud Config 使用可以实现配置的动 态刷新。
OY
2022/03/17
5690
SpringCloud Bus 消息总线
Spring cloud stream【消息分组】
  上篇文章我们简单的介绍了stream的使用,发现使用还是蛮方便的,但是在上个案例中,如果有多个消息接收者,那么消息生产者发送的消息会被多个消费者都接收到,这种情况在某些实际场景下是有很大问题的,比如在如下场景中,订单系统我们做集群部署,都会从RabbitMQ中获取订单信息,那如果一个订单同时被两个服务获取到,那么就会造成数据错误,我们得避免这种情况。这时我们就可以使用Stream中的消息分组来解决了!
用户4919348
2019/07/03
1.2K0
Spring cloud stream【消息分组】
springCloud - 第3篇 - 消费者调用服务 ( RestTemplate + Ribbon )
2. spring Initializr - module SDK 选择自己的 JDK ,其余的可以不用填写,next。
微风-- 轻许--
2019/08/01
7270
相关推荐
SpringCloud Stream消息驱动代码实战
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
本文部分代码块支持一键运行,欢迎体验
本文部分代码块支持一键运行,欢迎体验