首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >【MapReduce】配置&作业管理

【MapReduce】配置&作业管理

作者头像
十里桃花舞丶
发布2021-09-10 11:25:10
发布2021-09-10 11:25:10
5060
举报
文章被收录于专栏:桥路_大数据桥路_大数据

配置&作业管理

基本配置

mapreduce的配置文件为:mapred-site.xml。配置内容分为配置MapReduce运行程序、配置History-Server。

配置MapReduce运行程序

配置History-Server

提交与管理

MapReduce任务编写完成后,打包为Jar包形式,便可以使用客户端对任务进行提交。

提交作业的基本命令为:

代码语言:javascript
复制
# hadoop  jar  {jarFile}  [mainClass]  args
  -jarFIle: MapReduce运行程序的jar包
  -mainClass: jar包中main函数所在类的类名
  -args: 程序调用需要的参数,如:输入输出路径

这里使用官方自带的MapReduce案例包来完成作业提交:

代码语言:javascript
复制
cd $HADOOP_HOME/share/hadoop/mapreduce
# 计算圆周率,第一个
本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2021/08/27 ,如有侵权请联系 cloudcommunity@tencent.com 删除
目录
  • 配置&作业管理
    • 基本配置
      • 配置MapReduce运行程序
      • 配置History-Server
    • 提交与管理
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档