腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(9999+)
视频
沙龙
1
回答
通过
HADOOP
作业
api
启用
JMX
、
我想
通过
JMX
连接到map和reduce任务。如何向它们传递JVM启动标志,如..to映射和还原任务?
浏览 0
提问于2017-07-25
得票数 0
1
回答
如何比较Hive on MR的工作表现?
、
、
要知道两个查询中哪一个在同一集群上最快,但独立于当时的集群使用情况,最好的方法是什么?我一直使用总CPU时间(CP毫秒),但它看起来可能不准确,因为一些非MR操作不计入MapReduce时间(例如输入文件解压缩)。
浏览 3
提问于2018-09-01
得票数 0
2
回答
Hadoop
1.0.3推荐的默认
hadoop
-metrics2.properties内容是什么?
、
我一直在搜索默认的
hadoop
-metrics2.properties文件,它只是
通过
JMX
公开所有可用的指标,但找不到一个。
浏览 2
提问于2012-06-17
得票数 3
1
回答
JMX
导出Mapreduce指标
、
、
、
我正在尝试使用
JMX
导出
Hadoop
集群的指标。它适用于HDFS和resourceManager。将其添加到
HADOOP
_OPTS、
HADOOP
_NAMENODE_OPTS、
HADOOP
_DATANODE_OPTS和YARN_RESOURCEMANAGER_OPTS。如何导出
作业
的Mapreduce指标?我想导出
作业
操作,如映射和缩减。作为下图中显示
作业
UI的指标: ?
浏览 16
提问于2019-06-03
得票数 0
1
回答
nodelabel
作业
中的资源使用情况
、
我使用的是
Hadoop
2.7.2。有没有办法测量在nodelabel中运行的
作业
的资源使用情况?我正在寻找一种
通过
jmx
的方法。
浏览 20
提问于2018-06-25
得票数 0
1
回答
是否有一种方法可以使用金牛座/JMeter从测试计划中运行一个测试?
、
、
我试图使用金牛座和JMeter
通过
Gitlab运行性能测试。我有一个包含多个要测试端点的NavWeb.
jmx
,但我正在尝试设置两个
作业
,一个
作业
运行整个测试计划,另一个
作业
包含一个
作业
矩阵,您可以在其中选择和选择要测试的端点。示例:(run_perf_test_QA将它们全部运行在一起,而run_single_test允许您选择运行哪个测试) 我目前的解决方案是有两个
JMX
文件,一个是
启用
测试的,另一个是禁用的。然后,我使用
启用</
浏览 2
提问于2020-10-27
得票数 1
回答已采纳
3
回答
用于监视
hadoop
群集的Nagios脚本
、
、
我正在尝试使用Nagios监视
Hadoop
集群。我的目标是监控所有
Hadoop
守护进程的状态和资源使用情况,比如DataNode,Jobtracker和Tasktracker等等。那么,我的问题是:是否有使用Nagios进行
Hadoop
监控的系统解决方案?舒明
浏览 0
提问于2013-03-23
得票数 2
回答已采纳
2
回答
jobconf和job的基本区别是什么?
、
、
嗨,我想知道jobconf和job对象之间的基本区别,目前我像这样提交我的
作业
我看到了像这样提交
作业
的其他方法job.waitForCompletion(true); 如何使用jobconf为
作业
指定
浏览 6
提问于2013-08-23
得票数 18
回答已采纳
2
回答
在哪里设置配置mapreduce.job.jvm.numtasks?
、
我在一本书(专业
Hadoop
)中读到,可以
通过
指定
作业
配置mapreduce.job.jvm.numtasks来
启用
JVM重用。我的问题是,我们需要在驾驶类中设置这个吗?在我正在使用的
Hadoop
版本的其他地方,这个
API
能被替换吗?还是我找错地方了?我正在使用
Hadoop
版本1.0.3。
浏览 2
提问于2014-10-19
得票数 0
回答已采纳
1
回答
如何避免spark流写入hdfs和s3时出现的小文件问题
、
、
、
、
(NetUtils.java:805) at org.apache.
hadoop
.ipc.Client.call(Client.java$Proxy22.allocate(Unknown Source) at org.apache.
hadoop</em
浏览 3
提问于2020-02-12
得票数 0
回答已采纳
1
回答
在
Hadoop
2.0中应该使用哪个库?
、
我是
hadoop
的新手,我的
hadoop
版本是2.0.0-cdh4.0.1。但我不知道该用哪个图书馆。mapred或mapreduce或mapreduce.lib,jobconf或job等等。我试过
Hadoop
第三次教育的例子:权威指南,我收到了很多警告。但当我尝试2ed教育的例子时,情况要好得多。完全把我搞糊涂了。谢谢。
浏览 2
提问于2012-09-04
得票数 0
回答已采纳
2
回答
如何以编程方式获取
Hadoop
在web界面中显示的所有
作业
跟踪器和任务跟踪器信息?
、
、
我使用的是Cloudera的
Hadoop
发行版CDH-0.20.2CDH3u0。有没有办法使用在
hadoop
框架外运行的JAVA程序来获取
作业
跟踪器状态、任务跟踪器状态、计数器等信息?我尝试使用
JMX
收听,但
hadoop
提供的关于Jobtracker、tasktracker和datanode的信息非常少。它不提供任何与正在运行的
作业
状态相关的
JMX
属性,如映射完成百分比、减少完成百分比、任务完成百分比、尝试完成百分比、计数器状态等。 此外,我还尝试使用
hadoo
浏览 1
提问于2011-07-08
得票数 2
回答已采纳
2
回答
hbase命令与
hadoop
命令
、
O‘’Reilly一书中对hbase的少量描述展示了如何使用' hbase‘命令行包装器来运行使用hbase的map-reduce
作业
。但是,我们的代码有一个很长的类路径,所以我们希望使用由JobConf.setClassByJar和'
hadoop
‘命令
启用
的
hadoop
的lib目录特性。普通的
hadoop
作业
可以调用hbase
API
吗?hbase命令行到底做了什么? (
hadoop
0.20.2,hbase对应)
浏览 2
提问于2011-04-13
得票数 0
1
回答
Pig脚本执行器中
启用
阻塞的使用
、
、
PDI文档显示 我知道,运行一个猪脚本会将执行转换为Map
作业
。
浏览 4
提问于2016-03-09
得票数 0
回答已采纳
1
回答
是否可以将
hadoop
管道
作业
添加到GCP中的工作流中
、
、
我正在尝试将
hadoop
管道
作业
添加到GCP中的工作流模板中,但没有给出这样的示例。google的官方文档指定了如何提交
hadoop
作业
,但是没有可用于提交
hadoop
管道
作业
的参数。
浏览 15
提问于2020-07-22
得票数 1
回答已采纳
1
回答
如何使用ELK监控
Hadoop
集群
、
我正在研究使用ELK/EFK堆栈监控
hadoop
集群的可能性。我已经搜索了公共领域,但找不到任何相关的东西。 在这方面的任何帮助都将受到高度感谢。
浏览 28
提问于2019-05-10
得票数 0
1
回答
用于获取用于
hadoop
中单个节点的dfs的Rest
Api
、
、
是否有任何rest
API
或
Hadoop
指标可用于获取用于单个节点的dfs。目前,我正在
通过
手动执行以下命令来获取用于单个节点的dfs hdfs dfsadmin -report
浏览 0
提问于2017-05-19
得票数 0
1
回答
Dataproc上BigQuery连接器ClassNotFoundException在PySpark中的应用
、
、
src.zip/py4j/protocol.py",第328行,在get_return_value py4j.protocol.Py4JJavaError中:调用z:org.apache.spark.
api
.python.PythonRDD.newAPIHadoopRDD.时出错::com.google.cloud.
hadoop
.io.bigquery.JsonTextBigQueryInputFormat :java.lang.ClassNotFoundException_jsc.hadoopConfiguration().g
浏览 1
提问于2019-06-15
得票数 1
回答已采纳
2
回答
尝试获取kafka中所有主题的列表时出现绑定异常
我正在使用以下命令来获取kafka中所有主题的列表但是我得到了以下错误 java.net.BindException: Address already in use (Bind failed)
浏览 4
提问于2018-01-19
得票数 0
1
回答
如何限制对ActiveMQ的
JMX
API
的访问仅限于本地主机/内部网?
、
我刚刚开始使用
JMX
来监控activemq,我已经
启用
了远程监控。现在的问题是,如何只允许localhost访问
JMX
API
?或者有没有一种方法可以在不
启用
远程监控的情况下使用
JMX
API
。
浏览 0
提问于2009-09-30
得票数 0
回答已采纳
点击加载更多
相关
资讯
大数据消息队列选型-kafka系列之监控(六)
如何使用Oozie API接口向非Kerberos环境的CDH集群提交Java作业
Spark 和Hadoop MR 之间有什么区别?
监控大规模Hadoop集群,Prometheus完胜Zabbix?
Hadoop YARN Cgroups 资源隔离讲解
热门
标签
更多标签
云服务器
ICP备案
云直播
腾讯会议
实时音视频
活动推荐
运营活动
广告
关闭
领券