腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(9999+)
视频
沙龙
2
回答
Hadoop
如何
为每个
节点
分配更多内存
、
、
我有一个在2个
节点
(
主
节点
和从
节点
)上运行的
Hadoop
集群
,每个
节点
都有126 32的RAM和32个CPU。当我运行
集群
时,我只能看到每个
节点
8 GB的内存。我
如何
增加
这个值呢?每个
节点
分配的最优内存是多少?
如何
分配?
浏览 6
提问于2015-04-11
得票数 2
1
回答
使用
Hadoop
2.6.0在4
节点
集群
上工作的唯一
主
节点
、
我正在尝试设置和使用一个4
节点
的
Hadoop
集群
。设置似乎进行得很好,因为一切都在
主
节点
和从
节点
上运行。然而,当我尝试运行我的代码时,它花费的时间与我在单个
节点
上运行它所需的时间大致相同。此外,任何从
节点
上的CPU活动都没有
增加
。谢谢
浏览 3
提问于2015-03-27
得票数 1
1
回答
Hadoop
:单
节点
与
集群
性能
、
、
我在具有3个
节点
(1个
主
节点
和2个从
节点
)的
Hadoop
集群
上按顺序运行三个MapReduce作业(其中一个是对另一个的输入)。我使用
Hadoop
流,我的代码在python2.7中。
浏览 0
提问于2013-12-28
得票数 0
回答已采纳
1
回答
在
hadoop
集群
中拥有更快的
主
节点
有好处吗?
、
、
最近,我用很少的ARM开发板构建了一个多
节点
Hadoop
2.5.0
集群
,我无法决定是否应该使用相同类型的主板,是否应该使用更快的arm板作为主板,或者是否应该使用桌面作为主程序来管理从
节点
?在同一个
集群
中拥有比从
节点
更快的
主
节点
有什么好处吗? 除了
增加
RAM的好处外,
主
节点
CPU性能的提高是否重要?
浏览 3
提问于2014-08-25
得票数 0
回答已采纳
2
回答
虽然我
增加
了
节点
的数量,但火花csv的读取速度还是很慢的。
、
、
、
、
我在上创建了两个
集群
,该
集群
读取100 GB的数据。
集群
I: 1
主
内存- 15 GB内存- 250 GB磁盘10
节点
- 7.5 GB内存- 200 GB磁盘Q2:
增加</e
浏览 1
提问于2018-07-19
得票数 7
回答已采纳
1
回答
Google计算引擎上的
Hadoop
、
、
我试图通过“启动点击部署软件”在中安装
hadoop
集群
,.I创建了一个
主
节点
和一个从
节点
,并尝试使用
主
节点
中的start-all.sh脚本启动
集群
,而我得到了“拒绝权限(公开密钥)”。我在从
节点
和
主
节点
中都生成了公钥和私钥。 目前,我用用户名登录了
主
用户,是否必须以"
hadoop
“用户.If的身份登录
主
用户,那么,该userid的密码是
浏览 2
提问于2014-11-11
得票数 1
回答已采纳
1
回答
Ganglia无法与Apache HBase通信。
、
、
、
我安装了Ganglia来监视HBase
集群
。我在用ganglia-3.3.0。
Hadoop
版本:
hadoop
-1.1.2 我更改了hbase/conf/
hadoop
-metrics.properties文件。hbase
浏览 1
提问于2015-02-16
得票数 1
回答已采纳
1
回答
添加pyspark脚本作为AWS步骤
、
、
spark.yarn.submit.waitAppCompletion=true,<s3 location of pyspark script>],ActionOnFailure=CONTINUE conf = SparkConf().setAppName('Project').set("spark.jars", "
浏览 7
提问于2020-03-23
得票数 0
1
回答
各个从
节点
上的路径
我已经在3个
节点
、1个
主
节点
和2个-slave
节点
上安装了
hadoop
。在
主
节点
上,其中一个从
节点
具有相同的
hadoop
路径,即/home/hduser/
hadoop
,但在一个从
节点
上,它是不同的,即/usr/
hadoop
因此,当从
主
namenode和jobtarcker/start-all.sh时,d
浏览 0
提问于2013-05-24
得票数 1
2
回答
Hadoop
如何
在DataNode的
、
、
、
对于
hadoop
集群
中的Datanode是
如何
为作业的约简函数运行java代码,我感到困惑。例如,
hadoop
如何
将java代码发送到另一台计算机执行? 或者减少函数是在
主
节点
上运行,而不是在数据
节点
上运行?帮助我跟踪这段代码,其中
主
节点
将用于还原函数的java
浏览 12
提问于2016-01-18
得票数 0
回答已采纳
2
回答
在
hadoop
集群
中,是否应该在所有
节点
上都安装hive?安装Pig
、
我是
Hadoop
/ Pig的新手,我刚刚开始阅读文档。我知道Pig运行在
Hadoop
之上。 我的问题是:
Hadoop
安装在所有
集群
节点
上。我是应该在所有
集群
节点
上也安装Pig,还是只在
主
节点
上安装Pig?
浏览 3
提问于2018-06-11
得票数 0
4
回答
Amazon -当我们有核心
节点
时,任务
节点
的需求是什么?
、
、
我最近正在学习Amazon,据我所知,EMR
集群
允许我们选择3个
节点
。 Master,它运行主要的
Hadoop
守护进程,如NameNode、作业跟踪器和资源管理器。我问你们为什么EMR会提供任务
节点
?正如
hadoop
所建议的,我们应该在同一个
节点
上拥有Datanode守护进程和Tasktracker守护进程。亚马逊这么做背后的逻辑是什么?您可以将数据保存在S3流中,将其保存到核心
节点
上,在HDFS上进行处理,而不是将数据从HDFS共享到任务
节点
,这
浏览 6
提问于2017-01-07
得票数 23
1
回答
如何
在AWS Cloudformation中实现ssh无密码登录
、
我将使用AWS CloudFormation设置一个
Hadoop
集群
。一些
Hadoop
助手脚本需要建立从
主
节点
到从
节点
的无密码ssh连接(使用文件'etc/
hadoop
/slaves')。通常,这可以通过生成ssh密钥对并将
主
节点
的公钥附加到从
节点
~/.ssh/authorized来实现。但是
如何
使用亚马逊网络服务的CloudFormati
浏览 2
提问于2015-08-07
得票数 1
2
回答
设置(Windows)
Hadoop
群集
、
、
我已经在我的机器(Windows)上安装了
Hadoop
-0.20.2。我尝试使用
主
节点
和从
节点
来设置
节点
集群
。但是我无法连接这些机器。存在密码身份验证错误。
如何
解决这个问题?如果可能,请为我提供一个合适的链接,以便在
Hadoop
中设置多个
集群
。
浏览 2
提问于2011-12-22
得票数 1
1
回答
运行
Hadoop
应用程序
可以在任意一个
集群
节点
上引导一个
Hadoop
应用程序,不相关地引导到
节点
类型上吗?应该只在其中一个
节点
上引导吗?是否将代码移动到接近数据的适当
节点
?是否用于移动代码?< code >G29</code>在每个已安装的
Hadoop
节点
上,都应该显式地分配
主
节点
,方法是将fs.default.name of core-site.xml设置为Namenode,将但是,不能显式地分
浏览 1
提问于2011-12-16
得票数 3
1
回答
我可以从我的Axis2 Web服务调用
Hadoop
吗?
、
、
我打算开发一个web服务,它可以与
Hadoop
主
节点
对话,执行一些任务。这些任务包括: 1.启动和停止
hadoop
集群
2.从
hadoop
集群
3中添加和删除从
节点
。但是请告诉我
如何
从我的web服务中调用
Hadoop
。包括在类路径中的
Hadoop
罐子够了吗?我想我也需要一些配置。请指导我在web服务和
Hadoop
集群
之间建立一个简单的调用流程。
浏览 0
提问于2011-02-26
得票数 0
3
回答
hadoop
集群
中的边缘
节点
、
有人能给我解释一下
hadoop
中Edge
节点
的架构吗?我只能在互联网上找到定义,我有以下问题- 1)边缘
节点
必须是
集群
的一部分吗(如果它在
集群
内,我们有什么优势?)它是否在hdfs中存储任何数据块。2)边缘
节点
可以在
集群
外吗?
浏览 5
提问于2013-05-22
得票数 12
2
回答
什么是
hadoop
(单点和多点)
节点
,火花
主
节点
和火花工作者?
、
、
我想了解以下几个术语:到目前为止,我所了解的是火花
主
是工作执行者,并处理所有的火花工人。而
hadoop
是hdfs (我们的数据所在),火花工作者根据给他们的任务读取数据。如果我错了,请纠正我。 我还想了解namenode和datanode的角色。datanodes是同一个
hadoop
节点
吗?
浏览 6
提问于2016-05-05
得票数 1
1
回答
辅助名称
节点
功能
、
“次级namenode的状态滞后于
主
节点
的状态”意味着什么?提前感谢
浏览 3
提问于2015-07-18
得票数 2
回答已采纳
1
回答
无法从
集群
中的Datanodes访问HDFS
、
当试图通过从
节点
(Datanodes)访问HDFS中的数据时,在3
节点
上安装了cloudera cdh4。当我试图在HDFS中创建新文件夹时,请使用 命令无法从任何一个从
节点
在
集群
的hdfs中放置数据或创建文件夹,但是从
主
节点
工作,也可以从
主
节点
、水槽、蜂箱、猪所有其他进程运行在从(Datanodes)尝试重新启动
集群
namenode格式仍
浏览 6
提问于2013-10-23
得票数 0
回答已采纳
点击加载更多
相关
资讯
如何给Hadoop集群划分角色
新手如何快速搭建Hadoop集群
如何使用Mahout在hadoop进行集群分析
如何成为EOS的主节点?
Hadoop集群搭建和简单应用
热门
标签
更多标签
云服务器
ICP备案
云直播
即时通信 IM
实时音视频
活动推荐
运营活动
广告
关闭
领券