腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
文件
或目录如何
存储
在hadoop中
、
、
我使用以下命令在
hdfs
中创建了一个
文件
通过使用以下命令,我可以看到创建的
文件
我在
hdfs
-site.xml中提到的虚拟
存储
是否采用datanode位置来<
浏览 1
提问于2016-08-19
得票数 1
回答已采纳
2
回答
合并后使用Pig脚本删除
文件
、
我正在尝试合并大量的小
文件
(200k+),并想出了以下超级简单的小猪代码:store Filesinto '
hdfs
/output/path' using PigStorage(); 一旦Pig完成合并,有没有一种方法可以删除输入
文件
?我想检查
文件
是否已经写入并且不是空的(即0字节)。我不能简单地删除输入路径中的所有内容,因
浏览 2
提问于2016-03-30
得票数 0
1
回答
块和条纹有什么区别?
、
、
、
、
蜂巢的文档: 我的问题是:块和条纹有什么区别?
浏览 3
提问于2020-01-19
得票数 2
回答已采纳
5
回答
小
文件
和
HDFS
数据块
、
Hadoop分布式
文件
系统中的一个块是
存储
多个小
文件
,还是一个块只
存储
一个
文件
?
浏览 5
提问于2011-12-19
得票数 12
回答已采纳
1
回答
为什么我应该避免在Hadoop中
存储
大量的小
文件
?
、
我读过很多
存储
在
HDFS
中的小
文件
可能是一个问题,因为很多小
文件
意味着很多对象Hadoop NameNode内存。但是,由于每个块都作为一个对象
存储
在指定的节点中,那么对于一个大
文件
来说,它有什么不同呢?无论您是将单个
文件
中的1000个块
存储
在内存中,还是将1000个块
存储
在1000个
文件
中,使用的NameNode内存量是否相同? 地图作业的类似问题。既然它们是在块上操作,那么块是小
文件
还是大<em
浏览 0
提问于2017-10-21
得票数 1
回答已采纳
5
回答
hdfs
如何选择要
存储
的数据节点
、
正如标题所示,当客户端请求将
文件
写入
hdfs
时,
HDFS
或名称节点如何选择
存储
文件
的datanode?如果
文件
太大,
hdfs
会尝试将此
文件
的所有数据块
存储
在同一节点中,还是将某个节点
存储
在同一机架中?
hdfs
是否为应用程序提供了API,以便按照他的喜好将
文件
存储
在某个datanode中?
浏览 0
提问于2012-10-30
得票数 9
回答已采纳
2
回答
地图用户数
、
我在
hdfs
上有4个
文件
。映射器数=输入分叉数。我的问题是,所有这些
文件
是
存储
在一个64 MB的块还是4个不同的块?因为每个
文件
的数据小于64 is。 2.txt这是文本
文件
24.“空”
浏览 4
提问于2015-09-09
得票数 0
2
回答
hadoop
文件
系统的说明
有人能帮我理解hadoop的数据
存储
概念吗?我使用这个链接来建立一个单节点hadoop集群:
浏览 1
提问于2014-02-15
得票数 0
回答已采纳
1
回答
如何使用spark在
HDFS
中保存数据?
、
、
、
现在,我想将我的数据保存在远程
HDFS
中。我知道我必须使用函数saveAsText。但是,我并不确切地知道如何指定路径。 frm.saveAsTextFile("
hdfs
://ip_addr:9000//home/hadoop/datanode/myNewFolder");其中ip_addr是我的
hdfs
远程服务器的ip地址。myNewFolder是我想
浏览 7
提问于2017-01-31
得票数 3
回答已采纳
1
回答
Hadoop的目的是保存在RAM或磁盘中?
、
通过查看互联网上的文档,我得到了这样的印象:
HDFS
的想法是将其保存在RAM中,以加快速度。现在我们的架构师说
HDFS
的主要思想是可伸缩性。我没意见。但他也声称,主要的想法是把它放在硬盘上。
HDFS
基本上是一个可伸缩的硬盘。我的观点是,硬盘支持
HDFS
是一种选择。但是,主要的想法是将其保存在RAM中。现在谁来了?我现在真的很困惑,我想说,这一点对于理解Hadoop是至关重要的。
浏览 2
提问于2013-08-01
得票数 1
回答已采纳
1
回答
hdfs
/user空间在
hdfs
中分配的位置
、
我搞不懂
hdfs
的/user空间是在哪里分配的。它在Linux
文件
系统中不可见。但是在
hdfs
中有一个名为/user的目录。我猜是因为配置的原因?它是否跨集群中的所有节点创建?
浏览 6
提问于2015-02-21
得票数 0
1
回答
Hive如何查看以文本
文件
格式
存储
的
存储
桶数据
我已经创建了一个带有
存储
桶的表设置hive.enforce.bucketing=true;将数据LOCAL INPATH '/home/jugal/Desktop‘加载到表empl_buck; 现在如何查看
存储
在文本
文件
或
HDFS
中
浏览 1
提问于2015-04-16
得票数 0
1
回答
如何
存储
HDFS
块中的数据?
、
、
我读到了关于
HDFS
的文章,想知道是否有任何特定的格式来安排块中的数据。 我怀疑64 MB块中是否存在
存储
数据的格式?如果在块中
存储
数据的格式/结构,则
存储
的数据应该小于64 MB,因为数据结构/标头等本身可能占用一些空间。因为
HDFS
数据节点是一个逻
浏览 3
提问于2015-01-10
得票数 2
回答已采纳
2
回答
具有MongoDB概念的Hadoop
、
、
、
我开始学习世界计数程序,通过读取
存储
在
HDFS
中的
文件
并对其进行处理。现在,我想在MongoDB中使用Hadoop。从启动程序。现在与我混淆,它将mongodb数据
存储
在本地
文件
系统上,并将数据从本地
文件
系统读取到map/reduce中的
HDFS
,然后再次将其写入mongodb本地
文件
系统。当我学习HBase时,我们可以将它配置为将它的数据
存储
在
HDFS
上,hadoop可以直接在
HDFS
(
浏览 5
提问于2013-02-14
得票数 2
回答已采纳
1
回答
具有
HDFS
密钥
存储
库的Hadoop :方案"
hdfs
“没有FileSystem
、
、
、
我一直试图将Hadoop配置为使用
hdfs
作为关键提供程序。并将以下字段添加到我的kms-site.xml中: <name>hadoop.kms.key.provider.uri</name> </property> 该路由存在于
hdfs
中,我期望kms为其密钥
存储
库创建
浏览 3
提问于2018-04-23
得票数 0
回答已采纳
1
回答
从
存储
在.avsc
文件
中的表模式创建单元表
、
我在一个
hdfs
文件
schema.avsc中
存储
了一个单元表模式。我希望创建同一个模式的单元表,并希望从另一个
hdfs
路径转储数据,其中数据
存储
在
HDFS
文件
系统中。 1:如何创建表?2:如何将
存储
在
hdfs
文件
中的数据转储到创建的表中?
浏览 4
提问于2017-01-22
得票数 3
回答已采纳
1
回答
如何在HBase中实现分层
存储
?
、
、
、
、
我正在尝试获取有关在运行在
HDFS
上的HBase上分层
存储
的实现的信息。我从这个上读到了
HDFS
上的分层
存储
。我也经历过这个,但是我仍然对实现有疑问。在
HDFS
上,基于访问频率,我可以将
文件
从一种
存储
类型移动到另一种
存储
类型。但是当HBase在
HDFS
上
存储
文件
时,我如何知道
文件
的访问频率,如果我直接在
HDFS
上移动
文件
,HBase和
HD
浏览 4
提问于2016-11-02
得票数 0
1
回答
将
文件
从本地放置到hadoop环境
在位置/home/Jon的位置/home/ Jon,我在用户Jon中创建了一个
文件
,我希望将该
文件
放到/user目录下的hduser中。当我使用以下命令放置他的
文件
时得到这样的错误put:
浏览 6
提问于2017-06-04
得票数 1
回答已采纳
1
回答
如何指定在提交Spark应用程序时从
HDFS
读取数据的位置?
、
我已经成功地部署了spark集群,但是对于如何在从服务器上分发我的
HDFS
数据感到困惑吗?是否需要手动将数据放在从节点上,以及如何指定从客户端提交应用程序时从何处读取数据?我已经搜索了多个论坛,但没有找到如何在没有使用Hadoop的情况下使用
HDFS
与Spark。
浏览 0
提问于2017-12-03
得票数 0
回答已采纳
1
回答
Apache Flume
文件
大小
我正在使用flume-ng和它的
HDFS
接收器。现在,如果我将一些
文件
添加到给定的
文件
夹中,它也会自动
存储
在
HDFS
中。它工作得很好;但是我注意到
HDFS
中的
文件
非常小。因此,如果我将一个1 1GB的
文件
放到给定的
文件
夹中,它将由数百个
文件
存储
在
HDFS
中。我可以使
HDFS
中的
文件
更大吗?如何在flume-conf.properties中配置它?
浏览 0
提问于2013-08-17
得票数 0
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
Hadoop 存储-HDFS介绍
Hadoop HDFS DataNode 存储机制
HDFS常用文件操作命令
HDFS数据存储与读写过程
大数据 HDFS 小文件处理方案
热门
标签
更多标签
云服务器
ICP备案
对象存储
腾讯会议
云直播
活动推荐
运营活动
广告
关闭
领券