近日,有关存储系统选型的问题在微信群里讨论的火热,CSDN在这里稍微将各位专家的问答总结了一下,分享给大家。
文章内容来源大数据基础设施微信群,参与讨论的专家有中国科学院软件研究所工程师,C3核心成员李明宇,国防科学技术大学教授,CCF大数据专家委员会委员李东升,云人科技联合创始人兼CEO吴朱华,Memblaze技术顾问刘爱贵等等。
以下是问答实录:
Q:有一个场景:每天有近百GB数据增加,数据内容有WORD文档和图像等多种类型。用什么存储或文件系统比较合适?
A: HDFS、HBase、Hive不太适合存文档、图片大小的文件,HDFS适用于存大文件,后两者适用于数据库场景,每天近百GB的文档、图像,那只有用SWIFT了。
Q:SWIFT与Ceph、GlusterFS、MongoDB/GridFS之间的比较呢?
A:SWIFT是专为这种场景设计的,性能可以调节。
Q:如果图像比较大的情况,一张图接近GB时,哪个合适?
A:我仍然推荐用SWIFT,SWIFT官方认为对几个G的支持都没有问题,但是我认为处理几个G的大文件性能上可能会比HDFS差,因为没有条带化。但是考虑到文档、图片类型存储,你会遇到很多几兆、几十兆的,这些文件的存储,HDFS就不如SWIFT了。从适用范围的角度来看,咱们这个场景里还是首选SWIFT。
Q:GlusterFS它的优点在哪里,在文件数量太大时Gluster会出现性能问题正常么?
A:GlusterFS,它的优点在于如果你需要使用POSIX接口,那GlusterFS是一个很好的选择,但是Gluster在文件数量、目录数量太大的情况下会出现性能衰减,这是文件系统本身的特点决定的,不论是哪种POSIX兼容的文件系统,都存在类似的问题。
Q:SWIFT、Ceph、GlusterFS、MongoDB那个更好?
A:关于SWIFT、Ceph、GlusterFS、MongoDB之间的比较,没有孰优孰劣,只有是不是适合。MongoDB是NoSQL数据库,和HBase是同一类,但是和其他几个分布式存储显然不是同一类的,不适合用于此类场景。
Q:Ceph,SWIFT分别适合什么样的情况?
A:如果你只需要用块存储,那当然是Ceph,如果只需要用对象存储,那当然是SWIFT。各自有各自擅长的地方,不过现在因为Ceph也支持对象存储,SWIFT和Ceph又是OpenStack社区非常频繁提到的两种存储形式,所以,有很多人会把SWIFT和Ceph在一起比较。
如果只要用对象存储,就选择SWIFT;如果只要用块存储,那就Ceph;即要用对象存储又要用块存储的场合,是用SWIFT还是Ceph呢?我们一般是这样推荐的:
Q:对象存储的本质是什么?
A:对象存储本身有两个概念,一种是九几年提出的,针对NAS性能问题提出的一种新的存储架构,其实Gluster也是那种对象存储。另一种是06年亚马逊推出S3以后逐渐被人接受的对象存储,特点是RESTful接口和扁平的数据组织形式。我们说的CEPH和SWIFT提供对象存储,指的是后者,但是CEPH的底层RADOS,又是前一类对象存储。
Q:如果现在有一堆文件要存,如何选择是用对象还是用文件系统呢?
A:所谓文件系统的本质是POSIX接口,“对象”这个名词是做对象存储的人为了把自己做的东西和文件系统区分开而用的术语,把存在对象存储里的文件叫做“对象”,所以选择文件系统还是对象存储,跟你把这堆数据称作对象还是文件并没有直接关系,而是要看你是需要POSIX还是RESTful HTTP接口,是需要目录结构还是适用扁平数据管理结构。
GlusterFS分布式文件系统,给大家参考。http://vdisk.weibo.com/s/HPecIjqX8sc
SWIFT分布式对象存储,给大家参考。http://www.ibm.com/developerworks/cn/cloud/library/1411_limy_openstackSWIFT/
扫码关注腾讯云开发者
领取腾讯云代金券
Copyright © 2013 - 2025 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号:粤B2-20090059 深公网安备号 44030502008569
腾讯云计算(北京)有限责任公司 京ICP证150476号 | 京ICP备11018762号 | 京公网安备号11010802020287
Copyright © 2013 - 2025 Tencent Cloud.
All Rights Reserved. 腾讯云 版权所有