在开发中经常会用到的就是文件存储了，以前经常都是在服务器目录上映射一个目录用来存储文件，这个当然也没有问题，如果存储量不大的话。当然还有的会选择使用。
本文主要对杨传辉（日照）《大规模分布式存储系统原理解析与架构实战》、大话存储、网络资源(具体参考文末链接)及个人理解进行整理，意在构建出存储发展基本轨迹和一些基本常识，让更多像我一样的初入者有个宏观上的认知。
在这段时间里，我们小结了云存储的基本知识、块存储和对象存储的基本实现，以及如何让块存储和对象存储为云计算的基本单位——虚拟机，提供存储服务。
导语 | 数字经济时代，诞生了海量数据资源，促使数据存储技术也在不断推陈出新。12月1日，在2022腾讯全球数字生态大会存储专场上，腾讯云发布了多款云存储产品能力上新，并对分布式存储、高性能存储、日志大数据、云原生数据湖等产品的应用实践进行了分享，为广大企业实现数字化转型和业务创新提供参考借鉴。 分布式存储产品能力上新，助力企业进一步降本增效 随着数字技术与实体经济的进一步融合，各行各业对云存储的需求越来越大，当下，国内云存储市场也在迅速发生变化。 腾讯云存储产品总监崔剑指出，“全球数据量呈现指数级增长，
随着云计算的发展，云存储作为一种更基础的云上资源池设施也越来越受到重视和欢迎。从云存储的类型来讲，目前流行的有块存储、文件存储和对象存储三种。今天的主角是对象存储，不过我们在介绍对象存储之前，先来了解下另外两种存储，做个对比，这样才能更好的了解对象存储。
2022 年 6 月 15 日，云原生计算基金会 (CNCF) 宣布，分布式存储系统 Curve 被正式接纳为 CNCF 沙箱（Sandbox）项目。Curve 由网易开源，提供块存储和文件存储能力，旨在以网易分布式架构和云原生实践经验反哺社区，填补高性能、易运维、云原生的开源分布式存储的空白。
OSS（Object Storage Service）俗称对象存储，主要提供图片、文档、音频、视频等二进制文件的海量存储功能。目前除了公有云提供对象存储服务外，一般私有云比较关心一些开源的分布式对象存储解决方案，本文列举了一些常见的技术方案供参考。
随着各行各业电子信息化的不断加深，线上交易数据保持了长时间高速增长的态势，对数据存储的需求越来越大，数据库管理系统（DBMS）面临越来越大的性能、空间和稳定性压力。在此过程中，得利于计算&存储&网络等硬件领域的不断进步，业界流行的数据库管理系统逐步从单机架构向分布式架构演变。笔者希冀从梳理数据库管理系统所面临的一个又一个实际挑战及业界所提出的诸多解决方案的过程中，发现片缕灵感以指引未来的数据库开发工作。
上期文章，小枣君给大家详细介绍了数据存储技术的基本知识，其中重点对DAS、SAN和NAS技术进行了对比分析。
2020年的春节，想必大家都印象深刻，除了新冠肺炎疫情，就是春晚各大APP的红包大战，让不少用户“薅”到了羊毛。
我们看到，戴尔和IBM作为老牌存储厂商，依然没有一点意外地牢牢盘踞在魔力象限图的最右上角。
网络流量分析机构Sandvine 2018年10月的《全球互联网现象报告》中显示，在全球整体的互联网下行流量中，视频占到了近58%。现在原始视频的分辨率越来越高，但是在互联网带宽有限的情况下，大部分视频提供商都需要将原始视频转码成多种清晰度的视频，便于用户在不同的网络环境中选择不同清晰度的视频进行观看。因此，视频转码成了必不可少的技术环节。
在了解什么是分布式存储之前，我们先来简单了解一下存储几十年来的大概历程。
**分布式存储：**通过网络使用企业中的每台机器上的磁盘空间，并将这些分散的存储资源构成一个虚拟的存储设备，数据分散的存储在企业的各个角落。
常见的分布式文件系统有：GlusterFS、GoogleFS、FastDFS、TFS等，各自适用的领域不同，它们都不是系统级的分布式文件系统，而是应用级的分布式文件存储服务。
对象存储（Cloud Object Storage，COS）是由腾讯云推出的无目录层次结构、无数据格式限制，可容纳海量数据且支持 HTTP/HTTPS 协议访问的分布式存储服务。您可通过新手入门全面的了解COS，学习产品的基础知识，掌握控制台、API、SDK、工具等操作，助力高效便捷地管理您的业务。
存储，是我们码农每天都要打交道的事情，而当我们面对RAID，SAN，对象存储，分布式数据库等技术的时候，又往往似是而非，存储成了我们熟悉的陌生人。
导语：大数据技术与应用不断演进，数据存储需求愈发多元、复杂，由此催生了许多新的存储系统，以支撑上层业务系统运行，技术生态也日益繁荣。 Ozone就是Hadoop社区推出的新一代分布式存储系统，它能够满足海量小文件存储需求，支持百亿甚至千亿级文件规模的存储，解决了Hadoop分布式文件系统在可扩展性上的缺陷。 去年9月，Apache Hadoop社区正式发布了通过大规模生产落地验证的Ozone 1.0.0版本，在社区引起大量关注。腾讯大数据团队是国内一线互联网公司中最早加入社区的，并且在Ozone 1.0.
今天，无论是大数据、人工智能、物联网等技术的广泛应用，还是金融、医疗、媒体等行业对实时数据访问和分析的需求，都推动了对高容量、高速度存储解决方案的需求。与此同时，由于数据泄露和被盗的风险增大，数据安全和隐私保护成为了人们关注的焦点，这也进一步推动了对具有高级加密、冗余和灾难恢复功能的存储解决方案的需求。
4月10日，腾讯云学院邀请到了讲师刘迪，进行了一场直播课，课程主题是：云数据库之从青铜到王者。整个直播课精彩纷呈，广受好评。
在分布式存储技术体系当中，分布式文件存储是其中的分类之一，也是大数据架构当中常常用到的。得益于Hadoop的高人气，Hadoop原生的HDFS分布式文件系统，也广泛为人所知。但是分布式文件存储系统，并非只有HDFS。今天的大数据开发分享，我们就主要来讲讲常见的分布式文件存储系统。
在分布存储式存储技术体系当中，分布式文件存储是其中的分类之一，也是大数据架构当中常常用到的。得益于Hadoop的高人气，Hadoop原生的HDFS分布式文件系统，也广泛为人所知。但是分布式文件存储系统，并非只有HDFS。今天的大数据开发分享，我们就主要来讲讲常见的分布式文件存储系统。
目前Ceph 是一种已经震撼了整个存储行业的最热门的软件定义存储技术。它是一个开源项目，为块存储、文件存储和对象存储提供了统一的软件定义解决方案。Ceph 旨在提供一个扩展性强大、性能优越且无单点故障的分布式存储系统。从一开始，Ceph 就被设计为能在通用商业硬件上运行，并且支持高度扩展（逼近甚至超过艾字节的数量）。
https://blog.csdn.net/enweitech/article/details/51445087
面对信息化程度不断提高带来的PB级海量数据存储需求，传统的存储系统在容量和性能的扩展上存在瓶颈。云存储以其扩展性强、性价比高、容错性好等优势得到了业界的广泛认同。分布式文件系统和分布式块存储作为云存储中重要的技术，成为奠定云存储发展的重要基石。
子虚期望让云上的虚拟机背起记忆的行囊浪迹天涯，但却发现虚拟机如果采用本地磁盘根本无法自由迁移，而基于FC的共享存储方案又具有极大的局限性。子虚自行思考答案，却发现自己的思考和Ceph殊途同归……
导语 TDSQL-C 原(CynosDB)是腾讯云数据库团队自研的新一代云原生数据库，融合了传统数据库、云计算与新硬件技术的优势，采用计算和存储分离的架构，100%兼容 PostgreSQL，提供具备极致弹性、高性能、海量存储、安全可靠的数据库服务。 本文旨在从数据库内核的角度揭秘TDSQL-C PostgreSQL的核心架构与关键技术。本文适合读者：腾讯云售后服务、TDSQL-C用户、TDSQL-C开发者，需要有基本的数据库与存储知识。 TDSQL-C 概述 TDSQL-C采用计算和存储分离的架构
腾讯云大学面向云生态用户的一站式学习成长平台，提供丰富优质的云计算、大数据、人工智能等课程内容，以及权威的腾讯云技术认证体系。
在数字化时代，数据已经成为各行各业的核心资产，需要以一种高效、可扩展和高可靠性的方式进行存储和管理。对象存储是一种以对象为中心的存储方式，将数据存储为对象而不是文件，它具有高度可靠性、高扩展性和高性能等优点。
目前可用于文件存储的网络服务选择也有不少，好比阿里云OSS、七牛云、腾讯云等等，可是收费都有点小贵。为了帮公司节约成本，以前一直是使用FastDFS作为文件服务器，准确地说是图片服务器。直到我发现了MinIO，我决定放弃FastDFS。
Ceph使用C++语言开发，Sage Weil(Ceph论文发表者)于2011年创立了以Inktank公司主导Ceph的开发和社区维护。2014年Redhat收购inktank公司，并发布Inktank Ceph企业版（ICE）软件，业务场景聚焦云、备份和归档，支持对象存储和块存储以及文件系统存储应用。出现Ceph开源社区版本和Redhat企业版。
贝壳机器学习平台的计算资源，尤其是 GPU，主要依赖公有云服务，并分布在不同的地理区域。为了让存储可以灵活地跟随计算资源，存储系统需具备高度的灵活性，支持跨区域的数据访问和迁移，同时确保计算任务的连续性和高效性；此外，随着数据量的增长，元数据管理的压力也在逐渐加大。
目录： 什么是大数据 Hadoop介绍-HDFS、MR、Hbase 大数据平台应用举例-腾讯 公司的大数据平台架构 “就像望远镜让我们能够感受宇宙，显微镜让我们能够观测微生物一样，大数据正在改变我们的
近日，Gartner发布了2019年全球分布式文件存储关键能力报告（Critical Capabilities for Distributed File Systems），Dell EMC、IBM、浪潮、华为、Qumulo、Pure Storage、Red Hat共7家全球主流厂商入围测评。
因此，业界也出现了一系列其他分布式存储系统，最常见的是HDFS、GlusterFS和Openstack Swift。
＂鹅厂网事＂由深圳市腾讯计算机系统有限公司技术工程事业群网络平台部运营，我们希望与业界各位志同道合的伙伴交流切磋最新的网络、服务器行业动态信息，同时分享腾讯在网络与服务器领域，规划、运营、研发、服务等层面的实战干货，期待与您的共同成长。 网络平台部以构建敏捷、弹性、低成本的业界领先海量互联网云计算服务平台，为支撑腾讯公司业务持续发展，为业务建立竞争优势、构建行业健康生态而持续贡献价值！ 前 言 2015年5月1号，来自QQ相册和微信相册的当天统计，分别上传照片7亿张和5亿张。如此海量的规模需要多大的存储
＂鹅厂网事＂由深圳市腾讯计算机系统有限公司技术工程事业群网络平台部运营，我们希望与业界各位志同道合的伙伴交流切磋最新的网络、服务器行业动态信息，同时分享腾讯在网络与服务器领域，规划、运营、研发、服务等层面的实战干货，期待与您的共同成长。 网络平台部以构建敏捷、弹性、低成本的业界领先海量互联网云计算服务平台，为支撑腾讯公司业务持续发展，为业务建立竞争优势、构建行业健康生态而持续贡献价值！ 前言 2015年5月1号，来自QQ相册和微信相册的当天统计，分别上传照片7亿张和5亿张。如此海量的规模需要多大的存储空间
TDSQL-C采用计算和存储分离的架构，所有计算节点共享一份数据，存储容量高达128TB，单库最高可扩展至16节点，提供秒级的配置升降级、秒级的故障恢复和数据备份容灾服务。TDSQL-C既融合了商业数据库稳定可靠、高性能、可扩展的特征，又具有开源云数据库简单开放、自我迭代的优势。TDSQL-C不仅在性能、扩展性和高可用方面有大幅提升，计算存储的解耦使得计算层和存储层都获得了很大的独立优化空间，本文下面将介绍TDSQL-C架构的实现，以及在新架构上的关键技术优势。
其目的是补充甚至取代过去20年来使用的超文本媒体传输协议(HTTP)，以构建一个更快、更安全、更自由的互联网时代。
随着云原生概念在业界的推广，传统应用部署的方式被容器化部署所取代。基于云原生的容器化部署和运维，给开发和运维人员带来DevOps快速部署和自动化运维等诸多便利的同时，对于基础架构服务也提出了更高的要求，其中存算分离就是保障云原生应用故障快速转移、算力负载均衡的基石。因此云原生存储的概念也在云原生的基础上应运而生，接下来本文将会逐步梳理云原生存储的概念、工具的选型，最后会选择一个代表性的云原生存储工具来演示如何使用。
2022年6月16日，中国信息通信研究院（以下简称“中国信通院”）第十四批大数据产品能力评测第二场评审会圆满结束，腾讯云的分布式存储产品"TStor 统一存储"顺利通过了文件存储基础能力评测，是国内首批通过该评测的厂商之一。
2023年数智中国AIGC科技周· AI云智上海专场在普陀区召开。活动以“智能涌现”、“算力突围”、“超越现实”三大篇章开启，第一篇章以“智能涌现”开幕、重塑数实融合终极愿景；第二篇章“算力突围”，以AI为引擎，以计算为基石，构筑数字底座；第三篇章“超越现实”，引领“空间计算”新时代，进入“虚实相生”新阶段。
“ 在大数据上升为国家战略背景下，当前我国各行业、各领域正积极提升数据资源掌控能力和深度价值挖掘能力。存储作为数据基础设施建设的关键支柱，在国民经济发展过程中的重要性日益凸显。 ” 2022年6月16日，中国信息通信研究院（以下简称“中国信通院”）第十四批大数据产品能力评测第二场评审会圆满结束，腾讯云的分布式存储产品"TStor 统一存储"顺利通过了文件存储基础能力评测，是国内首批通过该评测的厂商之一。 随着办公自动化实践的发展，以及对文档进行共享协作的需要不断增强，文件系统得到了更广泛的应用。据 I
版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/huyuyang6688/article/details/73730500
整个IPFS系统是一个分布式的文件存储系统, 那么在下载相关数据的时候, 将从多个节点同时下载, 相比于HTTP从中心服务器的下载速度要快很多, 大家都用过P2P下载(比如: 迅雷,BitTorrent), IPFS下载过程跟这个类似.
随着容器技术在生产环境中越来越多被使用，实际用户应用正在从无状态应用程序扩展到需要持久化存储支持的有状态应用程序。IT技术专业人员需要知道如何选择适合在容器中运行有状态应用程序的存储。我们深度解读Gartner报告，就存储类型及应用类型两个维度来帮技术专业人员分析容器存储的选择。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
即时通信 IM
腾讯会议
