首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

腾讯基于Alluxio优化计算存储分离架构最佳实践

腾讯EMR团队与Alluxio社区合作,探索出了开箱即用计算存储分离优化版本,大幅优化网络带宽,带宽削峰20%-50%,节省总带宽10%-50%,同时能在IO密集型场景提升性能5%-40%,下面就让我们来一探究竟...二、腾讯弹性MapReduce(EMR) 目前越来越多企业开始选择使用计算和存储分离架构,以应对更低成本要求,和兼顾资源扩展灵活性。 ? 传统计算存储一体架构 ?...计算存储分离架构 目前腾讯弹性MapReduce(EMR)支持了三种存储系统:EMR-HDFS、EMR-COS、EMR-CHDFS,其中EMR-COS和EMR-CHDFS在EMR中都是开箱即用原生支持计算存储分离方案...上述这些能力和优化,在存算分离场景下,腾讯EMR产品针对这种场景都已经直接提供了开箱即用能力,直接在腾讯EMR产品购买页创建,或者在已有支持了alluxioEMR版本上安装,即可达到性能评估中效果...此次基于Alluxio优化,让腾讯弹性MapReduce(EMR)产品更好支持存储计算分离架构,为用户更好满足业务需求同时,降低成本,且保持资源扩展灵活性。 ? 近期热文 ?

1.5K20

腾讯基于Alluxio优化计算存储分离架构最佳实践

二、腾讯弹性MapReduce(EMR) 目前越来越多企业开始选择使用计算和存储分离架构,以应对更低成本要求,和兼顾资源扩展灵活性。...传统计算存储一体架构 计算存储分离架构 目前腾讯弹性MapReduce(EMR)[1]支持了三种存储系统:EMR-HDFS、EMR-COS[2]、EMR-CHDFS[3],其中EMR-COS和EMR-CHDFS...简化存储和对象存储接入 与传统文件系统相比,存储系统和对象存储系统使用不同语义,这些语义对性能影响也不同于传统文件系统。...上述这些能力和优化,在存算分离场景下,腾讯EMR产品针对这种场景都已经直接提供了开箱即用能力,直接在腾讯EMR产品购买页创建,或者在已有支持了alluxioEMR版本上安装,即可达到性能评估中效果...此次基于Alluxio优化,让腾讯弹性MapReduce(EMR)产品更好支持存储计算分离架构,为用户更好满足业务需求同时,降低成本,且保持资源扩展灵活性。

80730
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    腾讯文件存储妙用

    腾讯常用文件存储除了对象存储硬盘,还有一种文件存储,这个存储可以像硬盘一样挂载在内网任何服务器 也就是所有的服务器都可以共享一套存储,如前端负载均衡nginx可以后台挂相同图片、代码等等...但是我们说文件存储是另外一种用途,也就是把他用作数据库、网站备份上,我们以centos为例 第一步,先创建文件系统,选择和服务器在同一个分区 第二步,设置文件系统权限组,开放当前服务器有权限访问文件存储...第三步,在centos上做挂载,注意先要确定安装了NFS-Utils 示例如下: sudo mount -t nfs -o vers=4 192.168.1.7:/ /本地存储目录底子 第四步,修改.../etc/fstabs 确保重启后还会维持挂载 第五步,写备份脚本,将文件备份到文件存储 特别申明:文章由腾讯代理 - 蓝色航线 百分百原创,只发布在腾讯,不得做任何转载

    8.5K71

    腾讯自研数据库CynosDB存储架构揭秘

    本文作者:许中清,腾讯自研数据库CynosDB分布式存储CynosStore负责人。从事数据库内核开发、数据库产品架构和规划。...曾就职于华为,2015年加入腾讯,参与过TBase(PGXZ)、CynosDB等数据库产品研发。专注于关系数据库、数据库集群、新型数据库架构等领域。...CynosDB for PostgreSQL是腾讯自研一款原生数据库,其主要核心思想来自于亚马逊数据库服务Aurora。这种核心思想就是“基于日志存储”和“存储计算分离”。...下图为CynosDB for PostgreSQL产品架构图,CynosDB是一个基于共享存储、支持一写多读数据库集群。...除此之外,每个Store Node会自动将数据和日志持续地备份到腾讯对象存储服务COS上,用来实现PITR(即时恢复)功能。

    13.7K150

    混合存储打开正确姿势——腾讯存储网关 CSG

    企业业务系统都是历经多年积累构建,业务软件和数据通常以传统架构来进行设计,业务向云端迁移将导致企业业务架构大幅度改变,整个过程耗时耗力且技术难度系数较大,存在业务风险,企业原有的IT开发和管理人员可能难以理解和适应云端业务模式...腾讯存储网关 CSG 可以完美的解决这个问题,企业无需改变传统业务架构,整个上过程对用户现有的业务几乎没有任何影响,同时,用户可根据业务需要实现容量自动扩缩容,而且对于上数据,用户也可以利用对象存储...存储网关优势 1、简单易用 CSG 提供协议转换机制,企业可以在不改变原有业务架构情况下使用 COS ,无需任何学习成本即可无缝上。...线下部署.png 用户利用现有的机房设备,在本地硬件服务器上部署 CSG 网关软件,用户能够继续以低延迟和高带宽直接内网访问本地服务,同时网关会自动将数据同步至腾讯 COS 中。...线上部署.png 线上部署模式,可以方便用户在不改变业务架构前提下,将上业务接入海量无上限对象存储 COS,进一步盘活业务体系,扩展更大潜在商机。

    13.6K10

    腾讯-对象存储介绍

    对象存储分享结构 首先介绍存储分类,并主要介绍对象存储分类,接着介绍用户常见问题包括计费项和计费周期,最后介绍对象存储控制台和使用案例。...腾讯CDN产品使用介绍:https://www.bilibili.com/video/BV1ft4y1S7MS image.png 存储 存储大类 块存储(cbs,Cloud Block Storage...) :提供块级别存储, 类似的产品例如aws ebs, ceph rdb,tencent cbs(硬盘)等, 通常使用scsi, iscsi协议,数据协议共享, 存储效率高,特点是一个主机只能挂载一个硬盘...缺点是协议开销大, 效率不高,优点是数据易于共享,譬如一个cfs盘可以被多个主机挂载。...归档存储 归档存储提供了最低存储单价,但读取数据时候需要较长解冻时间,因而适合需要长期保存数据业务场景。

    19.8K3732

    腾讯存储,第一!

    刚刚,沙利文联合头豹研究院发布《2023年中国存储解决方案市场报告》腾讯存储入选“领导者”阵营位列第一鹅厂存储之路,始于19年前QQ空间。...技术积累多年,这是腾讯存储答卷:-COS对象存储,底层采用腾讯自研百EB级存储引擎YottaStore。...为多个计算节点提供可弹性扩展高性能共享存储;-CBS硬盘,在业界率先将时延缩至10微秒级别。自动在可用区内,以多副本冗余方式存储,避免数据单点故障风险。要存好,还要用好。...沙利文指出——「腾讯持续创新,专注于打造高性能存储解决方案,以适应多元化应用场景与用户需求。同时通过构建完善产品矩阵,为企业提供可靠数据基础设施,助力企业推动数据驱动业务战略实施。」...让大家存得安心、省心,腾讯继续努力。

    23810

    邹方明:看腾讯如何架构海量存储系统

    回首腾讯存储十年历程,腾讯存储业务中心总监邹方明将其划分为四个阶段:萌芽时代、图片时代、视频时代和时代。 腾讯存储面临第一个大挑战正是在UGC图片时代兴起之初。...为了便于磁盘自动回收,腾讯存储将磁盘分成同等大小空间并进行分片分头整理,留存出10%到15%冗余利用率,解决了当时问题。...当腾讯存储数据储存增长量在四年时间内从100P到1000P,腾讯存储接到需求也不断增多。...同时,腾讯存储通过设计纠删码方式,为文件留出3—4份纠删冗余并分别存在多台设备里,最终使文件存储大小压缩到1.3—1.4份,极大减少了原先存储设备量。...点击下载演讲资料: 邹方明:看腾讯如何架构海量存储系统.pdf 邹方明:看腾讯如何架构海量存储系统.zip

    4K146

    微信、QQ都在用腾讯EB级对象存储架构剖析

    来自腾讯TEG技术工程事业群架构平台部刘金明在腾讯+未来”峰会「开发者专场」做了主题为“腾讯EB级对象存储架构剖析及实践”技术内容分享。...关于对象存储,我们先从腾讯存储平台TFS开始说起,早在2016年腾讯推出了自研存储平台TFS,几年间为相册、QQ、微信、微云、腾讯视频等腾讯内部产品提供了优质存储服务。 ?...2013年,腾讯存储能力包装之后开始对外开放。 2014年,腾讯存储突破500PB,数据量达到万亿级别。 2015年,引擎升级商用标准化,数据量达到EB级别。...2016年,对存储引擎和架构优化之后,性能得到了更好提升,同时基于存储之上智能数据分析也应运而生。 ?...除了上文提到几个基本功能以外,腾讯COS也在陆续推出一些高级功能。 生命周期:客户只需在COS控制台配置一个规则就可以很方便让数据在各级存储之间流动和删除。

    4.9K10

    腾讯存储网关提供混合存储服务,实现数据分层存储

    存储网关(Cloud Storage Gateway,CSG)是腾讯提供混合存储服务。...腾讯 CSG 旨在让您更加专注于自有业务发展,而不受存储技术门槛以及成本困扰。...通过在腾讯上部署创建存储网关CSG,您无需关心本地应用与存储兼容性,CSG可以在无感知状态下实现协议转化,将数据以原始格式上传COS。...02 数据扩容 拓展本地 NAS 和 SAN 存储阵列需要耗费硬件成本和人力部署成本,您只需要在本地部署存储网关 CSG 将公有存储接入到本地存储系统架构,即可享受安全稳定、海量、低成本公有服务。...写 在 最 后 腾讯存储网关通过本地存储空间缓存了热点数据,保证了前端应用本地访问性能,同时又可以利用上海量存储空间。

    23.5K30

    腾讯存储网关提供混合存储服务,实现数据分层存储

    存储网关(Cloud Storage Gateway,CSG)是腾讯提供混合存储服务。...腾讯 CSG 旨在让您更加专注于自有业务发展,而不受存储技术门槛以及成本困扰。...通过在腾讯上部署创建存储网关CSG,您无需关心本地应用与存储兼容性,CSG可以在无感知状态下实现协议转化,将数据以原始格式上传COS。...02 数据扩容 拓展本地 NAS 和 SAN 存储阵列需要耗费硬件成本和人力部署成本,您只需要在本地部署存储网关 CSG 将公有存储接入到本地存储系统架构,即可享受安全稳定、海量、低成本公有服务。...写在最后 腾讯存储网关通过本地存储空间缓存了热点数据,保证了前端应用本地访问性能,同时又可以利用上海量存储空间。

    21.5K30

    混合实现分层存储架构

    通过提供更低成本,更高性能并减少数据丢失,混合可以帮助一些企业优化其分层存储系统。 分层存储架构并不是什么新鲜事。...最后,归档存储层是最便宜,但也最慢系统,用于存储很少使用数据。 在混合云中建立分层存储架构 在混合云中,主存储系统一般存放于私有,如果应用也在私有云中的话。...该存储系统存储文件和应用程序数据,并且应当是分层存储架构中性能最高存储系统。 二级存储系统主要存放于公有。...分层存储架构优势和挑战 使用混合分层存储架构对企业有几个好处。首先,由于它建立了两个或三个不同价格和性能水平存储系统,分层存储可以帮助开发人员和管理员创建应用程序特定存储策略。...例如,在上面提到数据分析例子中,该系统可能需要支持其他用例,如通过机器学习来检测欺诈。 企业必须精心设计和规划他们多层存储架构以及自动化过程。

    2.7K60

    免费对象存储——七牛还是腾讯

    七牛通信协议截图 其他免费对象存储 于是想看看其他免费对象存储,首先看阿里,发现是需要收费,虽然收费不是很高。 至于其他一些小公司免费,这里就不考虑,毕竟没有保障。...最后就是腾讯存储对象了,首先它有免费额度,额度还是比较客观腾讯对象存储免费额度 其次默认生成了域名且是HTTPS,省去了买域名,备案等痛苦。...最后,毕竟是腾讯爸爸,相对其他公司来说肯定有保障多了。对于有需求小伙伴可以考虑下腾讯对象存储「COS」。...使用方式就不累赘了,官方文档写得很详细,简单配置一下,轻松将数据迁移到腾讯上了 迁移数据源 后续问题 原本以为换到腾讯对象存储之后问题解决了,我可以继续开发小程序中生成海报功能了,可是相较于七牛来说...这就又有点尴尬了… 总结 没办法,只好还是使用七牛作为自己文章图床,同时挂了脚本定时同步七牛图片到腾讯上,就当备份了。生成海报头图还是从腾讯上取。

    37K72

    盘活数据管理存储架构

    数据管理架构包括本地、多云和间部署,数据被分散部署在各种分布式部署环境中,企业需要平衡其中风险和收益。数据管理架构分为混合、多云、互联三种。混合串联了本地和两个环境。...多云架构其实可以理解为在按需型混合基础上,有多个提供服务。因此,也需要注意环境之间组件兼容性。多云方案会吸引那些担心供应商锁定用户。...这些软件通常来自独立软件供应商 (ISV) ,因为 ISV 要确保其软件在尽可能多环境中运行,而供应商只需要考虑对自己产品实现兼容。互联架构是指跨多个进行主动数据管理。...例如,微软 PowerBI 可能会连接到驻留在 Azure 基础结构外部 Salesforce 数据库。法规要求可能禁止数据驻留在某个国家/地区地理边界之外,此时就需要互联架构。...互联引入了新复杂程度。例如,访问控制和身份管理可能难以统一,并且可能需要将此功能扩展到对象存储、DBMS 或应用程序级别,而不是依赖于供应商服务。

    1.7K20

    腾讯COS对象存储攻防

    文章首发于:火线Zone云安全社区 01 Bucket 公开访问 腾讯存储访问权限默认为私有读写权限,且存储桶名称会带上一串时间戳: 账户中访问策略包括用户组策略、用户策略、存储桶访问控制列表...当腾讯 COS 收到请求时,首先会确认请求者身份,并验证请求者是否拥有相关权限。验证过程包括检查用户策略、存储桶访问策略和基于资源访问控制列表,对请求进行鉴权。...--摘自腾讯官方文档 上图我们仅配置了存储桶访问权限,于是因为设置了私有读写,无权访问该文件,Message 为 “Access Denied.” 02 Bucket Object 遍历 如果策略中允许了...ObjectList操作,则在目标资源范围下,会将所有的Bucket Object显示出来,这时,Key值可以理解为文件目录,通过拼接可获取对应文件: 有趣是,在腾讯访问策略体系中,如果存储桶访问权限为私有读写...04 Bucket 接管 由于Bucket 接管是由于管理人员未删除指向该服务DNS记录,攻击者创建同名Bucket进而让受害域名解析所造成,关键在于攻击者是否可创建同名Bucket,腾讯有特定存储桶命名格式

    18.5K50

    腾讯TKE持久化存储

    腾讯TKE持久化存储 对于Kuberentes中,一些服务需要持久化内容,我们一般都会使用一个共享文件系统,类似与目前各个厂商提供对象存储服务,或文件系统服务,自建的话也有NFS、Ceph选择...; 这里就简单说一下我自身采用过方式: 持久化存储使用厂商对象存储; 使用Kubernetes中PV与对象存储进行关联; 而后PV与PVC关联; 从而每个服务,使用Volume挂载该PVC,...随着Kubernetes不断功能完善,国内厂商也在不断适配,腾讯TKE目前支持StorageClass,这样一种动态添加持久化存储。...示例:这里我就采用腾讯TKE进行快速持久化存储创建 1、首先创建StorageClass; sc.png 新建 sc-2.png 生成yaml文件如下: apiVersion: storage.k8s.io...总结: 通过使用腾讯TKE存储服务,可以快速创建PVC,PV会根据PVC需求对应创建,并自动增加硬盘。

    5.4K20

    腾讯COS对象存储简单使用

    叮当哥之前买了一年腾讯服务器,昨日偶然发现腾讯送了叮当哥半年cos对象存储服务器,于是就撸起袖子传了几张珍藏大图上去,现将其上传简单使用步骤总结一波(其它操作参加官方SDK文档...cos服务器配置文件(tencent.properties) # 这些配置在腾讯控制台都可查到(使用时替换为你自己) # 腾讯SecretId(永久,可在控制台开启或关闭) tencent.SecretId...# 腾讯bucket (存储桶) tencent.bucket=dintalk-1228321366 # 腾讯region(bucket所在地区) tencent.region=ap-beijing...# 腾讯allowPrefix(允许上传路径) tencent.allowPrefix=* # 腾讯临时密钥时长(单位秒) tencent.durationSeconds=1800 # 腾讯访问基础链接...//腾讯bucket (存储桶) private static String bucket; //腾讯region(bucket所在地区) private static

    18.9K52
    领券