Loading [MathJax]/jax/output/CommonHTML/config.js
前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >COS存储跨园区同步方案

COS存储跨园区同步方案

原创
作者头像
wainsun
修改于 2020-06-13 15:18:53
修改于 2020-06-13 15:18:53
2.4K0
举报
文章被收录于专栏:伟哥专栏伟哥专栏

对象存储(Cloud Object Storage,COS)是腾讯云提供的一种存储海量文件的分布式存储服务,用户可通过网络随时存储和查看数据。腾讯云 COS 使所有用户都能使用具备高扩展性、低成本、可靠和安全的数据存储服务。

COS同步方案一览

名称

同步时间

同步方式

依赖

跨区域复制

触发后实时

主动同步(API级触发)

同园区跨区域任务队列负载

COS Migration工具

轮询list+秒级间隔

主动同步(轮询检索)

CVM或客户端性能资源和带宽能力

回源拉取

触发后实时

被动同步(回源拉取)

同园区回源任务队列负载

SCF事件触发

触发后实时

主动同步(事件触发)

SCF并发处理能力

数据同步方案1:跨区域复制同步能力

跨区域复制同步
跨区域复制同步

针对于强数据一致性的同步场景,跨区域复制功能可以很方便的通过控制台配置来实现数据的跨园区同步。

此方法优点:配置简单,控制台可视化。

此方法缺点:数据强一致性,仅适合对象同步,不含逻辑处理的场景。

数据同步方案2:工具周期同步能力

工具周期同步
工具周期同步

针对于实时性要求较高的同步场景,使用migration工具可以实现自定义时间同步策略。

此方法优点:可配置的轮询时间周期,同步内容与日志直观可见。

此方法缺点:依赖于CVM/客户端资源,受限于中转主机带宽资源。配置较复杂。

数据同步方案3:回源拉取同步能力

回源拉取同步
回源拉取同步

针对于热数据同步的场景,部分数据同步,降低存储成本。

此方法优点:配置简单,仅热数据被同步,节省存储空间。

此方法缺点:第一次访问会被302重定向源站,源站带宽有开销;只能被动同步,不能主动全量同步。

数据同步方案4:SCF事件触发同步能力

SCF事件触发同步
SCF事件触发同步

适用于大规模且实时性较高的数据同步,以及业务逻辑较为复杂的同步场景。比较值得推荐的方法

此方法优点:利用SCF来实现高性能的数据同步操作,通过SCF来部署代码,具备完善的监控和日志体系,可实现较为复杂的业务同步逻辑。

此方法缺点:需要一定的编码能力,需要对VPC,SCF,COS等多种产品非常了解,配置较为复杂。

这几种方式满足不同的需求场景,而同步的性能也略有不同

  • 如果数据量不大,且希望自主控制同步时间,推荐使用“Migration工具同步”。
  • 如果希望实现跨地域灾备,对象完整备份,实时性要求很高,推荐使用“跨地域同步”。
  • 如果希望仅热数据同步,并结合腾讯云CDN产品,且源站带宽资源可靠,对用户提供无缝访问服务。推荐使用“回源同步”。
  • 如果需要实现自有业务逻辑,多目标同步,对扩展性、性能都有一定要求,同时也希望节省一定外网流量费用,综合从这几个方面看。性价比较高且经济实惠的方式推荐为“SCF事件同步”。

COS高可用数据同步方案

通过数据同步方案4的架构,结合COS自身特点与相关产品的功能,我们可以绘制出一个具备数据高可靠 + 高可用 + 容灾能力 + 故障切换能力的整体架构图。

数据高可靠:通过上传至Master桶后,可实现实时跨区域数据同步,包括多云(友商云)同步。确保数据主从分离,天然支持业务层多副本冗余,提升数据可靠性。

  • 因采用底层存储多副本和纠错码机制,单桶的可靠性可达99.999999999%
  • 通过多桶实时同步方式,可将数据中心分散至多个园区,执行不同的策略或授权,进一步降低误操作等一系列人为故障。
  • 通过SCF结合主流云服务提供商API,可实现多云的数据同步,进一步提升数据安全性。

服务高可用:通过多桶串联同步+CDN多源站机制+COS回源拉取,提升服务的连续性与健壮性。

  • SCF 上传触发事件为created事件,在数据上传完成后触发,确保待上传的数据完整。
  • 采用COS回源功能,能确保在资源上传Master后,但未同步至Slave和Backup节点时出现的数据访问失败问题。提供连续性的数据访问能力。

容灾能力:跨园区的多中心/多云策略,可最大限度避免大规模线路故障或服务提供商带来的影响。

  • 多园区中心同步,通过中心节点互备,可避免局部性的运营商线路问题。
  • 结合CDN产品,可提供多源访问,进一步避免局部运营商问题。

故障切换能力:丰富的多节点入口,可提供灵活的数据源切换,提升灾备切换能力。

  • 结合智能DNS,监控等手段,用脚本自动化方式来实现故障的自动切换。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
腾讯云存储跨园区同步方案
孙伟:腾讯云高级技术工程师,主要负责腾讯云存储和中间件产品的技术支持专项工作。有8年以上的云存储技术支持、数据迁移和架构方案经验。曾任职于其他云友商公司,担任过研发、产品改进、售后等多项工作岗位。
云存储
2019/11/28
4.7K0
腾讯云存储跨园区同步方案
腾讯云COS对象存储占据数据容灾C位
然而,随着企业核心业务逐渐从线下迁移到云上,客户提出了更高的要求。如何确保云上业务的高可用、数据的高可靠,这对云厂商提出了新的挑战。
云存储
2021/01/20
3.6K0
腾讯云COS对象存储占据数据容灾C位
IDC、友商云数据上云(COS)最佳实践
本文从通用的数据上云场景,以及友商云数据迁移场景出发,介绍基于腾讯云对象存储(COS)的上云步骤,包括迁移前的环境准备工作,云上的配置与迁移工具的实施,数据的一致性校验,云上业务的切换与验证。
wainsun
2021/08/18
2.4K0
IDC、友商云数据上云(COS)最佳实践
COS对象存储数据冗余备份方案
一般意义上,备份指的是数据备份或系统备份,容灾指的是不在同一机房的数据备份或应用系统备份。备份采用备份软件技术实现,而容灾通过复制或镜像软件实现,两者的根本区别在于:
wainsun
2023/03/07
3.8K0
COS对象存储数据冗余备份方案
腾讯云对象存储 COS 高可用解决方案,都在这里了!
上一篇内容我们说到了 COS 是什么“要对象存储做什么,我有女朋友就够了!”的文章。本文将着重介绍如何尽可能的提高腾讯云对象存储 COS 的可用性。
云存储
2019/12/06
2.8K0
腾讯云对象存储 COS 高可用解决方案,都在这里了!
腾讯云对象存储COS安全方案介绍
​相信所有企业和个人开发者在选用云存储产品时都把数据安全作为重要考量标准。 本文介绍了用户如何使用腾讯云对象存储COS的事前防护、事中监控、事后追溯三个手段来保证自己的数据安全。
云存储
2020/03/03
7.3K0
企业业务上云,云上数据的容灾备份和高可用性如何解决呢???
数据中心运行突发故障(如:天灾不可避免的灾难)是无法预测的,计算机里的数据就像扫雷游戏一样,十面埋伏充满雷区,随时都有可能Game Over,容灾备份就是数据安全的最后防线,是你可以避免由数据中心发生故障而丢失数据引发的不可挽回的局面。
云存储
2020/05/26
1.1K0
企业业务上云,云上数据的容灾备份和高可用性如何解决呢???
使用腾讯云SCF实现COS费用封顶的最佳实践
腾讯云COS对象存储,在使用的过程中,为了降低开发成本或单纯的出于“便捷”的考虑,往往将存储桶设置为公有读状态。但这也埋下了巨大的安全风险的种子,在各种流量盗刷场景下,会快速吸干账户余额,正可谓“公有一时爽,盗刷就破产”。
wainsun
2023/04/05
11.8K1
使用腾讯云SCF实现COS费用封顶的最佳实践
对象存储COS-腾讯云对象存储服务COS
对象存储(Cloud Object Storage,COS)是由腾讯云推出的无目录层次结构、无数据格式限制,可容纳海量数据且支持 HTTP/HTTPS 协议访问的分布式存储服务。腾讯云 COS 的存储桶空间无容量上限,无需分区管理,适用于 CDN 数据分发、数据万象处理或大数据计算与分析的数据湖等多种场景。COS 提供网页端管理界面、多种主流开发语言的 SDK、API 以及命令行和图形化工具,并且兼容 S3 的 API 接口,方便用户直接使用社区工具和插件。
用户3570397
2019/08/06
18.4K0
容错架构完全指南:从单点故障到99.99%可用性的蜕变
当数字世界的脉搏以毫秒为计量单位,服务器集群的异常心跳可能瞬间演变为企业级灾难——数据断流、交易冻结、用户信任崩塌……在云原生时代,"可用性"早已超越技术指标,成为商业生命线的核心保障。
Michel_Rolle
2024/12/28
1.6K0
客户容灾案例--利用CDN备份源站实现COS双写双读
腾讯云对象存储 COS 为客户提供了99.95%的可用性和99.999999999%的可靠性。由此可见,数据可靠性是极高的,即使在极端故障场景下,也可以保证客户的数据不丢失。但实际线上系统更常遇见的是,因为网络拥塞、程序异常等原因,而导致的COS服务不可用,如对象读写失败,API调用异常等。当这些故障发生时,如果没有合适的冗余措施,即使存量数据不丢失,也会造成一段时间线上服务有损,影响用户使用体验。本文会结合一些客户的实际案例介绍一种COS服务的高可用方案。
yiwei
2021/10/18
1.6K0
首届云上广交会存储服务架构与实践
疫情压力下,广交会63年来首次整体搬上“云端”,首次整体搬上“云端”的广交会运行平稳,服务了217个国家和地区的采购商观展。作为本届广交会的技术服务商,腾讯为广交会网上举办提供整体技术支持、平台研发服务与云资源支撑。
hustxiong
2020/08/10
4.2K0
卢萌凯:玩转SCF与COS的结合应用
大家好。我是腾讯云中间件及无服务器云函数架构师。我今天介绍分四部分:第一,对象存储COS简介。第二,比较实用的一部分,SCF与COS结合使用的应用场景。第三,比较有意思,人脸识别Demo。调用AI的接口,用几行代码就把人脸识别的Demo就实现了。最后一部分是最佳实践。其实主要是来看一下在COS使用过程当中有哪些需要注意的地方。
腾讯云开发者社区技术沙龙
2018/08/29
2.1K0
腾讯云对象存储 COS 荣获对象存储领导力奖!!!
亚太内容分发大会暨 CDN 峰会一直致力于推动 CDN 产业深度融合发展和市场普及,现已成为亚太地区影响力最大的内容分发网络盛会。十年来,在以腾讯云、阿里云、网宿科技等亚太 CDN 产业联盟成员孜孜不辍的努力下,CDN 产业已经成为基础性设施网络,以坚定的基石之姿,支撑起中国成为世界最大的互联网市场。
云存储
2021/06/21
6.4K0
腾讯云对象存储 COS 荣获对象存储领导力奖!!!
数据持久性是如何炼成的——对象存储容灾技术解析
存储系统作为支撑人工智能发展的关键基础设施,不仅需要提供弹性、海量数据存储能力,还要保证数据的安全性和可靠性,以确保业务的核心数据资产得以持久存储,大模型时代对海量数据的安全可靠存储提出了更高的要求。
云存储
2025/02/10
1080
数据持久性是如何炼成的——对象存储容灾技术解析
“两地三中心”和“双活”简介--容灾技术方案
当前市场上常见的容灾模式可分为同城容灾、异地容灾、双活 数据中心、两地 三中心几种。
kubernetes中文社区
2020/06/16
15.5K0
如何实现客户对象存储数据迁移到腾讯云COS
在云计算客户的拓展过程中,会面临客户的各种需求。其中最常见的需求包括,如何在云计算上构建客户的业务系统,搭建基础架构;另外一个就是如何实现客户数据的高效存储,包括存储新产生的用户数据,以及将现有的用户数据平滑迁移到云计算上来,提供更方便,更快捷的访问。
张小波
2018/10/24
4.6K0
TStor OneCOS 2022新版本发布 —— TStor OneCOS对象存储专注海量数据,一套集群长久适用
TStor OneCOS简介 “ TStor OneCOS海量对象存储,是基于腾讯云公有云存储架构打造的完全自研的分布式软件定义存储,轻松支持单桶万亿对象和EB级容量,集群容量无限伸缩,同时支持自研4U60高密服务器。 ” 经过版本不断迭代,持续加强功能和优化性能,当前最新推出V1.1.1版本,主要更新如下: 小文件合并 处理海量小文件对于对象存储一直是一个巨大挑战,很难实现性能和空间利用率的兼得。基于云上存储实践经验,OneCOS底层Yotta存储引擎选择异步合并方式作为最佳方案。为了保证小文件写入性
云存储
2022/09/27
7530
TStor OneCOS 2022新版本发布 —— TStor OneCOS对象存储专注海量数据,一套集群长久适用
容灾系列(十)——数据热备容灾能力建设【基础篇】
企业业务敏感程度差异,对容灾指标RPO&RTO要求也不同。之前两篇文章主要介绍数据冷备,主要特点是数据备份存储非实时,备份系统存储数据通常昨天的数据,当灾难真正来临的时候,今天新产生的数据会丢失情况。对于企业核心业务来讲,业务恢复(RTO)可以接受小时级别,但是对于数据无法接受丢失,即RPO接近为“零”。结合腾讯云数据备份能力,本文重点介绍数据热备解决方案,旨在让客户上好云,用好云,管好云。
开元
2022/09/26
5.3K0
容灾系列(十)——数据热备容灾能力建设【基础篇】
中间件PaaS层组件容灾方案及实践
当下,随着数字化技术不断深入,愈来愈多企业将核心业务搬到线上。业务系统高可用、可扩展、容灾能力决定企业系统的连续性,中间件作为构建企业核心系统的重要组成部分,其高可用容灾能力也将决定应用系统的。本文结合腾讯云中间件各PaaS产品的容灾能力及实践,以一个行业头部客户业务容灾实践举例,来展开说明基于腾讯云中间件PaaS层相关产品的实践。
邓愉悦
2021/05/31
4.4K12
推荐阅读
相关推荐
腾讯云存储跨园区同步方案
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档