上期我们给大家带来分布式数据管理如何完成数据存储,数据同步,数据跨端访问,并保证整个过程中跨设备数据安全的解读。
分布式数据服务(Distributed Data Service,DDS) 为应用程序提供不同设备间数据库数据分布式的能力。通过调用分布式数据接口,应用程序将数据保存到分布式数据库中。通过结合帐号、应用和数据库三元组,分布式数据服务对属于不同应用的数据进行隔离,保证不同应用之间的数据不能通过分布式数据服务互相访问。在通过可信认证的设备间,分布式数据服务支持应用数据相互同步,为用户提供在多种终端设备上最终一致的数据访问体验。
分布式数据库进入人们的视野已经很久了。相对于传统的集中式数据库,分布式数据库在高性能、高可用、平滑拓展、高可靠、低成本等许多方面具有优势。 但时至今日,关于分布式数据库,似乎一直缺少足够权威和客观的解读。 现在,国家白皮书来了! 为了明确分布式数据库的概念,梳理分布式数据库的技术体系和应用现状,对未来的技术和应用趋势进行研判,中国软件评测中心牵头组织了腾讯云等厂商参与,调研了国内主要分布式数据库产品厂商,并对部分产品进行了测评,参考了国内外主要研究机构的学术成果,历时半年共同编制了《分布式数据库发展路径研
第一代的“存算一体”数据库是80年代的IBM大机,提供计算、数据库、存储、中间件,解决了核心交易场景对性能和可靠性的诉求,但他的缺点同样明显,贵!高昂的采购费用、封闭的硬件生态和高昂的售后维保价格,大机的垄断,即使是银行这类不差钱的企业也感到肉疼。大机有限的存储扩展能力,也限制了数据库的容量。
水平拆分的概念随着分布式数据库的推广已为大部分人熟知,分库分表、异构索引、小表广播、这些功能几乎是产品功能需求标配。然而有些客户使用分布式数据库后的体验不尽如意。本文尝试从数据的角度总结分布式数据的复制(replication)和分区(partition)技术原理和方案,其中分区也有称为分片(sharding),希望能引起读者一些思考,在分布式数据库选型中能注意这些细节的区别,选择适合业务的数据水平拆分方案。
金融行业作为国民经济的命脉和枢纽,对数据库有着极为严苛的要求。近年来,国产金融级分布式数据库迈上了发展的快车道,在多个领域不断取得新突破。
TDSQL获奖啦! 众所周知,TDSQL是一款非常优秀的数据库产品 因此,TDSQL获奖应该也是不值得惊讶的事情了。但这次,TDSQL拿了两个(→这话我是不是之前说过了 ) 2021年4月7日至8日,2021 GDCC 全球分布式云大会在北京举行。 在所有企业乘“云”而上的生态背景下,诞生了众多行业的领航者和开拓者,产生了引领分布式云技术的优秀产品。借这一趋势,全球分布式云联盟经过数月的策划、在报名的众多企业中进行仔细的遴选和评审,最终设立了“分布式云奖项”,并通过“全球分布式云大会·颁奖典礼”进
“一个数据库包打天下的时代已经结束了”四川省农村信用社联合社信息科技中心高级工程师桂俊鸿在采访中表示。事务型、联机型、NoSQL、文档型、列式存储、时序数据库、图数据库……在近年来这些数据库热词背后,是数据库技术及产品在面向不同业务场景逐渐细化分类,发挥长处,最终助力企业实现数字化目标。由于传统数据库在扩展性、容量等方面不能满足日益增长的数字化需求,架构层面从集中式向分布式转型的分布式数据库及相关产品备受关注。
互联网发展到现在,由于数据量大、操作并发高等问题,大部分网站项目都采用分布式的架构。
公司技术分为浓重,在众多的兴趣小组里面有一个分布式数据库的小组,本周五需要进分享,是在是惭愧,作为这个小组的 specialist, 啥都没有做,所以赶紧弄弄,要不说啥。
日前,基于国产金融级分布式数据库腾讯云TDSQL打造的张家港农商银行新一代核心业务系统成功上线投产。这是在国内银行首次在传统核心业务系统场景下,采用国产分布式数据库,打破了该领域对国外数据库的长期依赖,率先响应了国家对金融核心领域技术自主可控的要求。
当下是分布式数据库发展的最佳时机。 中国移动互联网的快速发展,为新一代分布式架构技术体系提供了方向指引与最佳场景训练场,推动云计算时代分布式基础技术的诞生、演进。而国内自主研发的分布式技术的逐步发展,更是成就了一个个海量业务场景。 场景推动技术发展,技术也在支持、创造场景。历史告诉我们,每当新技术出现新的曙光,新商业已经蓄势待发。近年来,分布式数据库成为各大银行企业机构进行系统架构分布式转型的重要抓手。事实上,分布式数据库作为云计算时代的明珠,一次又一次撬动行业的变革:银行可以搭建全线上化的分布式互联网
分布式关系型数据库集分布式技术和数据库技术为一体,像Paxos/Raft和2PC已经是基础能力,不再赘述,这里主要是记录下一些较为脑洞的想法。为了简化,后面简称为分布式数据库。
文章主要介绍了腾讯云分布式数据库DCDB的一些特性、架构、以及业务价值。DCDB可支持大容量、高并发的业务需求,同时具备高可用性、高性能、以及更优的TCO。在架构上,DCDB采用了全冗余、全解耦的设计,保证了高可用性。此外,DCDB还具备弹性扩展的能力,能够根据业务的需求自动调整计算资源。通过这些特性,DCDB能够满足金融行业对数据库的各种需求,包括高并发、高可用、高稳定性、以及低成本。
本文是腾讯云TDSQL首席架构师张文在腾讯云Techo开发者大会现场的演讲实录,演讲主题是《TDSQL在银行传统核心系统中的应用实践》。 ---- 我是TDSQL架构师张文,同时也是TDSQL的开发人员之一。今天的分享内容主要包含四个部分,分别为银行行业现状介绍、核心系统分布式改造、TDSQL最佳实践和改造效果。 张文演讲现场 搜索关注“腾讯云数据库”官方微信,回复“1106张文”即可下载本视频演讲PPT。 一、关于TDSQL 银行数据库系统被外企垄断超过99%。数据库的复杂程度比拟操作系统,作为基础
2022年3月11日,重庆银行股份有限公司发布《2022年分布式数据库项目》招标公告,采购 260 万元。 货物规格型号及数量:分布式数据库*1套。 具体要求如下: 1、16节点的数据库物理服务器授权(按同城双中心部署架构,共4套独立集群,每套4节点,含数据复制或实时同步许可) 2、4套分布式群集管理配置许可(按同城双中心部署架构计算,含数据库群集管理模块或许可、运维工具、性能分析工具、监控工具) 3、一年原厂7*24维保服务;一年原厂DBA驻场服务及分布式数据库规划与设计服务(交付物包括不限于:《重庆银
分库分表是一种常见的解决数据库性能瓶颈的方法。通过将大表拆分成小表,将数据分散到多个数据库或服务器上,可以提高查询性能、减少锁的竞争、提高系统的并发处理能力。常见的分库分表策略包括水平拆分和垂直拆分。水平拆分是按照某个字段的值将数据分散到不同的表或数据库中,而垂直拆分是将一个表中的字段拆分到不同的表或数据库中。
单体数据库时代,随着系统交易量的不断上升,数据库读写性能出现了严重下降。我们可以借助分库分表中间件,比如mycat、shardingjdbc来实现分库分表,缓解单库的读写性能。但是分库分表中间件并不支持事务,如果要保证数据一致性,就需要借助于分布式事务中间件,比如阿里巴巴的seata。后来分布式数据库逐渐成为解决数据一致性的选择,目前分布式数据库产品已经比较成熟,支持ACID事务,本文就来聊一聊分布式数据库。
聊分布式数据库之前,先看看数据库的由来。我对数据库的最初认知来自于大学所学的一本书籍《数据库系统概论》(王珊 萨师煊版本),下面开始聊聊数据管理。
在传统数据大集中的环境下,银行核心系统很容易发生故障,而且一旦发生故障,影响面将特别广,带来很大的舆论压力和监管压力,历史上大型商业银行核心系统故障的例子不在少数。而且传统的集中式架构不易扩展,各模块间高度耦合,最终造成核心系统体量太过庞大、业务太过繁重。
1.分布式应用的概念和优势 分布式数据库是指利用高速网络将物理上分散的多个数据存储单元连接起来组成一个逻辑上统一的数据库。分布式数据库的基本思想是将原来集中式数据库中的数据分散存储到多个通过网络连接的数据存储节点上,以获得更大的存储容量和更高的并发访问量。近年来,随着数据量的增长,分布式数据库技术也得到了快速的发展,传统的关系型数据库开始从集中式模型向分布式存储,从集中式计算走向分布式计算。 分布式数据库系统的主要目的是容灾、异地数据备份,并且通过就近访问原则,用户可以就近访问数据库节点,这样就实现
近日,北京金融科技产业联盟发布了《分布式数据库单元业务应用研究报告》(以下简称:报告),腾讯云是报告的主要参编单位之一。报告分析整理了金融机构分布式数据库在单元化场景部署实施的需求,从单元化拆分、单元与分布式数据库部署对应、单元扩容、高可靠、灰度发布、数据同步及运维解决方案等多方面阐述分布式数据库在单元化业务场景下的部署思路,并提供了多个金融行业典型案例,为金融机构在单元化业务应用场景中使用分布式数据库提供参考。 图:《分布式数据库单元业务应用研究报告》 在金融行业中,腾讯云数据库TDSQL迅速抓住了国内
编者: 本系列文章分析行业动态,关注“数据和云( OraNews )”回复:下载。可以找到文档链接。 近日,沙利文发布了《2021年中国分布式数据库市场报告》,该报告对中国分布式数据库市场的发展进行了分析。以下从报告中摘录部分描述作为分享。 数据库的分类体系 此前的文章中,分享了CCF数据库专委会和墨天轮社区联合发布的《数据库系统的分类和评测研究》,对数据库的分类做了论述,沙利文的报告通过一图将论文结果更直观清晰的表达出来,大家参考: 中国是分布式数据库创新热土 在中国市场,分布式数据库发展正处于“爆发
从内部自研到向行业开放,TDSQL走过来十数年的发展,向上支撑着超过500+金融政企机构的信任和托付。保持持续的求实创新,满足客户需求,是我们永恒的坚持。
分布式数据库是相对于集中式数据而言的,具备分布式数据管理能力的一种新型数据库软件产品。是面对高性能、大数据量业务系统,特别是无法进行大规模重构的业务系统,实现分布式能力引入的一种有效解决方案。分布式数据库具备数据分片管理、分布式事务、读写分离等关键分布式能力,能够为应用提供类似与集中数据库的使用方式,可以降低应用实施分布式改造的复杂度。近年来,各国产厂商都在积极推进分布式数据库产品的研发,技术已经逐步成熟,金融行业也已经有成功案例投入生产系统使用。本文尝试从多个角度,阐述金融行业分布式数据库转型所面临的问题及解决思考。
蚂蚁集团自研数据库OceanBase已经开源,这对国产分布式数据库来说,是一个重磅消息。一直以来OceanBase作为商业数据库,披露的技术细节并不多,以后又多了一个可以拿来研究的优秀分布式数据库。参考1[1]
光大银行也是很有魄力的,拿出了一个重要的业务系统进行一次试点,做了一次这种分布式架构转型的项目。我有过十余年DBA相关的经验,不过之前接触比较多的主要还是传统的商用型数据库,所以能作为这次项目的推进人,也是我个人在这种新的架构下的一次学习的过程。
随着业务规模的扩大,传统数据库面临诸多限制,分布式数据库成为解决之道。本文 介绍了北京银行在数字化转型过程中对分布式数据库技术的探索,分享了 TiDB 在北京银行的应用历程和未来展望 。
最近席卷全网的神剧《庆余年》,听说一开始不屑一顾的人,看了之后都会说“真香”。 数据君1.5倍速补课之后,秒被爱财怕老婆又善吹彩虹屁的老王圈粉。 众所周知,“宝藏男孩”王启年贪财和怕老婆两个特性不分先后,赚钱藏钱一把好手。 要薪资的时候,他这样说: 为什么要藏呢?他的钱全部上交给了老婆,享受“体贴入微”的搜身,平日里也只能想尽办法藏点钱充到小金库。 办公室文件里有银票: 脚趾缝里有铜板: 请范闲吃饭,从鞋袜中掏出两枚铜钱,豪气的说:“我请你吃饭!”这对他来说,简直是最破费的一次了。 但
近些年来,国产数据库成为较热门的话题。有越来越多的公司考虑采用国产数据库产品。近期在与twt社区的互动中,发现有大量相关的讨论,关注度也较高。特将自己回答的部分问题摘录如下,也算是对若干热点问题的个人观点。
数据库部署架构是从容量、可用性、性能、成本等多方面权衡的结果,网商银行基础架构从建行之初满足快速业务响应的分布式架构,到单元化架构的落地,再到云原生时代,其中伴随着业务的快速发展,数据库的部署架构也经过多个版本的迭代发展。 容灾方面,从最初的“两地三中心”,具备机房级容灾,不具备全部的城市级容灾,经过扩容建设发展到现在的“三地五中心”。具体部署方式如图3-1-1所示,采用3-2-1的部署方式,任意一个城市的故障,通过选主(选择主库)实现主库的切换完成容灾。 图3-1-1 “三地五中心”架构 分布式业务
在数据量持续爆增、数据日益多样化的今天,传统数据库的迭代速度已经追不上数据的增速,企业对数据库计算和存储能力的要求也越来越高。不久前,腾讯云数据库分布式TDSQL发布金融级全自研新敏态引擎,可以完美适配金融敏态业务。
2022 年 1 月 6 日,由中国电子技术标准化研究院指导、 CSDN 主办、OceanBase 承办,InfoQ、木兰开源社区、开源中国、51CTO、思否、dbaplus、墨天轮、稀土掘金协办的【DC2021 分布式数据库开发者大会】正式开幕。受疫情影响,本场大会采用了线上的方式与数据库开发者共话当下最前沿的技术趋势,分析企业技术实践,共创“数聚未来”。
日前,微众银行顺利完成了首场断电演练。这是一场模拟单个数据中心完全不可用的灾难恢复演练,通过模拟城市级灾难事故,切断其中一个IDC中心来检验提升系统恢复服务、数据安全保障能力而进行的运维活动。 在腾讯云企业级分布式数据库TDSQL的技术支撑下,IDC中心失联后,微众银行的全量业务“秒级切换”到其他数据中心,真正实现了业务“零感知”,在金融行业内尚属首次。 为了模拟单个中心故障的场景,运维人员关闭一个数据中心的所有内外网出口,用户流量立刻自动切换到正常的数据中心,全行所有业务和渠道正常提供服务,真正做到用
| 大咖介绍 苏强,腾讯云数据库资深产品经理,拥有多年ToB产品策划、产品运维经验。曾在多个知名企业任职产品经理,主导或参与多款业内知名的B端产品从0到1过程,部分主导产品已实现同类产品占有率第一。接手腾讯分布式数据库以来,主要负责腾讯云分布式数据库功能策划、市场能力建设、服务支撑能力建设和团队建设等。 ---- 大家好,我是来自腾讯云的苏强。从腾讯云分布式数据库商用那天起,我就在分布式数据库团队里,所以可以很自豪地说,我是最了解腾讯云分布式数据库的人之一。今天我将和大家分享近两年来分布式数据库在金融行业
嘉宾 |李卫、王南、杨建荣、刘博 编辑 |赵钰莹 随着信息技术的迅猛发展,各行各业产生的数据量呈爆炸式增长,传统集中式数据库的局限性在面对大规模数据处理中逐渐显露,从而分布式数据库应运而生。分布式数据库是在集中式数据库的基础上发展起来的,是分布式系统与传统数据库技术结合的产物,具有透明性、数据冗余性、易于扩展性等特点,还具 备高可靠、高可用、低成本 等方面的优势,能够突破传统数据库的瓶颈。 分布式数据库目前已应用到金融、电信等大数据行业,未来将走向更广阔的领域。本期“数据库 Talk Show”圆桌直
日前,福建海峡银行新一代核心业务系统正式上线,关键业务系统采用“微服务+分布式”架构,顺利完成数据库国产化替换。 新核心改造历时14个月,依托腾讯云企业级分布式数据库TDSQL良好的兼容性、成熟的迁移能力和技术服务支持,海峡银行快速完成了核心系统的国产数据库替换,并基于腾讯云数据库TDSQL两地三中心高可用架构,实现了同城双活和异地容灾。与新核心系统同时上线部署的还有会计核算、总账系统以及数据标准和数据仓库。 “微服务”是近年来热门的架构模式,它提倡将单一应用程序划分成一组小的服务。服务之间相互协调、互相
随着全球经济下行压力增大,中美贸易摩擦愈演愈烈,美国一系列的经济制裁和技术封锁使得我们有种被扼住咽喉的感觉,数据库作为基础软件中的重要一环有着很深的技术含量,在这样的大背景下国产数据库厂商开始发力,这其中分布式数据库如雨后春笋般出现,良性的竞争环境使它们都得到了长足的发展,其中不乏优秀的产品,本文主要挑选目前几个相对成熟数据库进行架构特点介绍。
近日,AWS首席布道师Jeff Barr在AWS官网发文宣布:亚马逊消费者业务永久去掉Oracle数据库。
分布式数据库,无疑是近些年来数据库领域的重大技术进步。越来越多的用户考虑将传统集中式或单机数据库,迁移到分布式数据库。然而,正如同其他新技术一样,使用分布式数据库同样面临一定的使用门槛。如何平滑地迁移到这一新架构,享受新架构带来的优势的同时,还需规避潜在的劣势。尽管很多分布式数据库产品,正努力降低使用门槛,让用户近似传统数据库的体验去使用它,但这一过程仍面临诸多问题。此外,要想更好地使用分布式数据库,是需要其实现细节有着更多的了解。本文,尝试从研发角度谈谈,如何上手分布式数据库,针对常见的如何做表分片、如何选择分片键等问题加以描述。为了降低过程难度,结合之前在项目实施中的一点经验,自己也尝试编写工具来方便迁移分析。
12月28日,北京金融科技产业联盟正式公布了2023年度优秀课题评选结果,腾讯云参与研究的4个课题入选年度“十佳课题”、12个课题入选年度“优秀课题”,研究内容涵盖应用创新、分布式数据库、金融数据、金融信息基础设施、开源技术、量子技术、5G等领域,对金融行业全面应用国产技术栈具有重要的指导意义,对金融机构深化数字化转型升级具有重要的参考价值。
2019中国国际金融展“金鼎奖”评选结果日前揭晓,腾讯云TDSQL凭借创新的技术突破与在金融核心场景下的成功应用实践,荣获“金鼎奖——年度优秀金融科技解决方案奖”。 中国国际金融展是中国金融开放创新成果的展示、交流、传播平台,历经27载发展,已成为展示中国金融发展成就、宣传金融改革成果、促进金融产业创新和推动金融信息化发展的有效平台。“金鼎奖”评选作为金融展最重要的活动之一,将根据申报项目的品牌影响力、核心竞争力及成功应用案例等考量内容,综合评定出国内金融行业中最先进、最高端的技术、产品和服务亮点成果
作者简介:吴夏,腾讯云 TDSQL 高级工程师,多年分布式数据库系统研发经验,目前主要负责 TDSQL 异构数据同步与迁移能力的建设,曾支持大量金融行业数据库迁移同步。 ---- 随着国家有关部门近年来陆续出台相关政策指导文件,推动探索安全可控的金融科技产品,加强银行业信息安全建设,国内众多金融政企机构开始探索借助数字化技术,来实现原有IT系统的转型升级,从而实现降本增效,已经成为行业发展的共识。 腾讯自研的金融级分布式数据库TDSQL的金融政企用户数已突破600家。作为一款安全可控的金融级数据库,TD
一款的优秀国产分布式数据库应该表现如何?尽管你可能没有察觉,但领先的数据库产品已经在产业化的道路上越走越远、越走越深入,助力行业数据库实现全面自主可控。 日前,CCF主办的2019 中国计算机大会(CNCC 2019)在苏州落下帷幕。会上,腾讯金融级分布式数据库TDSQL负责人潘安群分享了TDSQL的15年研发演进历程。 据了解,在十数年的积累打磨中,TDSQL持续地优化分布式、高可用、高性能等特性,以及不断完善满足客户的需求。而统计数据显示,作为一款自主可控数据库,TDSQL持续在行业保持领先,
HarmonyOS是万物互联时代的操作系统。通过分布式技术,HarmonyOS将多台终端形成一台“超级虚拟终端”,让用户使用多设备如同使用单设备一样简单。那么在这个“超级虚拟终端”中,数据怎么存储?怎么同步?怎么访问?想必是大家最关心的问题。
如果说核心系统是金融机构业务系统的“心脏”,那么数据库则是“心脏”的“心脏”,业务数据就像流淌在业务系统中的“血液”,拥有一颗健壮的“心脏”是系统高效处理业务和维持正常运转的必备条件。由于金融级数据库技术的高度复杂性,国内金融机构的核心系统长期依赖国外商用数据库产品,金融机构不但无法自主掌控核心系统的“心脏”,而且还需要长期投入高昂的软硬件成本,同时互联网业务的爆发性增长也导致“心脏”压力骤增,成本呈指数级增加。因此,如何实现金融级数据库的自主可控和降本增效,为核心系统平稳换“心”,成为金融行业关注的焦点
领取专属 10元无门槛券
手把手带您无忧上云