一年一度的双十一又双叒叕来了,给技术人最好的礼物就是大促技术指南!而经过这些年的发展,大促早已不仅仅局限于电商行业,现在各行各业其实都会采用类似方式做运营活动,汽车界有 818,电商有 618 、11.11 等等,各种各样的大促场景,对包括数据库在内的基础软件提出了很多新挑战,同时也积累了诸多最佳实践。
本文是腾讯云TDSQL首席架构师张文在腾讯云Techo开发者大会现场的演讲实录,演讲主题是《TDSQL在银行传统核心系统中的应用实践》。 ---- 我是TDSQL架构师张文,同时也是TDSQL的开发人员之一。今天的分享内容主要包含四个部分,分别为银行行业现状介绍、核心系统分布式改造、TDSQL最佳实践和改造效果。 张文演讲现场 搜索关注“腾讯云数据库”官方微信,回复“1106张文”即可下载本视频演讲PPT。 一、关于TDSQL 银行数据库系统被外企垄断超过99%。数据库的复杂程度比拟操作系统,作为基础
《MySQL冲冲冲》是由 IMG 社区和爱可生开源社区联合举办的一款专门针对 MySQL 技术话题的节目,以下是第五期的直播内容。
2022年3月11日,重庆银行股份有限公司发布《2022年分布式数据库项目》招标公告,采购 260 万元。 货物规格型号及数量:分布式数据库*1套。 具体要求如下: 1、16节点的数据库物理服务器授权(按同城双中心部署架构,共4套独立集群,每套4节点,含数据复制或实时同步许可) 2、4套分布式群集管理配置许可(按同城双中心部署架构计算,含数据库群集管理模块或许可、运维工具、性能分析工具、监控工具) 3、一年原厂7*24维保服务;一年原厂DBA驻场服务及分布式数据库规划与设计服务(交付物包括不限于:《重庆银
1月21日,北京国家金融科技认证中心正式发布《2021年分布式数据库标准符合性检测参检机构名单》,腾讯云分布式数据库TDSQL名列其中,成为首款通过检测的互联网公司数据库产品,同时标志着TDSQL满足分布式数据库金融行业标准的各项要求,可以更有力支撑金融机构的业务系统。 数据库是承载金融数据的关键信息基础设施,也是金融机构的信息库和核心中枢。分布式数据库具有水平扩展、高可靠、高可用、低成本等关键特性,已经成为金融行业数字化转型的重要支撑。近年来,随着金融业务数据量的爆发式增长,金融行业对分布式数据库的技
摘要:分布式数据库市场发展迅速,TDSQL、GuassDB、OceanBase、GoldenDB、TiDB 等各类分布式数据库产品纷纷涌现,尤其在金融行业的落地越来越多。提高分布式数据库的可观测性,提升用户对产品稳定性、可靠性的信心,是金融核心业务云原生化的重要保障。DeepFlow 通过 eBPF 技术零侵扰实现的全景图、分布式追踪和持续剖析等能力为分布式数据库的可观测性建设提供了开创性的新思路。本篇文章以某国有银行分布式核心交易系统为例,介绍 DeepFlow 如何实现 TDSQL 的全链路可观测性,分享如何在客户实践中通过应用、网络、数据库的全栈、全链路统一观测,真实做到 2 至 3 步操作、5 分钟以内的业务异常定界定位。
国产数据库的火热从来不是一夜时间的事情,虽然看起来像是一夜梨花开,但更重要是一直以来源头创新工作的厚积薄发。 6月20日-25日,2021 ACM SIGMOD 即将在西安举行。在今年的SIGMOD会议现场,来自腾讯云数据库TDSQL的大咖们将受邀分享自己的洞见和理论创新成果,展示腾讯云数据库TDSQL在数据库基础创新领域的最新探索和研究成果。 今年,TDSQL相关论文被入选SIGMOD,领域涉及分布式数据库事务处理、存储等关键技术领域,致力于从基础理论层面推动数据库技术创新突破。其中,腾讯云原生数据
潘娟,京东金融高级DBA,主要负责京东金融生产数据库运维及数据库平台、中间件开发工作。多次参与京东金融6.18、11.11大促活动的护航工作。曾负责京东金融数据库自动化平台设计与开发项目,现专注于Sharding-Sphere分布式数据库中间件开发。乐于在数据库、自动化、分布式、中间件等相关领域进行学习和探索。
作者介绍: 那海蓝蓝,腾讯金融云数据库技术专家,熟悉PostgreSQL、MySQL、Informix等数据库内核技术,著有《数据库查询优化器的艺术》、《数据库事务处理的艺术》,在业界皆享有“里程碑”式的评价。小编0.7,毕业于北京邮电大学,MySQL社区Oracle Contributor,目前就职于腾讯TDSQL团队,研发分布式数据库。大米,毕业于中国人民大学,目前就职于腾讯TDSQL团队,研发分布式数据库。 责编:仲培艺 在数据库领域,回顾2017这一年,精彩纷呈,热点不断,而且不乏标志性的事件发生。
在数据库领域,回顾2017这一年,精彩纷呈,热点不断,而且不乏标志性的事件发生。 如Oracle提出的自治数据库这样的概念,把数据库技术带入一个新世界。其实AI技术应用于数据库由来已久,如AI技术调优数据库的性能、AI技术优化SQL、AI技术自动创建数据库索引(Learned Index)等。但是能把AI和数据库结合使之进入大众视野的,还非“自治数据库”莫属。 再如NDBC(中国计算机学会数据库学术年会)庆祝四十华诞、阿里入股MariaDB、国内类Aurora架构的产品争相发布、数据库事务处理等核心技术
在各种因素的推动下,分布式数据库已经成为一种技术潮流,甚至是新基建很重要的一部分,该类型数据库也在众多行业进行了广泛落地,供需两旺。分布式数据库的架构设计思想也很值得广大开发者学习。本文,InfoQ 希望呈现有关分布式数据库的架构设计优化及实践相关内容。
主题及时间 本期主题:2022年数据库技术未来趋势展望 时间:2022 年 1 月 13 日 20:00 直播内容 随着全社会数字化转型进程的深入,地球上的数据总量正在以指数级的速度成倍增长,其规模已无法测算。就在去年,我国也明确了数据在市场化配置过程中成为了继土地、劳动力、技术、资本之后的第五大生产要素。作为承载数据的基石,数据库与操作系统、中间件被列为三大基础软件。 据 Gartner, Inc 称,到 2022 年,所有数据库中有 75% 将部署或迁移到云平台,只有 5% 曾考虑返回到本地。而 ID
聊分布式数据库之前,先看看数据库的由来。我对数据库的最初认知来自于大学所学的一本书籍《数据库系统概论》(王珊 萨师煊版本),下面开始聊聊数据管理。
编者注:本系列选择行业分析报告进行分享,关注“数据和云”公众号回复:下载 。可以找到下载链接。 头豹研究院在2022年6月发布了,《2022年中国数据库产品策略解析报告》,对中国数据库产品技术进行了分析探讨,其中的技术总结值得一览,本文摘要进行分享。 ---- 数据模型是数据库系统的核心和基础,各种数据库都是基于不同的数据模型而生的, 对数据库技术发展阶段的划分基本按照数据模型的发展演变作为主要依据和标志。 评注:数据模型分类法,是数据库进行分类的第一个维度,墨天轮排行榜即按此作为第一分类。 数
关注腾讯云大学,了解行业最新技术动态 腾讯云CloudLite-分布式数据库TDSQL认证、腾讯云CloudLite-分布式数据库TBase认证是腾讯云数据库联合腾讯云大学发起的一款初级认证类型。拥有该认证表示您具备一定的腾讯云TDSQL、TBase管理运维能力。通过该认证的同学将会获得腾讯云出具的官方认证证书,适合初级数据库管理员,合作伙伴代理商,初级应用开发人员、销售人员等。 活动时间:11月16日-12月16日 Part1 腾讯云数据库学堂认证体系 1. 腾讯云CloudLite-分布式数据库T
WOT(World of Tech)全球技术创新大会是由51CTO开创的综合性高端技术会议品牌,致力于展现国内外技术领域热点趋势、搭建全球技术人的深度分享交流平台、推动先进技术的场景落地与行业融合。自2012年首次举办以来,WOT已在十年间通过十八场高质量技术盛会的输出,累计影响了数千家科技企业与数万名一线技术人员。
CDN和反向代理的基本原理都是缓存,区别在于CDN部署在网络提供商的机房,而反向代理是部署在网站的中心机房,当用户请求到达中心机房后,首先访问的反向代理,如果反向代理缓存着用户请求的资源,则直接返回给用户。
10多年前我毕业到广州工作,出火车站第一件事就是去路边报刊亭办一张“羊城通”卡用来乘坐公交地铁。 今天路边的报刊亭已十分稀少,“羊城通”也逐渐被扫码、NFC、数字货币等移动支付替换。公交支付的升级只是出行智能化的冰山一角。 艾媒咨询数据显示,中国智慧交通技术支出规模不断增长,2020年中国智慧交通技术支出规模达502.7亿元,同比增长16.26%,预计2021年中国智慧交通技术支出规模将达580亿元,轨道交通、公交、网约车、自动驾驶均在快速发展。 而作为城市出行基础设施的公交出行正在加速智能化,公交支付
编者注:本系列选择行业分析报告进行分享,与读者共同分析分享数据库行业的最新进展与动态。关注“数据和云”公众号回复:下载 。可以找到获得下载链接。 中金公司在2022年1月发布了一篇报告:《数据库系列报告开篇:技术路径复盘及展望》,报告中很多的总结和分析,对数据库行业做出了非常详细的分析,在这里我们摘录其中一些观点和大家分享,详细报告可以下载阅读。 报告的核心观点是: 数据库的过去:技术架构演进的背后是四股创新⼒量 1)数据模型的变迁 2)分析型需求的兴起 3)分布式架构的演进 4)开源思潮的流⾏。 数据库
作者:李海翔,网名“那海蓝蓝”,腾讯金融云数据库技术专家。中国人民大学信息学院工程硕士企业导师。著有《数据库事务处理的艺术:事务管理和并发访问控制》、《数据库查询优化器的艺术:原理解析与SQL性能优化》、《大数据管理》。 ---- 前言 2019年10月11日至13日,CCF数据库专委会在济南召开了国内规模最大的、每年一度的数据库学术盛会——第36届CCF中国数据库学术会议(NDBC 2019),腾讯TDSQL团队受邀在“数据库产学研合作论坛”,做了主题为“TDSQL对未来分布式数据库的技术研发思考与实践
有时候要下个定义挺难的,那么就从具体来说吧。博主曾经在京东工作过,大家都知道京东是个大型网站,这点应该没有异议。那它有哪些特点呢?
腾讯云CloudLite-分布式数据库TDSQL认证、腾讯云CloudLite-分布式数据库TBase认证是腾讯云数据库联合腾讯云大学发起的一款初级认证类型。拥有该认证表示您具备一定的腾讯云TDSQL、TBase管理运维能力。通过该认证的同学将会获得腾讯云出具的官方认证证书,适合初级数据库管理员,合作伙伴代理商,初级应用开发人员、销售人员等。 活动时间:11月16日-12月16日 Part1 腾讯云数据库学堂认证体系 1. 腾讯云CloudLite-分布式数据库TDSQL认证简介 数据库交付运维工程
本文讲述了 HDFS Router-based Federation 的架构和特性。
首先,分布式数据库的崛起与数据量的激增有着直接的关系。传统的单体数据库因存储和处理上的限制逐渐暴露出性能瓶颈。分布式数据库的出现,不仅仅是一种技术创新,它代表了对大数据时代的一种响应和策略调整,确保在数据量激增的情境下仍能保持高效的数据处理。
随着马蜂窝的逐渐发展,我们的业务数据越来越多,单纯使用 MySQL 已经不能满足我们的数据查询需求,例如对于商品、订单等数据的多维度检索。
在去年,ACMUG(全称China MySQL User Group,中国MySQL用户组)就和腾讯云一起为大家分享过数据库技术干货。 而本周六(4月17日下午13:30),ACMUG将再度联合数据库行业专家,一起为各位技术爱好者带来精彩的技术分享。下面跟随数据君一起来看看本次讨论腾讯云数据库的专家为大家带来的干货议题吧~ p.s.本次除了可以线上参会外,还可以在杭州进行免费的线下参会哦~参会方式详见文末。 TDSQL全局一致性读的实现 一、嘉宾介绍:腾讯云数据库专家工程师张文,拥有多年分布式数据库系
关系型数据库指的是使用关系模型(二维表格模型)来组织数据的数据库,由二维表及其之间的联系所组成的一个数据组织。
本项目由安超云投递并参与“数据猿年度金猿策划活动——2022大数据产业创新技术突破榜单及奖项”评选。
1.1 什么是数据库? 简单的说,数据库(英文Database)就是一个存放数据的仓库,这个仓库是按照一定 的数据结构(数据结构是指数据的组织形式或数据之间的联系)来组织、存储的、我们可以通过 数据库提供的多种方法来管理数据库里的数据更简单的形象理解。 1.2 数据库的种类 早期比较流行的数据库模型有三种,分别为层次式数据库、网络式数据库和关系型数据库。 而在当今的互联网中,最常用的数据库模型主要是两种,即关系型数据库和非关系型数据库。 1.3 关系型数据库介绍 (1)关系型数据库由来 网络数据库和层次数据库很好地解决了数据的集中和共享问题,但是在数据独立性和抽象 级别上仍有很大欠缺。用户对这两种数据库进行存取时,依然需要明确数据的存储结构, 支出存储路径。而关系数据库就可以较好地解决这些问 (2)关系型数据库介绍 关系型数据库模型是把复杂的数据结构归结为简单的二元关系(即二维表格形式)。 1.4分布式数据库与面向对象数据库 分布式数据库是数据库技术与网络技术相互结合的产物,他的重要特性就是数据分布的透明性 ,分布式数据库系统是一个统一的整体,用户不需要关心数据的逻辑分布,更不必关心数 据的物理分布 面向对象数据库是数据库技术与面向对象设计方法相结合的产物。在这一新型的数据库系统中 ,任何被开发的应用都成为对象目标库的一部分,由开发者和用户共享。
众所周知,在 SQL 方面处于顶级的有两个公司,一个是 Oracle,他们已经积累了大量的经验,另一个是谷歌,谷歌 F1 在2012年发布了一篇论文,个人认为它是全球最优秀的 SQL OLTP 数据库。
2019中国国际金融展“金鼎奖”评选结果日前揭晓,腾讯云TDSQL凭借创新的技术突破与在金融核心场景下的成功应用实践,荣获“金鼎奖——年度优秀金融科技解决方案奖”。 中国国际金融展是中国金融开放创新成果的展示、交流、传播平台,历经27载发展,已成为展示中国金融发展成就、宣传金融改革成果、促进金融产业创新和推动金融信息化发展的有效平台。“金鼎奖”评选作为金融展最重要的活动之一,将根据申报项目的品牌影响力、核心竞争力及成功应用案例等考量内容,综合评定出国内金融行业中最先进、最高端的技术、产品和服务亮点成果
云计算推动各领域架构技术更新换代,同时加速不同技术生态融合。历经数十年演进的数据库系统,在新技术时代仍面临着核心命题的挑战,也将迎来更多发展方向,在推动云时代数据库系统技术安全可控发展的道路上赋予了我们更多创新机遇。 为推动数据库基础研究发展,加强校企产学研合作交流,2021年5月17日,CCF数据库专委将走进腾讯深圳总部,联合腾讯举办主题为“云时代数据库基础研究的创新与挑战”的数据库技术论坛,聚焦云时代的数据库基础研究创新。 本次论坛分享嘉宾是来自中国计算机学会CCF数据库专委和腾讯的数据库技术专家教
Erlang(Ericsson Language)是一种通用的面向并发的编程语言,它由瑞典电信设备制造商爱立信所辖的CS-Lab开发,目的是创造一种可以应对大规模并发活动的编程语言和运行环境。Erlang问世于1987年,经过十年的发展,于1998年发布开源版本。Erlang是运行于BEAM(Bogdan/Björn’s Erlang Abstract Machine)虚拟机的解释性语言,但是现在也包含有乌普萨拉大学高性能Erlang计划(HiPE)开发的本地代码编译器,自R11B-4版本开始,Erl
Oracle 12C正式发布前,我曾经参加过一个中国企业用户与Oracle研发副总裁的圆桌会议,主要是提出国内企业级用户对Oracle数据库的一些需求,供Oracle下一个版本增加功能时参考。当时会上提出的很多需求后来在19c/20c里都看到了响应,不过这些还不是让我印象最深的,印象最深的是针对Oracle 12C SHARDING功能的讨论。
随着个人信息和隐私数据对于保密要求越来越高,各行各业对安全的要求也越来越高。而支撑各行各业的信息系统在设计和开发时,面临着安全方面的新挑战。数据库作为信息系统中数据存储和数据管理一个重要模块,其安全和设计显得尤为重要。近年来,分布式数据库在金融业加速落地,金融机构对分布式数据库安全有哪些需求?金融机构分布式数据库要如何进行安全设计?
2023年新年伊始,没想到最先到来的是市场的寒意。近一个月,Salesforce、谷歌母公司Alphabet、IBM、SAP等国外大厂纷纷裁员,轰轰烈烈的裁员浪潮下,谁又能独善其身。
受全球疫情影响,联合国75周年的数千场活动将搬到线上进行,在腾讯会议和企业微信上展开。
此次采访,希望能够将 OceanBase 具有创新性的技术演技历程展现在读者面前,让开发者和业内人士更加深入了解与 OceanBase 数据库有关的一切。
开源生态正在经历前所未有的繁荣。 今年 3 月,“开源”首次被明确列入国民经济和社会发展五年规划纲要。纲要提到,加快布局量子计算、量子通信、神经芯片、DNA 存储等前沿技术,加强信息科学与生命科学、材料等基础学科的交叉创新,支持数字技术开源社区等创新联合体发展,完善开源知识产权和法律体系,鼓励企业开放软件源代码、硬件设计和应用服务。 对开源社区的支持,对完善开源底层基础设施的规划以及对企业开源的鼓励,为开源生态的长远发展和繁荣注入一剂强心针。二季度以来,开源领域也发生了一些大事,如阿里云开放关系型数据库
业务系统上云后,得益于丰富的云产品,让高并发的系统架构成为可以,如支持海量的用户访问、解决跨运营商的互联问题等以前私有云难以解决的问题。我们今天介绍一下简单的高并发系统设计案例。
2021 Gdevops全球敏捷运维峰会 - 广州站,将在5月28日盛大举办。Gdevops经过创办6年成功举行近20场大会的经验积淀,本次峰会结合行业趋势与技术热点,精选出最能破解当下运维、数据库、金融科技领域核心痛难点的干货议题,不容错过的精彩看点本文带大家先睹为快!
影响Hive效率的几乎从不是数据量过大,而是数据倾斜、数据冗余、job或I/O过多、MapReduce分配不合理等等。对Hive的调优既包含对HiveQL语句本身的优化,也包含Hive配置项和MR方面的调整。
转载来源: https://www.cnblogs.com/ivan-uno/p/9051225.html
信息技术、计算机技术和互联网技术的高速发展促进了人类社会各类数据的爆炸性增长如何对这些结构复杂的大数据[注]进行有效管理己经成为当前社会的热点问题之一。自2011年EMC公司首次在年度大会中提出大数据的概念,己有多家公司和机构对大数据问题进行了研究。由于信息技术己经渗透到人类社会的多个领域,大数据问题会给整个社会带来深刻的影响可以预见,大数据问题必然会给信息技术产业带来一场深刻的技术变革。基于大数据的信息系统的技术创新是未来发展信息技术的关键,也是有关国家发展战略的重要课题。面对着大数据问题带来的机遇和挑战
1. CAP 定理 ---- CAP 定理(CAP theorem),又被称作布鲁尔定理(Eric Brewer),1998 年第一次提出。 最初提出是指分布式数据库存储不可能同时提供以下三种保证中的两种以上。 一致性(Consistency):每次读取收到的信息是最新的。 可用性(Availability):每个请求都会收到(非错误)响应。 分区容错(Partition tolerance):尽管节点之间的网络不通导致分区,系统仍继续运行。 事实上,不仅仅是分布式数据库存储应用,所有分布式系统都必
作者介绍:黄潇 , TUG 北京区 Leader ,TUG 2020 年度 MOA。
产品介绍:TDSQL分布式数据库是腾讯公司结合自身支付、金融等核心业务需求,紧紧抓住了国外传统集中式数据库难以适应业务规模快速增长这一现实问题,从2009年开始研制新一代分布式数据库系统TDSQL。并通过持续的产品化完善,实现国产分布式数据库的市场通用化,助力金融政务等行业实现数据库安全可控,并持续降低IT成本,提升数字化运营效率,从而进一步推动普惠金融、数字政务等传统行业升级发展。
领取专属 10元无门槛券
手把手带您无忧上云