MySQL 的主从同步应该是被各个 DBA 熟知的技术了，从 MySQL 3.23.15 开始一直迭代改进到 8.0 版本。经过这么多年的改进，目前 8.0 提供的复制技术是最新的 WriteSet 机制，这个功能也被合并到了 5.7.21 版本，解决了 5.7 并行复制的一些问题。
一般Mysql主从复制有三个线程参与，都是单线程：Binlog Dump(主) -> IO Thread (从) -> SQL Thread(从)。
MySQL复制从问世到现在已经经历了多个年头，它的稳定性和可靠性也在稳步的提高。这是一个不停进化的过程，由于MySQL的很多重要功能都是依赖于复制，所以复制的快速发展也是很容易理解的。
在MySQL的主从复制架构中，主库上经常会并发的执行很多SQL，只要这些SQL没有产生锁等待，那么同一时间并发好几个SQL线程是没有问题的。
杨奇龙，网名“北在南方”，7年DBA老兵，目前任职于杭州有赞科技DBA，主要负责数据库架构设计和运维平台开发工作，擅长数据库性能调优、故障诊断。
其实很简单，就是基于主从复制架构，简单来说，就搞一个主库，挂多个从库，然后我们就单单只是写主库，然后主库会自动把数据给同步到从库上去。
相信 slave 延迟是MySQL dba 遇到的一个老生长谈的问题了。我们先来分析一下slave延迟带来的风险
对于主从延迟，其实一直以来就是一个颇有争议的话题，在MySQL阵营中，如果容忍一定的延迟的场景，通过主从来达到读写分离是个很不错的方案，但是延迟率到底有多高可以接受，新版本中的并行复制效果怎么样，在不同的版本中是否有改变，我们能否找到一些参考的数据来佐证，这一点上我们可以通过一些小测试来说明。 首先来为了基本按照同一个参考标准，我们就在同一台服务器上安装了5.6，5.7的MySQL服务，另外一台服务器上搭建了从库。 数据库版本为5.6.23 Percona分支， 5.7.17 MySQL官
MySQL5.6版本支持了并行复制，只是支持的粒度是按库并行。用于决定分发策略的hash表里，key是数据库名
之前的文章谈到的事故原因，不论是偶发性的查询压力，还是备份，对备库延迟的影响一般是分钟级的，而且在备库恢复正常以后都能够追上来。
如果备库执行日志的速度持续低于主库生成日志的速度，那这个延迟就有可能成了小时级别。而且对于一个压力持续比较高的主库来说，备库很可能永远都追不上主库的节奏。
在之前的文章中，我对MySQL并行复制做过一个简单的介绍，有兴趣可以翻看5月19日的文章《MySQL并行复制解析》。今天针对这个问题，补充一些知识点。
在上一篇文章中，我和你介绍了几种可能导致备库延迟的原因。你会发现，这些场景里，不论是偶发性的查询压力，还是备份，对备库延迟的影响一般是分钟级的，而且在备库恢复正常以后都能够追上来。
题记： 文章内容输出来源：拉勾教育Java高薪训练营。 本篇文章是 MySQL 学习课程中的一部分笔记。
你们有没有做 MySQL 读写分离？如何实现 MySQL 的读写分离？MySQL 主从复制原理的是啥？如何解决 MySQL 主从同步的延时问题？
前面一篇，我们学习到了MySQL多版本并发控制（MVCC）实现原理，这一篇我们接着学习MySQL主从复制模式下的延迟解决方案。
一、缘起 mysql主从复制，读写分离是互联网用的非常多的mysql架构，主从复制最令人诟病的地方就是，在数据量较大并发量较大的场景下，主从延时会比较严重。 为什么mysql主从延时这么大？ 回答：
昨天花了点时间整理了下并行复制在5.6,5.7中的一些差别和测试，MySQL 5.6, 5.7并行复制测试(r12笔记第9天),当然只是一个开始，因为里面还有不少需要完善的部分，总体的感觉来看MySQL 5.7里的并行复制改进很大，能够极大提高效率，充分利用资源。 那我们来简单回顾一下MySQL的复制里的一些事情，然后继续展开测试。 首先借丁奇大师总结的一个经典的主从复制的流程图来展开。 整个复制的流程中，看似存在多个节点会存在延迟的可能，而如果把这些工作都细化，那么就会有一个很本质的原因，那
在很多场景下，MySQL 的高可用都是借助主从复制实现的，而 MySQL 复制不断的演进，也使得她越来越受欢迎。这一节内容就来聊聊 MySQL 复制的演进。
MySQL5.5及以前的复制 一般主从复制有三个线程且都是单线程： Binlog Dump（主） --> IO Thread（从） --> SQL Thread（从）。 1、master节点的Bin
针对现状,写一个主库,挂着多个从库,然后从多个从库来读,那不就可以支撑更高的读并发压力了吗？
这两天遇到了一个问题，就是一个业务的并发量比较高，在进行MySQL的并行复制的时候，经常会遇到sql线程断开的情况，查看错误日志则是说update了一个不存在的记录，IO线程是处于正常复制的状态，这个问题思考了一段时间，也查看了一些博客，总结了一些解决的办法，并且成功解决了这个问题，这里简单罗列一下：
2、主从延迟常见的原因有哪些？ 1、大事务，从库回放时间较长，导致主从延迟 2、主库写入过于频繁，从库回放跟不上 3、参数配置不合理 4、主从硬件差异 5、网络延迟 6、表没有主键或者索引大量频繁的更新 7、一些读写分离的架构，从库的压力比较大 3、解决主从延迟有哪些方法 1、对于大事务，拆分成小事务 2、开启并行复制 3、升级从库硬件 4、尽量都有主键 4、什么是并行复制，参数有哪些？ 先回顾MySQL并行复制的路程 a. MySQL5.6 是基于数据库级别的并行复制 slave-parallel-type=DATABASE(不同库的事务，没有锁冲突)
一、复制的意义 mysql的复制功能是构建基于MySql大规模，高性能应用的基础，我们可以通过为服务器配置一个或多个备库来进行数据同步；复制功能不仅有利于构建高性能的应用，同时也是高可用性，可扩展行，灾难恢复，备份以及数据仓库等工作的基础 二、复制的方式 Mysql支持3种方式：基于语句的复制、基于行的复制、混合复制。对应的binlog的格式也有三种：STATEMENT，ROW，MIXED (1)基于语句的复制（SBR） 每一条会修改数据的sql语句会记录到binlog中。优点是不需要记录每一条sql语句和
同时处于执行状态的所有事务，是否可以并行？ 不可以。因为多个执行中的事务是由可能出现锁冲突的，锁冲突之后会产生锁等待问题。
MySQL复制是MySQL成功的最重要原因之一，前东家某公司内网上有相关资料，低下评论戏称"核心科技"，今天将核心科技分享给大家
•大家之前了解到的这个计算方式可能是从库 I/O 线程读取的主库 binlog event 时间戳与 SQL 线程正在执行的 binlog event 的时间戳之间的时间差
在实际的生产环境中，由单台MySQL作为独立的数据库是完全不能满足实际需求的，无论是在安全性，高可用性以及高并发等各个方面
* GreatSQL社区原创内容未经授权不得随意使用，转载请联系小编并注明来源。 1、什么是主从延迟？ 本质是从库的回放跟不上主库，回放阶段的延迟
MySQL主从复制，读写分离是互联网常见的数据库架构，该架构最令人诟病的地方就是，在数据量较大并发量较大的场景下，主从延时会比较严重。
修改 innodb_data_file_path 选项值可自定义InnoDB系统表空间设置，不过要注意 autoextend 和 max 属性只能放在最后一个文件，而不能放在前面的文件。
dump log的操作是并发的多线程操作,但是从库的I/O和SQL线程是单线程的操作,(5.6.x后I/O可以多线程操作),但是SQL线程的执行一定是串行的执行,这也就导致了主从复制的延时问题的原因.
内容为慕课网的《高并发 高性能 高可用 Mysql 实战》视频的学习笔记内容和个人整理扩展之后的笔记，这一节讲述搭建Mysql三高架构中的复制，Mysql的复制在实战中实现比较简单，但是Mysql针对复制的内部优化却是一直在进行，这样说明这是值得重视和学习的内容，所以本节针对复制这一特征介绍相关的理论内容。
最初的 MySQL 版本仅支持基本操作，比如数据存储和检索。但 MySQL 快速成长，引入了一些新的特性，譬如存储过程、触发器、事务和视图等。
这种主从复制环境在单机应用的时候没有问题，但是在实际的生产环境中，会存在复制延迟的问题。
本文来源：原创投稿 *爱可生开源社区出品，原创内容未经授权不得随意使用，转载请联系小编并注明来源。
MySQL5.7并行复制初理解 我们知道MySQL5.7并行复制引入了两个值last_committed和sequence_number。last_committed表示事务提交的时候，上次事务提交的编号，在主库上同时提交的事务设置成相同的last_committed。如果事务具有相同的last_committed，表示这些事务都在一组内，可以进行并行的回放。这个机制也是Commit-Parent-Based SchemeWL#6314中的实现方式。不过之后，官方对这种模式做了改进，所以最新的并行回放机制
为了兼容 MySQL 5.6 基于库的并行复制，5.7 引入了新的变量 slave-parallel-type，其可以配置的值有：
MySQL依靠轻量级的复制功能立足于互联网行业的数据库市场，同时依靠binlog可二次开发的能力，也为大数据场景发挥其特有的作用。你对MySQL主从复制了解多少？在当今云市场的猛烈轰击下，作为开发的你是否还需要关心这些底层组件呢？下面我们来了解下MySQL复制的基础架构和原理吧。
MySQL 的主从复制( Replication )关系，不太严谨的叫法是 “同步” 或者 “主从同步”。实际上在早期，MySQL 的主从并不能实现真正的 “同步”( Sync )，而是 “异步” 的( Async )。
在数据库运维过程中，很多问题都需要靠人力来及时发现和处理，我之前也是一名DBA，可以说我做DBA的那段时间基本没有拥有过完整的属于自己的休息时间，全天候Online。现在AI技术已经广泛运用到了各个领域，数据库运维其实也是同样的，AI可以成为DBA的得力助手，有问题第一时间告警，甚至给出成熟的解决方案，DBA可以用更多的时间去完成高阶的任务。我现在主要负责的产品是DBbrian，是腾讯云推出的一款数据库智能运维工具。今天就以咱们MySQL运维过程中典型的主从延时故障来作为案例，告诉大家可以如何借助智能运维服务更好的发现和解决这类问题。
为更好的帮助DBA运维数据库，腾讯云将在每月12日开展DBbrain诊断日，腾讯云高级产品经理迪B哥直播解析经典数据库运维难题，结合腾讯云数据库智能管家DBbrain的能力，为大家提供问题优化思路和方法，玩转数据库！ 工作中遇到棘手故障不知道怎么办？欢迎投稿到诊断日，被选中的案例将由腾讯云资深专家“会诊”，并在DB诊断日在线分析教学，帮您提供解决方案。投稿即有机会获得企鹅公仔，问题被选中即得腾讯云数据库千元代金券~投稿请关注“腾讯云数据库”官方微信后，回复“投稿”即可。 本期诊断日分享的案例是MySQL主
本文介绍了MySQL中的binlog组提交及其在MySQL Replication中的作用。binlog是MySQL中一种二进制日志，用于记录数据库的更改历史。在MySQL Replication中，通过binlog实现主从复制。当主库发生更改时，binlog会记录所有更改，并将更改发送到从库。从库根据binlog中的更改来更新自己的数据，从而保持与主库一致。在MySQL中，使用binlog可以实现多种功能，如灾难恢复、数据迁移、只读实例等。
最近有接到一个咨询，腾讯云数据库 MySQL 的只读实例出现了同步延迟，但是监控的延迟时间显示为 0，而且延迟的 binlog 距离非 0，且数值越来越大。临时解决之后，仔细想了一想，Seconds_Behind_Master 虽然计算方式有点坑，但是出现这么“巨大”的误差还是挺奇怪的，复习一下计算方式的同时，也顺便记录一下对这个问题的研究。
1. 简介 MySQL 5.6引入了基于schema的并行复制，即如果binlog events操作的是不同schema的对象，不是DDL，且操作的对象没有对其他schema的foreign key关联，则这些binlog events在slave上做重放的时候可以并行。slave上依然还是有一条IO线程负责从master拉取binlog并写入relay log，之前负责重放relay log的SQL线程现在作为coordinator线程，根据读取到的relay log里的binlog event，决定是
144 Coordinator线程分发relay log中事务时发现这个事务不能执行，要等待前面的事务完成提交，所以处于waiting for dependent transaction to commit的状态。145/146线程和备份线程162形成死锁，145线程等待162线程 global read lock 释放，162线程占有MDL::global read lock 全局读锁，申请全局commit lock的时候阻塞等待146线程，146线程占有MDL:: commit lock，因为从库设置slave_preserve_commit_order=1，保证从库binlog提交顺序，而146线程执行事务对应的binlog靠后面，所以等待145的事务提交。最终形成了145->162->146->145的死循环，形成死锁。 三个线程相互形成死锁，还是很少见的。 2.2 相关参数为何未生效 --ftwrl-wait-timeout=60 指的是执行FTWRL之前，如果检测到存在长SQL，先等待指定时间（秒），如果超时后还存在长SQL，则备份报错退出。默认为0则表示立即执行。 --ftwrl-wait-threshold=5 指的是执行FTWRL之前，检测长SQL的方法，如果在执行flush前存在已经运行了超过指定时间（秒）的SQL，则将该SQL定义为长SQL，默认60s。 --kill-long-queries_timeout=0 在执行FTWRL后，如果flush操作被阻塞了N秒，则kill掉阻塞它的线程，默认0的情况就是不kill任何阻塞flush的SQL，直到该SQL执行完成。 从上面各个参数的解释，不难看出，--ftwrl-wait-*参数是针对执行FTWRL之前的长SQL检测机制，对于已执行FTWRL时无济于事，--kill-long-*参数则是设置默认值0，不起任何作用。 3. 结论与建议
* GreatSQL社区原创内容未经授权不得随意使用，转载请联系小编并注明来源。 背景介绍 近来一套业务系统，从库一直处于延迟状态，无法追上主库，导致业务风险较大。 从资源上看，从库的CPU、IO、网络使用率较低，不存在服务器压力过高导致回放慢的情况；从库开启了并行回放；在从库上执行 SHOW PROCESSLIST 看到没有回放线程阻塞，回放一直在持续；解析relay log日志文件，发现其中并没大事务回放。 过程分析 现象确认 收到运维同事的反馈，有一套从库延迟的非常厉害，提供了SHOW SLAVE STATUS延迟的截图信息
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
