首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

存储优化(3)-mongo大表加索引

摘要 在存储优化(2)-排序引起的慢查询优化中我们提到过排序对查询选择索引的影响。但是的解决办法就是增加一个索引。在线上给mongo的大表增加一个索引要慎重。...在增加索引的过程中也遇到了一些问题,这边进行相关的记录与分析。 问题描述 表结构 _id,biz_Id,version,name 索引 1....":-1},"limit":1}} 增加一个索引 bizId,_id 增加索引过程 对于大表(该表记录数5亿),建立索引过程涉及到锁表,大量的读写操作、数据同步,肯定会影响线上的操作。...那是不是因为这个索引是后来加的,plan-cache还没有更新的。...总结 最后解决是通过强制索引来避免索引误判,当然也可以将排序改成 sort({bizId:-1,_id:-1}) 这样也不会误判 总结一下: 大表加索引,需要确保不会block表的其他操作,尽量选择空闲时候

2.8K10
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    MySQL大表增加唯一索引场景

    《新增字段的一点一滴技巧》 《探寻大表删除字段慢的原因》 《大表删除字段为何慢?》 《主键和唯一约束的索引肯定唯一?》...但MySQL中对于字段、索引的使用,就需要些技巧,否则就会碰到坑,这是初学MySQL,比较不太适应的一个点,看到技术社区推的这篇文章《技术分享 | MySQL 大表添加唯一索引的总结》,就讲到了MySQL...MySQL 5.6 开始支持 Online DDL ,添加[唯一]索引虽然不需要重建表,也不阻塞 DML ,但是大表场景下还是不会直接使用 Alter Table 进行添加,而是使用第三方工具进行操作,...在没有大查询的情况下,持锁时间很短,基本可以忽略不计,所以强烈建议改表操作时避免出现大查询。 由此可见,表记录大小影响着加索引的耗时。如果是大表,将严重影响从库的同步延迟。...gh-ost 可能丢数据,有辅助功能可以避免部分丢数据的场景 适合添加唯一索引 三、添加唯一索引的风险 根据上面的介绍可以得知 gh-ost 是比较适合大表加唯一索引,所以这部分就着重介绍一下 gh-ost

    2.7K40

    MySQL8.0大表秒加字段,是真的吗?

    前言: 很早就听说 MySQL8.0 支持快速加列,可以实现大表秒级加字段。笔者自己本地也有8.0环境,但一直未进行测试。本篇文章我们就一起来看下 MySQL8.0 快速加列到底要如何操作。...所以大表 DDL 仍是一件令 DBA 头痛的事。 听闻 MySQL 8.0 解决了这件令 DBA 头痛的事,那让我们来详细了解下吧。想了解新功能,最简单的方法就是查阅官方文档。...只能顺序加列, 仅支持在最后添加列,而不支持在现有列的中间添加列。 不支持压缩表,即该表行格式不能是 COMPRESSED。 不支持包含全文索引的表。 不支持临时表。...说的再多不如实际来测下,下面我们以 8.0.19 版本为例来实际验证下: # 利用sysbench生成一张1000W的大表 mysql> select version(); +-----------+...总结: 虽然快速加列存在一些限制, instant 算法也只适用于部分 DDL 操作,但 8.0 的这项新功能已经足以令人兴奋,很大程度上解决了大表加字段的大难题。

    2.9K70

    MySQL8.0大表秒加字段,是真的吗?

    很早就听说 MySQL8.0 支持快速加列,可以实现大表秒级加字段。笔者自己本地也有8.0环境,但一直未进行测试。本篇文章我们就一起来看下 MySQL8.0 快速加列到底要如何操作。...所以大表 DDL 仍是一件令 DBA 头痛的事。 听闻 MySQL 8.0 解决了这件令 DBA 头痛的事,那让我们来详细了解下吧。想了解新功能,最简单的方法就是查阅官方文档。...查阅官方文档得知,快速加列即 Instant Add Column ,该功能自 MySQL 8.0.12 版本引入,是由腾讯游戏DBA团队贡献。注意一下,此功能只适用于 InnoDB 表。...只能顺序加列, 仅支持在最后添加列,而不支持在现有列的中间添加列。 不支持压缩表,即该表行格式不能是 COMPRESSED。 不支持包含全文索引的表。 不支持临时表。...总结 虽然快速加列存在一些限制, instant 算法也只适用于部分 DDL 操作,但 8.0 的这项新功能已经足以令人兴奋,很大程度上解决了大表加字段的大难题。

    4K20

    mysql为什么加索引就能快

    平时我们要优化 mysql 查询效率的时候,最常见的就是给表加上合适的索引了,那今天就来聊聊为什么加了索引就快了呢。...mysql 索引其实就是一颗 B+ 树。...谭小谭,公众号:谭某人mysql索引为啥要选择B+树 (下) 也就是说每个表至少都有一个主键索引,而且表中所有的数据行都是存放在主键索引这个 B+ 树的叶子节点上的。...刚刚有说过,主键索引叶子节点上保存完整的整行记录值,二级索引叶子节点保存主键的值,所以上面这个表 t 的数据在 mysql 底层的存储就如下示意图。 ?...select * from t where k > 3 and k < 6; 这就是为什么加了索引后,mysql 查询会变快的原因了,其实刚提到的这个回表过程还可以再优化的,就是利用覆盖索引,后面的文章我们再详细说

    2K30

    MySQL给字符串加索引

    MySQL是支持前缀索引的,前缀索引的优势就是占用的空间小,这同时带来的损失是,可能会增加额外的记录扫描次数。...比如一些用户表,登录账户是邮箱 如果要使用的是邮箱登录,所以代码中一定会有这种类似的语句 select f1, f2 from tableName where email='xxx'; 如果email这个字段上没有索引的话...,那这些语句就只能做全表扫描 MySQL 是支持前缀索引的,可以定义字符串的一部分作为索引。...默认地,如果你创建索引的语句不指定前缀长度,那么索引就会包含整个字符串。...有以下2中方式 就是使用倒序存储,比如身份证倒序,查询的时候再用函数转一下 以及使用hash字段,在表上创建一个整数字段,来保存身份证的校验码,同时在这个字段上加索引 这两种方式对比区别 从占用的额外空间来看

    2.5K71

    mysql查询表的索引_MySQL查看表索引

    mysql> show index from tblname; mysql> show keys from tblname; · Table 表的名称。...· Non_unique 如果索引不能包括重复词,则为0。如果可以,则为1。 · Key_name 索引的名称。 · Seq_in_index 索引中的列序列号,从1开始。...· Collation 列以什么方式存储在索引中。在MySQL中,有值‘A’(升序)或NULL(无分类)。 · Cardinality 索引中唯一值的数目的估计值。...基数根据被存储为整数的统计数据来计数,所以即使对于小型表,该值也没有必要是精确的。基数越大,当进行联合时,MySQL使用该索引的机 会就越大。...· Sub_part 如果列只是被部分地编入索引,则为被编入索引的字符的数目。如果整列被编入索引,则为NULL。 · Packed 指示关键字如何被压缩。如果没有被压缩,则为NULL。

    6.8K40

    Innodb加索引,这个时候会锁表吗?

    在 MySQL 5.6 之前,InnoDB 在索引构建期间会对表进行排它锁定,这意味着其他会话无法读取或修改表中的数据,从而导致长时间阻塞和性能问题。...在 MySQL 5.6 之前,所有的 ALTER 操作实际上都会阻塞 DML 操作,例如添加或删除字段、添加或删除索引等,都会导致表被锁定。...对原表加共享 MDL 锁,阻止对原表的写操作,仅允许查询操作。 逐行将原表数据拷贝到临时表中,且无需进行排序。 数据拷贝完成后,将原表锁升级为排他 MDL 锁,阻止对原表的读写操作。...对临时表进行重命名操作,并创建索引,完成 DDL 操作。 INPLACE 算法原理 INPLACE 算法是在 MySQL 5.5 中引入的,旨在优化索引的创建和删除过程的效率。...创建索引数据字典。 对原表加共享 MDL 锁,阻止对原表的写操作,只允许查询操作。 根据聚集索引的顺序,查询表中的数据,并提取所需的索引列数据。将提取的索引数据进行排序,并插入到新的索引页中。

    55710

    MySQL只索引组织表

    MySQL之索引组织表 今天没怎么学习,简单写下MySQL里面innodb存储引擎下的索引组织表吧。...在Innodb存储引擎中,表都是根据主键的顺序组织存放的,这种存储方式的表称之为索引组织表,在innodb存储引擎中,每张表都有主键,也就是primary key,如果在创建表的时候没有显式的制定主键,...3.当我们的表中有多个唯一索引时,innodb存储引擎会选择建表时的第一个定义的非空索引作为主键,需要注意的是,主键的选择根据的是定义索引的顺序,而不是建表时的顺序。...这张表包含a,b,c,d四个列b,c,d三个列上我们都创建了唯一索引,不同的是b的值可以为空,而c,d列都是唯一索引,而且不为空,上面的建表语句没有显式的定义主键,所以innodb存储引擎会帮我们自动选择非空的唯一索引...,可以看出虽然c,d都是非空唯一索引,但是在定义的过程中,unique key (d)比较靠前,所以innodb存储引擎将他作为这个表的主键。

    1.4K10

    技术分享 | MySQL 大表添加唯一索引的总结

    MySQL 5.6 开始支持 Online DDL,添加唯一索引虽然不需要重建表,也不阻塞DML,但是大表场景下还是不会直接使用Alter Table进行添加,而是使用第三方工具进行操作,比较常见的就属...在没有大查询的情况下,持锁时间很短,基本可以忽略不计,所以强烈建议改表操作时避免出现大查询。由此可见,表记录大小影响着加索引的耗时。如果是大表,将严重影响从库的同步延迟。...可能丢数据,有辅助功能可以避免部分丢数据的场景适合添加唯一索引3 添加唯一索引的风险根据上面的介绍可以得知gh-ost是比较适合大表加唯一索引,所以这部分就着重介绍一下gh-ost添加唯一索引的相关内容...,而且大表的这个时间差只会更大。...大表添加唯一索引做了一下总结,分享了一些案例和经验。

    2.4K30

    MYSQL 回表、索引覆盖、 索引下推

    每个 INNODB 表 都会有一个聚簇索引 创建规则如下: * 如果表设置了主键,则主键就是聚簇索引 * 如果表没有主键,则会默认第一个NOT NULL,且唯一(UNIQUE)的列作为聚簇索引 * 以上都没有...explain 分析: 可通过Extra 是否是Using Index 判断查询是否索引覆盖 如何实现索引覆盖: 将被查询的字段,建立到联合索引里去 哪些场景适合使用索引覆盖来优化SQL 全表count...name like '张%' and age = 20; Mysql版本 < 5.6 检索复合索引 idx_name_age 查询出所有 name 包含 “张” 的主键ID 然后通过聚簇索引判断出所有符合...where子句的数据返回 ,此过程需要回表 Mysql版本 >= 5.6 检索复合索引 idx_name_age 查询所有 name 包含 “张” 的 且age =20 的数据 直接返回结果集, 无需回表...可见 索引下推在非主键索引上的优化,可以有效减少回表的次数,大大提升了查询的效率 explain 分析: Using Index Condition 使用了索引下推的表现 end!

    2.1K30

    如何准确判断什么时候可以给大表加索引 - 崔笑颜的博客

    导读 以社交平台的用户表为例,随着业务的快速增长,用户表user单表数据量越来越大,此时,如果我们想给user表添加索引,数据规模对添加过程的影响势必要考虑在内,但是,单表数据规模对添加索引会产生什么样的影响呢...,我们在什么样的数据库请求状态下给大表添加索引比较好呢?...今天,我就详细回答一下上面两个问题: 单表数据规模对添加索引会产生什么样的业务影响? 在什么样的数据库请求状态下给大表添加索引比较好?...锁,我会在《MySQL锁全解析》详细讲解 根据alter类型,确定执行方式,一共两种执行方式:COPY、INPLACE 更新内存中的数据字典,标记user表所有索引online_status为ONLINE_INDEX_CREATION...小结 通过本章的讲解,我想你应该对MySQL的在线DDL的机制有了清晰的认识,同时,通过在线DDL机制的讲解,我们也发现了一些优化的方法: 目的 解决方法 减少业务影响 调大innodb_sort_buffer_size

    1.2K30

    MySQL ORDER BY主键id加LIMIT限制走错索引

    背景及现象 report_product_sales_data表数据量2800万; 经测试,在当前数据量情况下,order by主键id,limit最大到49的时候可以用到索引report_product_sales_data_hq_code_orgz_id_index...,大于49时就走PRIMARY主键索引。...表结构 CREATE TABLE `report_product_sales_data` (   `id` int(10) unsigned NOT NULL AUTO_INCREMENT COMMENT...order by字段所在的索引,没有limit会使用where 条件的索引; 对于数据量比较大,而且执行量很高的分页sql,尽可能将所有的查询字段包括在索引中,同时使用索引来消除排序; 多用explain...查看是否使用到了最优索引; 利用optimizer trace查看优化器执行过程; 观察mysql的slow_query_log,及时做排查优化。

    1.8K10

    「Mysql索引原理(十五)」维护索引和表-修复损坏的表

    修复损坏的表 即使用正确的类型创建了表并加上了合适的索引,工作也没有结束:还需要维护表和索引来确保它们都正常工作。...维护表有三个主要的目的:找到并修复损坏的表,维护准确的索引统计信息,减少碎片。 表损坏(corruption)是很糟糕的事情。对于MyISAM存储引擎,表损坏通常是系统崩溃导致的。...其他的引擎也会由于硬件问题、MySQL本身的缺陷或者操作系统的问题导致索引损坏。 损坏的索引会导致查询返回错误的结果或者莫须有的主键冲突等问题,严重时甚至还会导致数据库的崩溃。...CHECK TABLE通常能够找出大多数的表和索引的错误。...不过,如果损坏的是系统区域,或者是表的“行数据”区域,而不是索引,那么上面的办法就没有用了。在这种情况下,可以从备份中恢复表,或者尝试从损坏的数据文件中尽可能地恢复数据。

    2.3K20

    MySQL查询表索引的方式

    在网上可以查到有两种方式查询表的索引 show index from tablename SELECT * FROM mysql.innodb_index_stats a WHERE a.database_name...= '数据库名' and a.table_name like '%表名%'; 第一种是可行的,问题是在于并不是用SELECT语句,所以就不能和其他的表数据一起查询,譬如说 查询表结构的时候连同索引一起查询...在网上翻了很多页面都没有找到合适的解决方案,于是我把所有独立数据库用户身份可以查看的表全部翻看一遍之后发现。STATICS表中是存有索引数据的。...SELECT * FROM INFORMATION_SCHEMA.STATISTICS WHERE TABLE_SCHEMA = basename AND TABLE_NAME = tablename 将索引信息和表结构信息一起查看的查询...先将STATISTICS表中的数据过滤一遍,再进行合并,两张表都要以basename,tablename进行过滤。

    3.4K20

    MySQL ORDER BY主键id加LIMIT限制走错索引

    背景及现象 report_product_sales_data表数据量2800万; 经测试,在当前数据量情况下,order by主键id,limit最大到49的时候可以用到索引report_product_sales_data_hq_code_orgz_id_index...,大于49时就走PRIMARY主键索引。...表结构 CREATE TABLE `report_product_sales_data` ( `id` int(10) unsigned NOT NULL AUTO_INCREMENT COMMENT...由于自身的优化器选择,为了避免某些排序的消耗,可能会走非预期的PRIMARY主键索引; 对于数据量比较大,而且执行量很高的分页sql,尽可能将所有的查询字段包括在索引中,同时使用索引来消除排序; 多用explain...查看是否使用到了最优索引; 利用optimizer trace查看优化器执行过程; 观察mysql的slow_query_log,及时做排查优化。

    6.7K32
    领券