首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

MYSQL 数据库归档归档设计

我见到过的,听到过的数据库归档的方法有以下几种 1 数据通过人工的手段来进行清理,直接将表换名字,然后在重建一个新的表,承接数据。...2 数据通过MYSQL dump 或者其他的备份方式,将数据备份出来,在将数据恢复到数据归档库中,然后将备份的数据直接手动清理掉,这样的做法速度也很快,对业务的影响也比较小,基本上可以算是透明的方式了...下面就是一个MYSQL 针对一个数据库归档的案例(这个案例也是有缺陷的,但目前是秉承着够用就好,以及时间成本的原则) 首先设计一个归档要考虑的问题如下 1 归档表的大小,以及每日最大,或最小的归档数据量...以下以最简单的自动化的方案来讲 下图是基于案例来讲的 因为数据库MYSQL 所以考虑了归档一次是多大的批量,避免归档数据量过大的时候将生产库hang 死,另外配置表主要的功能是有两个 1 限制一次拷贝和清理的数据量...这样归档有没有缺点,当然有,缺点马上就可以说出几个 1 为什么还要在本地机归档数据,不应该是传送到其他机器上吗 2 为什么不设置每次归档的数量限制(每次限制操作的行数),这对MYSQL不是很用吗,为什么要写死

5K41
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    连仕彤博客Mysql数据库归档利器之pt-archiver

    前言 数据库管理员或者运维人员经常需定期对数据进行归档和清除,我们可以使用percona的pt-archiver工具能完成这一功能,使得数据归档变得方便简单。...归档之前准备 pt-archiver归档前,需要先建立归档表(备份表)且表结构要一样。 pt-archiver操作的表必须有主键。...1.查询表、数据信息 MySQL [pttest1]> show table status like 'demo_table'\G; *************************** 1. row...general_ci        Checksum: NULL Create_options:         Comment: 1 row in set (0.03 sec) 2.查看表DDL(表结构) MySQL...归档常用方法 归档(复制)数据到归档表,且不删除源表的数据(指定字符集),删除源数据的话把--no-delete选项换成--purge就可以了。

    2.4K60

    MySQL8.0 redo log归档功能

    我们知道,在MySQL中,redo log是一个文件组,一般是3个文件,循环写入,写满的时候会做redo log层面的checkpoint,然后覆盖之前的redo log;而binlog是有归档功能的...MySQL8.0.17中引入了redo log的归档功能,如果我们开启归档功能,redo log会持续不断的生成,而不会覆盖掉之前的redo log。这个功能主要在哪种场景下应用呢?...试想这样一种情况,在对一个高并发的数据库进行备份的时候,备份速度很慢而redo log生成的速度很快,备份的速度跟不上redo log的生成速度,导致redo log被覆盖了,此时备份的一致性就无法得到保证了...有了redo log的归档功能,就可以在备份启动的时候同步启动redo log 归档,而在备份结束的时候同步停止redo log归档,这样就可以避免这个备份的问题了。...这个用户,并修改用户属性为700 sudo chown -R mysql.mysql /tmp/20200713 mysql >>system chmod 700 /tmp/20200713 mysql

    1.2K52

    归档

    归档 基本概念 - 对象归档是指将对象写入文件保存在硬盘上,当再次重新打开程序时,可以还原这些对象。你也可以称他为对象序列化,对象持久化。...数据持久性的方式 NSKeyedArchiver --- 对象归档 NSUserDefaults 属性列表化(NSArray、NSDictionary保存文件) SQlite数据库、Core Data数据库...归档的形式 对Foundation库中对象进行归档 自定义对象进行归档(需要实现归档协议,NSCoding) 归档后的文件是加密的,属性列表是明文的。...示例 归档(序列化) //对数组进行归档归档文件名为temparray 后缀名可以任意 NSString *homeDirectory = NSHomeDirectory(); NSArray *...%@",unArray); 自定义内容归档示例 归档 使用 NSData 实例作为归档的存储数据 添加归档的内容(设置key与value) 完成归档归档数据存入磁盘中 解归档 从磁盘读取文件,生成

    1.2K60

    MySQL数据归档小工具推荐及优化--mysql_archiver

    一.主要概述 MySQL数据库归档历史数据主要可以分为三种方式:一.创建编写SP、设置Event;二.通过dump导入导出;三.通过pt-archiver工具进行归档。...pt-archiver是Percona-Toolkit工具集中的一个组件,是一个主要用于对MySQL表数据进行归档和清除的工具。它可以将数据归档到另一张表或者是一个文件中。...MySQL_archiver基本上实现了数据归档的自动运转,统一的归档任务调度管理、自动监控和预警、自动生成报表。在一定程度上节约了生产力,提高了运维效率。"...--databases,-d 指定连接的数据库 --source 指定需要进行归档操作的表,该选项是必须指定的选项,使用DSN方式表示。...--file 指定表数据需要归档到的文件。使用类似MySQL DATE_FORMAT()格式化命名方式。

    2.5K00

    Oracle数据库恢复:归档日志损坏案例一则

    链接:http://www.eygle.com/archives/2010/11/recover_archivelog_corruption.html 最近在紧急故障处理时,帮助用户恢复数据库遇到了一则罕见的归档日志损坏案例...在进行归档recover时,数据库报错,提示归档日志损坏: *** Corrupt block seq: 37288 blocknum=1....如果这个归档日志损坏了,其实我们仍然有办法跳过去,继续尝试恢复其他日志,但是客户数据重要,不能容忍不一致性,这时候就只能放弃部分数据,由前台重新提交数据了。这在业务上可以实现,也就不是大问题了。...在这个归档日志文件中,被写入了大量的跟踪文件内容,其中开头部分就是一个跟踪文件的全部信息。...这是一种我从来没有遇到过的现象,也就是说,当操作系统在写出跟踪文件时,错误的覆盖掉了已经存在的归档文件,最后导致归档日志损坏,非常奇妙,从所未见。

    1K20

    Oracle 归档日志

    对于归档模式的日志切换,当日志归档完成后,下一个日志才能被覆盖或重新使用 自动归档功能如开启,则后台进程arcn在日志切换时自动完成归档,否则需要手动归档 归档日志用途 恢复数据库 更新standby...数据库 使用LogMiner 提取历史日志的相关信息 二、日志的两种模式 1.非归档模式 不适用与生产数据库 创建数据库时,缺省的日志管理模式为非归档模式 当日志切换,检查点产生后,联机重做日志文件即可被重新使用...应当备份所有的数据文件、控制文件(单个)、参数文件、密码文件、联机日志文件(可选) 2.归档模式 能够对联机日志文件进行归档,生产数据库强烈建议归档 在日志切换时,下一个即将被写入日志组必须归档完成之后...sequence to archive 16 Current log sequence 16 --备份数据库步骤省略 2.归档模式切换到非归档模式(步骤同非归档归档模式仅仅是c步骤使用alter...,可以指定数据库规定所需初始化的进程数,缺省的归档进程数为2 一般情况下不需要修改该参数,Oracle会根据归档情况自动启动额外的归档进程 也可以动态的增加或减少归档进程数,比如有些业务在月底需要进行大量归档

    1.9K20

    分类与归档

    侧边栏已经正确地显示了最新文章列表、归档、分类等信息。现在来完善归档和分类功能,当用户点击归档下的某个日期或者分类下的某个分类时,跳转到文章列表页面,显示该日期或者分类下的全部文章。...归档页面 要显示某个归档日期下的文章列表,思路和显示主页文章列表是一样的,回顾一下主页视图的代码: blog/views.py def index(request): post_list =...由于是按照日期归档,因此这里根据文章发表的年和月来过滤。...测试一下,点击侧边栏归档的日期,跳转到归档页面,发现报了个错误,提示没有安装 pytz。激活虚拟环境,使用 pip install pytz 安装即可。...render(request, 'blog/index.html', context={'post_list': post_list}) 这里我们首先根据传入的 pk 值(也就是被访问的分类的 id 值)从数据库中获取到这个分类

    1.4K90

    数据库PostrageSQL-连续归档和时间点恢复(PITR)

    要使用连续归档(也被很多数据库厂商称为“在线备份”)成功地恢复,你需要一个从基础备份时间开始的连续的归档WAL文件序列。为了开始,在你建立第一个基础备份之前,你应该建立并测试用于归档WAL文件的过程。...为了向数据库管理员提供灵活性,PostgreSQL不对如何归档做任何假设。取而代之的是,PostgreSQL让管理员声明一个shell命令来拷贝一个完整的段文件到它需要去的地方。...因为被归档的一系列WAL文件实际上包含你的数据库里的所有东西,所以你应该确保自己的归档数据不会被别人窥探; 比如,归档到一个没有组或者全局读权限的目录里。...不会有未提交事务被丢失,但是数据库将会保持离线直到你释放一部分空间)。 归档命令的速度并不要紧,只要它能跟上你的服务器生成 WAL 数据的平均速度即可。即使归档进程稍微落后,正常的操作也会继续进行。...任何从该脚本被写到stderr的消息将出现在数据库服务器日志中,这允许在复杂配置失败后能更容易被诊断。 25.3.7. 警告 在编写此文档时,连续归档技术存在一些限制。

    98010

    Oracle数据库设置为归档模式的操作方法

    Oracle归档模式非常非常重要! 对于有些数据库刚装好后可能是非归档模式,这是很危险的!...为了安全起见,一定要谨记:对于Oracle数据库,一定要设置为归档模式,尤其是生产库,只有这样才能实现数据库的有效完全恢复!...下面介绍下将Oracle数据库设置为归档模式的操作方法: 1)以sysdba身份连接数据库 [root@kevin ~]# su - oracle 以DBA的身份登录数据库(oracle用户下执行) [...4)修改数据库归档模式 ? 数据库归档模式设置已经完成,查询其归档模式除了ARCHIVE  LOG  LIST方法外,也可以通过v$database来查询,LOG_MODE为ARCHIVELOG。...5)打开数据库 SQL> alter database open; Database altered. 至此,Oracle数据库已经设置为归档模式了!

    1.1K70
    领券