首页
学习
活动
专区
圈层
工具
发布

从MYSQL 数据库归档 到 归档设计

我见到过的,听到过的数据库归档的方法有以下几种 1 数据通过人工的手段来进行清理,直接将表换名字,然后在重建一个新的表,承接数据。...下面就是一个MYSQL 针对一个数据库表归档的案例(这个案例也是有缺陷的,但目前是秉承着够用就好,以及时间成本的原则) 首先设计一个归档要考虑的问题如下 1 归档表的大小,以及每日最大,或最小的归档数据量...以下以最简单的自动化的方案来讲 下图是基于案例来讲的 因为数据库是MYSQL 所以考虑了归档一次是多大的批量,避免归档数据量过大的时候将生产库hang 死,另外配置表主要的功能是有两个 1 限制一次拷贝和清理的数据量...归档日志表 ?...这样归档有没有缺点,当然有,缺点马上就可以说出几个 1 为什么还要在本地机归档数据,不应该是传送到其他机器上吗 2 为什么不设置每次归档的数量限制(每次限制操作的行数),这对MYSQL不是很用吗,为什么要写死

6.6K41

Oracle 归档日志

对于归档模式的日志切换,当日志归档完成后,下一个日志才能被覆盖或重新使用 自动归档功能如开启,则后台进程arcn在日志切换时自动完成归档,否则需要手动归档 归档日志用途 恢复数据库 更新standby...数据库 使用LogMiner 提取历史日志的相关信息 二、日志的两种模式 1.非归档模式 不适用与生产数据库 创建数据库时,缺省的日志管理模式为非归档模式 当日志切换,检查点产生后,联机重做日志文件即可被重新使用...联机日志被覆盖后,介质恢复仅仅支持到最近的完整备份 不支持联机备份表空间,一个表空间损坏将导致整个数据库不可用,需要删除掉损坏的表空间或从备份恢复 对于操作系统级别的数据库备份需要将数据库一致性关闭...应当备份所有的数据文件、控制文件(单个)、参数文件、密码文件、联机日志文件(可选) 2.归档模式 能够对联机日志文件进行归档,生产数据库强烈建议归档 在日志切换时,下一个即将被写入日志组必须归档完成之后...=true 才能够进行自动归档 备份与恢复 支持热备份,且当某个非系统表空间损坏,数据库仍然处于可用状态,且支持在线恢复 使用归档日志能够实现联机或脱机时点恢复(即可以恢复到指定的时间点、指定的归档日志或指定的

2.7K20
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    Oracle数据库重做日志及归档日志的工作原理说明

    Oracle数据库重做日志及归档日志的工作原理: lgwr进程将redo log buffer中的重做数据写入到redo log中,此时的redo log分组,每当一个redo log group写满时...,或者发出switch logfile指令时都会触发日志组的切换,当发生日志组切换时,arc进程会将当前的重做日志数据写入归档日志; lgwr进程是将内存中的数据写入到重做日志文件,这是内存读磁盘写。...然而arc进程是将重做日志文件写入到归档文件,是磁盘读磁盘写。...显然lgwr进程的读写效率或者读写速度比arc进程要快,而频繁发生DML操作的数据库中,可能会发生归档慢,而重做日志写入速度快的情况,这就会导致数据库被HANG住,此时数据库什么也不做就是等待arc进程将当前重做日志数据写入到归档文件...1)查看当前该参数值(命令结果中的VALUE显示的是:当前最大归档进程数) 2)修改归档最大进程数为5 3)通过命令验证一下 ?

    2.4K90

    YashanDB数据库日志分级管理与归档策略介绍

    在现代数据库系统中,日志管理是保障数据完整性、恢复能力以及系统高可用性的核心机制之一。高效的日志分级管理和归档策略不仅能提升数据库的性能,还能降低存储成本与运维复杂度。...YashanDB作为满足多样化业务需求的数据库产品,其日志体系设计能够兼顾在线事务处理的高效性与可靠的数据保护,本文将详细介绍YashanDB数据库在日志分级管理与归档方面的技术实现及优势。...归档备份和从恢复支持:支持基于备份集的归档日志备份,实现全量和增量多级备份;结合归档日志实现数据库到指定时间点或SCN完整恢复。...日志归档与恢复策略综合应用基于日志的分级管理和归档,YashanDB支持如下恢复策略:完整恢复:基于全库备份和相关归档日志进行数据恢复,保证数据库状态一致。...随着数据量和业务复杂度的不断增长,对数据库系统的高可用性和恢复能力提出了更高的要求,日志管理技术将成为关键竞争力。

    30310

    日志归档与数据挖掘

    什么日志归档 2. 为什么要做日志归档 3. 何时做日志归档 4. 归档日志放在哪里 5. 谁去做日志归档 6. 怎样做日志归档 6.2.1. 软件安装 6.2.2. 节点推送端 6.2.3....通过日志做数据挖掘,挖掘有价值的数据。 查看应用程序的工作状态 3. 何时做日志归档 日志归档应该是企业规定的一项制度(“归档制度”),系统建设之初就应该考虑到日志归档问题。...怎样做日志归档 将所有服务器的日志都汇总到一处,有几种方法 日志归档常用方法: ftp 定是下载, 这种做法适合小文件且日志量不大,定是下载到指定服务器,缺点是重复传输,实时性差。...日志格式转换 首先我来介绍一种简单的方案 我用D语言写了一个程序将 WEB 日志正则分解然后通过管道传递给数据库处理程序 6.1.1....将日志放入数据库 将WEB服务器日志通过管道处理然后写入数据库 处理程序源码 $ vim match.d import std.regex; import std.stdio; import std.string

    1.9K100

    Oracle数据库恢复:归档日志损坏案例一则

    链接:http://www.eygle.com/archives/2010/11/recover_archivelog_corruption.html 最近在紧急故障处理时,帮助用户恢复数据库遇到了一则罕见的归档日志损坏案例...在进行归档recover时,数据库报错,提示归档日志损坏: *** Corrupt block seq: 37288 blocknum=1....如果这个归档日志损坏了,其实我们仍然有办法跳过去,继续尝试恢复其他日志,但是客户数据重要,不能容忍不一致性,这时候就只能放弃部分数据,由前台重新提交数据了。这在业务上可以实现,也就不是大问题了。...在这个归档日志文件中,被写入了大量的跟踪文件内容,其中开头部分就是一个跟踪文件的全部信息。...这是一种我从来没有遇到过的现象,也就是说,当操作系统在写出跟踪文件时,错误的覆盖掉了已经存在的归档文件,最后导致归档日志损坏,非常奇妙,从所未见。

    1.5K20

    RMAN 配置归档日志删除策略

    Oracle 11g中对于归档日志的删除,除了遵循RMAN保留策略外,也可以通过RMAN来配置归档日志的删除策略,也就是归档日志何时可以被删除。...1、关于归档日志删除策略       也就是哪些归档日志符合删除策略能够被删除,如前所述,归档位置适用于所有归档位置(使用快速闪回区FRA/不使用FRA)       当启用该策略后,如归档日志存在于FRA...DELETE INPUT or DELETE ARCHIVELOG方式来删除       该策略不适用于使用LogMiner方式从主数据库传送到逻辑standby生成的外部归档日志文件,因为这些日志文件不能够在逻辑...也就是说根据RMAN备份保留策略,对于FRA中的归档日志,被备份过一次(到磁盘或磁带)即符合条件被删除      如果Oracle不再需要当前的归档日志用于保证数据库时点恢复或数据库闪回,则RMAN备份保留策略认为当前日志为...database with db_unique_name USBO are: CONFIGURE RETENTION POLICY TO REDUNDANCY 1; # default --查看当前数据库保归档日志留策略

    3.5K10

    rman 还原归档日志(restore archivelog)

    听说过还原(restore)数据库,表空间及数据库文件,使用归档日志恢复(recover)数据库,表空间,数据库文件。咦,还有还原归档日志这一说法呢?...没错,可能我们忽略了还原归档日志这一个过程,原因是还原归档日志通常情况下是oracle在recover时自动完成的。大多数情况下我们是先还原数据库,恢复数据库,打开数据库。...恢复(recover): 将备份之后的归档日志apply到数据库,也就根据归档日志的事务将数据库刷新到特定或最新状态(通常在还原之后操作)。...对于归            档日志中那些已提交的事务进行前滚,未提交的事务进行回滚。      还原归档日志: 还原归档日志是位于还原数据库与恢复数据库之间的这么一个过程。...归档日志在指定的归档路径那里,那到底有没有呢?如果有,还原时出现提示,归档日志已经在指定位置。            如果没有,但是备份的归档备份集那里有,也行啊。

    4.2K40

    Oracle RMAN删除归档日志脚本

    Oracle 开启归档模式后,会一直不停的产生归档日志,如果不定时删除,迟早会撑爆磁盘空间,所以就需要布置定时删除归档日志的脚本! 至于为什么要开启归档模式,还有怎么开启归档模式!...请参考:Oracle 开启归档模式 Linux 下删除归档脚本: mkdir -p /home/oracle/scripts/log vi /home/oracle/scripts/del_arch.sh...SYSDATE-10'; EOF ## 写入crontab crontab -e # 00 07 * * * /home/oracle/scripts/del_arch.sh Windows 下删除归档脚本...---- 本次分享到此结束啦~ 如果觉得文章对你有帮助,点赞、收藏、关注、评论,一键四连支持,你的支持就是我创作最大的动力。 ❤️ 技术交流可以 关注公众号:Lucifer三思而后行 ❤️

    2.3K11

    MySQL、PG、国产数据库的日志解析,和Oracle有什么不同?

    聊到数据库日志解析,很多人第一反应就是Oracle那套复杂的redolog体系。但如果你同时要处理MySQL、PostgreSQL或者国产数据库,会发现每个库的日志机制完全是另一套逻辑。...PostgreSQL的WAL虽然有公开规范,但也需要处理页级别的物理变更。MySQL的binlog就简单多了——它本身就是逻辑日志,解析出来就是行数据变更,不需要再去理解底层存储格式。二、事务怎么记?...五、国产数据库:各有各的“方言”国产数据库这块更复杂。达梦、金仓、神通这些,每家都有自己的日志实现。达梦数据库提供了类似LogMiner的归档日志分析方式。...六、说句实在话对比完这些,大概能理解为什么Oracle的日志解析最难做:MySQL的binlog有文档、格式清晰、生态成熟,解析难度最低。...目前已经有团队在走第二条路,Oracle版本已经跑通了,后续MySQL、PG和国产数据库的支持也在推进中。

    18710

    【YashanDB知识库】归档日志清理

    问题:按照官方文档提供的清理归档日志三种方式,手动删除归档日志文件返回succeed后,发现归档日志文件仍然存在原因:按照Yashan的默认配置,如果archivelog没有备份,没有同步到备机时,归档日志是不能删除的...● BACKUP:表示清理归档时忽略备份,此设置可能导致数据库无法恢复至任意时间点 。...可通过以下方式清理归档日志:--将清理归档日志策略指定为BOTH模式1、alter system set ARCH\_CLEAN\_IGNORE\_MODE=BOTH;2、查看归档日志:select *...DELETE ARCHIVELOG ALL FORCE;注意:1、YashanDB具有自动清理归档日志的功能,默认情况下触发归档日志清理的最低和最高阈值分别为12G和16G,可根据实际情况设置该阈值来达到及时清理归档日志的目的...,避免归档日志清理不及时导致磁盘空间被占满的情况。

    67900

    开启查看Mysql数据库日志

    很多时候网站打开速度变慢,为了定位是否为数据库导致的,我们需要知道在访问网站的同时,站点执行了哪些SQL,每条SQL耗时多长。 为此,查看数据库日志是最直接的。...一般情况下,数据库日志默认是关闭的,因此需要先激活日志功能: 1....使用root用户登陆到数据库后,检查“数据库日志”是否开启 SHOW VARIABLES LIKE 'general%'; # 这份日志会保存到数据库的安装目录, Centos7默认的目录是 /var...无需重启数据库,直接刷新站点,发现 VM_211_224_centos.log 日志有内容,VM_211_224_centos-slow.log日志无内容(当然这是针对我的情况而言,mysql/mariadb...虽然 VM_211_224_centos.log 日志有内容,但也仅仅是一股脑把所有SQL列印出来而已,并不能反映每条SQL的执行时长。

    10K10
    领券