Loading [MathJax]/jax/input/TeX/config.js
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >mysql 动态新建以及删除分区表

mysql 动态新建以及删除分区表

作者头像
全栈程序员站长
发布于 2022-07-15 06:38:49
发布于 2022-07-15 06:38:49
4K00
代码可运行
举报
运行总次数:0
代码可运行

大家好,又见面了,我是全栈君

因为项目需要,最近研究了一下在mysql数据库下如何动态新建以及删除分区表。如果全部借助存储过程的话,新建以及删除分区表在逻辑上比较死板、不灵活,而且还容易出错。因此,我新建了一个数据表table_fen_qu,借助这个表可以很(相对)灵活的对分区表进行管理。

在首次创建分区表时,若单独一条分区表数据一条分区表数据的添加,此时rang的列值大于该表中此列的最大值时,可以创建,否则失败。在这里,我是把创建分区表的代码放到一起执行的(见general_procedure中的else语句段)。以下是操作过程,不足之处请各位看官指正。

第一步:建立存储过程。 建立新建分区表的存储过程代码如下:

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
drop procedure if exists general_procedure;
-- general_procedure的作用:新建分区表及在table_fen_qu表中存储新建分区表时的相关参数
-- general_procedure的参数:表名,分区表之间的时间间隔(单位为小时),要新增的分区表个数
create procedure general_procedure(in tablenamein varchar(50),in intervalHour int,in newIntervalNum int)
general_pro:begin
    -- 参数:最大时间
    declare maxMonitTime datetime default SYSDATE();
    -- 参数:最大时间对应的字符串
    declare maxMonitTimeStr varchar(50);
    -- 参数:最小时间
    declare minMonitTime datetime default SYSDATE();
    -- 参数:最大时间对应的字符串
    declare minMonitTimeStr varchar(50);
    -- 参数:数据库记录数
    declare recoidNum int default 0;
    -- 判断传入的表名是否为空
    if tablenamein is null then
        leave general_pro;
    end if;
    -- 判断传入的时间间隔
    if intervalHour <= 0 then
        set intervalHour = 6;
    end if;
    -- 判断新增分区表个数
    if newIntervalNum <= 0 then
        set newIntervalNum = 1;
    end if;
 
    -- 在该表中,查询符合条件的记录数,backupflag=0说明是未备份
    select count(*) into recoidNum from table_fen_qu where tablename=tablenamein and backupflag=0;
    if recoidNum > 0 then
        -- 查询该表在table_fen_qu表中的最大监测时间
        select monittime into maxMonitTime from table_fen_qu where tablename=tablenamein and backupflag=0 order by monittime desc limit 1;
        -- 判断监测时间是否为null
        if maxMonitTime is null then
            set maxMonitTime = SYSDATE();
        end if;
        -- 比较最大时间减去72个小时之后的时间与系统时间的早晚
        set recoidNum = timestampdiff(hour,SYSDATE(),DATE_SUB(maxMonitTime,INTERVAL 3 DAY));
        -- 如果recoidNum大于0,说明最大监测时间减去72小时之后的时间仍然在系统时间之后,
        -- 说明不用建立新的分区表,反之,则建立最大监测时间之后newIntervalNum个以每intervalHour小时为间隔的分区表
        if recoidNum <= 0 then
            set recoidNum = 1; 
            while recoidNum <= newIntervalNum do 
                set maxMonitTime = ADDDATE(maxMonitTime,INTERVAL intervalHour HOUR);
                set maxMonitTimeStr = CONCAT('p',DATE_FORMAT(maxMonitTime,"%Y%m%d%H%i%s"));
                -- 开始添加分区表
                -- 拼接分区表代码段
                set @v_add_s = CONCAT('ALTER TABLE ',tablenamein,' ADD PARTITION  (PARTITION ',maxMonitTimeStr,' VALUES LESS THAN (\'',maxMonitTime,'\') ENGINE = InnoDB )');
                -- 定义预处理语句  
                prepare stmt from @v_add_s;
                -- 执行预处理语句
                execute stmt; 
                -- 释放预处理语句 
                deallocate prepare stmt;
                -- 开始在table_fen_qu中添加记录
                insert into table_fen_qu(fenquname,tablename,monittime,backupflag) VALUES(maxMonitTimeStr,tablenamein,maxMonitTime,0);
                -- 记录数加1
                set recoidNum = recoidNum + 1;
            end while;
        end if;
    else
        set recoidNum = 2; 
        -- 计算最小时间
        set minMonitTimeStr = CONCAT(DATE_FORMAT(DATE_SUB(maxMonitTime,INTERVAL 60 DAY),'%Y-%m-%d'),' 00:00:00');
        set minMonitTime = STR_TO_DATE(minMonitTimeStr,'%Y-%m-%d %H:%i:%s');
        -- 计算最大时间 hovertree.com
        set maxMonitTimeStr = CONCAT(DATE_FORMAT(ADDDATE(maxMonitTime,INTERVAL 4 DAY),'%Y-%m-%d'),' 00:00:00');
        set maxMonitTime = STR_TO_DATE(maxMonitTimeStr,'%Y-%m-%d %H:%i:%s');
        -- 计算新建表分区个数
        set newIntervalNum = floor(timestampdiff(hour,minMonitTime,maxMonitTime) / intervalHour) + 1;
        if newIntervalNum < 12 then
            set newIntervalNum = 12;
        end if;
        -- 删除所有表分区
        set @v_del_s = CONCAT('ALTER TABLE ',tablenamein,' remove partitioning');
        -- 定义预处理语句  
        prepare stmt from @v_del_s;
        -- 执行预处理语句
        execute stmt; 
        -- 释放预处理语句 
        deallocate prepare stmt;
        -- 删除所有数据
        delete from table_fen_qu where tablename= tablenamein;
        -- 新建分区
        -- 设置时间
        set minMonitTimeStr = CONCAT('p',DATE_FORMAT(minMonitTime,"%Y%m%d%H%i%s"));
        -- 拼接添加分区表sql
        set @v_add_s = CONCAT('ALTER TABLE ',tablenamein,' PARTITION BY RANGE COLUMNS(moint_time) (PARTITION ',minMonitTimeStr,' VALUES LESS THAN (\'',minMonitTime,'\') ENGINE = InnoDB,');
        -- 开始在table_fen_qu中添加记录
        insert into table_fen_qu(fenquname,tablename,monittime,backupflag) VALUES(minMonitTimeStr,tablenamein,minMonitTime,0);
        while recoidNum <= newIntervalNum do 
            -- 设置时间
            set minMonitTime = ADDDATE(minMonitTime,INTERVAL intervalHour HOUR);
            set minMonitTimeStr = CONCAT('p',DATE_FORMAT(minMonitTime,"%Y%m%d%H%i%s"));
            -- 拼接添加分区表sql
            set @v_add_s = CONCAT(@v_add_s,'PARTITION ',minMonitTimeStr,' VALUES LESS THAN (\'',minMonitTime,'\') ENGINE = InnoDB,');
            -- 开始在table_fen_qu中添加记录
            insert into table_fen_qu(fenquname,tablename,monittime,backupflag) VALUES(minMonitTimeStr,tablenamein,minMonitTime,0);
            -- 记录数加1
            set recoidNum = recoidNum + 1;
        end while;
        set @v_add_s = left(@v_add_s,LENGTH(@v_add_s)-1);
        set @v_add_s = CONCAT(@v_add_s,');');
        -- 定义预处理语句  
        prepare stmt from @v_add_s;
        -- 执行预处理语句 http://www.cnblogs.com/roucheng/
        execute stmt; 
        -- 释放预处理语句 
        deallocate prepare stmt;
    end if;
end general_pro;

第二步:建立事件计划,定时执行事件。 事件如下:

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
-- 打开事件计划
SET GLOBAL event_scheduler = ON;
/*创建从开始时间每隔1天定时执行*/
drop event if exists eachDayEvent;
DELIMITER ||
create event eachDayEvent
    on schedule every 1 day  starts '2013-05-01 00:00:00'
    on completion preserve enable
do 
    begin
        -- general_procedure的参数:表名,分区表之间的时间间隔(单位为小时),要新增的分区表个数
        -- 非能耗5分钟表-间隔6小时-6h/分区表 hovertree.com
        call general_procedure('no_energy_five_minute_data',6,8);
        -- 原始数据表-间隔6小时-6h/分区表
        call general_procedure('temp_data',6,8);
        -- 能耗五分钟-间隔天-24h/分区表
        call general_procedure('energy_five_minute_data',24,4);
        -- 能耗五分钟汇总-间隔天-24h/分区表
        call general_procedure('energy_five_minute_data_summarize',24,4);
        -- 能耗小时表调用-间隔周-7*24h/分区表 何问起
        call general_procedure('energy_hour_data_summarize',168,4);
        -- 能耗分类分项5分钟表-间隔周7*24h/分区表
        call general_procedure('energy_item_five_minute_data',168,4);
        -- 能耗分类分项小时表-间隔季度-90*24h/分区表
        call general_procedure('energy_item_hour_data',2160,4);
        -- 能耗天汇总表-间隔半年-4380h/分区表
        call general_procedure('energy_day_data_summarize',4380,4);
        -- 删除已备份的分区表 http://www.cnblogs.com/roucheng/
        call del_fenqu();
    end ||
DELIMITER ; 

发布者:全栈程序员栈长,转载请注明出处:https://javaforall.cn/120682.html原文链接:https://javaforall.cn

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2021年12月,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
第40期:MySQL 分区表案例分享
基于时间类分区我之前写过实现篇、细节篇。今天来继续分享一下时间类分区的真实案例:某家互联网公司数据库系统的表调优过程。
爱可生开源社区
2022/03/16
5950
zabbix表分区(适用于zabbix2.0.x,zabbix2.2.x和zabbix2.4.x)[推荐]
本文主要介绍了zabbix进行数据库表分区的方法: 在系统监控中,zabbix已经代替了nagios+cacti,zabbix以其良好的图形展示和高度自定义赢得了很多运维人员的喜爱。但是由于在工作中,zabbix跑的时间过长(我们公司跑了将近3年),web页面经常卡顿,监控数据有时很难插入数据库,且数据库队列经常性卡死,经过查看,发现mysql的数据量高达83G,急需瘦身,于是有了此文。 步骤: 修改表结构: use zabbix; Alter table history_text drop
小小科
2018/05/04
8090
Zabbix 分区优化
文章主要介绍了如何通过修改MySQL配置文件中的PARTITION参数来达到提升性能的目的。具体来说,可以通过设置合适的PARTITION值来减少分区数,从而提高查询速度。同时,建议使用InnoDB引擎,并合理配置参数,以达到最佳性能。
腾讯云TStack
2017/11/09
3.7K0
Zabbix MySQL MariaDB 数据库分表
Zabbix 数据库在没有使用分区分表功能,默认使用Housekeeping(管家功能)进行删除历史数据和趋势历史记录,如果zabbix数据库使用了分区分表功能需要把Housekeeping(管理功能)关闭。Housekeeping功能监控数据量少可以使用,但监控数据量多每次执行删除旧数据会降低MySQL数据库性能,并且还会产生很多空间碎片。经常会出现警报" Zabbix housekeeper processes more than 75% busy"的告警。(zabbix_server.conf配置文件两个参数进行历史记录数据删除:间隔多久删除一次,默认单位小时HousekeepingFrequency=1,一次删除多少数据,默认单位行MaxHousekeeperDelete=5000)。
Kevin song
2021/09/15
2.2K0
MySQL普通表转换为分区表实战指南
本文将详细指导新手开发者如何将MySQL中的普通表转换为分区表。分区表在处理庞大数据集时展现出显著的性能优势,不仅能大幅提升查询速度,还能有效简化数据维护工作。通过掌握这一技巧能够更好地应对数据密集型应用带来的挑战,为系统的高效运行奠定坚实基础。
公众号:码到三十五
2024/06/12
6610
MySQL普通表转换为分区表实战指南
mysql自动创建分区存储过程
支持年月日不同间隔分区 DELIMITER || drop procedure if exists auto_create_partitions || create procedure auto_create_partitions_tsec (in databasename varchar(50) CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci,in tablename varchar(50) CHARACTER SET utf8mb4 COLLATE ut
司夜
2023/03/31
1.9K0
【Z投稿】大规模数据库监控的Zabbix玩法详谈
10多年MySQL大规模数据库运维经验+8年Zabbix使用经验。本次峰会演讲和workshop《大规模数据库监控的Zabbix玩法》,讲述海量数据库实例的监控,介绍zabbix的安装、部署、优化,以及数据库自动化运维。
Zabbix
2021/02/03
7420
mysql定时分区
注意:分区的字段必须是主键或主键的一部分; 对已有数据的表进行分区时始终报错,应该创建同样的表结构同时创建分区,然后将原有数据导入新表。
华创信息技术
2019/11/08
1.8K0
mysql定时分区
mysql常用命令记录
存储过程查看:select name from mysql.proc where db = 'dbname' and type = 'PROCEDURE';
司夜
2023/03/31
2820
第42期:MySQL 是否有必要多列分区
之前的篇章我们讨论的都是基于单列的分区表,那有无必要建立基于多列的分区表?这种分区表数据分布是否均匀?有无特殊的应用场景?有无特殊的优化策略?本篇基于这些问题来进行重点解读。
爱可生开源社区
2022/06/29
2K0
第38期:MySQL 时间类分区具体实现
适用分区或者说分表最多的场景依然是针对时间字段做拆分, 这节我们详细讲讲如何更好的基于时间字段来拆分。分别按照年、月、日几个维度的实现方法以及一些细节注意事项。
爱可生开源社区
2021/12/29
1K0
通过租户id实现的SaaS方案
项目开发到一半,用户突然提出需要多个分公司共同使用,这种需要将系统设计成SaaS架构,将各个分公司的数据进行隔离。
程序员大彬
2024/05/28
4350
通过租户id实现的SaaS方案
[1219]mysql自定义函数split_part、split_last
关键字delimiter的使用: delimiter是mysql分隔符。在mysqlclient中分隔符默认是分号(;)。 假设一次输入的语句较多,而且语句中间有分号,这时须要新指定一个特殊的分隔符。 在前一篇中有设置mysql的触发器时使用样例
周小董
2023/10/10
9060
[1219]mysql自定义函数split_part、split_last
MySQL存储过程注意事项和利用存储过程实现复杂分区
MySQL 5.0 版本开始支持存储过程。存储过程(Stored Procedure)是一种在数据库中存储复杂程序,以便外部程序调用的一种数据库对象。存储过程是为了完成特定功能的SQL语句集,经编译创建并保存在数据库中,用户可通过指定存储过程的名字并给定参数(需要时)来调用执行。存储过程就是数据库 SQL 语言层面的代码封装与重用。
云上冲浪者
2022/01/12
1.3K0
MySQL存储过程
可惜啊!MySQL目前并不支持在SQL语句中存在流控制语句,例如上面的IF NOT EXISTS THEN END IF;让人痛心疾首。但是我们可以使用存储过程完成上面要求的功能。
恋喵大鲤鱼
2018/08/03
12.3K0
MySQL存储过程
MySQL 存储过程进行切换表
DROP PROCEDURE IF EXISTS `sp_revoke_table`$$
PHP开发工程师
2021/05/26
1.9K0
mysql存储过程执行拼接sql字符串
DECLARE t1 int default date_format(DATE_ADD(NOW(),INTERVAL 1 MONTH),"%Y%m");
93年的老男孩
2020/12/18
6.2K0
MySQL 批量删除表的实现方式
在实际应用中,有时候需要批量删除以特定前缀命名的表(如数据清理或数据处理时生成的临时表)。这里分享实现这一功能的方法和注意事项,以便避免实现过程中出现问题。
井九
2025/01/09
6640
最强总结!数据库优化完全指南!!
数据库优化是提升应用性能的关键环节。本文将从多个维度系统地介绍数据库优化的方法和实践经验。
SQL数据库开发
2024/11/21
4470
最强总结!数据库优化完全指南!!
2024Mysql And Redis基础与进阶操作系列(9)作者——LJS[含MySQL存储过程之局部、系统变量、参数传递、流程控制-判断/case具体详步骤;注意点及常见报错问题所对应的解决方法]
存储过程就是一组SQL语句集,功能强大,可以实现一些比较复杂的逻辑功能,类似于 JAVA语言中的方法;
盛透侧视攻城狮
2024/10/22
2900
2024Mysql And Redis基础与进阶操作系列(9)作者——LJS[含MySQL存储过程之局部、系统变量、参数传递、流程控制-判断/case具体详步骤;注意点及常见报错问题所对应的解决方法]
推荐阅读
相关推荐
第40期:MySQL 分区表案例分享
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
本文部分代码块支持一键运行,欢迎体验
本文部分代码块支持一键运行,欢迎体验