mysql 快速迁移到历史表(MySQL 线上日志库迁移实例)
mysql 快速迁移到历史表
MySQL 线上日志库迁移实例说说最近的一个案例吧,线上阿里云rds上的一个游戏日志库最近出现了一点问题,随着游戏人数的增加,在线日志库的数据量越来越大,最新的日志库都已经到50g大小了,在线变更的时间非常长。
之前之所以没有发现,是因为之前一直没有进行过日志库的变更,但是随着业务的深入,需要增加一些游戏属性,要对之前的日志库进行变更,这样一来,长时间的维护窗口让业务方和dba都望而却步,日志优化迫在眉睫。
首先看日志库的情况:
1、日志库中数据量大于5000w的大表有5张;
2、这5张表开量前每个月的数据量大概在2000w左右,开量后会更多;
3、有2个表的索引大小已经超过数据文件大小
询问了业务方和运营对这些表的要求,具体如下:
1、保留最近这3个月的数据,其他的数据可以进行流转,避免影响线上业务的性能。
2、3个月之前的数据流转到一个本地库中,可以支持查询即可,查询速度不能过于慢,分钟级别的可以接受。
3、日志库在迁移的过程中,能够容忍几分钟的表数据丢失,对数据的同步实时性要求不是很高
4、线上的日志库需要支持用户活跃度等统计
5、不希望执行分库分表,有很多查询近几个月的sql操作,表之间存在一定的耦合性,分表之后不利于关联操作
基于上面的分析,结合实际情况,初步设想的方案是:
1、对线上数据库game_log中的表进行rename操作,然后将原来的表重新创建出来,这个过程中不是连续的,可能会丢失几秒钟的数据。具体的操作如下:
|
#第一步 rename table game_log. table to game_log_bak. table ; #第二步,获取表结构,其中重要的是auto_increment的值, #保证后续导入三个月内数据的时候不会发生冲突 show create table game_log_bak. table \g #第三步 在game_log库中重新创建第二步的表结构 |
2、将rename过后的game_log_bak库中的数据流转到本地的离线数据库中,该数据库采用infobright存储引擎,这样能够支持离线数据的快速查询
3、备份并清理线上表3个月之外的数据,大概是40g,并将线上的game_log_bak数据库中3个月以内的数据(大概10g)重新灌入game_log数据库中,这样结构就变成了:
4、删除game_log_bak库,并搭建一个只读从库,实时的从主库上同步game_log库的信息,如下:
5、从本地的只读从库中,像本地的infobright数据库中同步数据,同步的方法可以选用datax工具,像下面这样:
6、设置定时任务,按照一定的周期清理线上的过期数据,确保线上只保留最近3个月的数据,不会对rds的磁盘存储空间产生压力。
这个方法中,目前看来存在下面几个问题:
1、经常性的清理线上数据,这些数据占用的表空间不能被立即回收,可能会造成数据表的碎片问题。
2、后续如果游戏的量级上来之后,使用这个问题可能还是会有问题,届时可以适当调整日志表的清理周期,如果数据量过大,可以考虑其他的方案来处理。
回过头来分析,表的设计上还是存在一定的问题,日志表中记录的应该只是流水数据,尽量不能出现关联查询的情况,或者说可以提前评估数据量,然后使用季度表或者月表来处理这种的大量的日志情况,这样在清理和维护的时候可能就方便的多。
以上就是mysql 线上日志库迁移实例的详细内容,更多关于mysql 线上日志库迁移的资料请关注开心学习网其它相关文章!
原文链接:https://cloud.tencent.com/developer/article/1533732
- mysql 慢查询日志
- mysql权限设置
- mysql8.0.25安装及配置超详细教程(MySQL8.0.21安装步骤及出现问题解决方案)
- mysql创建表存在哪里(MySQL的表空间是什么)
- mysql 5.5.27 winx64安装配置方法图文教程(mysql 5.5.27 winx64安装配置方法图文教程)
- docker安装mysql后无法连接(Docker 安装 MySQL 并实现远程连接教程)
- 查看mysql索引缓存(MySQL查询缓存的小知识)
- mysql8.0.12安装教程图解(MySql8.023安装过程图文详解首次安装)
- mysql游标的使用(MySQL 游标的作用与使用相关)
- mysql 用户权限配置(详解MySQL 用户权限管理)
- mysql中自增字段类型(MySQL数字类型自增的坑)
- 阿里云mysql配置升级注意事项(详解如何在阿里云上安装mysql)
- mysql 命令与sqlserver的区别大么(MySQL系列之执行SQL 语句时发生了什么?)
- mysql的decimal类型(MySQL数据类型DECIMAL用法详解)
- dockermysql实例(docker 连接宿主Mysql操作)
- apache搭建php环境(Windows上安装Apache2、PHP5、MySQL5及与Resin配合实现多系统之整合)
- Google 推出了一个游戏生成器,让不会编程的你也能自己设计游戏(推出了一个游戏生成器)
- 二胎家庭老大爱闹情绪,用这招很有效(二胎家庭老大爱闹情绪)
- 一个30岁男人外遇失败的全过程(一个30岁男人外遇失败的全过程)
- 《无敌破坏王2》 不聊彩蛋,聊聊我从动画里看到的现实那些事儿(无敌破坏王2不聊彩蛋)
- 《寄生虫》 三观不正 人类悲欢从来不相通,感同身受也并非本能(寄生虫三观不正)
- 这部动漫中的女孩子,可比101女孩更加励志(这部动漫中的女孩子)
热门推荐
- linux安装opencv版本(详解ubuntu安装opencv的正确方法)
- linux怎么上传windows的文件(Windows本地环境和Linux腾讯云服务器之间传输文件的方法)
- MongoDB优化器profile
- css定位属性position的值的含义(css position fixed 左右双定位的实现代码)
- 阿里云centos7java服务器搭建(阿里云 ubuntu16.04搭建IPSec服务)
- jquery的直接设置下拉框的选中值(jquery实现户籍地选择下拉框)
- linux系统安装宝塔面板启动失败(Linux云主机安装宝塔面板新手教程)
- js如何解决iphone异形屏适配(Html5适配iphoneX刘海屏的简单实现)
- dede常用变量(dede调用文章第一张图片非缩略图的实现方法)
- php解压压缩包(PHP 实现文件压缩解压操作的方法)
排行榜
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9