实际案例分析-TB级数据迁移方案
版权声明
我们非常重视原创文章,为尊重知识产权并避免潜在的版权问题,我们在此提供文章的摘要供您初步了解。如果您想要查阅更为详尽的内容,访问作者的公众号页面获取完整文章。
码农周星星
扫码关注公众号
扫码阅读
手机扫码阅读
数据迁移背景摘要
在服务重构过程中,需要将原用户数据从旧表迁移到新库。旧库有1TB数据、16个库和512张表,而新库则设为两个实例,每个库含1024张表。迁移目标确保旧服务继续运行,旧服务的存量和增量数据都需要迁移到新库。
数据迁移需求分析摘要
需求分析包括新旧数据的业务逻辑、表结构和表数据分析,以及设计存量和增量数据同步方案的流程图。
新旧数据分析摘要
数据迁移前需要分析新旧表的业务功能差异,系统上下游的依赖关系,以及确保数据迁移时业务的连续性。例如,对于UDID和userId的映射关系要提前处理。还要分析旧库数据的合法性和新旧数据字段间的映射关系。
存量数据迁移方案摘要
存量数据迁移通过三个主要步骤实现:首先,克隆源库数据库,以减轻对线上库的影响;其次,通过生产者程序批量处理克隆库数据并放入工作台(如redis-list);最后,定义工作台的数据处理大小限制,以控制生产者的数据生产节奏。
码农周星星
码农周星星
扫码关注公众号
还在用多套工具管项目?
一个平台搞定产品、项目、质量与效能,告别整合之苦,实现全流程闭环。
查看方案
码农周星星的其他文章
ES6.3版本踩坑之路-整型字段慢查询导致CPU负载飙升
最近在做用户ES数据合并,将之前多个类型的索引数据合并成一个大的宽表索引,测试环境没有问题,切到线上环境就崩溃了,究竟是什么原因呢?
突然安排你当技术负责人怎么办?
“ 本来只是码农一枚,突然领导安排你当后端技术负责人,手动无措,惊慌失措,不知该如何开展工作?原本都是一起吃
武功秘籍之发号器
“ 发号器是什么?为什么要用发号器?可以解决什么问题?”
如何设计王者荣耀角色转移服务避免系统崩溃(附服务架构方案)
期盼已久的王者荣耀终于开通安卓与IOS互相转移的功能了,心心念的功能,居然要收费99大洋,这个可以理解,但整个角色转移服务的功能从产品、技术、测试角度,有很多的地方待优化,所以出此文与大家共享探讨一下。
产品设计的终极答案:别问功能够不够,先问场景需不需
好的设计,从来不是 “我完成了多少功能”,而是 “在用户需要的那一刻,我有没有刚好出现,并且刚刚好解决问题”
加入社区微信群
与行业大咖零距离交流学习
PMO实践白皮书
白皮书上线
白皮书上线