实际案例分析-TB级数据迁移方案
版权声明
我们非常重视原创文章,为尊重知识产权并避免潜在的版权问题,我们在此提供文章的摘要供您初步了解。如果您想要查阅更为详尽的内容,访问作者的公众号页面获取完整文章。
码农周星星
扫码关注公众号
扫码阅读
手机扫码阅读
数据迁移背景摘要
在服务重构过程中,需要将原用户数据从旧表迁移到新库。旧库有1TB数据、16个库和512张表,而新库则设为两个实例,每个库含1024张表。迁移目标确保旧服务继续运行,旧服务的存量和增量数据都需要迁移到新库。
数据迁移需求分析摘要
需求分析包括新旧数据的业务逻辑、表结构和表数据分析,以及设计存量和增量数据同步方案的流程图。
新旧数据分析摘要
数据迁移前需要分析新旧表的业务功能差异,系统上下游的依赖关系,以及确保数据迁移时业务的连续性。例如,对于UDID和userId的映射关系要提前处理。还要分析旧库数据的合法性和新旧数据字段间的映射关系。
存量数据迁移方案摘要
存量数据迁移通过三个主要步骤实现:首先,克隆源库数据库,以减轻对线上库的影响;其次,通过生产者程序批量处理克隆库数据并放入工作台(如redis-list);最后,定义工作台的数据处理大小限制,以控制生产者的数据生产节奏。
码农周星星
码农周星星
扫码关注公众号
还在用多套工具管项目?
一个平台搞定产品、项目、质量与效能,告别整合之苦,实现全流程闭环。
查看方案
码农周星星的其他文章
如何设计王者荣耀角色转移服务避免系统崩溃(附服务架构方案)
期盼已久的王者荣耀终于开通安卓与IOS互相转移的功能了,心心念的功能,居然要收费99大洋,这个可以理解,但整个角色转移服务的功能从产品、技术、测试角度,有很多的地方待优化,所以出此文与大家共享探讨一下。
一个后端研发在项目中的经验分享
本文以车联网项目-四川企业监控版本的升级迭代作为研发目标,来描述后端研发在项目各个阶段应该如何思考,以及实际需求实现过程中,出现的问题经验分享。
开源项目ZXX-CAS系统从零到一|第二篇:后端基础架构搭建
ZXX-CAS如何基于spring boot搭建自己的基础框架呢,搭建基础框架又需要解决哪些问题呢?
突然安排你当技术负责人怎么办?
“ 本来只是码农一枚,突然领导安排你当后端技术负责人,手动无措,惊慌失措,不知该如何开展工作?原本都是一起吃
系统架构设计师32小时通关笔记:三、数据库与网络基础知识
第三章主要介绍数据与网络基础知识。
加入社区微信群
与行业大咖零距离交流学习
PMO实践白皮书
白皮书上线
白皮书上线