实际案例分析-TB级数据迁移方案
版权声明
我们非常重视原创文章,为尊重知识产权并避免潜在的版权问题,我们在此提供文章的摘要供您初步了解。如果您想要查阅更为详尽的内容,访问作者的公众号页面获取完整文章。
码农周星星
扫码关注公众号
扫码阅读
手机扫码阅读
数据迁移背景摘要
在服务重构过程中,需要将原用户数据从旧表迁移到新库。旧库有1TB数据、16个库和512张表,而新库则设为两个实例,每个库含1024张表。迁移目标确保旧服务继续运行,旧服务的存量和增量数据都需要迁移到新库。
数据迁移需求分析摘要
需求分析包括新旧数据的业务逻辑、表结构和表数据分析,以及设计存量和增量数据同步方案的流程图。
新旧数据分析摘要
数据迁移前需要分析新旧表的业务功能差异,系统上下游的依赖关系,以及确保数据迁移时业务的连续性。例如,对于UDID和userId的映射关系要提前处理。还要分析旧库数据的合法性和新旧数据字段间的映射关系。
存量数据迁移方案摘要
存量数据迁移通过三个主要步骤实现:首先,克隆源库数据库,以减轻对线上库的影响;其次,通过生产者程序批量处理克隆库数据并放入工作台(如redis-list);最后,定义工作台的数据处理大小限制,以控制生产者的数据生产节奏。
码农周星星
码农周星星
扫码关注公众号
还在用多套工具管项目?
一个平台搞定产品、项目、质量与效能,告别整合之苦,实现全流程闭环。
查看方案
码农周星星的其他文章
kafka3.3.1-单机版本安装教程
kafka3.3.1单机版本安装教程
技术管理实施20个月之后,效果如何?
2022年7月开始考虑需要对技术团队管理进行管理革新,才能解决技术团队目前面临的问题,遂开始研究如何做技术管理-全流程路径。至2024年8月31日已经施行20个月,那这20个月的制度施行效果如何呢?
德鲁克核心警示:这三类人,绝对不能提拔为管理者
管理者选拔的核心准则:“聪明、能力、知识固然重要,但如果一个人缺乏【正直】,他的所有长处,最终都会变成组织的灾难。
项目经理必备技能之需求获取
项目经理应该如何进行需求获取?
如何使用JAVA动态生成WORD分析报告
如何基于poi-tl设计一套可以动态生成word分析报告的功能。
加入社区微信群
与行业大咖零距离交流学习
PMO实践白皮书
白皮书上线
白皮书上线