扫码阅读
手机扫码阅读

数字化技术转型:神州数码在TiDB上的探索与实践

264 2023-09-14

导语

PingCAP 用户峰会 2023 在上个月成功举办。神州数码集团TiDB团队技术负责人何傲在会上进行了《神州数码在 TiDB 技术生态能力建设上的探索》的分享,全面介绍了神州数码集团在TiDB业务上的探索与创新,分享了我们团队在技术创新、合作伙伴关系以及客户需求满足等方面的努力和突破。以下为分享全文。

01

神州数码在开源技术上的转型


今天我来和大家分享的主题是,神州数码作为TiDB的合作伙伴,在TiDB技术和生态方面的一些探索。

首先,提起神州数码和PingCAP这两家公司。相信大家对这两家公司都有不同的印象,许多人可能认为神州数码是一家比较传统的公司,很难将它与PingCAP联系在一起。但实际上,近年来关注TiDB的朋友会发现,神州数码频繁地出现在TiDB的“朋友圈”。

为什么神州数码愿意持续地投入精力和资源在分布式数据库厂商中进行这项工作呢?

其实,这与神州数码的技术战略方向有关。大约在2017年左右,神州数码全面开启云转型后,我们启动了一轮新的技术转型。从2018年开始,神州数码通过代码贡献和与各种社区的合作,在这方面做了大量的工作。经过多年的探索,在2022年底,神州数码成为CNCF的银牌会员,这也标志着我们在底层技术,如容器化、虚拟化和云原生能力方面积累了一些经验,得到了市场的认可。

同时,我们还与一些开源厂商合作,如GitLab和TiDB等,以推广我们的能力。在今年的神州数码数云原力大会上发布了下一代云原生应用引擎OpenNJet,并将其捐赠给了开放原子开源基金会。这一系列的措施标志着我们将持续在开源领域和云原生领域发力。

在数据库层面,TiDB已经成为了全球顶尖的开源项目,这一点毋庸置疑。因此,在2018年,神州数码就开始关注并大量在集团内部孵化、使用和探索这个产品。我们经历了几个阶段,从2018年到2020年主要是研究和内部推广。在2020年,与TiDB成为合作伙伴后,我们成立了专门的TiDB团队,深入挖掘底层原理,增强团队综合能力。从2020年底到2021年,我们进入了全面的生产探索阶段,到现在发展成为神州数码旗下一个成熟的业务。

02

神州数码TiDB业务布局

在 TiDB 的生态布局中,神州数码在多个领域都与PingCAP展开了密切合作。我们围绕 TiDB 这一产品上做出了以下布局:

首先是技术服务方面,我们能够提供从售前咨询到实施交付再到售后维保的全生命周期技术服务能力。我们与 PingCAP共同打造了联合技术中心,旨在培养该地区的交付人才。

其次,我们在研发领域也进行了一些产品合作。我们推出了一个名为TiDB4PG的开源项目,这个项目也让很多关注TiDB的朋友第一次听说了神州数码。基于TiDB4PG,我们还进行了一系列的产品适配,包括与GitLab和其他知名的项目合作,将原有的PG体系迁移到TiDB4PG上,进行了多项尝试。此外,我们的团队还基于自身的研发能力,开发了一些围绕TiDB的生态工具,包括在一体机上进行的一些探索。

第三部分是我们在社区和认证教育方面投入了大量资源。例如,我们积极参加PingCAP办的各种活动,如Hackathon ,以及社区举办的征文大赛等活动。此外,我们与PE(PingCAP Education)在教育方面进行了深度合作,任何对培训有需求的人都可以找到我们。

同时,在技术认证方面,我们团队非常注重自身的要求。我经常开玩笑说,我们团队应该是整个TiDB社区最卷的团队之一。为什么这样说呢?因为TiDB本身的更新迭代非常快,所以我们团队对自己有很高的要求。TiDB的考试无论难易,我们都要百分之百地通过。除了考试之外,我们还在社区输出了许多有关底层原理、实践和项目经验等方面的技术文章,保守估计我们团队至少输出了50篇以上。

最后是关于在TiDB的社区运营方面,其实我们也在打造神州数码自己的一个分布式数据库社群。借助我们自身强大的高校合作能力,我们录制了两套课程,分别涵盖了分布式数据库的原理开发以及TiDB的运维使用等内容。这两套课程已经在许多高校的内部学习平台上上线了。我们非常重视在高校这个群体中挖掘未来从事分布式数据库和TiDB的潜在人才。

03

神州数码TiDB团队

基于以上业务布局,州数码成立了专门的TiDB团队,我们最核心的是人才队伍,目前TiDB团队拥有20多名来自不同岗位的人才,包括售前和销售人员、后台交付、运维和研发等。其中,技术人员占团队的80%。在这个人才体系之上,我们进行了一系列团队建设,包括组织架构、为新人提供完整培训体系和技术分享体系。

此外,我们还拥有两项核心的技术驱动能力。第一项是依托神州数码云基地的规模化交付能力。早期,我们在TiDB市场的投入主要集中在云基地,逐渐云基地演变成了整个技术团队的赋能中心,包括交付中心和创新中心等。

第二项是,我们与PingCAP作成立了联合技术中心,旨在培养区域交付能力和TiDB交付人才。基于以上的技术能力,我们能够提供从前端到后端的整体交付生命周期的服务。同时,我们持续深耕开源社区,并在其中做出贡献。除此之外,我们还建立了完整的项目交付流程,包括实施流程、测试、POC等规范的流程。此外,我们还提供解决方案,并进行文档上的建设。我们希望能够打造一支具备专业的TiDB服务能力和研发能力的开源队伍。

这是我们与TiDB社区共建的一些成果。例如,我们与PingCAP一些高校合作开设了TiDB课程。我们还在技术上获得了一些社区认证。下图是我们神州数码最早一批获得TiDB认证的证书,共有28张。这对我们来说具有特殊的纪念意义,因此我们制作了这张图。

04

服务客户

一、客户画像

经过多年的发展,神州数码TiDB团队已经为十多家头部客户提供了服务。这些客户分布在多个行业中,根据他们的用户画像,可以将这些行业分为三类:

第一类是以国产化改造为主要需求的客户,他们希望将原先使用的外国数据库转变为国产数据库。这类客户主要包括金融、证券和政务等领域。

第二类客户的主要需求是分布式数据的扩展能力。这类客户包括物流和互联网行业等等,他们在面对高频大数据场景时,传统的MySQL数据库架构已经无法满足他们的业务发展需求。他们需要一种具备扩展能力的分布式数据库系统,以应对大规模数据处理的挑战。

第三类客户需要同时满足交易和分析事务场景的需求,即具备HTAP技术能力的数据库系统。这类客户主要代表有政务和能源领域。在政务领域,我们已经涉及到医疗、税务以及核酸检测等方面。而在能源领域,我们也与电力和石油行业的客户进行过接触。

此外,在物流领域,我们也在神州数码自身的体系下进行了许多尝试,并取得了一些经典案例,我将在后续与大家分享这些案例。

在产品层面,神州数码拥有自主知识产权和品牌的神州鲲泰系列硬件产品,在信创市场中占有很大的比例。凭借我们自身的优势以及TiDB产品的优势,我们正与合作伙伴共同打造一款分布式数据库一体机。目前,我们处于前期探索阶段,但已经在产品互认方面进行了一些尝试。

二、交付案例

之前提到我们已经交付了许多客户,但由于时间和客户隐私问题的限制,无法详细介绍。因此,我将带来一个神州数码内部的经典案例来说明。

科捷物流是神州控股旗下的一家5A级物流公司,早期的技术架构基于MySQL的一主多从的V5体系。他们的核心产品是神州金库,一个专业级的物流管理平台,包含四个核心子系统。然而,多年的业务积累使得他们原有的数据库体系无法满足业务发展需求。

我记得最深刻的一个事件是,每年在双11这样的电商大促期间,他们需要向集团申请临时资源,然后再将这些资源回收。对于一个庞大的公司体系来说,这个流程非常繁琐,每年都需要耗费大量精力。因此,他们开始调研分布式数据库。

科捷物流除了自营业务外,他们还为中小型电商提供SaaS平台。因此,数据量呈爆炸式增长。电商物流企业面临的最大挑战之一是每年几次线上大促销,这给他们带来了巨大的压力。

为了解决这个问题,他们与我们的TiDB团队一起进行了分布式数据库的选型和测试调研。在前期,我们花了大约半年的时间,反复测试和模拟未来数据量增长数倍的场景,并进行了压力测试。最终,我们取得了良好的效果。

在去年的9月份,我们将TiDB应用到了科捷物流的仓储系统中的四大核心系统之一,并进行了试点。顺利地度过了去年11月份的第一轮双11高峰。下面的图表显示,在双11的11月1日这一时间点,数据流量比平常高了3-5倍。

05

成为领先的数字化转型合作伙伴

神州数码在TiDB上持续投入和探索,这源于公司技术转型的战略愿景。下图是我们内部称之为"数云融合"的技术蓝图,图中最底层是基于开源生态和云生态的基础支撑。其上是两个重要部分是基于云原生应用的敏捷创新和基于各类数据生态产品的数据资产构建,以为客户创造最终的数据资产。因此,可以看出TiDB与我们的技术蓝图非常契合,从数据资产到开源生态和云生态都完美地与神州数码相匹配。

神州数码在创立之初,我们确定了以数字中国为使命的伟大理想。因此,我们公司的愿景是成为领先的数字化转型合作伙伴

在这个基础上,我给我们的TiDB团队设定了一个小目标,希望能够不断向着成为领先的TiDB生态合作伙伴的方向前进”。神州数码希望与厂商、用户以及广大企业共同建设繁荣的国产数据库生态系统。

想要了解更多,点击 查看原文