AntDB数据库致力降本增效的某省高速清分结算实践——解决方案
本文以AntDB助力某省智慧高速清分结算项目为案例,阐述数据库在高速清分结算中的应用,体现AntDB分布式数据库的存储和计算能力,抛砖引玉,希望读者能够对数据库在数字化建设中起到的作用形成较为深刻的认知。
01
背景介绍
项目背景
某省高速中心清分结算系统一直无法解决数据库设计和选型等相关问题。在某省高速项目建设的过程中,数据库建设方案一直是一个难点。
这一工程建设面临两方面的压力:
(一)时间短,工作任务重:政策上某省交科院责令某省高速尽快实现联网收费计费、车道数据和现有清分结算系统的设计,做好整改配合工作,力争四个月内全省联网收费和清分结算系统整改完毕;
(二)数据量大,选型难:自2019年5月起某省全省逐步取消高速公路省界收费站,逐步推广ETC收费以来,,某省高速公路建成里程突破10000公里,全省发行ETC用户累计超过600万,客车ETC使用率超70%,货车ETC使用率超60%,选用技术领先的数据库支持某省全省清分结算业务迫在眉睫。
建设难点
此清分项目所在的大数据平台业务支持量较大,支撑的计费等结算任务十分艰巨。其中,项目的困难点主要为以下三个方面:
(一)超大的业务数据量需要选用性能稳定的分布式数据库集群。一方面,业务量访问巨大,数据库需要支持读写分离,否则会出现数据积压和低查询效率,Oracle数据库不能支持读写分离,另一方面超高的业务访问和数据写入量,以及较多的报表分析需求,有可能超出Oracle的承受能力。
(二)省中心清分结算系统在数据入库上未使用入库前的数据缓存机制,程序直接连库操作,导致数据库连接数较多,程序直接连库写表造成进程间锁等待导致流水数据入库效率低。
(三)清分结算系统的省中心数据库未有效组合规划,导致各个收费站上传给清分系统省中心的数据无法集中,只能分散多个数据库存储,无法高效快速对数据进行访问、统计,影响正常的清分结算业务的及时完成。
02
AntDB数据库解决方案
本次清分结算系统数据库全部采用亚信科技自研国产数据库AntDB,实现高速核心业务系统数据库全面自主可控。清分结算系统负责处理并存储计费系统下发的出口交易流水、门架交易流水、部中心下发的记账信息等数据,并产生各种清分结算数据的系统,每日处理数据量达数亿条,同时各类交易处理具有较强的时效性。
图1:AntDB与某省清分结算中心部署的架构图
原生分布式能力:清分结算业务具备短时超高并发的特点,AntDB数据库具备内存计算引擎,提供极致数据处理性能、基于SQL的数据访问服务以及可插拔的扩展服务。原生分布式设计,对应用完全透明,兼顾性能与可扩展性。并且,AntDB有超强scale?up能力,对CPU、内存、连接数不做限制。用户可以在线进行扩容操作,扩容过程不影响用户的线上业务,随着业务的快速增长数据库可以横向在线扩展。AntDB可以高效支撑清分结算系统的超高并发业务,保证交易流水等数据处理“一条不漏,一条不错”。
HTAP的超高计算能力:清分结算业务包括在线交易、数据分析、报表输出等场景,AntDB数据库可以处理HTAP场景,即交易加实时分析融合场景。AntDB数据库具备实时强一致的分布式事务控制能力,确保数据零丢失和事务一致性,保证拆分数据和报表数据的准确性。分布式场景下提供规范的数据访问控制,全局数据可实现一致性备份和恢复,并提供严格的数据访问控制和数据防倾斜设计,保证业务数据安全可靠;AntDB支持异地容灾,具备高可用,出现故障时可以自动剔除故障节点,保障业务持续可用,保证数据库系统达到99.999%的服务等级;AntDB具备动态高效的SQL执行引擎,提供异构索引,内置reduce数据处理引擎,数据节点间可以进行通信,提高数据处理效率,尤其是复杂查询场景(例如union、join等)的数据处理效率,该能力对于清分结算系统的实时数据分析及报表生成有重要作用。
图2:分布式AntDB产品架构
本次清分结算系统使用AntDB分布式架构数据库,数据节点一主两备部署保证高可用,并且启用AntDB独有的读写分离特性,提高数据处理性能。AntDB上线后系统ETC拆分业务效率提升90%,ETC清分记账效率提升60%,报表生成时间缩短接近90%,大大提高了客户清分结算系统的各项业务的处理效率。
AntDB部署架构示意图如下:
图3:AntDB部署架构示意图
在线扩容,超高存储能力:目前AntDB每天处理清分结算系统数据量达到上亿条,而且数据量随着业务增长在快速激增,数据库主机IO压力逐渐增大,资源长期满负荷运行,会导致业务运行效率下降。
图4:AntDB弹性扩展前服务器负载压力情况
业务运行效率问题的出现是业务量快速增长导致数据库主机性能消耗严重,所以需要减轻生产数据库运行压力。而基于现场客户资源情况和成本考虑,凭借AntDB分布式架构的弹性伸缩能力和灵活性,数据库团队提出了两套可选的解决方案:
一是在线扩容AntDB数据库,增加更多数据库主机来分担运行压力。
二是另外增加一套数据库集群,专门用于存放历史数据,生产库保存近6个月数据即可,超过6个月的历史数据存储到新建的历史数据库集群中,从而减轻生产数据库压力。
最终根据客户需求成本和现场实际资源情况综合考虑,选择方案二。基于方案二的逻辑,为了最大化利用资源,生产数据库数据节点从一主两备调整为一主一备,原来生产库中的异步从库下架作为历史数据库使用,历史数据库同样采用一主一备架构,保证高可用,历史数据库承担历史数据备份和历史数据查询业务,由于历史数据查询频率较低,故服务器采用成本更低的HDD硬盘。
调整后数据库集群如下图所示。
图5:调整后的AntDB数据库示意图
历史数据库上线后,主库运行压力大幅下降,数据处理性能得到提升。该方案在保证客户生产库高可用的同时降低了生产库运行压力,而且最大化利用了客户现有资源,降低了客户成本。
此次生产库集群调整和历史库上线充分展示了AntDB的弹性伸缩能力和灵活性,可以根据客户需求及业务发展情况进行调整。
图6:AntDB弹性扩展后服务器负载压力情况
关于亚信安慧AntDB数据库
AntDB数据库始于2008年,在运营商的核心系统上,服务国内24个省市自治区的数亿用户,具备高性能、弹性扩展、高可靠等产品特性,峰值每秒可处理百万笔通信核心交易,保障系统持续稳定运行超十年,并在通信、金融、交通、能源、物联网等行业成功商用落地。
?
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。 如若内容造成侵权/违法违规/事实不符,请联系我的编程经验分享网邮箱:veading@qq.com进行投诉反馈,一经查实,立即删除!