华青融天业务仿真与并行验证解决方案护航大型城商行分布式核心系统改造升级
华青融天基于真实交易流量的业务仿真回放与并行验证解决方案,助力某大型城商行实现了“交易数据真实,交易操作真实,交易结果真实”的100%仿真测试,提升了测试效率和质量,提高了运维监控保障能力,确保了新核心系统的安全投产、稳定运行。
一、项目背景
随着信创政策的深入推动,金融行业普遍对核心系统进行国产化更换。某大型城商银行近年来积极推进分布式数据库改造、同城双活建设、信创建设工作,随着未来几千支相关业务交易将在新核心系统(分布式核心系统)上承接,对该行开发团队、测试团队、运维团队带来巨大挑战。
传统测试效率低、覆盖不全。分布式架构下,应用服务链条长,跨BU/服务调用多,使用传统回归验证方式效率低、效果差;另一方面,传统测试依靠人工构造测试用例,不仅无法在短时间内完成大量的测试脚本,而且无法全量覆盖实际应用场景。
新核心迁移任务重、困难多。新核心系统迁移是一件复杂而艰巨的任务,周期长、困难多,千头万绪,需要进一步提高运维保障级别,对迁移过程进行全程保障,密切监测业务运行状况,随时发现问题,及时排除隐患,确保新核心可用性和业务连续性。
二、项目目标
为了实现高效、全面的业务测试,确保新核心系统上线后的稳定、可靠运行,该城商行拟建设仿真环境,通过旁路镜像的方式,还原生产环境真实业务交易请求进行跟账质量检验,以避免新核心系统上线时因测试环境和生产环境差异带来的各种功能和性能问题,护航分布式核心安全投产、稳定运行。
三、建设内容
华青融天依托自主研发的EZSonar业务仿真系统,提出了基于真实交易流量的业务仿真回放与并行验证建设方案。方案基于该城商行生产环境真实的交易数据,对在建的分布式核心相关组件业务交易的开发质量进行异步报文回放和同步并行跟账检验,从而在确保测试覆盖面的同时,做好交易系统的压力测试与稳定性测试,及时发现功能和性能问题,建立新核心系统上线信心。
1、系统架构
业务仿真回放与并行验证系统由交易数据解码服务引擎和管理分析服务引擎两部分组成。
交易数据解码服务引擎
通过定义协议解码器,对数据进行解码,并将数据结构化处理成JSON等格式的文件,然后将结构化的数据一步加工形成标准格式的数据文件。
管理分析服务引擎
提供仿真功能管理、发送模式管理、转发管理、应用流配置、数据统计分析、报文字段对比、数据清理管理、备份管理、用户管理等与用户交互的功能。
2.系统内容
报文采集和解码
通过旁路镜像的方式从老核心系统采集相关交易的流量,并根据交易报文的协议和字段规范对流量数据进行解码还原,获取真实的业务操作数据。所获取的业务操作数据存储在本地服务器并对外提供数据调用接口。
对于不同协议的报文类型,通过解码引擎调用不同的解码器,实现对业务系统交易报文的解码。目前,华青融天解码引擎可支持超过2000种协议的应用层协议,并可针对不同业务进行分类数据存储。
报文改造和转换
新老核心的区别在于报文协议的区别,从老核心获取的交易报文需要适配协议转换模块投放到新核心。交易报文、响应报文由于协议不同会出现字段不一致的情况。
EZSonar业务仿真系统支持通过配置文件对每个会话的报文按照指定的格式进行重组,生成仿真所需的报文文件,不需要额外的程序开发工作。针对该项目,华青融天梳理了各具体业务的报文改造需求,明确了映射规则。同时,通过制定的测试案例进行大量的测试,来验证报文映射的准确性和可靠性,确保规则的完备准确。
报文灵活发送
报文发送模块将加工处理完毕的数据文件传送到指定的仿真发送服务器,通过仿真发送服务器进行发送,完成数据仿真测试。用户可灵活配置不同的报文发送实例,以实现不同的测试需求;也可根据配置交易报文的不同发送模式,调整发送速度,包括原速高保真模式、倍速通畅模式、以及追击模式等,以满足相应的压力测试需求。
报文并行回放
系统具有报文并行回放功能,从老核心系统采集流量、进行报文改造转换的同时,能够将改造的报文精准回放到新核心系统,从而验证相关组件交易服务的逻辑正确性、可靠性、稳定性。在多仿真实例的并发情况下,不同速率报文回放的稳定性是项目的难点和关键。系统通过仿真实例管理,支持多仿真实例并发回放,并且不同仿真实例均可支持原速、快速、慢速报文回放。
报文数据对比
为了确保分布式服务中的关键数据与现有服务的一致性,项目实现了仿真报文发送实例的实时监控,可统计报文发送数量、发送成功数量、发送率、响应数量、响应率、成功数量、成功率、总响应时间、平均响应时间、最大响应时间等指标,并且对每次请求的全量字段进行对比,提示比对异常的交易数量。同时支持对新分布式核心返回报文解码后的数据进行多维分析,查看一定时间段内各类指标的走势,以及对应的返回码等信息。
四、实施效果
华青融天帮助该大型城商行实现了“交易数据真实,交易操作真实,交易结果真实”的100%业务仿真回放与并行验证,为其分布式核心上线运行提供了高效可行的保障方案。
1.实现真实、高效、全面的业务测试
通过业务仿真回放与并行验证系统建设,该城商行实现了真实、高效、全面、持续的业务测试,解决了传统测试场景覆盖不全、数据不够真实,测试成本高、效率低、效果差等诸多痛点。
(1)仿真回放真实业务数据
采用真实的业务交易数据作为测试用例,解决了测试环境无法完全复制生产环境配置,数据不够真实的弊病。
(2)全面覆盖每一个业务场景
更加全面的覆盖各类需要测试的接口和功能,实现了以实际业务量对应用软件进行全方位测试的效果。
(3)大幅提升测试效率和质量
将传统测试中最为复杂和耗时的用例编制、场景构造环节简化,减轻了测试人员的压力和工作负担,提升了测试效率和质量。
2.护航分布式核心顺利投产、稳定运行
系统融合了先进的网络解码技术、大数据技术,运用机器学习技术,灵活构建了IT资源与业务间的关系,帮助该行提高了日常运维保障级别,避免了因测试环境和生产环境差异带来的各种功能和性能问题,护航分布式核心顺利投产、稳定运行。
(1)验证目标系统正确性
验证新核心系统的业务处理逻辑正确性、功能正确性。
(2)验证目标系统可用性
验证目标系统的稳定性和可靠性,发现性能问题。
(3)保障数据迁移可靠性
覆盖数千交易码和交易处理场景,通过数据比对,保障新旧系统数据迁移可靠性和一致性。
3.灵活扩展,满足不同吞吐量需求
业务仿真回放与并行验证系统采用松耦合设计,解码服务引擎和管理分析服务引擎相互独立,独立部署、独立启停,可通过分别扩展,满足不同系统吞吐量的要求。