Transaction log processing in double active centers of railway electronic payment platform based on big data technology
-
摘要: 随着铁路电子支付平台业务的发展和客运12306互联网售票系统售票支付量的大幅提升,支付系统在交易日志和快照环节遇到了性能瓶颈。研究运用Spark、Kafka、HBase等关键技术,基于Hadoop平台和Java开发工具设计数据处理架构,满足高性能和基于双活双中心的交易日志处理。经实际应用,大幅提升了系统处理能力,更好地支撑了铁路业务系统的发展需求。
-
关键词:
- 大数据技术 /
- 电子支付平台 /
- 双活中心 /
- 流计算 /
- 12306互联网售票系统
Abstract: With the development of railway electronic payment platform business and the substantial increase in ticket sales and payment for the 12306 Internet ticketing and reservation system, the payment system has encountered bottlenecks in the transaction log and snapshot link. This paper studied the use of spark, Kafka, HBase and other key technologies, and designed data processing architecture based on Hadoop platform and Java development tools to meet the requirements of high performance and processing based on double active centers processing. Through practical application, it greatly improves the system processing capacity and better supports the development needs of railway business system. -
-
[1] 马小宁,李 平,史天运. 铁路大数据应用体系架构研究 [J]. 铁路计算机应用,2016,25(9):7-13. DOI: 10.3969/j.issn.1005-8451.2016.09.003 [2] 王 岩,王 纯. 一种基于Kafka的可靠的 Consumer 的设计方案 [J]. 软件,2016,37(1):61-66. DOI: 10.3969/j.issn.1003-6970.2016.01.015 [3] 王同军. 中国铁路大数据应用顶层设计研究与实践 [J]. 中国铁路,2017(1):8-16. [4] 孙大为,张广艳,郑纬民. 大数据流式计算: 关键技术及系统实例 [J]. 软件学报,2014,25(4):839-862. [5] 朱建生. 铁路新一代客票系统大数据应用创新研究 [J]. 铁路计算机应用,2019,28(4):1-7. DOI: 10.3969/j.issn.1005-8451.2019.04.002 [6] 金国栋,卞昊穹,陈跃国,等. HDFS存储和优化技术研究综述 [J]. 软件学报,2020,31(1):137-161. [7] 许长福. 日志数据分析系统的设计与实现[D]. 北京: 北京交通大学, 2017. [8] 王电轻. 基于hadoop的网站用户行为分析系统设计与实现[D]. 北京: 中国科学院大学, 2016. [9] 袁昌权,胡益群,许 光,等. 基于Hadoop的高可用数据采集与存储方案 [J]. 电子技术与软件工程,2019(18):169-170. -
期刊类型引用(9)
1. 杨文澈,刘茂朕,史晓磊,董卓皇,陈亚勋. 铁路货车关键配件标识管理流程与应用. 铁路计算机应用. 2024(03): 67-71 . 本站查看
2. 刘文胜,刘博阳,景生寿,李鹏. 铁路货车智能化监测技术研究. 机械工程与自动化. 2024(03): 208-212 . 百度学术
3. 李杰. 办公楼宇智慧消防管控系统研究. 网络安全技术与应用. 2024(07): 116-120 . 百度学术
4. 董卓皇,史晓磊,刘茂朕,杨文澈. 铁路货车配件物联网标识管理系统设计. 铁路计算机应用. 2023(05): 40-44 . 本站查看
5. 史晓磊,范增虎,董卓皇,陈亚勋,杨文澈. 铁路货车轮轴数字检修关键技术研究. 中国设备工程. 2023(21): 33-35 . 百度学术
6. 宋宗莹,王文斌,刘子扬,周瑾,刘永壮. 重载铁路运输大数据分析平台架构设计研究. 铁路通信信号工程技术. 2023(11): 44-49 . 百度学术
7. 李林俊,张欢,厉伟,李宏林. 基于云边协同的铁路货车图像智能识别. 集成电路应用. 2022(12): 288-290 . 百度学术
8. 王之煜. 钢铁企业工厂数据平台的构建与应用. 数字技术与应用. 2021(03): 158-161 . 百度学术
9. 韩俊峰,李华,李立东,何健. 铁路货车智能化分析与顶层架构方案设计. 大连交通大学学报. 2020(01): 43-48 . 百度学术
其他类型引用(2)