Research on multimodal intelligent ticketing service mode of Beijing-Zhangjiakou high-speed railway
-
摘要: 针对北京2022年冬奥会和冬残奥会期间北京—张家口高速铁路(简称:京张高铁)的运营特征,为满足办赛/观赛方和高铁运营方的多元化运输需求,分析铁路新一代客票系统时期和铁路电子客票时期两阶段的铁路票务模式,以需求引领业务创新的方法,从多模态信息融合、多模态感知交互、多模态智能计算3个方面开展一系列票务关键技术研究,构建京张高铁多模态智能票务模式,形成售票、验票、检票及客服全行程国际化服务闭环,实现京张高铁售票服务国际化和智能化再提升,解决跨区域赛事场景下多元出行需求与高铁多模态票务的协同问题。Abstract: According to the operation characteristics of the Beijing-Zhangjiakou high-speed railway during the Beijing 2022 Olympic and Paralympic Winter Games, and to meet the diversified transportation needs of the organizers/spectators and high-speed railway operators, this paper analyzed the railway ticketing service mode in the new generation of railway ticketing and reservation system period and the railway electronic ticketing and reservation period. With the method of demand leading business innovation, the paper carried out a series of research on key technologies of ticketing service from three aspects of multimodal information fusion, multimodal perceptual interaction and multimodal intelligent computing, constructed the multimodal intelligent ticketing service mode of Beijing-Zhangjiakou high-speed railway, formed a closed-loop international service of ticketing, ticket inspection, ticket checking and passenger service, and realized the internationalization and intelligent further improvement of ticketing service of Beijing-Zhangjiakou high-speed railway, aimed to solve the problem of coordination between multiple travel demands and high-speed rail multimodal ticketing under the scenario of cross regional game events.
-
随着铁路信息化和智能化的快速发展,铁路12306互联网售票系统(简称:12306)围绕“让旅客出行更美好”的服务目标,逐步实现了旅客出行网络订票、行程规划、网络订餐、预先约车等延伸服务。同时,铁路客运服务及作业不断向更加人性化、多样化的方向发展[1]。验票是铁路客运作业的主要任务之一,为旅客提供进站、通过闸机、乘车、出站等4个环节验票服务,其目的是通过对人、票、证核验,筛出违规人员,以避免车票盗用、越席乘车等情况发生。当前,铁路旅客运输已进入无纸化“电子客票”时代[2],验票已由传统的人工手动检票转变为刷证验票。
以列车上的验票作业(简称:列车验票)为例,在纸质车票时代,列车验票需要旅客出示车票和购票证件进行核验;电子客票时代,乘务人员利用证卡识读设备读取乘客证件信息,并与设备中的电子票记录、旅客座位信息进行人证票一致核验,该验票方式一定程度上节约了乘务人员的作业时间,提升了客运作业的智能化水平,但验票过程中,乘务人员需要与旅客逐个交互,且需要旅客主动配合才能完成验票作业,打扰了旅客,占用了乘务人员大量时间,且会影响其他客运作业服务的进行,因此,列车验票需要向更简洁、更智能的方向优化。此外,列车上移动手持作业设备集中化程度较低,乘务员在验票作业时需要携带多种终端设备,负担较重。
综上,当前亟需研究轻量化智能验票设备,实现免打扰列车验票[3]。本文基于增强现实(AR,Augmented Reality)技术[4],研发基于AR智能眼镜的列车验票应用,实现列车的无打扰验票服务,提升验票效率,减轻乘务人员列车验票负担,改善旅客乘车体验。
1 铁路站车客运信息无线交互系统
本文在铁路站车客运信息无线交互系统中实现基于AR智能眼镜的验票服务应用。该系统由车载子系统、车地回传网络和地面子系统3部分组成,系统架构如图1所示。
1.1 车载子系统
包含AR智能眼镜、列车移动手持作业终端。AR智能眼镜作为列车乘务人员的穿戴设备,是输入人脸特征、进行验票和显示结果的终端设备;列车移动终端是人脸特征的存储设备。
1.2 车地回传网络
是车载子系统和地面子系统进行数据交互的通道,以运营商移动通信网或铁路综合移动通信系统(GSM-R,Global System for Mobile Communications-Railway)为承载,通过无线专网集中接入到地面子系统的站车内网,并进行统一的安全认证[5]。
1.3 地面子系统
部署在包括第一生产中心和第二生产中心的站车内网及提供客票相关数据的客票专网中。站车内网通过安全的访问通道实现与客票专网数据的联动。应用数据请求由通用无线分组业务(GPRS,General Packet Radio Services)接口服务器统一管理并转发到应用服务器,再通过安全隔离系统访问中国铁路客票发售预订系统(简称:客票系统)的人脸平台服务,实现车载子系统与地面子系统间数据的鉴权与校验。
2 列车验票应用流程
基于AR智能眼镜的免打扰列车验票应用流程,如图2所示。乘务人员通过佩戴AR智能眼镜对车厢内旅客进行图像采集,将采集的实时图像发送至列车移动手持作业终端,地面子系统预先将生成的人脸桶信息下发至列车移动手持作业终端,进行存储,并提供1∶N的图像检索服务。人脸桶是指根据一定的组合逻辑,用特定的人脸算法对人脸照片进行特征值抽取,形成的具有相同业务描述的集合。这些集合保存了指定日期车次的旅客人脸特征值与实名制信息,以及与购票信息的对应关系。
地面子系统系统在AR智能眼镜捕获的场景图像中识别到人脸信息后,对识别画面进行渲染,标记出人脸框,采集人脸特征数据,并在列车移动手持作业终端的人脸桶中完成检索,查询出相应的车票信息,实现验票功能。列车移动手持作业终端将人脸检测结果和验票结果进行叠加渲染,实时成像,发送至AR智能眼镜,由AR智能眼镜的微型显示器实现信息显示。
基于AR智能眼镜的免打扰列车验票应用过程的核心环节包括人脸桶生成和下发、旅客人脸检测、特征提取、图像检索及验票结果AR展示。
2.1 人脸桶生成和下发
列车工作人员使用列车移动手持作业终端上的站车交互应用,根据始发日期、车次和停靠站信息向地面子系统请求下发人脸桶。地面子系统通过人脸管控定义推送、实名制数据生成、实名制数据消费、人脸图像关联及特征值抽取、创建人脸桶及加速表5个阶段[6]构建该列车的人脸桶,并进行下发。最终该人脸桶信息在列车移动手持作业终端上以SQLite数据库的形式进行存储与管理。
2.2 旅客人脸检测、特征提取、图像检索
列车乘务人员通过佩戴AR智能眼镜,可远距离采集旅客人脸信息,并通过USB数据线与列车移动手持作业终端连接,进行实时数据通信[7-8],将采集到的旅客人脸图像发送到列车移动手持作业终端,进行人脸检测。若成功检测到人脸信息,则提取人脸特征值,并在该列车移动手持作业终端人脸桶中进行1∶N检索,获取证件号,然后通过证件号检索相应的旅客车票信息。
2.3 验票结果AR展示
列车移动手持作业终端通过检索旅客车票信息完成验票作业,并将验票结果与人脸检测结果进行叠加融合,显示到AR智能眼镜的微型投影显示屏上,完成验票结果的AR显示。列车乘务人员可通过智能眼镜直接查看旅客姓名、车次、日期、发到站、车厢席位等信息。
3 关键技术
3.1 AR技术
AR技术应用广泛,起源于虚拟现实技术(VR,Virtual Reality)。AR技术通过听、看、触摸虚拟信息,来增强对现实世界的感知 [9]。将AR智能眼镜的AR和图像采集功能与人脸识别技术相结合,应用在列车验票场景中,可在不打扰旅客的情况下采集旅客人脸信息,并将旅客车票信息通过AR的方式在AR智能眼镜中展示给列车乘务人员,为列车乘务人员快速、免打扰查验车票提供了良好的解决方案。
3.2 人脸检测技术
人脸检测属于物体检测任务的一部分,主要目的是确定图像中是否有人脸。本文研究了基于Harr特征提取和Adaboost分类器的人脸检测方法[10]和基于MTCNN算法的人脸检测算法[11],最终选择RetinaFace算法应用于列车验票任务中。
RetinaFace算法是一种单阶段目标检测算法,采用特征金字塔网络(FPN,Feature Pyramid Networks)提取多尺度特征,再基于多任务学习、人脸关键点分支和损失函数,显著提高人脸检测速度和精度[12-13],对不同尺寸的人脸进行像素级定位,提供不同尺度下的精准的人脸位置信息,基本实现一个目标一个框,弥补了YOLO(You Only Look Once)算法对小物体检测效果不佳的缺点。
RetinaFace算法的主干网络是MobileNet,适应小型化移动设备,能解决算力和存储不足的问题,更轻量、灵活、高效。MobileNetV2是MobileNet的改进版,作为一个轻量级卷积神经网络,其通过深度可分离卷积,显著减少模型参数与运算量,在不同尺度的特征图上,针对不同清晰度的检测难度,定义了5个等级的人脸质量和不同尺度的人脸检测框,实现了多尺度信息的融合,显著提升模型速度和精度,并且在大角度下,其对人脸关键点检测的鲁棒性更优,对小物体的检测也具备更高的准确性。
本文采用基于MobileNetV2主干网络的RetinaFace算法。利用C/C++将RetinaFace算法编译成动态库(.so文件),并通过Android JNI完成调用,构建基于列车移动手持作业终端的人脸检测技术体系,实现基于AR智能眼镜的免打扰列车验票应用。
3.3 人脸桶图像检索技术
人脸桶是指根据一定的组合逻辑,用特定的人脸算法对人脸照片进行特征值抽取,形成的具有相同业务描述的集合。这些集合保存了指定日期车次的旅客人脸特征值与实名制信息,以及与购票信息的对应关系。
人脸桶的数据存储格式,在数据库中为哈希结构。在列车验票过程中,进行人像检索时,先进行人脸识别,提取人脸特征值,再到人脸桶中进行1∶N检索,当并发量较小或数据较少时,可快速完成人像1∶N的检索业务。但当并发量增大或桶内数据较多时,频繁的数据读取,会导致检索性能下降。为解决该问题,引入向量检索库技术,此库是在人脸桶之上的一层加速区,目的是进行1∶N检索业务时,可快速通过向量检索库计算出特征值,完成对人像检索业务的加速。
4 免打扰列车验票应用功能验证
为进一步验证基于AR智能眼镜的免打扰列车验票应用功能,本文基于铁路站车客运信息无线交互系统搭建测试环境,模拟2022年3月1日G2419次列车的免打扰列车验票环节,试验人员佩戴AR智能眼镜,在AR智能眼镜视野中锁定1名旅客,AR智能眼镜检测到该旅客人脸信息,并进行信息比对,查询到其购票信息。测试人员以第一视角在AR智能眼镜上察看到了该名旅客的姓名、车次(G2419)、日期(20220301)、发到站(北京北—清河)、车厢席位(06车005D)等信息,如图3所示,图3(a)为AR智能眼镜中看到的画面,图3(b)为列车移动手持作业终端应用中的显示结果,整个试验过程控制在百毫秒级。验证了功能的可行性。
5 结束语
基于AR智能眼镜的免打扰列车验票应用实现了无干扰的列车验票功能,将客运现实场景与数字信息进行了融合显示,对新型铁路客运智能装备的运用进行了探索,试用效果良好,可提升铁路客运服务的科技感和验票效率,改善乘客旅行体验。
但AR智能眼镜存在成本过高、应用功能单一等问题,其应用方式仍有较大探索空间,应结合铁路客运实际工作场景及特点,进行更多维度的探索。
-
[1] 朱建生,王明哲,杨立鹏. 12306互联网售票系统的架构优化及演进 [J]. 铁路计算机应用,2015,24(11):1-4. DOI: 10.3969/j.issn.1005-8451.2015.11.002 [2] 朱建生,周亮瑾,单杏花,等. 新一代客票系统总体技术方案的研究 [J]. 铁路技术创新,2012(4):93-97. [3] 朱建生. 新一代客票系统总体技术方案的研究 [J]. 铁路计算机应用,2012,21(6):1-6. DOI: 10.3969/j.issn.1005-8451.2012.06.002 [4] 李士达. 铁路电子客票载体选型及应用研究 [J]. 铁道运输与经济,2020,42(11):93-94. [5] 黄 欣,张志强,单杏花,等. 基于电子客票的铁路旅客智能出行研究 [J]. 中国铁路,2019(11):1-6. [6] 焦云镇,刘 强,张志强,等. 手持检票机的研发及其在全面电子客票中的应用 [J]. 铁路计算机应用,2020,29(2):49-52. [7] 李贝贝. 铁路站车客运信息无线交互系统的研究[D]. 北京: 中国铁道科学研究院, 2015. [8] 汪健雄. 基于大数据平台的动态票额智能预分系统的研究与实现 [J]. 铁路计算机应用,2016,25(9):31-37. DOI: 10.3969/j.issn.1005-8451.2016.09.009 [9] 胡志鹏,王洪业,王元媛,等. 铁路客票席位智能预分的设计与实现 [J]. 铁路计算机应用,2016,25(1):30-33. DOI: 10.3969/j.issn.1005-8451.2016.01.010 [10] 朱建生. 铁路新一代客票系统大数据应用创新研究 [J]. 铁路计算机应用,2019,28(4):1-7. DOI: 10.3969/j.issn.1005-8451.2019.04.002 [11] 北京冬奥组委. 北京冬奥会第八版竞赛日程(中文版)[EB/OL].[2021-03-03].https://www.beijing2022.cn/a/20201117/013870.htm. [12] 北京冬奥组委. 北京冬残奥会单元竞赛日程 V2.3(中文版)[EB/OL].[2021-03-17].https://www.beijing2022.cn/sv1/wog.html?cmsid=EYS202103170079290. [13] Forceville, Charles. Non-verbal and multimodal metaphor in a cognitivist framework: Agendas for research[M]//Gitte Kristiansen, Michel Achard, René Dirven, et al. Cognitive Linguistics: Current Applications and Future Perspectives. Berlin/New York: Mouton de Gruyter, 2006: 379-402.
-
期刊类型引用(1)
1. 万晓泳,蒋政,陈树雷,徐平,陈景芸,郑斯竹. AR眼镜在海关邮递物品监管中的应用. 中国口岸科学技术. 2024(05): 9-14 . 百度学术
其他类型引用(0)