AR intelligent glasses applied to information exchange and dispatching management system for expressway electromechanicaloperation and maintenance
-
摘要: 为提升高速公路机电设备运营维护(简称:运维)的效率,利用增强现实(AR,Augmented Reality)、音视频融合及波导镜片等技术,设计可用于高速公路机电设备运维信息交互调度管理系统(简称:机电运维系统)的AR智能眼镜,实现了设备参数可视化、远程协作和维护过程中的AR展示等功能。该设备在京津塘(北京—天津—塘沽)G2高速公路的机电运维系统上进行了应用测试,测试结果表明,AR智能眼镜的使用可有效提升机电设备维护的作业效率和质量。Abstract: In order to improve the efficiency of the operation and maintenance of expressway electromechanical equipment, this paper used technologies such as Augmented Reality (AR), audio and video fusion, and waveguide lenses to design AR intelligent glasses that could be used in the expressway electromechanical equipment operation and maintenance information interaction dispatching management system, implemented functions such as equipment parameter visualization, remote cooperation, and AR display during maintenance. This device has been tested on the electromechanical operation and maintenance system of the G2 expressway in Beijing-Tianjin-Tanggu. The test results show that the use of AR smart glasses can effectively improve the efficiency and quality of electromechanical equipment maintenance.
-
随着我国高速公路建设信息化和智慧化的快速深化发展,高速公路机电设备的维护和管理成为保障高速公路顺畅运行的基本环节。传统的高速公路机电设备维护和管理通常需要现场工作人员进行手动操作,这种方式不仅耗费大量人力物力,还存在一定的安全风险。
为提高高速公路机电设备维护和管理的效率和安全性,近年来越来越多的研究人员开始尝试采用增强现实(AR,Augmented Reality)技术进行高速公路机电设备是维护和管理工作。齐文平等人[1]利用实时数据获取、空间定位及视觉跟踪、手势及语音交互等技术,依据发电厂巡检业务方式,开发了基于AR技术的巡检终端及其运行环境系统,实现了巡检任务管理、数据管理、3D 设备模型叠加及远程协助等应用;张振等人[2]开发了可在100 ms内快速辨别人脸、3 s内识别公民身份的警用AR智能眼镜,实现了在各类移动场所实施人车排查、动态布控和重大突发事件指挥调度的功能;陶杰等人[3]基于 AR 终端,采用真实场景叠加虚拟信息技术的方式,开发了基于AR 技术的隧道人工巡检辅助系统,实现了高效的作业分析、指导和决策。
基于上述研究,本文利用内嵌的显示芯片及波导镜片,结合AR技术设计可用于高速公路机电设备运营维护(简称:运维)场景的AR智能眼镜。在高速公路机电设备运维过程中可实时显示设备状态信息、提供操作指导等功能,提高高速公路机电设备运维效率。
1 系统架构
当前,公路企业采用高速公路机电运维信息交互调度管理系统(简称:机电运维系统)对公路机电设备进行维护和管理,涉及对象主要有交通运输部路网监测与应急处置中心收费相关业务系统、市属道路路网管理与应急处置中心收费相关业务系统、发行服务机构相关业务系统、路段业主收费相关业务系统、收费站系统、车道系统、门架系统等,涵盖各级收费系统的软件、硬件和通信网络设施等[4],实现高速公路机电设备运维场景下运维人员间的语音交流和调度,涵盖通信、待办、问题上报与处理、音视频监管、巡检、知识库和设备管理等功能。本文介绍的机电运维系统由移动端、云服务端和管理端等3部分组成,移动端与云服务端通过运营商提供的5G移动通信网络实现互联互通,系统架构如图1所示。
1.1 移动端
移动端主要包含AR智能眼镜终端和移动手持终端。2种终端形式都可进行独立作业使用。AR智能眼镜是单独进行穿戴的智能终端设备,且在高速户外作业场所穿戴可嵌入安全帽中使用。AR智能眼镜通过无线5G移动通信网络与云服务端连接,将获取的图像和采集的语音进行实时交互并显示返回的信息。
1.2 云服务端
云服务端通过5G移动通信网络与移动端相连接,承担着处理和存储数据的任务,并提供实时的图像和语音交互功能。云服务端接收移动端的图像和语音输入,对其进行处理和分析后传递给管理端,并将管理端查询处理后的数据返回给移动端,供移动端用户查看。云服务端的功能和性能对系统的高效使用发挥着重要的作用。
1.3 管理端
管理端基于云服务端与移动端进行通信,并提供对系统的实时监控和管理功能。管理端可查看和分析来自移动端设备的数据,并结合运维事务进行必要的实时标注操作和调整,还具有系统参数配置,用户权限管理和运维报告生成等功能,以确保系统的正常运行和高效管理。
2 AR智能眼镜功能设计
由移动终端的AR智能眼镜采集图像或语音,经5G移动通信网络传至云服务端,进行处理并与管理端互联,管理端将相应信息经云服务端推送回移动端,移动端的AR智能眼镜通过AR形式显示发回的信息,从而实现设备参数可视化、远程协作和维护过程AR展示等功能。
2.1 设备参数可视化
机电设备维护人员可将AR智能眼镜连接到云服务端,实时获取维护设备的各项参数,通过AR智能眼镜的显示屏将设备参数可视化地显示在机电设备维护人员的视野中,使其可在维护设备的同时,直接看到设备的参数信息;同时,管理端可对设备参数进行实时监控,并设置相应的警报机制,当设备参数超出阈值时,管理端可通过AR智能眼镜向机电设备维护人员发送报警信息,提醒其及时采取相应措施。
2.2 远程协作
2.2.1 实时图像传输和远程指导
AR智能眼镜可通过内置摄像头将穿戴者眼前机电设备的实时图像传输到云服务端。协作人员可在管理端观看实时图像,并通过在图像上做标记,以及发送语音、视频或文字等方式与现场机电设备维护人员进行交流讨论,并提供远程指导和技术支持。
2.2.2 进度跟踪和更新
机电设备维护人员可随时在AR智能眼镜上更新巡检或维修任务的进展情况,便于维修管理人员了解各项任务的状态和进度,并及时做出相应的调整。
2.3 维护过程中的AR展示
机电设备维护人员佩戴AR智能眼镜,采用无接触式控制操作,结合波导镜片进行设备维护操作。同时,直观、便捷地在AR智能眼镜的镜片中阅读巡检作业、报警信息、设备参数、历史数据、作业指导书等数字化资料,并可通过语音指令进行翻页和文档切换操作。
3 AR智能眼镜关键技术
3.1 AR技术
AR技术是一种能够增强人类感知能力的技术。AR设备主要由传感器、计算机处理单元和输出设备等3个组件构成,传感器收集现实环境的数据,经计算机处理单元融合音频、图像和文字,并整合输出。机电运维系统的AR智能眼镜将参数信息叠加到虚拟实物图像中[5],使设备维护人员可以更快、更准确地进行对比和查找设备问题。
3.2 音视频融合
本文采用协议转换算法,有效融合音视频,并进行结构化解析处理,从而实现音视频应用智能化[6]。本文对音视频融合编码的质量、带宽、帧率、容错率等参数进行优化智能调整,通过负载均衡等数据传输技术,实现复杂网络结构的音视频数据传输。
(1)在视频编解码方面,本文采用了MPEG-4、H.263、H.264、H.265等多种视频编解码技术,并利用GPU、NVENC硬编解码技术提升系统性能。同时,通过图像去噪、倍频平滑显示、防马赛克、防撕裂、无缝拼接等图像处理算法,优化视频编解码过程,提高显示效果。
(2)在音频编解码方面,采用G.711、G.722、G.729、AMR、ADPCM、AAC+等多种音频编解码技术,并应用回声抑制、噪声抑制、啸叫抑制、自动增益、音频变速播放等音频处理算法,优化音频编解码过程,提升播放效果。
(3)在音视频传输方面,本文采用带宽管理技术、抗丢包技术、网络防抖算法、码流平滑算法、乱序处理算法、网络路由算法、网络自适应编码(NAC,Network Adaptive Coding)技术、超高清数据传输技术及防火墙NAT(Network Address Translation)穿越技术,来进行多网络适配和多网络融合,进一步提升音视频传输质量。
3.3 波导镜片技术
波导镜片是AR智能眼镜的核心技术装置,将光波导和分光比技术相结合,从而实现高效的光传输和分光比功能。
(1)光波导技术是一种利用光的全反射原理将光线引导到特定的路径中的技术[7]。在波导镜片中,光波导技术可将光线从一个端口引导到另一个端口,使得光线在镜片内部传输而不会泄漏出来。这种技术可实现高效的光传输,使得镜片能够显示透明感的图像。
(2)分光比技术是一种将光线按照不同的波长进行分离和处理的技术。在波导镜片中,分光比技术可将光线按照不同的波长分离,并将不同波长的光线引导到不同的路径中,对不同波长的光线进行不同的处理(调整亮度、对比度或应用特定的滤波器等)。基于分光比技术,波导镜片可实现对光线的精确控制和调节,以提供更加清晰和准确的图像显示效果。
波导镜片结合了光波导技术和镜片的分光比技术,可实现高效的光传输和对光线的精确控制,使得波导镜片展现出透明感的图像,并对光线进行精确的调节和处理,以提供清晰、准确的显示效果。机电设备维护人员可长时间无感佩戴,在大视场范围内看到清晰视频图像,且透光率高达80%、视场角达40°,透过AR智能眼镜可清晰看到维护的机电设备,提升机电设备维护人员工作的便利性。
4 应用验证
本文的AR智能眼镜在京津塘(北京—天津—塘沽)G2高速公路的机电运维系统上进行应用测试。主要针对远程协助和信息的AR展示中的具体功能进行测试。
4.1 文档阅读
测试人员佩戴AR智能眼镜,通过控制指令打开系统中的设备手册,采用语音控制文件翻页,以及文档的转换,如图2所示。图2中为运维人员通过AR智能眼镜查看设备操作说明时显示的设备说明书画面。
4.2 观看视频
通过本文的AR智能眼镜,测试人员可实现一边收看设备指导视频,一边透过波导镜片查看真实场景中的机电设备,实现虚拟信息和实际环境的融合,如图3所示。图3为AR智能眼镜中播放的设备培训视频的画面。
4.3 远程协助
以检查机电设备电路板为场景,测试人员佩戴AR智能眼镜,与管理端的同事进行远程协助测试。图4中,左侧为AR智能眼镜采集到的主板的实时画面,右侧为系统管理端显示的可对图像进行AR标注的页面。在测试过程中,负责远程协助的技术人员在管理端对图像进行标注,标注后的效果如图5所示。
测试过程中,测试人员佩戴AR智能眼镜全程并未感觉不适,对整个维护过程中的画面清晰程度较为满意,透过镜片对外部视野观察程度也较为认可,可进行正常的机电设备维护作业,且基于AR智能眼镜的使用可有效的提升机电设备维护的作业效率和质量[8]。
5 结束语
本文介绍了AR智能眼镜在机电运维系统中的应用方式和具体功能。阐述了AR、音视频融合、波导镜片等关键技术,通过在京津塘G2高速公路的机电运维系统上进行应用测试,验证了其实用性和先进性,有效提升了机电设备的维修效率和质量。同时,配合上数字化的工作流程,使机电设备维护的工作步骤更清晰、执行更加无错漏、管理更方便、数据更为直观。
-
[1] 侯亮朝. 高速公路机电设备故障维修与维护[J]. 公路机电工程,2016(14):130-131. [2] 齐文平,姚京松,刘晓芳,等. 增强现实(AR)技术在电力设备智能巡检中的应用[J]. 电子产品世界,2017,24(5):58-60. [3] 张 振,赵焕利. AR智能眼镜在移动警务实战中的应用[J]. 警察技术,2019(5):44-47. [4] 陶 杰,朱熙豪,郑于海. 基于AR技术的隧道人工巡检辅助系统[J]. 隧道建设(中英文),2022,42(6):1091-1101. [5] 蔡檬屿,郭 旭,王浩帆,等. 基于深度学习的铁路辅助巡检系统[J]. 铁路计算机应用,2020,29(9):12-15. [6] 中华人民共和国国家质量监督检验检疫总局,中国国家标准化管理委员会. 公共安全视频监控联网系统信息传输、交换、控制技术要求:GB/T 28181-2016[S]. 北京:中国标准出版社,2016. [7] 朱非凡,谭中伟. 增强现实相关技术的最新进展[J]. 现代信息科技,2021,5(21):41-44. [8] 耿 怡,安 晖,李 扬,等. 可穿戴设备发展现状和前景探析[J]. 电子科学技术,2014,1(2):238-245. -
期刊类型引用(2)
1. 唐煌. 一种基于智能化技术的高速公路机电设备状态监测方法. 装备制造技术. 2024(04): 155-157 . 百度学术
2. 王德志. 基于互联网技术的机电设备数字化运维管理平台构建研究. 办公自动化. 2024(19): 1-3 . 百度学术
其他类型引用(2)