Prediction model for displacement data of railway infrastructure
-
摘要: 线路安全是铁路运营的重要前提，我国铁路跨度广、行车环境复杂，当铁路基础设施稳定性产生改变时往往会严重影响行车安全。文章采用长短期记忆（LSTM ，Long Short-Term Memory）模型对基于全球导航卫星系统（GNSS，Global Navigation Satellite System）的铁路基础设施监测系统的形变监测数据进行建模预测，实现对铁路基础设施灾害的早期预警，并与多种传统时间序列预测模型进行对比，结果表明，LSTM模型具有更好的性能。Abstract: Railway safety is an important prerequisite for operation. Due to the wide span and complex driving environment of China's railway, when the stability of railway infrastructure changes, it will seriously affect the driving safety. This paper used Long Short-Term Memory(LSTM)model to model and predict the deformation monitoring data of railway infrastructure monitoring system based on Global Navigation Satellite System(GNSS), Achieved early warning of railway infrastructure disasters, and compared it with various traditional time series prediction models. The experimental results show that the LSTM model has better performance.
-
在实际运营中，动车组各类系统的组件间存在优先相关性、顺序相关性和功能相关性等动态特点[1]，为提高动车组各类系统的可靠性，冗余设计被广泛应用于动车组的各类系统中，但同时也带来了动态失效等问题[2]。动车组牵引传动系统（简称：牵引传动系统）是动车组能量传递与转换的关键组成部分之一，也是动车组故障的主要来源之一。冗余设计导致牵引传动系统的高压电器设备在服役过程中产生动态失效。而传统的可靠性分析方法难以描述该动态失效对牵引传动系统产生的影响，因此，亟需研究并建立牵引传动系统可靠性评估模型并分析其动态特性，全面评估牵引传动系统的服役性能。
目前，牵引传动系统可靠性分析主要采用可靠性框图（RBD，Reliability Block Diagram）、故障模式影响及危害性分析法（FMECA，Failure Mode Effects and Criticality Analysis）、故障树分析法（FTA，Fault Tree Analysis）、贝叶斯网络（BN，Bayesian Network）、Markov模型、Petri网等[3-8]。其中，RBD、FMECA、FTA和BN模型无法描述复杂系统的动态失效行为和可维修性；Markov模型随底事件增加会引起状态空间爆炸；Petri网对复杂系统分析能力不足。文献[9]依据牵引传动系统的RBD，得到其可靠度、可用度随时间变化的曲线，但忽略了牵引传动系统在服役过程中产生的动态失效问题；文献[10]基于动态贝叶斯网络（DBN，Dynamic Bayesian Network）模型对CRH3型动车组的牵引传动系统进行可靠性分析，但没有考虑可维修性。目前，鲜有论文在对牵引传动系统进行可靠性评估的同时考虑其动态特性和可维修性。
DBN既具备BN的优点，又能有效地描述复杂系统的动态特性和可维修性问题，因此，被广泛应用于复杂系统的动态可靠性分析[11-12]。本文基于DBN进行建模，对动车组牵引传动系统进行可靠性分析，完成故障诊断，识别薄弱环节，为运行风险评估提供参考依据。
1 基于DBN的可靠性建模及分析
1.1 DBN简介
DBN在BN基础上引入Markov模型的表征状态转移过程。DBN可定义为
$ \left( {{B_1},{B_ \to }} \right) $ 。其中，$ {B_1} $ 为初始BN；$ {B_ \to } $ 为转移BN，$ \left( {{B_1},{B_ \to }} \right) $ 之间的概率关系$ P\left( {{X_t}\mid {X_{t - 1}}} \right) $ 可定义为$$ P\left({X}_{t}\mid {X}_{t-1}\right)=\prod _{i=1}^{N}P\left({X}_{t}^{i}\mid Pa\left({X}_{t}^{i}\right)\right) $$ (1) 式中，
$ {X_t} $ 为时间片$ t $ 中的节点变量；$ X_t^i $ 为时间片$ t $ 中的第$ i $ 个节点；$ Pa\left( {X_t^i} \right) $ 为$ X_t^i $ 的父节点；$ N $ 为节点个数。由式（1）可得DBN在M个时间片段展开后的联合概率分布为$$ P\left({X}_{1:M}\right)=\prod _{t=1}^{M}\prod _{i=1}^{N}P\left({X}_{t}^{i}\mid Pa\left({X}_{t}^{i}\right)\right) $$ (2) 式中，
$ {X_{1:M}} = \left\{ {{X_1},{X_2}, \cdots ,{X_M}} \right\} $ 。1.2 基于DBN的可靠性建模
本文综合考虑牵引传动系统的动态特性和可维修性，依据CRH3型动车组牵引传动系统RBD和动态失效行为，建立动态故障树。基于DBN的建模主要为动态故障树向DBN的映射过程，该过程可分为静态逻辑门和动态逻辑门的DBN转换。假设底事件只存在正常（值为0）和故障（值为1）两种状态。
1.2.1 静态逻辑门的DBN转换
（1）与门。当输入事件A和B都发生时，对应输出事件C发生，与门的DBN转换如图1所示，通过添加各时间片段的有向弧，实现
$ t $ 到$ t + \Delta t $ 的扩展。转换后，与门的DBN的条件概率表达式为
$$ \left\{\begin{array}{l}P(A(t+\text{Δ}t)=1\mid A(t)=0)={\displaystyle\int }_{t}^{t+\text{Δ}t}{f}_{A}(t)\text{d}t \\ P(A(t+\text{Δ}t)=1\mid A(t)=1)=1-{\displaystyle\int }_{t}^{t+\text{Δ}t}{g}_{A}(t)\text{d}t\\ P(B(t+\text{Δ}t)=1\mid B(t)=0)={\displaystyle\int }_{t}^{t+\text{Δ}t}{f}_{B}(t)\text{d}t\\ P(B(t+\text{Δ}t)=1\mid B(t)=1)=1-{\displaystyle\int }_{t}^{t+\text{Δ}t}{g}_{B}(t)\text{d}t \end{array}\right. $$ (3) $$ \left\{ \begin{gathered} P(C = 1\mid A(t + {{\Delta }}t) = 1,B(t + {{\Delta }}t) = 1) = 1 \\ P(C = 1\mid {\text{else}}) = 0 \\ \end{gathered} \right. $$ (4) 式（3）中，
$ A(t) $ 为时间片段t时的事件$ A $ ；$ B(t) $ 为时间片段t时的事件$ B $ ；$ {f_A}(t) $ 、$ {f_B}(t) $ 为事件$ A $ 和$ B $ 的失效密度函数；$ {g}_{A}(t) $ 、$ {g}_{B}(t) $ 分别为事件$ A $ 和$ B $ 的维修密度函数。（2）或门。当输入事件A和B任意一个发生时，对应输出事件C发生。或门的DBN转换如图2所示。
转换后，或门的DBN的条件概率表达式和与门类似，区别在于事件C的条件概率，表达式为
$$ \left\{ \begin{gathered} P(C = 1\mid A(t + {{\Delta }}t) = 0,B(t + {{\Delta }}t) = 0) = 0 \\ P(C = 1\mid {\text{else}}) = 1 \\ \end{gathered} \right. $$ (5) 1.2.2 动态逻辑门的DBN转换
动态逻辑门主要有优先与门、顺序相关门、功能相关门和备件门。本文研究只涉及备件门，备件门主要有冷备件门（CSP ，Cold Spare）、热备件门（HSP ，Hot Spare）和温备件门（WSP ，Warm Spare），包含主件和备件。主件工作时，备件处于休眠状态且故障率
$ \lambda $ 是主件的$ \alpha $ 倍。CSP指备件B在主件A工作时处于待命状态，$ \alpha $ =0；HSP指主件A和备件B同处于工作状态，$ \alpha $ =1；WSP指备件B在主件A工作时处于预工作状态，$ 0<\alpha <1 $ 。本文以WSP为例，分析其DBN转换过程，如图3所示。转换后，WSP的DBN的条件概率表达式为
$$ \left\{\begin{aligned}&P(A(t+\text{Δ}t)=1\mid A(t)=0)={\displaystyle\int }_{t}^{t+\text{Δ}t}{f}_{A}(t)\text{d}t \\ &P(A(t+\text{Δ}t)=1\mid A(t)=1)=1-{\displaystyle\int }_{t}^{t+\text{Δ}t}{g}_{A}(t)\text{d}t\\ &P(B(t+\text{Δt})=1\mid B(t)=1)=1-{\displaystyle\int }_{t}^{t+\text{Δ}t}{g}_{B}(t)\text{d}t\\ &P(B(t+\text{Δ}t)=1\mid A(t)=0,B(t)=0)={\displaystyle\int }_{t}^{t+\text{Δ}}{f}_{\alpha B}(t)\text{d}t\\ &P(B(t+\text{Δ}t)=1\mid A(t)=1,B(t)=0)={\displaystyle\int }_{t}^{t+\text{Δ}t}{f}_{B}(t)\text{d}t \end{aligned}\right. $$ (6) $$ \left\{ \begin{gathered} P(C = 1\mid A(t + {{\Delta }}t) = 1,B(t + {{\Delta }}t) = 1) = 1 \\ P(C = 1\mid {\text{else}}) = 0 \\ \end{gathered} \right. $$ (7) 式（6）中，
$ {f_{\alpha B}}(t) $ 为事件 B 备用状态时的失效密度函数。1.2.3 模型验证公理
基于DBN可靠性建模的可用性验证主要公理[13]包括：（1）增大或减小父节点的先验概率会增大或减小其子节点的后验概率；（2）任意父节点概率分布的变化对子节点产生的影响程度一致；（3）调整多个父节点的先验概率导致的影响，应大于仅调整一个父节点带来的组合概率变化。
1.3 重要度分析指标
重要度是系统可靠性分析的重要指标，描述了系统中一个部件或最小割集对顶事件发生的贡献的大小，是识别系统薄弱环节的重要依据。DBN模型的重要度指标包括RAW（Reliability Achievement Worth）重要度、RRW（Reliability Reduction Worth）重要度、F-V（Fussell-Vesely）重要度和BM（Birnbaum Measure）重要度[14]。
（1）RAW重要度可体现出系统一个模块的故障概率提高对整个系统故障概率的增加程度，其公式为
$$ I_{{E_i}}^{RAW} = \frac{{P\left( {T = 1\left| {{E_i} = 1} \right.} \right)}}{{P\left( {T = 1} \right)}} $$ (8) 式中，
$ P\left( {T = 1} \right) $ 表示系统故障的概率；$ P\left( {T = 1\left| {{E_i} = 1} \right.} \right) $ 表示基本事件$ {E_i} $ 的发生概率设置为1时的系统发生故障的条件概率；i=1，2，···，n。（2）RRW重要度可体现模块故障概率下降对系统整体故障概率的降低程度，其公式为
$$ I_{{E_i}}^{RRW} = \frac{{P\left( {T = 1} \right)}}{{P\left( {T = 1\left| {{E_i} = 0} \right.} \right)}} $$ (9) 式中，
$ P\left( {T = 1\left| {{E_i} = 0} \right.} \right) $ 表示基本事件$ {E_i} $ 概率设置为0时的条件概率。（3）F-V重要度可体现模块故障概率降低到零对系统风险贡献的大小，其公式为
$$ I_{{E_i}}^{F-V} = \frac{{P\left( {T = 1} \right) - P\left( {T = 1\left| {{E_i} = 0} \right.} \right)}}{{P\left( {T = 1} \right)}} = 1 - \frac{1}{{I_{{E_i}}^{RRW}}} $$ (10) （4）BM重要度可体现模块故障状态变化导致系统故障概率的变化程度，其公式为
$$ I_{{E_i}}^{BM} = P\left( {T = 1\left| {{E_i} = 1} \right.} \right) - P\left( {T = 1\left| {{E_i} = 0} \right.} \right) $$ (11) 2 实例分析
2.1 牵引传动系统实例
CRH3型动车组为8辆编组，由2个牵引单元组成，每个牵引单元配置高压电器设备、牵引传动设备及相应的冷却系统，动力设置采用“4动4拖”的形式。一个牵引单元包括2节动车（车厢编号分别为EC01和IC03）和2节拖车（车厢编号分别为TC02和BC04）；另一个牵引单元包括2节动车（车厢编号分别为IC06、EC08）和2节拖车（车厢编号分别为FC05、TC07）。
当动车组正常运行时，同一时刻仅有一个受电弓工作，接触网将电能传导到该受电弓，通过高压电器设备传送到牵引变压器，由牵引变压器向牵引变流器供电，进而使牵引电机带动机械传动装置来牵引动车组。当一个受电弓工作时，另一个受电弓及其所属高压电器模块处于备用状态，当被选受电弓及其所属的高压电器模块出现故障时，被选受电弓降弓，则备用受电弓及其所属高压电器模块替代前者投入工作，保障动车组的平稳运行。上述冗余备份设计，会使高压电器模块产生动态失效，进而对牵引传动系统造成影响。
由于牵引传动系统结构庞大且复杂，直接以部件为底事件进行分析，计算繁琐、难以求解。因此，采用模块化理论对牵引传动系统进行模块划分[15]。考虑到高压电器模块存在的动态失效问题，本文将高压电器模块间的动态失效行为用WSP描述，设
$ \alpha $ =0.1。将TC02车的高压电器模块作为主件，TC07车的高压电器模块作为备件。本文对牵引传动系统进行可靠性建模时，将降容运行工作模式也认定为系统故障，只有当2个牵引单元均正常工作时，才认定系统属于正常状态。依据CRH3型动车组牵引传动系统可靠性框图[3]和系统故障模式及失效机理，建立其动态故障树，如图4所示，图4中编号与模块名称的对应列表如表1所示，模块的可靠性参数如表2所示，各模块的故障率和维修率来源于文献[9]。
表 1 牵引传动系统编号与模块名称对应列表编号 模块名称 编号 模块名称 T 牵引传动系统 X1 TC02车高压电器模块 M1 高压电器系统 X2 TC07车高压电器模块 M2 牵引系统 X3 车顶连接模块 M3 高压引流单元 X4 TC02车牵引变压模块 M4 第一牵引单元 X5 TC07车牵引变压模块 M5 第二牵引单元 X6 EC01车牵引变流模块 M6 第一牵引子单元 X7 EC01车牵引传动模块 M7 第二牵引子单元 X8 IC03车牵引变流模块 M8 EC01车牵引传动单元 X9 IC03车牵引传动模块 M9 IC03车牵引传动单元 X10 IC06车牵引变流模块 M10 IC06车牵引传动单元 X11 IC06车牵引传动模块 M11 EC08车牵引传动单元 X12 EC08车牵引变流模块 —— —— X13 EC08车牵引传动模块 表 2 牵引传动系统模块可靠性参数编号 模块名称 故障率$ \lambda /(次·{\text{h}}^{-1}) $ 维修率$ \mu /(次·{\text{h}}^{-1}) $ X1 TC02车高压电器模块 0.0007406 0.0733430 X2 TC07车高压电器模块 0.0007336 0.0603643 X3 车顶连接模块 0.0001252 0.0777019 X4 TC02车牵引变压模块 0.0000484 0.0298764 X5 TC07车牵引变压模块 0.0001037 0.0251932 X6 EC01车牵引变流模块 0.0002849 0.0897449 X7 EC01车牵引传动模块 0.0003351 0.0173372 X8 IC03车牵引变流模块 0.0002729 0.1049401 X9 IC03车牵引传动模块 0.0002791 0.0193321 X10 IC06车牵引变流模块 0.0002289 0.0683832 X11 IC06车牵引传动模块 0.0002075 0.0193673 X12 EC08车牵引变流模块 0.0000159 0.0553225 X13 EC08车牵引传动模块 0.0001955 0.0168959 2.2 基于DBN的牵引传动系统可靠性建模
2.2.1 模型设定
根据动车组现场实际运营时间估算，牵引传动系统每日平均工作时长为18 h，则1个星期为126 h。因此，取时间间隔
$ {{\Delta }}t $ =126 h。基于GeNIe软件构建模型，设定运行时间为52个星期，将表2中各模块可靠性参数带入模型，利用联合树算法进行正反推理。本文假设模块故障率与维修率均服从指数分布，系统和模块只有正常和故障两种状态。2.2.2 模型建立
依据逻辑门的DBN转化规则将动态故障树转换为DBN。牵引传动系统的DBN如图5所示。
2.2.2.1 可靠度分析
当不考虑可维修性时，对牵引传动系统T、高压引流单元M3、第1牵引单元M4和第2牵引单元M5进行动态可靠度分析，通过DBN的正向推理，可得牵引传动系统和上述模块的可靠度变化曲线如图6所示。
由图6可知，当不考虑维修因素时，M3、M4、M5各模块的可靠度随运行时间逐渐下降，进而引起牵引传动系统可靠度下降，其中，M4可靠度的降低对系统可靠度影响最大，其次是M5、M3。
2.2.2.2 可用度分析
当考虑可维修性时，可得到牵引传动系统在任意时刻处于正常工作状态的概率，即系统可用度。牵引传动系统可用度变化曲线如图7所示。
由图7可知，牵引传动系统T和M3、M4、M5各模块的可用度随运行时间下降趋于缓和，达到系统稳态可用度。M3、M4、M5各模块的稳态可用度分别为0.999736、0.948089、0.963443，牵引传动系统T快速达到稳态可用度0.910467。
2.2.2.3 后验概率分析
通过DBN的反向推理功能，可得出在第52周牵引传动系统故障时，各模块失效的后验概率，如图8所示。由图8可知，EC01车牵引传动模块X7、IC03车牵引传动模块X9、EC01车牵引变流模块X6、IC03车牵引变流模块X8和IC06车牵引变流模块X10失效的后验概率较大，当系统失效后，进行失效模块排查时，应优先对上述模块进行排查。
2.3 重要度分析
根据1.3小节，可求出牵引传动系统各模块在运行至52周时的BM重要度、F-V重要度、RAW重要度和RRW重要度，如表3所示。
表 3 牵引传动系统各模块重要度模块 重要度 BM F-V RAW RRW X1 0.066725 0.022483 1.252315 1.023000 X2 0.352711 0.022483 2.430112 1.023000 X3 0.769036 0.048802 4.118374 1.051306 X4 0.761902 0.019423 4.118374 1.019808 X5 0.767447 0.042260 4.118374 1.044125 X6 0.783882 0.109945 4.118374 1.123527 X7 0.792459 0.145267 4.118374 1.169956 X8 0.782782 0.105414 4.118374 1.117836 X9 0.785863 0.118104 4.118374 1.133921 X10 0.778717 0.088675 4.118374 1.097303 X11 0.778587 0.088140 4.118374 1.096660 X12 0.758705 0.006256 4.118374 1.006295 X13 0.778100 0.086132 4.118374 1.094250 由表3可知，EC01车牵引传动模块X7、IC03车牵引传动模块X9、EC01车牵引变流模块X6、IC03车牵引变流模块X8和IC06车牵引变流模块X10的4种重要度均较高，是系统的薄弱环节，各模块的重要度可为牵引传动系统可靠性的优化提供参考，同时也为故障诊断与维修决策提供依据。
2.4 模型验证
（1）将模块X4的故障概率由0设为0.5，系统运行52周后，可靠度从0.772227降低到0.510803；（2）继续将模块X5的故障概率由0设为0.5，可靠度降低到0.335669；（3）继续将模块X6和模块X7的故障概率设为0.5，系统可靠度降低到0.159130。通过以上分析可知，基于DBN的动车组牵引传动系统可靠性评估模型满足3条公理，其可用性得到验证。
结合可靠性分析结果可知，基于DBN的动车组牵引传动系统可靠性评估模型能全面掌握牵引转动系统的可靠性演变规律。
3 结束语
本文依据牵引传动系统的动态故障树构建基于DBN的动车组牵引传动系统可靠性评估模型。利用DBN的双向推理功能求解动车组牵引传动系统可靠性的动态变化趋势，得出系统薄弱环节。该方法有效避免了传统可靠性分析方法的局限性，较好地描述系统的动态特性和可维修性，可为运行风险评估和可靠性评估提供参考依据。
-
表 1 发育型监测数据预测精度指标
东西 南北 垂直 Time RMSE MAE Time RMSE MAE Time RMSE MAE DT 0.04 0.101 0.083 0.05 0.045 0.033 0.08 0.044 0.034 Linear 0.06 0.011 0.008 0.06 0.026 0.019 0.08 0.017 0.013 SVM 0.08 0.240 0.212 0.08 0.073 0.042 0.017 0.099 0.067 RF 0.11 0.099 0.079 0.12 0.037 0.026 0.10 0.032 0.024 GBRT 0.16 0.103 0.083 0.16 0.038 0.025 0.08 0.033 0.026 ET 0.19 0.102 0.084 0.21 0.045 0.033 0.10 0.051 0.042 ARD 0.21 0.011 0.008 0.23 0.026 0.019 0.44 0.017 0.013 Byesian 0.23 0.011 0.008 0.25 0.026 0.019 0.08 0.017 0.013 TheilSen 0.25 0.011 0.008 0.27 0.026 0.019 0.12 0.016 0.012 RANSAC 0.28 0.011 0.008 0.29 0.026 0.019 0.28 0.017 0.012 LSTM8 2.55 0.030 0.023 2.55 0.025 0.017 2.55 0.018 0.013 LSTM12 2.60 0.035 0.026 2.55 0.027 0.019 2.60 0.021 0.015 
下载: 导出CSV
表 2 稳定型监测数据预测精度指标
东西 南北 垂直 Time RMSE MAE Time RMSE MAE Time RMSE MAE DT 0.04 0.060 0.048 0.05 0.048 0.035 0.04 0.052 0.042 Linear 0.06 0.041 0.033 0.06 0.030 0.023 0.06 0.031 0.024 SVM 0.07 0.068 0.053 0.08 0.053 0.040 0.07 0.091 0.066 RF 0.11 0.049 0.039 0.12 0.034 0.028 0.10 0.045 0.034 GBRT 0.14 0.048 0.038 0.17 0.035 0.028 0.14 0.046 0.035 ET 0.17 0.066 0.052 0.21 0.055 0.041 0.17 0.056 0.045 ARD 0.19 0.041 0.033 0.23 0.030 0.023 0.19 0.031 0.025 Byesian 0.20 0.041 0.033 0.25 0.030 0.023 0.21 0.031 0.024 TheilSen 0.22 0.047 0.039 0.27 0.031 0.024 0.22 0.031 0.025 RANSAC 0.23 0.046 0.038 0.29 0.031 0.024 0.24 0.031 0.024 LSTM8 2.55 0.038 0.031 2.58 0.034 0.027 2.59 0.031 0.024 LSTM12 2.53 0.040 0.032 2.60 0.027 0.021 2.60 0.030 0.023
下载: 导出CSV
表 3 波动稳定型监测数据预测精度指标
东西 南北 垂直 Time RMSE MAE Time RMSE MAE Time RMSE MAE DT 0.04 0.084 0.067 0.05 0.067 0.053 0.04 0.067 0.056 Linear 0.06 0.049 0.038 0.08 0.040 0.031 0.06 0.048 0.039 SVM 0.08 0.064 0.047 0.10 0.080 0.051 0.08 0.066 0.053 RF 0.11 0.060 0.047 0.13 0.050 0.039 0.11 0.054 0.044 GBRT 0.15 0.054 0.043 0.17 0.052 0.040 0.16 0.055 0.043 ET 0.18 0.080 0.064 0.21 0.073 0.056 0.19 0.078 0.064 ARD 0.19 0.049 0.038 0.22 0.040 0.031 0.20 0.047 0.039 Byesian 0.21 0.049 0.037 0.24 0.040 0.031 0.22 0.048 0.039 TheilSen 0.22 0.052 0.040 0.26 0.042 0.033 0.24 0.049 0.040 RANSAC 0.24 0.052 0.040 0.27 0.041 0.031 0.25 0.051 0.041 LSTM8 2.68 0.041 0.032 2.46 0.036 0.028 2.76 0.046 0.037 LSTM12 2.60 0.043 0.034 2.62 0.035 0.026 2.65 0.048 0.038
下载: 导出CSV
-
[1] 雷绍兰,孙才新,周 湶. 电力短期负荷的多变量时间序列线性回归预测方法研究 [J]. 中国电机工程学报,2006(2):25-29. DOI: 10.3321/j.issn:0258-8013.2006.02.005 [2] 刘 静,关 伟. 交通流预测方法综述 [J]. 公路交通科技,2004(3):82-85. DOI: 10.3969/j.issn.1002-0268.2004.03.022 [3] 杨秀媛,肖 洋,陈树勇. 风电场风速和发电功率预测研究 [J]. 中国电机工程学报,2005(11):1-5. DOI: 10.3321/j.issn:0258-8013.2005.11.001 [4] CHO K, VAN MERRIëNBOER B, GULCEHRE C, et al. Learning phrase representations using RNN encoder-decoder for statistical machine translation [J]. arXiv preprint arXiv:, 1406, 1078: 2014.
[5] WERBOS P J. Generalization of backpropagation with application to a recurrent gas market model [J]. Neural networks, 1988, 1(4): 339-356. DOI: 10.1016/0893-6080(88)90007-X
[6] HOCHREITER S. Untersuchungen zu dynamischen neuronalen Netzen [J]. Diploma, Technische Universität München, 1991, 91(1).
[7] HOCHREITER S, SCHMIDHUBER J. Long short-term memory [J]. Neural computation, 1997, 9(8): 1735-1780. DOI: 10.1162/neco.1997.9.8.1735
[8] GERS F A, SCHMIDHUBER J. LSTM recurrent networks learn simple context-free and context-sensitive languages [J]. IEEE transactions on neural networks, 2001, 12(6): 1333-1340. DOI: 10.1109/72.963769
[9] Srivastava N , Mansimov E , Salakhutdinov R . Unsupervised Learning of Video Representations using LSTMs[J]. JMLR. org, 2015.
[10] HANSON J, YANG Y, PALIWAL K, et al. Improving protein disorder prediction by deep bidirectional long short-term memory recurrent neural networks [J]. Bioinformatics, 2017, 33(5): 685-692.
[11] ECK D, LAPALME J. Learning musical structure directly from sequences of music [J]. University of Montreal, Department of Computer Science, 2008.
[12] GREFF K, SRIVASTAVA R K, KOUTNíK J, et al. LSTM: A search space odyssey [J]. IEEE transactions on neural networks and learning systems, 2016, 28(10): 2222-2232.
-
期刊类型引用(0)
其他类型引用(1)
计量
- 文章访问数: 181
- HTML全文浏览量: 89
- PDF下载量: 35
- 被引次数: 1
