《基于残差递归神经网络的飞行器轨迹预测》
链接： Aircraft Trajectory Prediction Based on Residual Recurrent Neural Networks-All Databases
创新点：在LSTM中引入RESNET
摘要-准确高效的飞行器轨迹预测是当今航空航天领域发展的重要技术之一，飞行器飞行的高时空复杂性、强不确定性和多变的飞行轨迹给智能轨迹规划的建模和求解带来了很大的困难，针对无动力飞行器机动性强、轨迹预测困难等问题在分析飞行器航迹特性的基础上，提出了一种基于残差递归神经网络（RESRNN）的飞行器航迹预测方法。然后，本文采用RNN进行循环计算，RESNET进行残差提取，得到预测结果，并针对仿真样本库不足的问题，提出了一种基于微分动力学的样本生成方法，生成用于验证算法的样本库，仿真结果表明，与其他预测方法相比，该方法具有更高的预测精度，对其他大机动目标的智能轨迹规划、轨迹预测和拦截具有一定的参考意义。
弹道预测的研究方法主要有两种：
1）基于运动学和动力学模型的弹道预测方法
它是用数学模型来表达飞行器的运动过程，这类方法往往需要大量的先验信息，如预测假设模型、飞行计划、大气条件等外部输入。根据运动方程得到未来的轨迹，Cui等[1]对飞行器飞行过程中不同阶段的运动方程进行分解，利用匹配的渐进展开法得到轨迹的解析解，通过连续的解析解实现轨迹的预测，Wei等[2]提出了一种结合Singer模型的扩展卡尔曼滤波方法来估计目标的运动状态，并用滤波器的估计值拟合加速度曲线来实现轨迹预测。Hu等[3] Wang等[4]利用基本飞行模型，构造了速度剖面、高度剖面和水平航迹，然后根据各飞行阶段的飞行特性对飞行轨迹进行拟合和预测。
虽然基于运动学和动力学模型的弹道预测方法在弹道预测领域做出了重要贡献，但这些方法需要大量的参数和先验假设，一旦参数数据来源有限或假设的准确性无法保证，模型的预测精度将会大大降低，在具体实施过程中会面临速度过慢、适用性不强等问题，[5-8]其适用性有待进一步提高。
2)无参数估计方法
与基于气动或运动学模型的方法相比，无参数估计方法是一种基于弱假设甚至没有假设的预测方法，为此，Su et.al.[9]等文章[1012]提出了大量传统的机器学习方法，如决策树、支持向量机等，用于弹道预测，然而，面对信息时代对飞行器的需求，此类方案的精度仍然令人担忧，文献[13]中采用LSTM + ARIMA方法预测飞行器的飞行轨迹，飞行高度和经度，和纬度进行预测，然后利用ARIMA模型对两者的线性关系进行建模，最后采用临界法对两种模型进行融合，提高了融合的精度，但存在运算时间过长的问题，Qian等[14]采用基于门控周期单元（GRU）的方法预测飞行轨迹，通过飞行仿真获得了大量数据集，从而在符合门控周期单元模型的基础上进行参数训练，为进一步提高模型的精度，Dai等人[15]提出在轨迹预测模型中加入注意机制，引入LSTM进行捕获。
一般来说，现有的空中目标轨迹预测主要基于飞行器，对无动力飞行器的轨迹预测文献较少，由于飞行器速度较低，飞行轨迹比较规律，历史轨迹信息较多，为轨迹预测提供了很好的数据库，现有文献[16-18]大多采用多项式建模机器学习、数据驱动等方法挖掘历史轨迹规律，但由于无动力飞行器时空复杂度高、不确定性强、多约束等特点，相应的轨迹预测难以准确建模并快速准确求解，因此，要实现无动力飞行器的轨迹预测，要研究有效的解决办法。
近年来，人工智能基础理论取得了突破性进展，人工智能以其强大的学习能力和适应能力，在自动控制、航空航天等领域显示出突出的优势和应用前景，人工神经网络是预测领域的热点，但人工神经网络中神经元之间的信息传递是单向的，为了解决神经网络只能单向传播的问题，即历史数据也能在当前神经元训练中发挥作用，人们开始关注递归神经网络（RNN）并进行深入研究，使其成为21世纪世纪重要的一类深度学习算法。为了解决卷积神经网络随着层数增加而出现的"退化现象"，He et.al提出了残差神经网络（RESNET）[19]，并为它引入了快速连接的思想，有效地消除了网络太深时的训练难度，这种网络的提出将神经网络的深度提升到了100层，甚至超过1000层[20]。
在上述研究的基础上，为了实现更高精度的弹道预测，本文将递归神经网络和残差神经网络相结合，提出了一种残差递归神经网络（RESRNN）来预测无动力飞行器的轨迹。
RESNET
RESNET是为了解决退化现象和消除神经网络训练过深的困难而提出的（RESNET的原理图如图1所示），它具有残差学习的功能，可以通过这种方法解决退化问题，有效提高训练速度，找到好的参数，本文将RESNET应用到RNN中。
方法概述
本文提出的轨迹预测过程主要由轨迹样本库生成和神经网络预测两部分组成，如图3所示，首先对飞行器数据进行特征提取，然后进行RNN网络的循环训练和RESNET的残差提取，最后得到数据。
首先，我们对生成的飞机数据进行时间分解和特征提取。然后，我们使用提取的特征来训练RESRNN网络，其中损失函数定义为等式（8）。最后，经过一定轮数的训练，直到RESRNN网络收敛，我们使用获得的RESRNN网络进行预测，以获得未来飞机的轨迹。RESRNN具有提高训练精度的效果，适合本实验的使用场景，本文根据飞行轨迹数据集的特点和预测的时效性，完成了模型的实现。
实验结果：
总结
针对ARIMA+LSTM混合预测模型存在模型单一、LSTM精度低、运行时间长等问题，提出了一种基于RESNET和RNN的混合模型RESRNN用于飞行轨迹预测，同时为了解决样本库不足的问题，针对无动力飞行器，提出了一种基于气动微分方程的新样本库生成方法，并将其用于模型训练和验证.实验结果表明，该算法在飞行器轨迹预测上优于现有的常用基线.未来的研究将集中在轨迹预测模型的RESRNN优化上，以减少算法推理所需的时间.