探测与控制学报杂志已发表格式范文参考
1.改进深度信念网络的组合导航系统故障诊断方法
作者：赵善飞;张华强;贾明玉;芦男;陈雨
作者单位：山东理工大学;北京航天发射技术研究所
关键词：组合导航系统;故障诊断;深度信念网络;径向基函数;自适应矩估计算法
摘 要：为提高ＩＮＳ／ＧＮＳＳ组合导航系统故障诊断的准确率与稳定性，提出一种基于改进深度信念网络的组 合导航系统故障诊断方法。该方法基于状态χ ２ 法对组合导航系统进行实时检测，将检测结果作为样本数据用 于改进深度信念网络训练，利用深度信念网络提取数据的深层特征和故障分类。引入径向基函数作为模型的 激活函数，提高深度信念网络面对复杂数据分布的适应能力；采用自适应矩估计算法代替传统梯度下降算法来 提高故障诊断的准确率。数值仿真结果表明，该算法对故障识别的准确率达到了９８％，能有效地对ＩＮＳ／ＧＮＳＳ 组合导航系统的故障类型做出诊断，确保系统的平稳运行。
０ 引言
目前，基 于 惯 性 导 航 系 统 （ｉｎｅｒｔｉａｌ ｎａｖｉｇａｔｉｏｎ ｓｙｓｔｅｍ，ＩＮＳ）与全球卫星导航系统（ｇｌｏｂａｌ ｎａｖｉｇａ－ ｔｉｏｎ ｓａｔｅｌｌｉｔｅ ｓｙｓｔｅｍ，ＧＮＳＳ）的组合导航系统在航 天航空以及航海等领域得到了广泛的应用［１］。但随着ＩＮＳ／ＧＮＳＳ组合导航系统中的各种精密器件以 及复杂的结构日益升级，导航系统产生的数据规模 不断扩大，使得组合导航系统的故障诊断难度变得 更大［２］，因此检测与诊断成为提高组合导航系统安 全性与可靠性的重要环节。组合导航系统的故障类 型从传感器的输出特性上可分为“硬故障”和“软故 障”［３］两类。“硬故障”可以通过机内自检的方法进 行检测，所以诊断起来相对容易。“软故障”是由于 传感器中的陀螺仪或者加速度计的性能减弱，导致 组合导航系统的性能下降，从而影响整个系统的正 常工作［４］。“软故障”要比“硬故障”的诊断隔离更加 复杂一些，因此本文选择“软故障”为研究对象。常 用的“软故障”检测与隔离方法有状态估计、模式识 别、专家系统、小波变换和神经网络等［５］。其中χ ２ 检测法由于可以实时有效地检测故障得到了广泛的 应用。χ ２ 检测法包括残差χ ２ 检测法与状态χ ２ 检测 法，其中残差χ ２ 检测法对硬故障的检测效果比较 好，但对“软故障”的检测灵敏度较低。相比之下，本 文采用状态χ ２ 检测对组合导航系统故障进行实时 检测。
在故障诊断方面，深度学习在故障诊断领域的 应用研究中获得很大的关注。目前在故障诊断领域 常用的深度学习模型有自编码器、卷积神经网络、循 环神经网 络、深 度 玻 尔 兹 曼 机 以 及 深 度 信 念 网 络 （ｄｅｅｐ ｂｅｌｉｅｆ ｎｅｔｗｏｒｋｓ，ＤＢＮ）等［６］。其中深度信念 网络是一种具有强大挖掘能力的网络模型，可以学 习到组合导航系统复杂的数据模式与特征表示，对 高维数据与非线性关系的建模能力较强［７］。目前， 学者们已经提出很多深度信念网络的改进模型，文 献［８］利用蚁群算法对判别深度信念网络进行参数 优化，用于预测机器的健康状态，该方法利用深度信 念网络反向传播策略的判别能力的优势，使特征在 高维空间降维到低维空间的同时能够很好地保留原 有信息，使得深度信念网络的判别能力得到增强。 文献［９］将神经元激活强度和误差下降率最小化与 深度信念网络结合，在无监督阶段将隐含层神经元 激活强度作为“贡献度”，以“贡献度”大小作为神经 元的删减标准，同时在有监督阶段将训练误差的下 降率作为隐含层的删减标准，解决了不同深度的精 度选择问题，提高了效率。文献［１０］提出一种稀疏 自编码器（ｓｐａｒｓｅ ａｕｔｏ ｅｎｃｏｄｅｒ，ＳＡＥ）和深度信念 网络结合的混合模型，利用ＳＡＥ对频域信号进行编 码，通过二进制处理器进一步处理 ＳＡＥ 输出，最后 通过 ＤＢＮ 进行无监督故障诊断，结果表明该方法 具有较高的诊断精度。
对于 ＤＢＮ 模型在激活函数的选择上仍缺乏进 一步的研究，合适的激活函数选取对 ＤＢＮ 模型的 非线性逼近能力以及面对复杂数据分布的适应能力 的提高有很大帮助。因此本文提出利用状态χ ２ 检 测法对ＩＮＳ／ＧＮＳＳ组合导航系统进行实时检测，利 用不同故障类型检测产生的 ＳＣＳＴ 结果作为 ＤＢＮ 模型的样本集，引入径向基函数作为 ＤＢＮ 模型的 激活函数，同时引用 ＡＤＡＭ 算法对模型的重点参 数进行微调。
１ 状态χ２ 检测法
建立带故障的离散动态模型如下［１１］：
式中：Ｘ 为系统状态向量；Ｚ 为系统观测向量；Φ 为 系统转移矩阵；Γ 为系统噪声矩阵；Ｗ、Ｖ 为独立的 高斯白噪声序列；Ｈ 为量测矩阵；γ 为随机向量，用 于表示故障的大小；ρ（ｋ，φ）为如下的分段函数，其 中φ为故障发生时间。
状态χ ２ 检测法是通过检测卡尔曼滤波器的状 态估计来判断系统是否发生故障［１２］。其中Ｘ１（ｋ）由 测量值Ｚ（ｋ）经过卡尔曼滤波获得，因此只与量测信 息有关，受系统故障的影响；而Ｘ２（ｋ）为状态递推器 用先验信息递推计算获得，而与量测信息无关，所以 不受系统故障的影响。通过对两个状态向量的比较 可以对系统进行故障检测。
２ 深度信念网络
２．１ 受限玻尔兹曼机
受 限 玻 尔 兹 曼 机 （ｒｅｓｔｒｉｃｔｅｄ ｂｏｌｔｚｍａｎｎ ｍａ－ ｃｈｉｎｅ，ＲＢＭ）为深度信念网络的基本单元［１３］，其模 型结构如图１所示。该模型由隐含层与可见层构 成，层间是双向全连接，层内无连接。
图１中 Ｗ 为连接可见层与隐含层之间的权重 矩阵；ｎ、ｍ 分别为隐含层与可见层 中 的 神 经 元 个数；ｖ＝［ｖ１，ｖ２，…，ｖｍ］Ｔ 为可见层的状态向量；ｈ＝ ［ｈ１，ｈ２，…，ｈｎ］Ｔ 为 隐 含 层 的 状 态 向 量；ａ ＝ ［ａ１，ａ２，…，ａｍ］Ｔ 为 可 见 层 的 偏 置 向 量；ｂ ＝ ［ｂ１，ｂ２，…，ｂｎ］Ｔ 为隐含层的偏置向量。
ＲＢＭ 伯努利（可见层）伯努利（隐含层）的联合 状态的能量函数可表示为
式中：ｗｉｊ为 ＲＢＭ 的连接权值。通过Ｅ（ｖ，ｈ）可得可 见层与隐含层的联合概率分布函数为
式中：Ｚ（θ）为归一化因子或配分函数，表示对可见层和 隐藏层节点集合的所有可能状态的（能量指数）求和。
已知联合概率分布函数 Ｐ（ｖ，ｈ）可得可见层的 独立分布为
由于 ＲＢＭ 模型特殊的层间全连接，层内无连 接的结构，所以条件概率分布可表示为
式中：σ（·）为激活函数。
２．２ 改进的深度信念网络算法
深度信念网络（ＤＢＮ）是多个受限玻尔兹曼机 （ＲＢＭ）堆叠而成的一个概率生成模型［１４］，是当前深 度学习的主要实现方法之一［１５］。如图２所示，ＤＢＮ 一般由多层堆叠受限玻尔兹曼机以及顶层的 Ｓｏｆｔ－ Ｍａｘ分类器组成。其中输入层与第二层构成第一 个受限玻尔兹曼机结构，即 ＲＢＭ１；第二层与第三层 构成第二个受限玻尔兹曼机结构，即 ＲＢＭ２。同时 上一层的隐含层作为下一层的可见层，以此类推，最 终构成ｌ个 ＲＢＭ 结构。然后将最上面一层输出结 果作为分类器的输入，根据分类器的结果对数据进 行一个分类。ＤＢＮ 的学习过程分为两个阶段，即对 ＲＢＭ 进行无监督的逐层预训练和利用 ＢＰ 传播算 法对整个网络进行有监督的反向微调［１６］。
由于在传统的 ＤＢＮ 模型中存在网络模型收敛 时间较长、反向微调精度较低以及面对复杂数据分 布的适应能力较差等问题，本文提出了一种改进的 ＤＢＮ 模型：首先，引入径向基（ｒａｄｉａｌ ｂａｓｉｓ ｆｕｎｃｔｉｏｎ， ＲＢＦ）函数作为ＤＢＮ 的激活函数，提高ＤＢＮ 模型面 对复杂数据分布的适应能力；其次，在对 ＲＢＭ 进行 无监督训练阶段采用ｋ步对比散度（ｃｏｎｔｒａｓｔｉｖｅ ｄｉ－ ｖｅｒｇｅｎｃｅ，ＣＤ）－ｋ 算法进行快速训练，在有监督训 练阶段采用自适应 矩 估 计 （ａｄａｐｔｉｖｅ ｍｏｍｅｎｔ ｅｓｔｉ－ ｍａｔｉｏｎ，ＡＤＡＭ）算法代替梯度下降算法进行微调 以提高 ＤＢＮ 的诊断精度。
１）径向基激活函数模型
径向基函数是指以数据ｘ到某向量ｃ之间距离 为自变量的单调函数，将其作为 ＤＢＮ 的激活函数， 能量函数可表示为
式中：ｖｉ 为可见层中第ｉ个节点值，ｈｊ 为隐含层中第ｊ 个节点１值，ｗｉｊ为连接权值，β为神经元宽度，ｋ为神 经元中心点。改进 ＤＢＮ的条件概率分布可表示为
２）无监督预训练阶段
ＤＢＮ 无监督预训练阶段是指通过对每个 ＲＢＭ 进行逐层训练来更新网络参数θ＝｛ｗｉｊ，ａｉ，ｂｊ}，为了 减少预 训 练 时 长，需 要 对 式 （５）中 的 归 一 化 因 子 Ｚ（θ）进行计算，由于朴素方法难以将其计算，本文 采用 ＣＤ－ｋ 算法对预训练过程进行快速无监督训 练。ＣＤ－ｋ 算法的核心是 Ｇｉｂｂｓ采样，使用估计的 概率分布与真实概率分布之间的 Ｋ－Ｌ 距离作为度 量准则，对训练样本进行 Ｇｉｂｂｓ采样，以最大概率生 成样本。Ｇｉｂｂｓ采样过程如图３所示。
通过计算对数似然公式ｌｏｇＰ（ｖ）的梯度，得到 ＲＢＭ 权值更新公式为
式中：μ为学习率，ｄａｔａ与ｒｅｃｏｎ分别表示训练数据 的概率分布和重构后的概率分布。根据马尔科夫链 原则［１７］，上述的权值更新问题转换成一个无偏差的 模型，当 Ｇｉｂｂｓ采样足够长时可以达到目的。
３）有监督反向微调阶段
反向微调阶段是完成预训练之后进行的有监督 训练，其作用是对 ＤＢＮ 模型相关参数进行微调，减 小模型输 出 与 实 际 标 签 之 间 的 误 差，从 而 实 现 对ＤＢＮ 整体模型的优化。为提高 ＤＢＮ 模型的诊断精 度，本 文 采 用 ＡＤＡＭ 算 法 代 替 传 统 梯 度 下 降 算 法［１８］，利用梯度的一阶矩估计和二阶矩估计动态调 整学习率，提供更加平滑和稳定的参数梯度对权重 参数进行更新。在无监督预训练中，经过ｋ次迭代 获得网络参数θ＝｛ｗｉｊ，ａｉ，ｂｊ}，通过计算ｇ＝∇Ｊ（θｋ）， 更新一阶矩估计 ｍｋ＋１和二阶矩估计ｖｋ＋１为
一阶矩偏差ｍｋ＋１和二阶矩偏差ｖｋ＋１为
更新后的网络参数θｋ＋１为
式中：α为步长，βｉ 为衰减率，τ为稳定常数。
２．３ 组合导航系统故障诊断流程
针对ＩＮＳ／ＧＮＳＳ组合导航系统而言，传统状态 χ ２ 检测法可以检测出系统是否发生故障，但是无法 识别故障类型，使得系统无法对故障子系统进行准 确定位隔离。因此，本文提出一种改进 ＤＢＮ 的故 障诊断算法，在状态χ ２ 检测法对故障进行检测的基 础上，利用改进 ＤＢＮ 进行故障诊断，实现故障的准 确识别、定位与隔离，提高组合导航系统的稳定性， 其具体结构如图４所示。
３ 仿真与分析
３．１ 数据获取及预处理
为了验证本文方法在组合导航故障诊断中的性 能，基于 Ｍａｔｌａｂ２０２０ｂ平台建立ＩＮＳ／ＧＮＳＳ组合导 航系统数字仿真平台，对轨迹发生器生成的一段轨 迹进行导航反结算生成各传感器数据。其中飞行器 的初始位置为东经 １１７°、北纬 ３６°，海拔高度为 ５０ ｍ，飞行轨迹包括等角飞行、转弯、俯仰运动等飞行 状态，飞行时间为３００ｓ，飞行轨迹如图５。
仿真参 数 与 注 入 故 障 类 型：ＩＮＳ 采 样 频 率 为 ２００Ｈｚ，陀螺仪的常值漂移为０．１ （°）／ｈ，随机漂移 为０．０１（°）／ｈ；加速度计的常值漂移为３００μｇ，随机 漂移为１００μｇ。ＧＮＳＳ位置精度为２０ｍ，速度精度 为１ｍ／ｓ。
仿真中注入了４种ＩＮＳ故障与１种 ＧＮＳＳ故 障。５种故障类型均为传感器的数值漂移发生改变 所造成的软故障，故障时间设定在１２０～１５０ｓ时间 段内，每种故障模式设置了 ６ 种故障幅值，如表 １ 所示。
通过仿真实验获得各传感器输出信号，对其进 行状态χ ２ 检测，将检测到的故障信号作为数据样 本。样本中包括预设的５种故障类型，每种故障按 照其故障幅值各取１００组并且加入无故障５００组， 即数据总量为３ ５００组。
由于改进 ＤＢＮ 的输入数据范围在０～１之间， 所以还需要对数据进行归一化处理，采用的均值归 一化为
将经过预处理后的导航数据作为 ＤＢＮ 的输入 样本数据，样本纬度为截取信号长度，并将其８０％ 划分为训练集，２０％划分为测试集。其中训练集包 含无故障数据４００组，Ｘ 轴及Ｙ 轴陀螺仪故障数据 各４８０组，Ｘ 轴 及Ｙ 轴 加 速 度 计 故 障 数 据 各 ４８０ 组，ＧＰＳ故障数据４８０组；剩余７００组数据用于数 据测试。
３．２ 结构和参数设置
１）网络结构
改进 ＤＢＮ 的网络结构参数包括：ＤＢＮ 层数、输 入输出层节点数、隐含层节点数等。其中输入层节 点数由输入样本的维数决定，因获取的组合导航系 统数据为１５维，因此输入层节点设为１５，输出层节 点由故障种类的数量决定，因此将输出层节点设为 ５。本文采用３个隐含层，并对其中各隐含层节点数 进行实验对比。其中不同隐含层节点数对于训练结 果的影响如图６所示。综合对比后本文将 ＤＢＮ 的 结构设置为１５－１００－５０－２５－５。
２）初始参数设置
改进 ＤＢＮ模型的偏置初始化为０，各层神经元 之间的权重由均值为０，方差为０．０１的高斯分布的随 机数进行初始化。预训练学习率设为０．１，反向微调 学习 率 设 为 ０．０１。ＡＤＡＭ 参 数 设 定：步 长 设 为 ０．００１，稳定常数τ设为１０－８，衰减率β１ 设为０．９，衰 减率β２ 设为０．９９９。最大迭代次数设为２００。
３．３ 故障诊断结果分析
将归一化后的数据集输入改进 ＤＢＮ 网络进行 特征提取与分类训练，针对组合导航系统故障诊断 建立的改进 ＤＢＮ 模型性能评估，本文选取评估标 准包括准确率、损失值以及混淆矩阵。准确率表示 分类结果为正例样本中真实为正例的比例，损失函 数是预测类别与真实类别之间的误差，混淆矩阵可 以明显地体现出模型的分类能力。
对故障样本识别结果的准确率与损失值如图７、 图８所示。从图７中可以看出，经过９０次迭代后，模 型对训练集样本类别的识别率达到了９９％左右，并 趋于平稳，对于测试集样本类别的识别率也达到了 ９８％左右。从图８可以看出，随着迭代次数的增加， 模型的损失值不断下降，经过１００次迭代后，模型的 损失值区域平稳，测试集的损失值稳定在０．１左右。
图９为故障分类结果混淆矩阵，其中横轴表示 实际分类，纵轴表示预测分类，对角线数值表示模型 对每种故障类型的诊断精度，非对角线表示模型诊 断的错误率，标签１～５分别为五种故障类型的分类 结果，标签６为无故障诊断结果。从图中可以看出 改进 ＤＢＮ 模 型 对 于 组 合 导 航 故 障 的 诊 断 效 果 优 异，在对无故障诊断时精确度达到１００％，其余故障 整体诊断精度达到９８．１％，表明改进 ＤＢＮ 模型在 针对组合导航软故障时具有良好的分类效果。
为证明本文算法在分类准确率上的优越性，与 几种较为常见的算法进行对比实验。表２表示本文 算法与 ＡＥ、ＢＰ 神经网络以及 ＤＢＮ 三种不同模型 的对比结果。其中，ＡＥ 隐含层数设为２，学习率设 为０．０１；ＢＰ神经网络的网络结构设为２００－４５－６；传 统 ＤＢＮ 网络的相关参数与３．２节一致。由表２可 以看出不同神经网络对于故障的分类准确率基本保 持稳定，其中 ＢＰ神经网络的准确率最低，只有０．８ 左右；ＡＥ与 ＤＢＮ 次之，准确率达到了０．９３与０．９； 改进 后 的 ＤＢＮ 模 型 则 达 到 了 ０．９８，说 明 改 进 的 ＤＢＮ 模型在故障模式分类方面具有明显优势。
４ 结论
针对ＩＮＳ／ＧＮＳＳ组合导航系统，提出一种基于 状态χ ２ 检测的改进深度信念网络（ＤＢＮ）模型的故 障诊断方法。该方法采用状态χ ２ 检测法对ＩＮＳ／ ＧＮＳＳ组合导航系统进行实时故障检测，采用径向 基函 数 作 为 ＤＢＮ 模 型 的 激 活 函 数；同 时 采 用 ＡＤＡＭ算法作为反向微调阶段的优化算法以提高 ＤＢＮ 模型的精确度。利用改进 ＤＢＮ 强大的特征提 取能力对故障类型做出准确分类。仿真结果表明， 基于 改 进 ＤＢＮ 的 故 障 诊 断 算 法 与 传 统 ＤＢＮ、 ＢＰＮＮ 等网络模型相比在对组合导航系统的故障诊 断的准确率以及稳定性方面具有更好的效果。
