改进全卷积网络优化绝缘子缺陷检测

杨永娇，唐亮亮，郑 勇

（1.广东电力信息科技有限公司，广东 广州 510000；2 广州大学机械与电气工程学院，广东 广州 510000）

1 引言

电网绝缘子由于环境恶劣及不可避免的人为破坏而经常自爆破损。而绝缘子故障在很大程度上会造成供电中断，严重威胁电网的运行和使用安全，甚至造成巨额经济损失[1]，因而对电网绝缘子经常性巡检，并准确检测故障件以适时保护控制变得异常重要。

传统人工巡检存在视野盲区，效率低，且需要电塔攀爬等，耗时耗力，存在安全隐患。无人机航拍图像分析辅助高压线路的巡检和维护等技术已相对成熟，提高了故障分析和修复的工作效率，但海量航拍图像数据的人工主观判读，仍存在大量的误判或漏判[2]，因此基于航拍图像的绝缘子缺陷自动检测成为保障电力系统安全运行的热点问题。文献[3]提取电网绝缘子图像的尺度可变的二进制特征，然后采用改进的SVM 分类器对提取的特征进行分类，但所提算法的复杂度较高，实际应用受限。文献[4]对无人机获取的航拍绝缘子图像进行正交变换，然后提取变换后图像的S 变换特征，通过SVM 分类器进行绝缘子缺陷的自动识别与定位，但S 变换特征与分类器参数整定较为困难，需要大量训练数据。文献[5]基于无人机航拍电网图像，通过RGB 空间变换减少环境光线对特征提取的影响，然后通过改进的OTSU 和形态学变换提取纯净的绝缘子串特征，最后通过像素数识别并定位自爆破损的绝缘子，算法对自然环境下的绝缘子仍具有较好的缺陷检鲁棒性；文献[6]使用改进的自适应阈值方法对航拍电网图像进行分割处理，并检测预处理后的绝缘子边缘，通过提取绝缘子串的相邻绝缘子间距对串中绝缘子的破损情况进行识别，但算法对图像分割和边缘检测算法的依赖性较强，当图像分割受到噪声干扰时，算法的检测效果不理想。已有方法大多基于特征提取和SVM 等分类器，但算法依赖于特征提取的效果，而受噪声干扰，特征提取的效果往往存在很大的不确定性，从而导致缺陷识别结果的鲁棒性不好。深度学习[7]可以根据航拍图像自动提取绝缘子缺陷特征并完成特征的学习和自动分类识别，文献[8]利用卷积神经网络检测细微裂纹，将全连接层作为输入以提高网络的有效连接和迟滞，从而提高算法的分类能力，但识别结果中含有较多的非裂纹；文献[9]根据深度学习的多视角自动匹配特性，对不同视角的射线投影图像进行相同缺陷的自动匹配，实现微小缺陷的多视角图像自动检测与定位；文献[10]采用深度置信网络优化参数的初始设置，有效避免初始值不合适造成的局部最优和无法收敛问题。

深度学习全卷积网络（fully convolutional networks，FCN）[10]具有图像尺寸无限制、尺度旋转不变性及像素级分类等特性，基于此，文中提出基于改进FCN 网络模型的航拍电网绝缘子缺陷自动检测算法，算法通过优化网络结构、取消全连接层Dropout、增加多尺度池化与孔洞卷积以及采用双目标优化函数，实现FCN模型的有效改进，实验结果验证了改进模型的有效性和鲁棒性。

2 改进FCN 绝缘子缺陷检测

2.1 传统FCN 模型

传统FCN 模型基于经典的CNN 模型，电网航拍绝缘子图像输入CNN 网络后，经卷积、池化及激活函数后，其信号形式可以表示为：

式中：xij、yij—在相应层的（i，j）位置处的数据和在下一层该位置的输出；k—卷积核尺寸；s—降采样因子；fks—与相应层类型相关的操作。

对于FCN 网络，图像进入其全连接层后，输出图像尺寸变化会造成原图像的目标位置与输出图像相应像素不对应问题，为此，以卷积层替换全连接层，这样模型以任意尺寸的绝缘子航拍图像作为其输入时，其输出端输出结果直接为期望得到的像素类别，从而实现端对端的模型训练。卷积和池化两网络层操作会使得输入图像的前两维数据维数显著减少，为此，采用多尺度池化层对输入特征进行优化，基从而将映射维度调整为原始维度，采用孔洞卷积消除模型的过拟合，并保留精细的卷积滤波。

文中提出的改进FCN 模型，提高了绝缘子图像中缺陷目标的检测分辨率，并添加多尺度池化层和孔洞卷积运算，以扩展模型对缺陷局部精细细节的描述能力，并改善模型的过拟合问题；采用双目标收敛函数，以优化模型低层次参数的设置，采用指数衰减法调节参数以使参数快速达到全局最优解，从而增加网络特征的递进传递性能和目标检测能力。

2.2 改进FCN 模型构建

文中改进FCN 网络模型的结构，如图1 所示。图中深色箭头为卷积运算、一色箭头为池化运算、另一色箭头为反卷积运算、一色箭头为Skip 跳跃、另一色箭头表示累加；模型中深红色长方形为输入层，紧接着为6 个长方形表示的CONV 卷积层、3 个黑色长方形表示的FC7：FC9全卷积层及4 个DECONV1～DECONV4 反卷积层。其中，卷积层包含3 个单元，相邻层间包含一次池化操作，全连接层的输出在DECONV1 层经2 倍的反卷积后，其结果再与第四池化层的Skip 结果完成第一次累加；对于输出的累加结果，在DECONV1 层再次进行2 倍的反卷积后，其输出结果与第三池化层的Skip 结果完成第二次累加，依次进行，每次累加输出结果完成反卷积层采样后，与上一池化层Skip 结果进行累加，直到输出最终检测结果。

图1 改进FCN 方法的流程图Fig.1 Flow Chart for Proposed Improved FCN Method

2.3 多尺度池化改进

传统FCN 网络通常以提取有效特征为目标进行图像的语义分割，并没有充分考虑语义上下文建模，从而造成对航拍绝缘子图像进行缺陷特征提取时存在关系匹配错误问题，为提取图像的多尺度特征以准确描述缺陷，需要对传统FC 池化层进行上下文关系强化和建模，文中采用多尺度金字塔池化方法，在输入特征图基础上构建图像金字塔，提取不同尺度特征，并根据其对池化层的上下文关系进行训练和学习，具体模型改进设计，如图2 所示。

图2 多尺度池化层优化模型Fig.2 Multi-Scale Pooling Layer Improvement Model

图中将三个尺度用于池化层改进，每个尺度对应池化层不同级别的功能图，在时行FCN 缺陷检测时，输入的所有特征图都与池化层的三个尺度时行卷积操作，3×3 尺度层获得与传统FCN网络池化层相似的输出，而另外两个尺度用以扩展图像像素的上下文关系信息，因而其输出需要进行平均以确保不丢失图像特征相关信息。池化均值加权还进一步消除多尺度结构的相邻层之间的重叠性，并较好的保留图像的上下文语义。

多尺度池化改进有利于输入图像的特征提取，但随网络层数的加深，特征的抽象提取会导致过拟合等负面影响，为此，采用空洞卷积方法，如图3 所示。非零滤波器中加入孔洞进行卷积层上采样最初被应用于小波变换计算[7]，后来被学者引入FCN 网络以在提取的特征中融入上下文信息，为此，将上采样因子设置为2，由于加入孔洞只对非零滤波器进行操作，因而卷积核是不变的。模型前一层的输出数据进行一次正常卷积核的卷积运算以及四次卷积率分别为r=2，3，4，5 的空洞卷积，如图3 所示。获得的输出图像通过通道叠加进行融合，再通过一个3×3 卷积核后输出多通道的特征图像。

图3 多尺度空洞卷积操作流程Fig.3 Multi-Scale Hole Convolution Operation Flow

可以看出，通过将传统模型池层的密集采样与多尺度优化池化模块输出的有效融合，改进FCN 模型可以很好的将图像的上下文关系融合到模型提取的精细绝缘子缺陷特征，有利于缺陷的准确检测与定位。

2.4 双目标函数收敛优化

FCN 模型网络深度达32 层，传统FCN 模型会优先更新高层参数，而消减低层参数更新幅度，为使更新均衡，采取双目标收敛策略，首先在第5 池化层后增加中间层目标函数，将其输出的特征图分辨率调整为原图像的1/32，再与标签图通过交叉熵损失建立项层目标函数，从而构建双目标函数收敛结构，其交叉熵损失函数J（x）计算为：

式中：xj、yj—输入图像中第j个像素的特征与类别；R（x）—像素输出。改进模型的最终目标函数Jz（x），由增加的中间层和顶层目标函数平均加权组成，当模型认底层参数优化不足时，其中间层目标函数将偏大，导致整体目标函数增大，此时需继续模型训练，直到整体目标函数最优。

在更新过程中，采用指数衰减法调节参数以使参数快速达到全局最优解，降低后期波动，相应学习率dlr0定义为：

式中：lr0—模型的初始学习率；dr、ds—衰减系数及衰减速度；gs—训练过程中迭代次；［］—向上取整数。为防止过拟合情况，在整体目标函数中增加L2正则项：

式中：R（ω）—描述的模型的复杂度；λ—正则项系数；ω—网络参数。

在改进FCN 航拍电网绝缘子缺陷检测过程中，航拍图像作为初始输入，在卷积神经网络提取特征，高斯混合模型通过判断当前像素的归属概率的负对数来描述当前像素为缺陷目标的惩罚大小，其计算式为：

式中：a=｛0，1｝—描述当前像素归属目标或背景；π（·）—混合加权系数；u—高斯均值向量；Σ—协方差矩阵。边界描述项通过两个像素间的欧氏距离描述了相邻像素的不连续性，其计算式为：

式中：γ、β—融合因子，γ+β=1。

3 缺陷检测实验分析

为验证文中改进FCN 模型的有效性及检测性能，以实验室采集的各种实际背景下的绝缘子图像作为实验数据。实验环境为Intel（R）Core（TM）i7-7820H CPU@2.20 GHz，16 GB 内存。采用常用的召回率、准确率和平均绝对误差作为评价指标。

为验证改进模型的结构性能，以原始FCN-8s 为基础模型，构建FCN-4L 模型和FCN-10L 模型，FCN-4L 模型关闭Dropout技术并加入卷积单元，FCN-10L 模型加入多尺度池化层，将四种网络模型进行训练和实验性能比较，模型参数分别为：batchSize=4、numSubbatches=2、learningRate=0.0001。四种模型对测试图像的得平均ROC 曲线，如图4 所示。

图4 各模型测试实验平均ROC 曲线Fig.4 Experiment Average ROC Curve of Each Model

从实验结果可以看出，传统FCN 模型的假目标较多，主要因为其细节描述能力差，且连接层跨越维度较大，FCN-4L 模型的细节描述能力有所提高，但检测效果仍不；FCN-10L 模型通过多尺度池化层和孔洞卷积运算，有效提高对缺陷等细节特征的描述能力，增强算法的检测能力；文中改进FCN 模型在FCN-10L 模型基础上进一步增加双目标函数，进一步优化参数设置，凸显缺陷信息并增强检测像素连通性，从而提高对假缺陷目标的识别能力和对背景干扰的鲁棒性，文中提出的改进FCN 模型对绝缘子缺陷检测的效果图，如图5 所示。验证改进模型的检测有效性和鲁棒性。

图5 Proposed FCN 模型缺陷检测结果Fig.5 Defect Detection Results of the Proposed FCN Model

4 结语

电网绝缘检测缺陷的准确检测是电网运行状态有效监测及故障诊断前提，基于无人机航拍电网绝缘子图像，为解决深度学习缺陷检测存在的误检测和局部信息丢失问题，提出基于改进深度学习全卷积网络的缺陷自动检测算法，算法通过改进FCN 的VGG 结构、扩展滤波器尺寸、取消全连接层Dropout 及模型深度，实现FCN 模型在绝缘子缺陷检测方面的有效改进，实验结果表示，改进模型在较少运行时间增加基础上，有效提高了对绝缘子缺陷检测的性能和对背影的鲁棒性，取得了比已有算法更有优的检测结果。