基于遗传算法的模糊RBF神经网络对遥感图像分类

杨 剑，宋超峰，宋文爱，张 涛

(中北大学 软件学院，太原 030051)

1 引 言

作为遥感图像处理中的关键问题，对遥感图像分类的研究在不断的深入.衡量其分类效果的一个重要因素就是分类精度，分类精度的高低直接决定着该分类方法的好坏.现今人们对遥感图像的分类研究中用到的分类方法主要有以下几种：SVM支持向量机分类、人工神经网络分类和决策树分类等.其中人工神经网络以其很强的非线性拟合能力，学习规则简单等优点而成为在遥感分类领域的热点.1986年，Rumelhart，Hinton，Williams正式提出了了BP(Back Propagation)算法[1].BP算法成为了神经网络的重要模型之一，并在遥感分类领域得到了广泛的应用.卜晓波等提出了基于遗传算法改进BP神经网络的遥感影像分类研究[2]，由于BP算法是使用梯度搜索理论，以使得网络实际输出与期望输出的均方差达到最少.但是BP算法存在易陷入局部极小值，学习过程收敛速度慢等问题.1985年，Powell提出了多变量插值的RBF方法[3]，1988年，Broomhead和Lowe首先将RBF应用于神经网络设计，构成了RBF神经网络[4].RBF神经网络算法支持在线和离线训练，可以动态确定网络结构和隐层单元的数据中心和扩展函数，学习速度快等优点，很好的解决了BP神经网络在遥感分类问题中存在的不足.本文提出了一种基于遗传算法的RBF模糊神经网络的分类方法.将模糊理论运用于RBF神经网络，克服其陷入局部极值点问题，再利用遗传算法确定最优的RBF模糊神经网络的权值和阈值，并对网络进行训练来提高分类精度.本文结构如下：第二部分详述本文算法过程；第三部分进行实验对比得出结果；第四部分全文总结.

2 改进的算法过程

遗传算法优化模糊RBF神经网络主要分为4个部分：a.神经网络结构确定；b.遗传算法优化权值和阈值；c.将模糊逻辑用于神经网络；d.利用GA训练神经网络.

2.1 RBF神经网络结构

RBF神经网络是一个由输入层，隐层和输出层三层构成的前馈网络.输入层将外部环境与网络连接，输出层给出网络的输出.隐藏层包含称为RBF的专用激活函数[5].这些功能产生局部的，有界的和径向对称的激活，减少与功能中心的距离[6].隐藏层中的每个节点表示以特征空间中的向量为中心的RBF .RBF神经网络结构如图1所示.

图1 RBF神经网络结构图Fig.1 RBF neural network structure

2.2 模糊RBF神经网络

图2所示网络为一个4层的感知器型的模糊RBF神经网络(以2输入为例).

图2 模糊RBF神经网络模型Fig.2 Fuzzy RBF neural network model

2.3 遗传算法优化权值和阈值

利用遗传算法优化权值和阈值过程包括两个阶段：首先使用GA(Genetic Algorithm)来搜索网络的最优或近似最优连接权重和阈值，然后使用RBF来调整最终权重.在评估所有染色体后，通过使用再现(选择)算子从当前群体中提取染色体来创建中间群体[8].在本研究中，基于排序算法的轮盘选择被应用于再现算子.最后，通过将交叉和突变算子应用于中间种群的染色体来形成下一代群体.然后评估通过选择，交叉和突变算子复制的新染色体，并重复所有染色体的评估和再现程序，直到满足停止标准[9].

首先，图像数据初始化完成；然后通过测量总均方误差的值来评估每个染色体的适应度，参见下列公式.

(1)

(2)

其中xi是输入变量的值，wji和wkj是输入和隐藏神经元之间的连接权重，以及隐藏的神经元和输出神经元之间的连接权重，wjo和wkc是第i个的阈值(或偏差) 第k个神经元，i，j和k分别是这些层的神经元数[10].

(3)

其中n是训练数据集中的数据的数量.通过训练，希望网络学习或概括将输入映射到输出的非线性关系，以便对训练过程中未暴露的数据进行合理的估计[11].

2.4 遗传算法训练神经网络

利用遗传算法训练RBF神经网络的步骤如下：

1)群体初始化

GA从一组被称为种群的染色体开始.染色体对应于要优化的可变值数组.因此，h个隐藏节点表示染色体，并且将径向中心初始化为随机值[12].染色体表示为：

C=[c1,c2,c3,…,ch]

(4)

群体具有Npop条染色体，并且是填充有随机值的Npop×Nbit矩阵.

2)适应度计算

根据RBF的响应，对Npop条染色体的适应性值进行评估.本文所使用的基函数是最小平方误差[13].

(5)

其中d(t)是从训练集获得的期望输出，y(t)是从网络在测试数据上获得的输出.

3)选择

Npop染色体根据适应度函数的值按降序排列.只有最好的染色体被保留，而其他被丢弃.幸存的群体由Nkeep代表，从其中选出两名双亲产生弹簧[14].在本文中，加权等级用于选择双亲.这是一种概率方法，其中染色体的概率从染色体的秩n计算如下：

(6)

选择具有最高概率的两条顶级染色体进行交叉.

4)突变

这是一个遗传算子，用于组合信息以产生新的弹簧.基于两个父母组合信息以产生新的弹簧来决定交叉率[15].

5)当满足终止条件时，重复步骤(2)-(4).

3 实验与结果

3.1 实验设计

本文中所用到的遥感图像研究区位于中国河南漯河，如图3所示.

图3 原始数据影像Fig.3 Raw data image

研究区域主要由四个土地覆盖类型组成，包括水，绿林地，农地和房屋.基于官方土地利用图和田间观察，用类信息标记样本.所有样本用于使用随机抽样方法产生一组1844个训练样本和一组3629个测试样本.此外，为了简化实验过程并加快计算速度，在实验中仅选择前八个频带.提出的方法的实验结果与基于遗传算法的RBF神经网络方法和基于JM(Jeffries-Matusita)距离的SVM决策树分类法进行对比.这三种方法都在Matlab R2015a中实现，并且在带有2.5GHz CPU和4.00GB RAM的Intel(R)Core(TM)i5-2450M的计算机上执行.

表1 影像测试数据Table 1 Image test data

表1展示了本次试验的样本数据.

3.2 实验结果

为了验证本文算法的有效性，在实验中使用基于遗传算法的 RBF神经网络分类方法、基于遗传算法的模糊 RBF神经网络分类法以及之前所研究的基于 JM距离的SVM决策树分类方法.通过分类结果图，混乱矩阵，分类准确度和运行时间比较各种分类方法的效果.

基于JM距离的SVM决策树分类方法首先利用JM距离对SVM决策树进行优化，将决策树的各个节点分为可分离性好和可分离性差两种，之后使用SVM对容易分类的节点进行分类再利用k-means的聚类方法对不易分类的节点进行分类[17]；基于遗传算法的RBF神经网络使用遗传算法对权值和阈值进行初始化，然后利用RBF算法进行训练；而本文算法是首先将模糊逻辑用于RBF神经网络，再使用遗传算法对权值和阈值进行优化，最后使用遗传算法进行训练.本文算法与基于遗传算法的RBF神经网络分类方法相比，不仅使用了模糊理论对神经网络进行优化，同时还通过遗传算法取代RBF算法对神经网络进行训练.

以上几种分类方法的分类结果如图4所示，混淆矩阵、分类准确度和运行时间如表所示.本文所用到的分类方法准确度基于遗传算法的RBF神经网络分类方法和之前所研究的基于JM距离的SVM决策树分类方法准确度高.与基于遗传算法的RBF神经网络分类方法相比，该算法的Kappa系数为0.7852，分类的总体准确度为96.79%.该算法优于基于遗传算法的RBF神经网络分类方法和之前所研究的基于JM距离的SVM决策树分类方法，表明该算法提高了对遥感图像分类的准确度.

图4 分类算法结果比较图Fig.4 Classification algorithm results comparison graph

图4是三种分类算法对遥感图像分类的分类结果对照图.通过分类结果图可以明显的看出使用本文算法进行分类对遥感图像分类的分类精度有所提高.

表2-表4分别展示了这三种算法的混淆矩阵.

表2 基于遗传算法的RBF神经网络分类混淆矩阵Table 2 RBF neural network classification confusion matrix based on genetic algorithm

表3 基于JM距离的SVM决策树分类的混淆矩阵Table 3 Confusion matrices of SVM decision tree classification based on JM distance

表4 本文算法分类的混淆矩阵Table 4 Confusion matrix of this algorithm is classified

表5是对三种分类方式准确度和时间的统计.由表可知，本文的分类算法分类精度最高，Kappa系数为0.7852，总体分类精度为96.56%.说明使用本文算法能有效提高分类准确度.本文算法运行时间是5.3024s，比RBF算法训练神经网络 的运行时间长但相比SVM决策树分类运行时间有所下降.

表5 三种分类算法的准确度和时间统计Table 5 Accuracy and time statistics of three classification algorithms

4 结 论

本文提出并验证了基于遗传算法的模糊RBF神经网络遥感图像分类方法.三种不同分类算法的实验表明，基于遗传算法的模糊RBF神经网络遥感图像分类方法优于基于遗传算法的RBF神经网络.这些结论与基于遗传算法的RBF神经网络分类器在遥感图像分类中的应用是一致的.结论：基于遗传算法的模糊RBF神经网络遥感图像分类方法对遥感图像分类更为有效.未来的研究将重点是基于遗传算法和模糊神经网络优化遥感图像分类方法的结构和参数，进一步提高分类的准确性和运行时间.

[1] Rumelhart D E，Hinton G E，Williams R J.Learning representations by back-propagating errors[J].Parallel Distributed Processing：Explorations in the Microstructure of Cognition，1986，323(6088)：533-536.

[2] Bu Xiao-bo，Gong Zhen，Li Hua.Study on remote sensing image classification based on genetic algorithm for improved BP neural network [J].Journal of Anhui Agricultural Sciences，2013，(33)：13056-13058.

[3] Powell M J D.Radial basis functions for multivariable interpolation[M].Clarendon Press,1987.

[4] Broomhead D S，Lowe D.Multivariate functional interpolation and adaptive networks[C].Complex Systems，1988.

[5] Tian Yu-bo，Chen Feng，Zhang Zhen-kai.Hybrid neural network technology[M].Beijing:Science Press，2015.

[6] Murru N，Rossini R.A bayesian approach for initialization of weights in backpropagation neural net with application to character recognition[M].Elsevier Science Publishers B.V，2016.

[7] Zhang Teng.Fuzzy neural network technology application [D].Jinan:Shandong University，1998.

[8] Mao Jian-xu，Wang Yao-nan，Sun Wei，et al.Application of fuzzy neural network in remote sensing image classification [C].The 6th National Symposium on Electronic Measurement and Instruments,2000.

[9] Li min-Ma，Hu Shi-peng，Min Qiu，et al.Energy consumption optimization of high sulfur natural gas purification plant based on back propagation neural network and genetic algorithms[J].Energy Procedia，2017：5166-5171.

[10] Li Le，Chen Yi，Xu Ting，et al.Super-resolution mapping of wetland inundation from remote sensing imagery based on integration of back-propagation neural network and genetic algorithm[J].Remote Sensing of Environment，2015，164：142-154.

[11] Singh A，Singh K K.Satellite image classification using genetic algorithm trained radial basis function neural network，application to the detection of flooded areas[J].Journal of Visual Communication & Image Representation，2017，42：173-182.

[12] Liu Z，Liu A，Wang C，et al.Evolving neural network using real coded genetic algorithm (GA) for multispectral image classification[J].Future Generation Computer Systems，2004，20(7)：1119-1129.

[13] Sedki A，Ouazar D，Mazoudi E E.Evolving neural network using real coded genetic algorithm for daily rainfall-runoff forecasting[J].Expert Systems with Applications，2009，36(3)：4523-4527.

[14] Liu Hong，Ren Kun，Chen Wen-kai，et al.Comparative study on BP training algorithm and genetic optimization training algorithm of neural network[J].Journal of Beijing Polytechnic College，2008，7(2)：30-34.

[15] Yuan Jin.Remote sensing image classification based on RBF neural network and water recognition based on structural features[D].Qingdao:Shandong University of Science and Technology，2002.

[16] Mohammed M M，Badr A，Abdelhalim M B.Image classification and retrieval using optimized pulse-coupled neural network[J].Expert Systems with Applications，2015，42(11)：4927-4936.

附中文参考文献：

[2] 卜晓波，龚 珍，黎 华.基于遗传算法改进BP神经网络的遥感影像分类研究[J].安徽农业科学，2013，(33)：13056-13058.

[3] 鲍威尔M J D.多变量插值的径向基函数[M].克拉伦登出版社，1987.

[4] Broomhead D S，Lowe D.多变量功能插值和自适应网络[C] .复杂系统，1988.

[5] 田雨波，陈 风，张贞凯.混合神经网络技术[M].北京：科学出版社，2015.

[6] Murru N，Rossini R.用于初始化反向传播神经网络中的权重的贝叶斯方法，应用于字符识别[M].Elsevier Science Publishers B.V.，2016.

[7] 张 腾.模糊神经网络技术的应用[D].济南：山东大学，1998.

[8] 毛建旭，王耀南，孙 炜，等.模糊神经网络在遥感图象分类中的应用[C].全国第六届电子测量与仪器学术报告会，2000.

[10] 李 乐，陈 毅，许 婷，等 基于反向传播神经网络和遗传算法的集成的遥感影像湿地淹没超分辨率映射[J].环境遥感，2015，164：142-154.

[14] 刘 红，任 坤，陈文楷，等.神经网络的BP训练算法和遗传优化训练算法的对比研究[J].北京工业职业技术学院学报，2008，7(2)：30-34.

[15] 苑 进.基于RBF神经网络的遥感图像分类和基于结构特征的水体识别[D].青岛：山东科技大学，2002.