应用深度学习的信号解调*

黄媛媛，张 剑,周兴建,卢建川

(1.中兴通讯股份有限公司，成都 610041；2.中国西南电子技术研究所，成都 610036)



应用深度学习的信号解调*

黄媛媛1，张 剑**2,周兴建2,卢建川2

(1.中兴通讯股份有限公司，成都 610041；2.中国西南电子技术研究所，成都 610036)

针对噪声干扰信道下的信号解调问题，提出了应用深度学习的信号识别方法，通过识别信号完成信号解调。深层置信网络使用受限波尔兹曼机为基本单元，设计针对通信信号识别的多层深层置信网络。通信信号首先变换为特定表征序列，并以此构建完备的训练集合对深度置信网络进行逐层的无监督学习和全局有监督的微调反馈学习，在深层置信网络的权重参数优化过程中实现对通信信号的特征提取与识别。仿真实验表明，与传统调制信号解调方法相比，应用深度学习的信号解调方法的检测性能有约0.4 dB的提升。

无线通信；信号解调；深度学习；深层置信网络；信号识别

1 引 言

现代无线通信系统中，用户信息比特通常经过信号调制处理变换为各种频段上连续的电磁波来实现信息的远距离传输。在通信系统的接收端，电磁波信号通过天线、射频信道、混频等处理后变换为基带调制信号，并通过解调处理完成信息的提取[1]。信号的解调处理一般根据不同的调制方式，采用一系列逆向的数值运算处理完成。由于特定的一段基带调制信号与特定的比特信息一一对应，信号解调的过程也可以理解为在有噪声干扰情况下的基带调制信号识别，因此可以应用信号识别的方法来实现通信信号的信息提取。

人工智能算法被广泛应用于语音、图像、符号等多种信号的特征分析、分类识别及策略选择等多种领域[2]。尤其是2006年后，加拿大多伦多大学教授Hinton和他的学生Salakhutdinov在《科学》杂志上提出了一种非常有效的无监督逐层特性学习方法[3]，有效解决了深层神经网络训练中的参数初始化和非凸代价函数在参数空间中存在的局部优化问题，有力地推动了人工智能在各个方面的应用研究。Bengio等人[4]提出了一种收缩判别分析(Contractive Discriminative Analysis,CDA) 算法用于分离强噪声信号与判别性信号。2012年，微软公司一个基于深度学习的语音视频检索系统将单词识别错误率从27.4%降低到18.5%[5]。2014年，Sun Yi等[6]提出了一种用深度隐藏身份特征的方法学习高等级特征来进行人脸识别，获得了97.45%的准确度。2014年，Shen Yelong等[7]提出了卷积版的深度结构语义模型，将上下文中语义相似的单词通过一个卷积结构投影到上下文特征空间向量上，实现了准确率从43.1%到44.7%的提高。基于卷积神经网络的解调器被用于对双极性扩展的二进制相移键控超奈奎斯特速率信号进行解调，有利于解决由超奈奎斯特速率双极性传输信号产生的严重码间干扰问题[8]。

本文将深度学习技术引入通信信号的信号解调算法设计中，识别网络利用受限波尔兹曼机来构建多层深度置信网络，通过识别调制信号来实现对接收的通信信号所传输的比特信息进行判决。算法首先根据深度置信网络的数据处理方式将基带通信信号进行采样和数据变换，构建完整的输入输出训练序列对；利用训练序列依次完成深度置信网络的无监督训练、有反馈的微调优化，使得深度置信网络正确提取接收信号特征，实现准确判决传输信息比特的能力。仿真实验表明，采用深度学习的信号解调方法性能略高于传统的解调方法。

2 深度置信网络

调制信号识别所使用的深度置信网络如图1所示，于2006年首次由Hinton教授提出[3]。深度置信网络由两个受限波尔兹曼机串联构成,其中上层受限波尔兹曼机的输入为某时刻接收到的通信信号经过结构变换后的待处理信号x=[x0,x1,…,xN]，其输出信号作为下层受限波尔兹曼机的输入，下层受限波尔兹曼机的输出经过软分类处理得到当前通信信号所传输信息的判决。

图1 深度置信网络Fig.1 Deep belief network

受限波尔兹曼机是一种包含两层结构的网络[9]，分为可见层和隐藏层。可见层节点向量记为v=[v0,v1,…,vK]，隐藏层节点向量记为h=[h0,h1,…，hM]，模型参数θ={W,a,b}，Wij表示可见层第i个节点和隐藏层第j个节点之间的权重系数，ai和bj分别为可见层节点和隐藏层节点的偏置量。本算法中偏置量设置为0，模型参数仅涉及权重矩阵θ={W}。受限波尔兹曼机网络的状态由节点的取值决定，每个状态可以用分子热力学中的能量函数来描述如下[10]：

E(v,h;θ)=-∑i,jvihjwij。

(1)

对应的系统概率分布函数为

(2)

(3)

式中：Z是配分函数，是将所有状态下的能量都考虑进来的一个规整项。可见层的边缘概率分布为

(4)

由于受限波尔兹曼机是一个用能量函数导出的描述显层数据概率分布的模型，其模型参数的优化可以使用最大似然准则，最大化可见层的边缘分布概率值:

(5)

上述参数的优化计算可以采用Hinton提出的对比散度算法[11]实现。受限波尔兹曼机的参数迭代更新如下式所示：

(6)

式中：η为参数更新学习速率，n为迭代的次数。

3 应用深度学习的信号解调算法

应用深度学习的通信信号解调算法包括两大部分来实现，首先是构建深度置信网络，并完成网络参数的训练学习，然后才能将识别系统应用于接收通信调制信号的识别。其中构建深度置信网络包括了通信信号数据变换和深度置信网络本身结构的构建，网络参数的训练包括无监督的学习与有监督的微调两个阶段。算法流程如图2所示。

图2 算法流程图Fig.2 Algorithm flow chart

3.1 通信信号变换

由于深度置信网络的首个可见层输入数据为一系列0和1构成的数据帧，离散采样的通信基带信号需要进行变换处理才能转变为深度置信网络有效处理的数据帧结构。基带采样的离散通信复数信号记为s(n)。对该信号首先进行归一化处理，使信号的实部与虚部信号值分布在[-1,1]区间。将[-1,1]区间离散划分为21个阶梯，记录为Sr，则Sr=[-1,-0.9,-0.8,…,-0.1,0,0.1,…，0.8，0.9,1]，每个s(n)变换为一个长度为21由0和1构成的数据序列，记为xtn，且满足下式关系：

(7)

(8)

其中:i=0～20。当每次信号识别完成连续KS个调制符号的解调时，深度置信网络的输入序列长度为21×KS。此时构建完备的训练序列包含了2KS对输入输出组[x,y]，x为长度为21×KS的[0,1]序列，y为输入x对应的输出序列，长度为KS。

3.2 网络训练与学习

按照第2节的方法构建后的深度置信网络需要通过训练和学习，使深度置信网络能准确提取信号特征，实现对发送的不同调制信号进行识别。网络训练与学习包括两个阶段，无监督的训练学习用于深度置信网络的参数初始化与特征提取。其训练顺序如图1所示，为至上而下进行，第一层的可见层通过训练学习计算得到隐藏层并更新本层的参数矩阵，然后第一层的隐藏层作为第二层的可见层进行第二层的训练学习，直到完成所有网络层的训练更新。以第一层训练为例，其无监督训练学习包括下列步骤：

Step 1 本层的v=x，为训练样本集合中的一个样本，对所有隐藏层节点计算

(9)

sigm(x)=1/(1+e-x)。

(10)

Step 2 利用计算的隐藏层节点计算本层当前网络参数下的可见层

(11)

Step 3 用下式计算网络参数的偏移量ΔW，代入公式(6)实现网络配置参数的更新:

(12)

完成无监督训练学习后需要对深度置信网络进行有监督的微调学习来完成网络优化，这一过程是利用网络输出识别值与真实值的误差进行逆向反馈，对整个系统进行微调，采用将自底向上的方式来进行微调[10]。该过程与BP神经网络的逆向反馈调节思想一致。

深度置信网络的训练学习需要遍历所有可能的发送信号，并在不同信噪比下反复训练，直到网络配置参数趋于稳定。完成训练学习的深度置信网络就可以开展对未知的接收通信信号进行信号识别验证。

4 实验验证

为了验证算法的有效性，对通信系统中的最小移频键控(Minimum-Shift Keying，MSK)调制信号的信号识别进行了计算机仿真。仿真中开展了对2、3、5个连续MSK符号所构成的识别单元进行处理，对应的变换后输入样本长度分别为42、63、105；深度置信网络采用两层受限波尔兹曼机结构，第一隐藏层节点数分别为12、18、30，第二隐藏层的节点数分别为4、8、32。深度置信网络在不同信噪比下的信号解调性能如图3所示，图中对深度学习方法的识别性能与传统相干解调性能进行了对比。

图3 信号解调性能对比图Fig.3 Performance of signal demodulation

从图3的仿真分析结果可以看出，应用深度学习的信号识别解调方法的误比特性能略优于传统的相干信号解调方法0.4 dB，因此采用该方法进行通信信息的识别是有效的。对不同长度MSK符号的识别性能仿真对比表明，信号长度的增加基本不影响识别的误比特率。由于MSK调制信号仅与传输的前后比特信息有关，因而大于两个连续符号的识别网络并不会引入更多关联信息，因此无法进一步改善信号的识别解调性能，因此对于采用MSK调制的通信信号，深度置信网络可以采用规模较小的结构实现信号的解调。此外，由于信号调制本质上是将信息比特映射为特定符号，不同调制方式采用的映射符号特征不同而已，对于应用深度学习的信号识别方法没有本质区别，仅需要重新学习训练而已，因而对于其他调制方式，如双相移相键控(Binary Phase Shift Keying，BPSK)、高斯滤波最小移频键控(Gaussian Minimum Shift Keying，GMSK)等信号识别的解调处理，仿真实验结果与采用MSK调制非常相似。

5 结束语

深度学习有力地推动了人工智能在各个领域的应用。本文针对通信系统中噪声干扰环境下的信号解调问题，提出了采用深度学习的通信信号识别解调方法。仿真验证表明，该方法的信号解调性能略优于传统的相干解调处理，证明了采用应用深度学习的通信信息识别方法的有效性。此外，传统的通信信号解调方法对不同的调制方法需要采用特定的解调处理，而人工智能的处理方法仅关注信号输入输出关系，因而可以采用统一处理架构实现对不同调制信号的识别处理，有利于通信设备综合化设计。由于通信环境的多样性，通信信息处理需要面对复杂多变的电磁环境，而人工智能具备内在的自我学习特性，有利于适应不同通信环境应用需求，因此下一步可以针对变化电磁环境下的通信信号开展深度学习架构和实现方法的研究。

[1] 曹志刚，钱亚生.现代通信原理[M].北京：清华大学出版社，2002.

[2] TAN T,QIAN Y M,YU K. Cluster adaptive training for deep neural network based acoustic model[J].IEEE/ACM Transactions on Audio,Speech and Language Processing,2016,24(3): 459-468.

[3] HINTON G,SALAKHUTDINOV R.Reducing the dimensionality of data with neural networks[J].Science,2006,313(5786): 504-507.

[4] RIFAI S,BENGIO Y,COURVILLEA,et al.Disentangling factors of variation for facial expression recognition[C]//Proceedings of the 12th European Conference on Computer Vision(ECCV).Florence,Italy:IEEE,2012:808-822．

[5] BENGIO Y,COURVILLE A,VINCENT P.Representation learning: a review and new perspectives[J].IEEE Transactions on Pattern Analysis and Machine Intelligence,2013,35(8): 1798-1828．

[6] SUN Y,WANG X G,TANG X O. Deep learning face representation from predicting 10000 classes[C]//Proceedings of the IEEE Computer Society Conference on Computer Vision and Pattern Recognition.Columbus: IEEE,2014:1891-1898.

[7] SHEN Y L,HE X D,GAO J F,et al,Learning semantic representations using convolutional neural networks for Web search[C]//Proceedings of the Companion Publication of the 23rd International Conference on World Wide Web Companion. Seoul: IEEE,2014:373-374.

[8] OUYANG X C,WU L N.Faster-than-Nyquist rate communicationvia convolutional neural networks-based demodulators[J].Journal of Southeast University,2016,32(1):6-10.

[9] LE R N,BENGIO Y. Representational power of restricted Boltzmann machines and deep belief networks[J].Neural Computation,2008,20(6): 1631-1649.

[10] HUA Y M,GUO J H,ZHAO H.Deep belief networks and deep learning[C]//Proceedings of International Conference on Intelligent Computing and Internet of Things.Harbin: IEEE,2015:1-4.

[11] HINTON G E. Training products of experts by minimizing contrastive divergence[J].Neural Computation,2002,14(8):1771-1800.

Demodulation with Deep Learning

HUANG Yuanyuan1,ZHANG Jian2,ZHOU Xingjian2,LU Jianchuan2

(1.ZTE Corporation,Chengdu 610041，China;2.Southwest China Institute of Electronic Technology,Chengdu 610036，China)

This paper proposes a deep learning based demodulation method by identifying the modulated signal in radio channel. The proposed deep belief network is composed of multilayer restricted Boltzmann machines. The communication signal is transformed into a new form,which is used as the input of the deep belief network and system training. The deep belief network extracts the characteristics of communication signals by top-down depth learning and bottom-up feedback fine tuning. The algorithm’s practicability is verified by simulation. The simulation also indicates that the bit error rate(BER) of the proposed method is almost 0.4 dB better than that of traditional one.

wireless communication;demodulation;deep learning;deep belief network;signal identification

10.3969/j.issn.1001-893x.2017.07.001

黄媛媛，张剑,周兴建,等.应用深度学习的信号解调[J].电讯技术，2017,57(7):741-744.[HUANG Yuanyuan,ZHANG Jian,ZHOU Xingjian,et al.Demodulation with deep learning[J].Telecommunication Engineering,2017,57(7):741-744.]

2017-01-06；

2017-03-31 Received date:2017-01-06；Revised date：2017-03-31

国防重点实验室基金项目(9140C020203150C02008)

TN911

A

1001-893X(2017)07-0741-04

黄媛媛(1978—)，女，四川达州人，2006年于电子科技大学获计算机应用技术专业硕士学位，现为工程师，主要研究方向为无线通信技术；

Email:swordisme@163.com

张 剑(1977—)，男，四川眉山人，2008年于电子科技大学获信号与信息处理专业博士学位，现为高级工程师，主要研究方向为无线通信技术及其信号处理；

周兴建(1970—)，男，四川广安人，研究员，主要研究方向为无线通信技术；

卢建川(1964—)，男，重庆人，1989年于南京航空航天大学获通信与信息系统专业硕士学位，现为研究员，主要研究方向为无线通信技术。

**通信作者：swordisme@163.com Corresponding author：swordisme@163.com