一种基于均方偏差分析的通用最小均方算法

时间：2024-07-28

谢小平史雄坤

(湖南大学汽车车身先进设计制造国家重点实验室长沙 410012)

1 引言

最小均方(Least Mean Square,LMS)算法属于随机梯度算法的一种，可以表示为一种横向线性滤波器，如图1所示。因其算法简单且易于实现而广泛应用于系统辨识、自适应均衡、自适应噪声消除、自适应谱线增强、自适应波束形成等领域[1]。收敛速度和均方误差(Mean Square Error,MSE)是衡量LMS算法的两个重要指标。对于传统的定参数LMS算法，采用较大的步长可以加快算法的收敛速度，但收敛时误差值较大；采用较小的步长收敛速度较慢，收敛时稳态误差较小。

图1 横向自适应LMS滤波器

为了解决收敛速度和稳态误差之间的矛盾，人们提出了各种变步长LMS算法，这些算法大致可以分为如下4个大类。第1类是通过输出响应和期望响应之差的大小来控制步长的大小，其步长的变化趋势与S型曲线Sigmoid[2]函数一致；即误差较大和较小时步长变化的梯度较小，而中间过渡过程的步长变化梯度较大。这种S型的步长变化曲线使算法在误差较大时保持较快的收敛速度，误差较小时保持较小的稳态误差。该类算法典型的代表有：基于Sigmoid函数的最小均方(Least Mean Square based on Sigmoid function,GSVSLMS)算法[3]、基于Sigmoid框架的非负最小均方(Non-Negative Least Mean Square based on Sigmoid framework,SNNLMS)算法[4]等。这类算法的参数选取没有一个很好的数学准则，没有给出严格的数学证明，只能根据经验选择合适的大小。第2类是通过加入一些约束准则使误差均方代价函数最小[5]，然后求解出在这种约束下的步长更新公式。该类算法的代表有：重新加权0吸引最小均方(Reweighted Zero-Attracting Least Mean Square,RZA-LMS)算法[6]、分数最小均方(Fractional Least Mean Squares, FLMS)算法[7]等。这一类算法的优点是其算法参数都是满足代价函数最小准则，并且在数学上是严格收敛的；缺点是在引入这些约束后使算法步长更新公式变得异常复杂，算法参数所受约束比较严格，其性能也将被削弱。第3类是一些步长调节组合类算法，这类算法组合了两种步长约束准则；根据设定的条件选择相应的约束准则进行步长的迭代更新。这类算法的代表有：组合正则化参数归一化最小均方(Combined Regularization Parameter for Normalized Least Mean Square,CRP-NLMS)算法[8]、鲁棒可变加权系数扩散最小均方(Robust Variable Weighting Coefficients Diffusion Least Mean Square,RVWC-DLMS)算法[9]、分数阶修正最小均方(Fractional Order Modified Least Mean Square,FOMLMS)算法[10]等。该类算法的性能介于两种组合算法之间，性能比较均衡，但复杂度一般都比较高。第4类是频域内的块LMS自适应算法，如改进的频域块最小均方(Modified Frequency-domain Block Least Mean Square,MFBLMS)算法[11]、距离-

多普勒-空间最小均方(Range Doppler Space Least Mean Square,RDS-LMS)算法[12]等。这类算法通过快速傅里叶变换(Fast Fourier Transform,FFT)将时域信号转变到频域再做自适应；在频域的自适应可以减弱输入序列的线性相关性，起到一定加速收敛的作用；当自适应权值向量的维数较大时，频域自适应算法的性能才明显好于传统时域算法。此外还有递归最小二乘(Recursive Least Squares,RLS)算法和总体最小二乘(Total Least Squares,TLS)算法；其代表有：鲁棒递归最小二乘(Robust Recursive Least Squares,RLS)算法[13]和对数总体最小二乘(Logarithmic Total Least Square,L-TLS)算法[14]等。该类算法以最小二乘法为基础，具有较快的收敛速度和较小的误差；但该类算法涉及一些矩阵求逆的问题，计算复杂度较高。

前面提到的一些算法虽然有的算法都给出了参数的取值范围，但在对具体信号处理时还需要选定合适的值。当信号信噪比、信号功率等参数改变时就需要重新选定参数，因此并不具备通用性。

本文分析了基本LMS算法的收敛特性，确定了LMS算法收敛临界参数值与输入信号、期望信号之间的关系；并引入了采用相对误差作为步长调节因子的新算法。即使所处理信号特征发生改变，但相对误差值仍然可以反映算法收敛情况。通过分析算法收敛特性临界值结合相对误差快速调节步长参数，可以使新算法自适应不同特征信号处理。计算机仿真表明，新算法可以快速收敛并达到较小的均方误差，是一种高度自适应的通用LMS算法。

2 基本LMS算法收敛特性分析

2.1 系统模型

图2 LMS算法系统结构

2.2 均方偏差分析

图3 h与M SD变化关系

3 新的变步长RELMS算法及分析

运用GSVSLMS这类算法的思想，结合LMS算法在实际信号处理过程的特性。即在前期迭代时LMS观测误差较大，可以采用较大步长加速收敛；在算法接近收敛时，采用较小的步长使观测误差减小。

图4 y随不同A 的变化情况

图5 A (n)随不同qmin的变化情况

4 计算机仿真验证

图6 µ (n)随不同qmin的变化情况

本节通过计算机仿真来验证新算法的性能。由于本文的LMS偏差分析基于假设1和假设3，所以首先通过仿真验证其假设可靠性。结合假设2和假设3本文得出结果为

图7 系统辨识模型

图8 式(47)的验证

图9 式(48)的验证

图10 仿真实验1的结果

图11 仿真实验2的结果

图12 一段原始语音信号x(n)

图13 加性噪声z(n)

图14 含噪声语音信号d(n)

图15 LMS算法误差

图16 GSVSLMS算法误差

图17 RELMS算法误差

5 结论

本文通过合理的假设分析了基本LMS的收敛特性，得出了LMS算法可以接受的最大步长条件；并通过计算机仿真验证了这些假设的合理性。采用误差序列短时功率与期望序列信号短时功率的比值来表征算法的收敛程度，并据此提出了新的变步长RELMS算法；新算法步长调节方式契合LMS算法步长理想调整原则，相对误差形式的步长控制自变量可以自适应不同特征的信号，更适用于信号功率有突变的自适应信号处理。新算法避免了传统自适应算法参数选择的过程，是一种性能较好的通用性LMS算法。