0 引言

    自適應(yīng)濾波技術(shù)被廣泛地應(yīng)用在信號(hào)處理和機(jī)器學(xué)習(xí)的許多不同的領(lǐng)域，如信道估計(jì),、噪聲消除和系統(tǒng)辨識(shí)等,。濾波器算法設(shè)計(jì)是更新濾波器的參數(shù)使其盡可能更接近理想響應(yīng)^[1]。自適應(yīng)濾波器的優(yōu)化準(zhǔn)則和代價(jià)函數(shù)是濾波器設(shè)計(jì)的核心,。常見的優(yōu)化準(zhǔn)則或代價(jià)函數(shù)分別是最小均方差(Minimum Mean Square Error,，MMSE)準(zhǔn)則、最小誤差熵(Minimum Error Entropy,，MEE)代價(jià)函數(shù)和最大相關(guān)熵準(zhǔn)則(Maximum Correntropy Criterion,，MCC)^[2]。MMSE準(zhǔn)則的代表算法為最小均方算法(Least Mean Square,，LMS),。LMS算法因?yàn)槠漭^低的復(fù)雜度和計(jì)算量，所以常適用于線性和高斯噪聲的情況,。MEE代價(jià)函數(shù)在非高斯噪聲和非線性結(jié)構(gòu)中表現(xiàn)出了很強(qiáng)的魯棒性,，并且具有表征數(shù)據(jù)整個(gè)結(jié)構(gòu)的能力。但是，它的計(jì)算復(fù)雜度相當(dāng)大,。MCC代價(jià)函數(shù)由于權(quán)重更新中指數(shù)部分的存在,，使得在脈沖干擾和非線性系統(tǒng)中表現(xiàn)出很強(qiáng)的魯棒性，并且有著與LMS相近的復(fù)雜度和與MEE相近的性能,。因此,，本文采取的自適應(yīng)準(zhǔn)則為MCC。

    MCC是采用核心寬度來決定局部量,，它對(duì)出界量和脈沖噪聲造成的有害影響有很好的抑制效果,。在文獻(xiàn)[3]中，研究者已經(jīng)介紹最大相關(guān)熵的本質(zhì)就是一種平滑的后驗(yàn)估計(jì),。在文獻(xiàn)[2],、[4]中，介紹了MCC被引入到自適應(yīng)濾波器中在非高斯噪聲下可以有效地提高追蹤能力,。同時(shí),，在文獻(xiàn)[5]也對(duì)MCC的穩(wěn)態(tài)均方差性能進(jìn)行了詳細(xì)的推導(dǎo)。

    眾所周知,，自適應(yīng)濾波器中最重要的矛盾就是收斂速度與失衡量之間的矛盾,，即收斂速度與失衡量成反比。這種矛盾在基于MCC的自適應(yīng)濾波器中也不例外,。在基于最大相關(guān)熵的自適應(yīng)濾波器中,，收斂速度由步長(zhǎng)與kernel寬度決定。當(dāng)kernel寬度一定時(shí),，濾波器的步長(zhǎng)越大收斂速度越快,，但失調(diào)量也越高；步長(zhǎng)越小失調(diào)量越低,，但收斂速度越慢,。為了解決這個(gè)問題，文獻(xiàn)[6]將最近比較流行的凸組合方式引入到最大相關(guān)熵自適應(yīng)濾波器中,，使得組合濾波器不僅得到了大步長(zhǎng)的濾波器快收斂速度,，還得到了小步長(zhǎng)的濾波器的低失調(diào)量。但是在CMCC濾波器中,，由于兩個(gè)濾波器的步長(zhǎng)選取的問題,，從而導(dǎo)致組合濾波器的收斂和追蹤性能下降。

    基于上述討論,，本文提出了基于最大相關(guān)熵的多凸組合濾波器。在MCMCC濾波器中,，每個(gè)基于MCC的自適應(yīng)濾波器都表現(xiàn)出很好的追蹤性能,，所以MCMCC可以有效地追蹤各種各樣的改變。

1 基于最大相關(guān)熵的凸組合自適應(yīng)濾波器

    根據(jù)自適應(yīng)算法的隨機(jī)梯度原則，基于最大相關(guān)熵的權(quán)重系數(shù)更新方程為^[7]：

其中,，y₁(k)=X^TW₁(k)和y₂(k)=X^TW₂(k)分別表示大步長(zhǎng)濾波器和小步長(zhǎng)濾波器的輸出,。大步長(zhǎng)濾波器和小步長(zhǎng)濾波器的權(quán)重分別表示為：

其中，e(k)=d(k)-y(k)表示組合誤差,；μ_α表示參數(shù)α(k)在基于最大相關(guān)熵準(zhǔn)則下的步長(zhǎng),，并且μ_α必須設(shè)定為遠(yuǎn)大于λ₁，以保證組合濾波器的自適應(yīng)速度快于大步長(zhǎng)的濾波器的自適應(yīng)速度,；α(k)的取值范圍限定在[-4,，4]，以防止v(k)和1-v(k)接近0而導(dǎo)致算法停止^[12],。

    同時(shí),，基于MCC的凸組合濾波器的性能還可以繼續(xù)被優(yōu)化，通過引入權(quán)重轉(zhuǎn)移的方法,。該方法是用步長(zhǎng)大的濾波器的權(quán)重去加速步長(zhǎng)小的濾波器的權(quán)重^[6],。

2 多凸組合的最大相關(guān)熵的自適應(yīng)濾波器

    由以上的分析可知，凸組合自適應(yīng)濾波器是凸組合兩個(gè)步長(zhǎng)不同的濾波器,。多凸組合濾波器就是把多個(gè)步長(zhǎng)不同的濾波器進(jìn)行凸組合,。本文所提到的基于最大相關(guān)熵的多凸組合自適應(yīng)濾波器就是多個(gè)步長(zhǎng)不同的基于最大相關(guān)熵準(zhǔn)則的濾波器進(jìn)行凸組合。多凸組合的濾波器模型如圖2所示,。接下來介紹基于最大相關(guān)熵的多凸組合濾波器的各個(gè)參數(shù)的設(shè)定,。

    假設(shè)采用的濾波器個(gè)數(shù)為L(zhǎng)，它們的步長(zhǎng)是從大到小排列(μ₁>μ₂>…>μ_L),?？紤]L個(gè)基于最大相關(guān)熵的自適應(yīng)濾波器的凸組合，可以得出組合濾波器的輸出為^[13]：

    組合濾波器的權(quán)重為：

    類似于CMCC濾波器,，基于MCC的多凸組合濾波器的性能也可以繼續(xù)被優(yōu)化,，通過引入改進(jìn)后的權(quán)重轉(zhuǎn)移的方法。該方法是用組合的濾波器的權(quán)重去加速其他所有比組合濾波器收斂速度慢的濾波器的權(quán)重,。第i個(gè)濾波器改進(jìn)后的權(quán)重為：

其中,，β是轉(zhuǎn)移系數(shù)。使用式(13)的條件是組合濾波器明顯優(yōu)于部分濾波器,。判斷組合濾波器明顯優(yōu)于部分濾波器的方法是計(jì)算每個(gè)濾波器的相關(guān)熵的估計(jì)量,。相關(guān)熵的估計(jì)量的計(jì)算為：

3 仿真結(jié)果

    綜上所述，可知隨著凸組合濾波器個(gè)數(shù)的增加,，收斂性能和追蹤性能也會(huì)越來越好,。但是在濾波器個(gè)數(shù)增加的同時(shí)，計(jì)算量也會(huì)線性地增長(zhǎng),，所以為了更好地表現(xiàn)MCMCC的性能同時(shí)又不會(huì)造成計(jì)算量的急劇增加,，本文的仿真結(jié)果采用的是4個(gè)濾波器進(jìn)行凸組合,。

    為了進(jìn)一步驗(yàn)證MCMCC算法的收斂性能與跟蹤性能,現(xiàn)將MCMCC算法與CMCC算法用于系統(tǒng)辨識(shí)過程中進(jìn)行計(jì)算機(jī)仿真分析,并分別對(duì)兩種算法進(jìn)行1 000次獨(dú)立仿真實(shí)驗(yàn),求取統(tǒng)計(jì)平均值。同時(shí),為能夠客觀比較系統(tǒng)失調(diào)等性能參數(shù),兩種算法的參數(shù)均選為經(jīng)過大量實(shí)驗(yàn)后的相對(duì)最優(yōu)參數(shù),。其中CMCC算法的相關(guān)參數(shù)選擇如下：取μ₁=0.1,，μ₄=0.002；對(duì)于本文提出的MCMCC算法,與原算法重合部分的參數(shù)仍取原參數(shù)不變,，即μ₁=0.1,，μ₄=0.002，同時(shí)選擇其他兩個(gè)濾波器的步長(zhǎng)為：μ₂=0.03,，μ₃=0.01,。

    在本文中，性能的分析是通過歸一化均方差(Normalized Mean Square Deviation,，NMSD)來判定,，其表示為：NMSD=10log₁₀(||W-W₀||₂/||W₀||₂)。下面在混合高斯噪聲和突變的系統(tǒng)辨識(shí)中比較MCMCC性能和CMCC性能,。

3.1 混合高斯噪聲下的性能

    假設(shè)未知系統(tǒng)沖激響應(yīng)滿足7階FIR模型,，4個(gè)MCC自適應(yīng)濾波器的階數(shù)也為7階，理想輸出為：d(k)=W₀^TX(k)+N(k),，其中本文設(shè)定W₀=[0.9003,，0.5377，-0.2137,，0.028,，-0.7826，-0.5242,，0.0871]′,；輸入信號(hào)X(k)為均值0、方差1的高斯白噪聲序列,；噪聲信號(hào)N(k)為混合高斯噪聲：

    從圖3的3幅圖還可以明顯地看出,，在收斂過程最初始的階段，分別是圖3(a)的(0,，67),、圖3(b)的(0，50),、圖3(c)的(0,，21)，4-MCMCC和CMCC的收斂曲線重合,。這是因?yàn)樵诔跏茧A段,，權(quán)重系數(shù)發(fā)生快速的變化，而4-MCMCC和CMCC都是μ₁在起作用,。在收斂過程中間階段,，分別是圖3(a)的(67,，983)、圖3(b)的(50,，1021)、圖3(c)的(21,，1091),，4-MCMCC算法的收斂速度明顯快于CMCC算法。這是因?yàn)?-MCMCC算法比CMCC算法具有更多的步長(zhǎng),，可以更靈活地調(diào)節(jié)步長(zhǎng),，所以可以更適應(yīng)權(quán)重系數(shù)的變化，從而獲得更快的收斂速度,。在收斂過程進(jìn)入穩(wěn)態(tài)階段時(shí),，4-MCMCC算法要比CMCC算法更快地進(jìn)入穩(wěn)態(tài)狀態(tài)，并且4-MCMCC算法也具有低NMSD,這說明4-MCMCC算法可以用更少的迭代次數(shù)就收斂并且保持同CMCC算法一樣的低NMSD,，因此極大地縮小了系統(tǒng)漸進(jìn)穩(wěn)態(tài)的過渡過程,。

3.2 突變環(huán)境下的性能

    為了比較兩種算法在權(quán)重突變環(huán)境下的收斂性能和跟蹤性能，使系統(tǒng)的權(quán)重系數(shù)w₀在3 000步時(shí)改變?yōu)?w₀,，把噪聲參數(shù)固定為(0,，0，0.001,，10,，0.1)。從而得到4-MCMCC算法和CMCC的收斂曲線,，如圖4所示,。從圖4中可以看出，在1 049步之前的初始階段,，4-MCMCC算法的收斂速度明顯快于CMCC算法的收斂速度,，并且有著更低的NMSD；然后,，4-MCMCC在1 049步時(shí)就進(jìn)入穩(wěn)定狀態(tài),，所以4-MCMCC比CMCC更早進(jìn)入穩(wěn)定狀態(tài)；當(dāng)在3 000步時(shí),，權(quán)重系數(shù)發(fā)生變化從w₀到-w₀,，4-MCMCC以比CMCC更快的收斂速度收斂,最后穩(wěn)定到與CMCC同樣的NMSD。這說明4-MCMCC比CMCC有著更好的再收斂性能和追蹤性能,。這是因?yàn)楫?dāng)w₀在3 000步改變?yōu)?w₀時(shí),，產(chǎn)生了很大的權(quán)重偏差，而4-MCMCC算法有著4個(gè)不同的步長(zhǎng),，可以根據(jù)偏差盡快地調(diào)節(jié)自身的4個(gè)步長(zhǎng)按照不同的比例來收斂,。但是CMCC只有兩個(gè)步長(zhǎng),，它的步長(zhǎng)調(diào)節(jié)有限，所以MCMCC比CMCC在權(quán)重改變時(shí)有著更好的再收斂能力和追蹤能力,。

4 結(jié)論

    為了克服CMCC算法中步長(zhǎng)范圍窄而導(dǎo)致收斂性能和追蹤性能低的缺點(diǎn),，本文嘗試將基于最大相關(guān)熵的凸組合濾波器擴(kuò)展為基于最大相關(guān)熵的多凸組合濾波器。理論分析和仿真結(jié)果表明,，MCMCC算法在混合高斯噪聲下,，相比CMCC算法，不僅提高了收斂速度,，而且還保持了低的失調(diào)量,。 MCMCC算法在突變權(quán)重環(huán)境下，相比CMCC算法,，因?yàn)榭梢愿`活地調(diào)節(jié)多個(gè)步長(zhǎng)比重,，所以提高了再收斂能力和追蹤能力。因此,，本算法在系統(tǒng)識(shí)別方面具有較大的實(shí)際應(yīng)用價(jià)值,。

參考文獻(xiàn)

[1] WANG R，Chen Badong.A variable step-size adaptive algorithm under maximum correntropy criterion[C].IEEE International Conference on Acoustic,，Speech and Signal Processing(ICASSP),，2015：1-5.

[2] SINGH A，PRINCIPE J C.Using correntropy as a cost function in linear adaptive filters[C].International Joint Conference on Neural Networks,，Piscataway,，2009：2950-2955.

[3] CHEN B，PRINCIPE J C.Maximum correntropy estimation is a smoothed MAP estimation[J].IEEE Signal Processing Letters,，2012,，19(8)：491-494.

[4] ZHAO S，CHEN B,，PRINCIPE J C.Kernel adaptive filtering with maximum correntropy criterion[C].Proceedings of International Joint Conference on Neural Networks,，Piscataway，2011：2012-2017.

[5] CHEN B,，XING L,，LIANG J，et al.Steady-state mean-square error analysis for adaptive filtering under the maximum correntropy criterion[J].IEEE Signal Processing Letters,，2014,，21(11)：880-884.

[6] Shi Liming.Convex combination of adaptive filters under the maximum correntropy criterion in impulsive interference[J].IEEE Signal Process Letters，2014,，21(11)：1385-1388.

[7] GUIMARAES J P F,，F(xiàn)ONTES A I R，RLGO J B A,，et al.Performance evaluation of the maximum correntropy criterion in identification systems[C].IEEE Conference on Evolving and Adaptive Intelligent Systems,，2016：110-113.

[8] LIU W,，POKHAREL P，PRINCIPE J.Error entropy,，correntropy and m-estimation[C].IEEE International Workshop on Machine Learning for Signal Processing,，2006：179-184.

[9] ARENAS-GARCIA J，F(xiàn)IGUEIRAS-VIDAL A R,，SAYED A H.Steady state performance of convex combinations of adaptive filters[C].International Conference on Acoustics,，Speech and Signal Processing，2005：33-36.

[10] SHI L M,，LIN Y，XIE X Z.Combination of affine projection sign algorithms for robust adaptive filtering in non-Gaussian impulsive interference[J].Electronics Letters,，2014,，50(6)：466-467.

[11] FERRER M.Convex combination filtered-x algorithms for active noise control systems[J].IEEE Transaction on Audio Speech and Language Processing，2013,，21(1)：156-167.

[12] ARENAS-GARCIA J,，GOMEZ-VERDEJO V，F(xiàn)IGUEIRAS-VIDAL A R.New algorithms for improved adaptive convex combination of LMS transversal  filters[J].IEEE Transaction,，2005,，54(6)：2239-2249.

[13] ARENAS-GARCIA J，MARTINEZ-RAMIN M,，GOMEZ-VERDEJO V,，et al.Multiple plant identifier via adaptive LMS convex combination[C].IEEE International Symposium on Intelligent Signal Processing，2003：137-142.

作者信息:

吳文靜,，梁中華,，羅倩文，李  巍

（長(zhǎng)安大學(xué) 信息工程學(xué)院,，陜西 西安710064）