基于模擬退火神經(jīng)網(wǎng)絡(luò)的I型FIR數(shù)字濾波器設(shè)計(jì)
2 余弦基神經(jīng)網(wǎng)絡(luò)
在網(wǎng)絡(luò)結(jié)構(gòu)方面,如圖1所示,類(lèi)似于BP網(wǎng)絡(luò)的結(jié)構(gòu):
輸入層和輸出層都只有一個(gè)節(jié)點(diǎn),隱含層有M個(gè)節(jié)點(diǎn),且各節(jié)點(diǎn)對(duì)應(yīng)的激勵(lì)函數(shù)如下:本文引用地址:http://cafeforensic.com/article/188821.htm
式中:M=(N-1)/2
再令輸入層到隱含層的全值都為1,而隱含層到輸出層的權(quán)值ω0~ωM分別取為a0~aM,于是神經(jīng)網(wǎng)絡(luò)的輸入/輸出關(guān)系就恰好為濾波器的幅度函數(shù)
網(wǎng)絡(luò)學(xué)習(xí)算法方面,也可以采用類(lèi)似BP網(wǎng)絡(luò)的學(xué)習(xí)算法。
首先定義權(quán)值矩陣:
設(shè)置性能指標(biāo):為訓(xùn)練樣本數(shù)。
于是權(quán)值修正的公式為:
式中:α為學(xué)習(xí)速率。
迭代的終止條件可設(shè)為性能指標(biāo)J滿(mǎn)足一定條件,而關(guān)于學(xué)習(xí)速率α的選取會(huì)直接影響到神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性。目前,已經(jīng)有人提出了其適當(dāng)?shù)倪x取范圍,例如羅玉雄等人已經(jīng)證明,當(dāng)滿(mǎn)足0α(2/|| C ||2)時(shí)(這里||?||2表示的是歐氏范數(shù)的平方),神經(jīng)網(wǎng)絡(luò)是穩(wěn)定的;曾湊訓(xùn)熱艘蔡岢霾⒅っ髁說(shuō)甭足0α(4/N)時(shí),神經(jīng)網(wǎng)絡(luò)是穩(wěn)定的。
3 模擬退火算法
由于以上的網(wǎng)絡(luò)學(xué)習(xí)算法從本質(zhì)上來(lái)說(shuō),還是一種BP算法,所以不可避免地會(huì)存在BP算法的缺陷,初始值的選取會(huì)影響最終結(jié)果,且容易陷入局部極小值。
模擬退火算法與初始值無(wú)關(guān),算法求得的解與初始解狀態(tài)(是算法迭代的起點(diǎn))無(wú)關(guān);模擬退火算法具有漸近收斂性,在理論上已得到嚴(yán)格證明,當(dāng)初溫充分高,降溫足夠慢,每一溫度下抽樣足夠長(zhǎng),最終溫度趨于零時(shí),算法最終以概率1收斂到全局最優(yōu)解。模擬退火算法通過(guò)概率判斷來(lái)接受新?tīng)顟B(tài)是算法在局部極小解處有機(jī)會(huì)跳出并最終趨于全局最優(yōu)的根本原因。于是將模擬退火算法加到前面的算法中去,就可以很好地彌補(bǔ)上述算法的不足。
模擬退火算法的步驟如下:
(1)由一個(gè)產(chǎn)生函數(shù)從當(dāng)前解S產(chǎn)生一個(gè)位于解空間的新解S'。
(2)計(jì)算與新解所對(duì)應(yīng)的目標(biāo)函數(shù)差。這里以最小阻帶衰減為評(píng)價(jià)函數(shù)C(S),這個(gè)函數(shù)可以由所得解S輕易地求出,于是目標(biāo)函數(shù)差△t=C(S')-C(S);
(3)判斷新解是否被接受,其依據(jù)是一個(gè)接受準(zhǔn)則,最常用的接受準(zhǔn)則是Metropolis準(zhǔn)則。若△t≥0,則接受S'作為新的當(dāng)前解S;否則,以概率exp(-△t/T)接受S'作為新的當(dāng)前解S。
評(píng)論