導(dǎo)語：如何才能寫好一篇神經(jīng)網(wǎng)絡(luò)方向，這就需要搜集整理更多的資料和文獻，歡迎閱讀由公務(wù)員之家整理的十篇范文，供你借鑒。

篇1

關(guān)鍵詞：BP神經(jīng)網(wǎng)絡(luò)，房地產(chǎn)價格評估，研究方向

一、BP神經(jīng)網(wǎng)絡(luò)定義

1.概念：BP（Back Propagation）網(wǎng)絡(luò)是1986年由Rumelhart和McCelland為首的科學(xué)家小組提出，是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò)，是目前應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一。BP網(wǎng)絡(luò)能學(xué)習(xí)和存貯大量的輸入-輸出模式映射關(guān)系，而無需事前揭示描述這種映射關(guān)系的數(shù)學(xué)方程。它的學(xué)習(xí)規(guī)則是使用最速下降法，通過反向傳播來不斷調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值，使網(wǎng)絡(luò)的誤差平方和最小。BP神經(jīng)網(wǎng)絡(luò)模型拓?fù)浣Y(jié)構(gòu)包括輸入層（input）、隱層（hide layer）和輸出層（output layer）。

二、BP神經(jīng)網(wǎng)絡(luò)研究方向

1.人工神經(jīng)網(wǎng)絡(luò)應(yīng)用系統(tǒng)。在網(wǎng)絡(luò)模型與算法研究的基礎(chǔ)上，利用人工神經(jīng)網(wǎng)絡(luò)組成實際的應(yīng)用系統(tǒng)。如完成模式識別或者某種信號處理的功能，制成機器人和構(gòu)建專家系統(tǒng)等。

2.網(wǎng)絡(luò)模型與算法研究。這也可以叫做技術(shù)模型研究，包括網(wǎng)絡(luò)學(xué)習(xí)算法研究。基于理論模型研究構(gòu)作神經(jīng)網(wǎng)絡(luò)模型，以實現(xiàn)準(zhǔn)備制作硬件或者計算機模擬目的，

3.生物原型研究。從生物科學(xué)如病理學(xué)、心理學(xué)、生理學(xué)和腦科學(xué)等方面研究神經(jīng)網(wǎng)絡(luò)、神將細(xì)胞和系統(tǒng)的生物原型結(jié)構(gòu)及其功能機理。

4.建立理論模型。在生物原型研究的基礎(chǔ)之上，建立神經(jīng)網(wǎng)絡(luò)和神經(jīng)元理論模型，主要包括只是模型、數(shù)學(xué)模型、物理化學(xué)模型和概念模型等。

三、BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)與算法

1.結(jié)構(gòu)：BP神經(jīng)網(wǎng)絡(luò)模型拓?fù)浣Y(jié)構(gòu)包括輸入層、隱層和輸出層，信息的錄入從輸入層開始，通過隱層再到輸出層。其中，輸入層及輸出層的神經(jīng)元個數(shù)分別為輸入信號和輸出信號的維數(shù)，隱層及其神經(jīng)元個數(shù)要根據(jù)具體的實際情況來確定。每一個神經(jīng)元的激活函數(shù)都是雙曲正切函數(shù)或可微的Sigmoid 函數(shù)的一種。

2.算法：BP神經(jīng)網(wǎng)絡(luò)算法是一種有教師的學(xué)習(xí)算法，屬于A學(xué)習(xí)規(guī)則，即通過實際輸出Yp1與Tp1 的誤差來不斷修正連接權(quán)和闡值，直至達到最大訓(xùn)練次數(shù)或者滿足一定的允許誤差。（1）信號正向傳播：即輸入信號依次通過輸入層、隱層和輸出層，并在終端產(chǎn)生輸出信號。網(wǎng)絡(luò)權(quán)值在信號傳遞過程當(dāng)中是不變的。加入最終在輸出層沒有得到預(yù)期的輸出結(jié)果，則會自動轉(zhuǎn)入誤差信號反向傳播。（2）誤差信號反向傳播：誤差信號即是實際輸出和期望輸出之間的差值，它的反向傳播即信號自輸出端依次往回傳播，在此過程中，誤差反饋調(diào)節(jié)網(wǎng)絡(luò)權(quán)值變動，通過對權(quán)值的不斷修正使網(wǎng)絡(luò)實際輸出與期望輸出值更加接近。當(dāng)達到最大訓(xùn)練次數(shù)或者滿足允許誤差時訓(xùn)練結(jié)束，相反則轉(zhuǎn)入信號正向傳播。

四、神經(jīng)網(wǎng)絡(luò)的房地產(chǎn)估價模型

針對住宅、商鋪、別墅等不同類型的房地產(chǎn)，因為影響其價格的各種因素大不相同，所以應(yīng)該分別構(gòu)建不同的模型來進行估價，但是每一種模型所采用的神經(jīng)網(wǎng)絡(luò)模型卻是可以一樣的。房地產(chǎn)估價的神經(jīng)網(wǎng)絡(luò)模型主要由輸入模塊、測試模塊、輸出模塊、數(shù)據(jù)庫模塊、評估模塊和學(xué)習(xí)模塊組成。

1.輸入模塊。主要負(fù)責(zé)當(dāng)?shù)禺a(chǎn)特征描述、交易情況、坐落位置和交易日期等影響其價格的資料信息，這些數(shù)據(jù)本身是固定不變得，但其影響因素是不確定的，對模型和整個評價結(jié)果起著重要的作用。在實際的應(yīng)用過程中，一定要仔細(xì)分析房地產(chǎn)的具體情況和其價格影響因素，為模型的成功創(chuàng)建和數(shù)據(jù)的準(zhǔn)確性打好基礎(chǔ)。一般情況下，為了提高網(wǎng)絡(luò)收斂速度，適應(yīng)神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)處理要求，盡量獲得較為準(zhǔn)備的數(shù)據(jù)值，要對輸入和輸出向量進行歸一化預(yù)處理。

2.測試模塊。在實際運用評估模型之前，一般都要對模型的泛化能力進行測試。泛化能力即經(jīng)訓(xùn)練后的網(wǎng)絡(luò)對未在訓(xùn)練中集中出現(xiàn)的樣本做出正確反應(yīng)的能力。一般來說，正確訓(xùn)練的網(wǎng)絡(luò)即使對訓(xùn)練樣本存有一點誤差，但依然能夠?qū)]有出現(xiàn)過的輸入做出正確的反應(yīng)。如果用訓(xùn)練樣本以外具有典型意義的數(shù)據(jù)構(gòu)成測試樣本集測試網(wǎng)絡(luò)得出的結(jié)果是符合預(yù)期的，那么可以表明該估價模型是比較成功的，具有很強的推廣應(yīng)用能力。

3.輸出模塊。包括神經(jīng)網(wǎng)絡(luò)的輸出數(shù)據(jù)，即神經(jīng)網(wǎng)絡(luò)計算值輸出，并將其轉(zhuǎn)化成實際估價結(jié)果，供用戶參考使用。

4. 數(shù)據(jù)庫模塊。這部分模塊主要是對已交易的房地產(chǎn)案例信息，如交易情況、交易時間、特征描述、影響因素和評估價格等信息的存儲與處理。此模塊要具有基本的數(shù)據(jù)信息轉(zhuǎn)換功能，能夠?qū)⒁恍┒ㄐ悦枋鐾ㄟ^相應(yīng)的處理轉(zhuǎn)換成定量描述，并賦予相應(yīng)的分值。待估房地產(chǎn)也可以通過此模塊的轉(zhuǎn)換功能進行相應(yīng)的數(shù)據(jù)轉(zhuǎn)換。

5.學(xué)習(xí)模塊。神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)是利用某種算法對網(wǎng)絡(luò)權(quán)值與閉值進行不斷的調(diào)整，目的是通過對有限案例的歸納總結(jié)找某種隱藏的客觀規(guī)律。BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)既可以通過Visual Basic， C 語言等來實現(xiàn)，也可以通過MATLAB 提供的神經(jīng)網(wǎng)絡(luò)工具箱實現(xiàn)。

6.評估模塊。在輸入模塊輸入待估項目基本特征因素，然后利用通過測試的學(xué)習(xí)模塊運行結(jié)果，采用某種計算方法得出待估房地產(chǎn)估價。

五、BP神經(jīng)網(wǎng)絡(luò)模型的房地產(chǎn)估價流程

神經(jīng)網(wǎng)絡(luò)地房地產(chǎn)價格評估的過程主要包括數(shù)據(jù)準(zhǔn)備、神經(jīng)網(wǎng)絡(luò)設(shè)計、學(xué)習(xí)樣本輸入、網(wǎng)絡(luò)學(xué)習(xí)和評估計算等部分，具體分析如下：

1.數(shù)據(jù)信息準(zhǔn)備。分析總結(jié)影響房地產(chǎn)價格的各種因素，然后收集整理各種房地產(chǎn)交易信息，找出能夠量化的直接影響因素并進行具體的量化。

2.神經(jīng)網(wǎng)絡(luò)設(shè)計。這部分設(shè)計主要包括網(wǎng)絡(luò)參數(shù)的設(shè)定和網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)的設(shè)計。網(wǎng)絡(luò)學(xué)習(xí)與結(jié)構(gòu)參數(shù)主要包括網(wǎng)絡(luò)層數(shù)、網(wǎng)絡(luò)權(quán)值、網(wǎng)絡(luò)輸入輸出層參數(shù)、隱層單元個數(shù)、網(wǎng)絡(luò)最大期望誤差等等。其中，輸入和輸出層參數(shù)包括神經(jīng)元維數(shù)和每個神經(jīng)元所代表的具體物理量。

3.學(xué)習(xí)樣本輸入。學(xué)習(xí)樣本的各數(shù)據(jù)資料信息都要轉(zhuǎn)化成量化值，并使其標(biāo)準(zhǔn)化成系統(tǒng)識別的具體數(shù)值。學(xué)西樣本可以采用收集整理到的市場交易案例或者已有的歷史數(shù)據(jù)信息。

4.網(wǎng)絡(luò)訓(xùn)練。也叫網(wǎng)絡(luò)學(xué)習(xí)，就是對網(wǎng)絡(luò)權(quán)值和閉值進行不斷調(diào)整的過程。利用已經(jīng)輸入的學(xué)習(xí)樣本信息進行訓(xùn)練，在網(wǎng)絡(luò)最大訓(xùn)練次數(shù)和最大期望誤差范圍以內(nèi)，檢查誤差是否達到精度要求，如果達標(biāo)則保存訓(xùn)練結(jié)果即權(quán)值閩值矩陣，不達標(biāo)則繼續(xù)調(diào)整學(xué)習(xí)參數(shù)與網(wǎng)絡(luò)結(jié)構(gòu)。

5.估價計算。輸入各種影響待估房地產(chǎn)價格因素的量化值，運用已經(jīng)設(shè)定好的網(wǎng)絡(luò)模型和學(xué)習(xí)結(jié)果，進行評估以得到相應(yīng)價格。

結(jié)語 BP神經(jīng)網(wǎng)絡(luò)估價使用范圍非常廣泛，只要在房地產(chǎn)市場上能夠找出類似的交易案例，就可以使用此方法?；贐P神經(jīng)網(wǎng)絡(luò)的房地產(chǎn)幾個評估模型，可以利用神經(jīng)網(wǎng)絡(luò)自身極強的學(xué)習(xí)能力，從已有交易案例中找出房地產(chǎn)成交價格與其影響因素之間的客觀規(guī)律，從而提高評估工作效率，為房經(jīng)營、發(fā)展和管理提供更好的服務(wù)。

參考文獻：

[1]韓力群.人工神經(jīng)網(wǎng)絡(luò)理論、設(shè)計及應(yīng)用〔M].北京：化學(xué)工業(yè)出版社，2002.

[2]王洪元，史國棟.人工神經(jīng)網(wǎng)絡(luò)技術(shù)及其應(yīng)用[MJ.北京：中國石化出版，2005.

篇2

在現(xiàn)代交通控制中，交通流量預(yù)測是一個重要基本環(huán)節(jié)，本文對其設(shè)計了徑向基網(wǎng)絡(luò)結(jié)合PCA的方法來預(yù)測，PCA減小相關(guān)路口維數(shù)，而網(wǎng)絡(luò)實現(xiàn)預(yù)測權(quán)值的計算，最終達到應(yīng)用相關(guān)路口歷史數(shù)據(jù)預(yù)測目標(biāo)路口流量的目的。

【關(guān)鍵詞】PCA方法 流量 預(yù)測 交通控制 系統(tǒng)工程

隨著中國城市不斷發(fā)展，包括電動車在內(nèi)的各種車輛在不斷增長。然而現(xiàn)有主城區(qū)內(nèi)的道路空間卻越來越有限，節(jié)假日及上下班高峰期，部分路段日漸擁堵。當(dāng)機動車數(shù)量達到一定程度的時候，原有的道路交通道路、標(biāo)志、設(shè)施等，不能滿足現(xiàn)代交通的需要，就會出現(xiàn)堵車現(xiàn)象。堵車只是現(xiàn)象和結(jié)果，原因是由于機動車數(shù)量達到一定程度以后，原有的道路交通設(shè)計已經(jīng)不適合新的發(fā)展要求。一般來說出現(xiàn)原因有一是機動車數(shù)量過多； 二是交通設(shè)計不合理； 三是城市的整體規(guī)劃有問題；四是外來人口過多。解決的渠道是多方面的，從技術(shù)層面，交通流量預(yù)測可以通過交通控制發(fā)揮有力的作用，這里主要采用一種徑向基網(wǎng)絡(luò)的方法進行交通流的預(yù)測。

1 系統(tǒng)處理方案

將一組相關(guān)到路口的數(shù)據(jù)流量進行了錯誤剔除等預(yù)處理后，繼而加載到所提出的模型中來實現(xiàn)預(yù)測計算。這個計算總的實現(xiàn)框架如下：根據(jù)每個路口所記錄的歷史數(shù)據(jù)，應(yīng)用主成分分析方法，對路網(wǎng)中路口關(guān)聯(lián)度進行分析，求解出跟目標(biāo)路口之間的相關(guān)度函數(shù)和指數(shù)，然后利用主貢獻成分來求解相關(guān)路口；根據(jù)徑向基神經(jīng)網(wǎng)絡(luò)，由相關(guān)路口數(shù)據(jù)流來訓(xùn)練有關(guān)權(quán)值，得到下一時刻預(yù)測的目標(biāo)路通流與相關(guān)路口歷史數(shù)據(jù)流之間的關(guān)系；最后綜合利用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)，以及采集到的數(shù)據(jù)，求解預(yù)測未來的交通流量。

2 PCA的路口數(shù)據(jù)相關(guān)性降維

單個路口的交通流信息往往是由大量的多源數(shù)據(jù)組成，并且城市路網(wǎng)中的交叉口路口也是非常之多，所有城市路網(wǎng)的交通流信息數(shù)據(jù)量是無法想象的。利用主成分分析法定量的分析路口間交通流量的相關(guān)性，可以用來降低數(shù)據(jù)維度和壓縮數(shù)據(jù)量。具體的操作步驟為：

（1）克服原始數(shù)據(jù)單位的不統(tǒng)一等問題，對原始數(shù)據(jù)進行必要的規(guī)格化處理，使規(guī)格化后的數(shù)據(jù)樣本成為標(biāo)準(zhǔn)的正態(tài)分布。

（2）所有路口都可是為一個獨立的樣本，如此建立路口間流量的相關(guān)系數(shù)矩陣，關(guān)系數(shù)矩陣表明了n個路口彼此之間的相關(guān)程度。

（3）通過矩陣運算求出相關(guān)系數(shù)矩陣 R 的所有特征值，進一步得到主成分，主成分基本上包含了所有成分的大部分信息。

通過主成分的計算和分析，就知道目標(biāo)路通流主要相關(guān)的路口，就簡化了模型，使得預(yù)測模型更加精簡和實際。

3 徑向基神經(jīng)網(wǎng)絡(luò)流量預(yù)測

3.1 徑向基網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)的基本單元稱為神經(jīng)元，它是對生物神經(jīng)元的簡化與模擬。神經(jīng)元的特性在某中程度上決定了神經(jīng)網(wǎng)絡(luò)的總體特性。大量簡單神經(jīng)元的相互連結(jié)皆構(gòu)成了神經(jīng)網(wǎng)絡(luò)。一個典型的具有N維輸入的神經(jīng)元組成，神經(jīng)元的作用可用下面的數(shù)學(xué)式表達。

uk=wkjxj-θk （1）

yk=f（uk） （2）

常用的激勵函數(shù)有線形函數(shù)、分段線形函數(shù)、Sigmoid函數(shù)、雙曲正切函數(shù)等。神經(jīng)網(wǎng)絡(luò)是由大量簡單神經(jīng)元相互連結(jié)構(gòu)成復(fù)雜網(wǎng)絡(luò)系統(tǒng)。單個神經(jīng)元的功能是有限的，只有用許多神經(jīng)元按一定的規(guī)則連接，構(gòu)成神經(jīng)網(wǎng)絡(luò)才具有強大的功能。徑向基函數(shù)（Radial Basic Function，RBF）神經(jīng)網(wǎng)絡(luò)由三層組成。輸入層節(jié)點只傳遞輸入信號到隱層，隱層節(jié)點由像高斯核函數(shù)那樣的輻射狀作用函數(shù)構(gòu)成，而輸出層節(jié)點通常是簡單的線形函數(shù)。隱層節(jié)點中的作用函數(shù)（基函數(shù)）對輸入信號將在局部產(chǎn)生響應(yīng)。當(dāng)輸入信號靠近基函數(shù)的中央范圍時，隱層節(jié)點將產(chǎn)生較大的輸出，由此看出來這種網(wǎng)絡(luò)具有局部逼近能力，所以徑向基函數(shù)網(wǎng)絡(luò)也稱為局部感知場網(wǎng)絡(luò)?；瘮?shù)最常用的是高斯函數(shù)：

RI（x）=exp[] i=1，2，…，m （3）

其中x是n維輸入向量；ci是第i個基函數(shù)的中心，與x具有相同維數(shù)的向量，σi是第i個感知的變量（可以自由選擇的參數(shù)），它決定了該基函數(shù)圍繞中心點的寬度；m是感知單元的個數(shù)。||x?ci||是向量x?ci的范數(shù)，它通常表示x和ci之間的距離，Ri（x）在ci處有一個唯一的最大值，隨著||x?ci||的增大，Ri（x）迅速衰減到零。對于給定的輸入x∈Rn，只有一小部分靠近x的中心被激活。輸入層實現(xiàn)從xRi（x）的非線形映射，輸出層實現(xiàn)從Ri（x）到 yk的線形映射，p是輸出節(jié)點數(shù)。即

yi=wikRi（x） k=1，2，…，p （4）

3.2 預(yù)測方法研究

本文以徑向基神經(jīng)網(wǎng)絡(luò)作為基礎(chǔ)的預(yù)測模型，將相關(guān)路口歷史交通流量數(shù)據(jù)作為神經(jīng)網(wǎng)絡(luò)的輸入，對目標(biāo)路通流量進行短時預(yù)測。利用了相關(guān)路口的大量數(shù)據(jù)信息，又充分發(fā)揮了徑向基神經(jīng)網(wǎng)絡(luò)特各種優(yōu)點，使得更加預(yù)測更加高效，預(yù)測結(jié)果更加精確。針對待預(yù)測路口，將歷史數(shù)據(jù)第t時刻，第t1時刻，第t2時刻，第t3時刻的交通流量f （t），f（t1），f（t2），f（t3），等等共四個數(shù)據(jù)作為神經(jīng)網(wǎng)絡(luò)的輸入，將 t4時刻的交通流量數(shù)據(jù)作為網(wǎng)絡(luò)的輸出結(jié)果。神經(jīng)網(wǎng)絡(luò)模型為四個輸入，一個輸出。徑向基神經(jīng)網(wǎng)絡(luò)模型通過計算軟件進行交通流預(yù)測計算。采用數(shù)據(jù)是部分歷史數(shù)據(jù)，過訓(xùn)練調(diào)整網(wǎng)絡(luò)參數(shù)模型的權(quán)值。在權(quán)值得到以后，就可以利用相關(guān)路口對目標(biāo)路口的交通流進行實時預(yù)測了。

篇3

>> 基于BP神經(jīng)網(wǎng)絡(luò)與殘差分析的船舶交通流量預(yù)測 基于改進BP神經(jīng)網(wǎng)絡(luò)的交通流量預(yù)測仿真 基于小波神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量預(yù)測 基于小波神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量預(yù)測研究 基于改進小波神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量預(yù)測研究 基于小波神經(jīng)網(wǎng)絡(luò)的Shibor預(yù)測 基于遺傳BP神經(jīng)網(wǎng)絡(luò)的短時交通流預(yù)測 基于BP神經(jīng)網(wǎng)絡(luò)和模糊推理系統(tǒng)的短時交通流預(yù)測 基于BP神經(jīng)網(wǎng)絡(luò)的高速公路短時交通流預(yù)測 一種網(wǎng)絡(luò)流量預(yù)測的小波神經(jīng)網(wǎng)絡(luò)模型 基于小波神經(jīng)網(wǎng)絡(luò)的建筑承發(fā)包價格預(yù)測研究 基于改進小波神經(jīng)網(wǎng)絡(luò)的匯率預(yù)測研究 基于小波廣義回歸神經(jīng)網(wǎng)絡(luò)的糧食產(chǎn)量預(yù)測模型 基于小波神經(jīng)網(wǎng)絡(luò)的建筑工程項目工期風(fēng)險預(yù)測研究 基于小波-神經(jīng)網(wǎng)絡(luò)的短期風(fēng)功率預(yù)測 基于小波神經(jīng)網(wǎng)絡(luò)的污水出水COD預(yù)測模型 基于AIW—PSO小波神經(jīng)網(wǎng)絡(luò)的上證指數(shù)預(yù)測 基于小波神經(jīng)網(wǎng)絡(luò)的麥蚜發(fā)生量預(yù)測研究 基于模糊處理和遺傳優(yōu)化的小波神經(jīng)網(wǎng)絡(luò)股指區(qū)間預(yù)測 基于小波神經(jīng)網(wǎng)絡(luò)的集中供熱智能預(yù)測 常見問題解答 當(dāng)前所在位置：1.

[2]徐健銳.短時交通流預(yù)測中的若干問題研究[D].江蘇：江蘇大學(xué)，2010.

[3]姚智勝.基于實時數(shù)據(jù)的道路網(wǎng)短時交通流預(yù)測理論與方法研究[D].北京：北京交通大學(xué)，2007.

[4]MATLAB中文論壇.MATLAB神經(jīng)網(wǎng)絡(luò)30個案例分析[M].北京：北京航空航天大學(xué)出版社，2010，4.

篇4

【關(guān)鍵詞】GPS；高程異常；BP神經(jīng)網(wǎng)絡(luò)；擬合模型

Research on the Models of GPS Height Fitting Based on BP Neural Network

Li Yongquan

【Abstract】International and domestic multifarious control nets in use of GPS’s positioning techniques are only to solve the horizontal coordinates, but the height still follow to use the geometric leveling.Therefore, The basic theory of neural network and algorithm of BP are described, Discuss the problem of GPS height fitting based on BP neural network by trials. BP neural network is a kind of nonlinear mapping for its inputs and outputs，BP neural network is a high precise method for translating height.

【Key words】GPS；height anomaly；back propagation neural networks； fitting models

1. 引言

GPS平面定位的精度目前已經(jīng)可以達到毫米級，但相對于平面定位精度，GPS在高程方面的定位精度較低。 神經(jīng)網(wǎng)絡(luò)是一種高度自適應(yīng)的非線性動力系統(tǒng)，神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)理論本質(zhì)上是非線性數(shù)學(xué)理論，通過BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)可以得到輸入和輸出之間的高度非線性映射，因此，使用神經(jīng)網(wǎng)絡(luò)可以建立起輸入和輸出之間的非線性關(guān)系。BP神經(jīng)網(wǎng)絡(luò)本身也是一種高精度的高程轉(zhuǎn)換方法。

2. 神經(jīng)網(wǎng)絡(luò)的模型及BP算法

2.1 神經(jīng)網(wǎng)絡(luò)的模型

（1）生物神經(jīng)元模型。神經(jīng)元模型是基于生物神經(jīng)元的特點提出的，人腦由大量的生物神經(jīng)元組成，神經(jīng)元之間互相有連接，從而構(gòu)成一個龐大而復(fù)雜的神經(jīng)元網(wǎng)絡(luò)。神經(jīng)元是大腦處理信息的基本單元，結(jié)構(gòu)如圖1。神經(jīng)元由細(xì)胞體、樹突和軸突三部分組成，其中突觸是神經(jīng)元之間的連接。細(xì)胞體是由很多分子形成的綜合體，內(nèi)部含有細(xì)胞核、細(xì)胞質(zhì)和細(xì)胞膜。細(xì)胞體的作用是接受和處理信息。樹突是細(xì)胞體向外延伸的纖維體，是接受從其他神經(jīng)元傳入信息的入口。軸突是神經(jīng)元的信息通道，是細(xì)胞體向外延伸最長、最粗的樹枝纖維體，也叫神經(jīng)纖維。（2）神經(jīng)元模型。神經(jīng)元一般表現(xiàn)為一個多輸入（多個樹突和細(xì)胞體與其他多個神經(jīng)元軸突末梢突觸連接）、單輸出（每個神經(jīng)元只有一個軸突作為輸出通道）的非線性器件，通用的結(jié)構(gòu)模型如圖2所示。

(3）神經(jīng)網(wǎng)絡(luò)模型。神經(jīng)網(wǎng)絡(luò)的神經(jīng)元之間的互連模式有前向網(wǎng)絡(luò)、有反饋的前向網(wǎng)絡(luò)、層內(nèi)有相互結(jié)合的前向網(wǎng)絡(luò)和相互結(jié)合型網(wǎng)絡(luò)四種。

前向網(wǎng)絡(luò)神經(jīng)元分層排列，組成輸入層、中間層（隱含層）和輸出層。每一層的神經(jīng)元只接受來自前一層神經(jīng)元的輸入，后面的層對前面的層沒有信號反饋。輸入模式經(jīng)過各層次的順序傳播，最后在輸出層上得到輸出。目前對前向網(wǎng)絡(luò)得出的一致的結(jié)論是：甚至是單中間層網(wǎng)絡(luò)，只要隱節(jié)點數(shù)目足夠多，前向網(wǎng)絡(luò)就可以通過訓(xùn)練學(xué)習(xí)樣本，以任意精度逼近(或表達)期望目標(biāo)。

2.2 神經(jīng)網(wǎng)絡(luò)BP算法

(1）BP（Back Propagation）網(wǎng)絡(luò)模型結(jié)構(gòu)。BP網(wǎng)絡(luò)的結(jié)構(gòu)如圖4所示，BP網(wǎng)絡(luò)具有三層或三層以上神經(jīng)元的神經(jīng)網(wǎng)絡(luò)，包括輸入層、中間層（隱層）和輸出層。上下層之間實現(xiàn)全連接，而每層神經(jīng)元之間沒有連接。當(dāng)一對學(xué)習(xí)樣本提供給網(wǎng)絡(luò)后，神經(jīng)元的激活值從輸入層經(jīng)各中間層向輸出層傳播，在輸出層的各神經(jīng)元獲得網(wǎng)絡(luò)的輸入響應(yīng)。接下來，按照減少目標(biāo)輸出和實際輸出之間的方向，從輸出層反向經(jīng)過各中間層回到輸入層，從而逐層修正各連接權(quán)值，這種算法稱為“誤差反向傳播算法”，即BP算法。

（2）BP算法的數(shù)學(xué)描述。BP算法基本原理是利用輸出后的誤差來估計輸出層的直接前導(dǎo)層的誤差，再用這個誤差估計更前一層的誤差，如此一層一層的反傳下去，就獲得了所有其他各層的誤差估計。

BP網(wǎng)絡(luò)學(xué)習(xí)規(guī)則的指導(dǎo)思想是：對網(wǎng)絡(luò)權(quán)值和閾值的修正要沿著表現(xiàn)函數(shù)下降最快的方向――負(fù)梯度方向。

xk+1=xk-akgk(1)

其中xk是當(dāng)前的權(quán)值和閾值矩陣，gk是當(dāng)前表現(xiàn)函數(shù)的梯度，ak是學(xué)習(xí)速率。

三層BP網(wǎng)絡(luò)，輸入節(jié)點xi，中間層節(jié)點yi，輸出節(jié)點zl。輸入節(jié)點與中間層節(jié)點間的網(wǎng)絡(luò)權(quán)值為wji，中間層節(jié)點與輸出節(jié)點間的網(wǎng)絡(luò)權(quán)值為vlj。當(dāng)輸出節(jié)點的期望值為tl時，模型計算公式如下。

中間層節(jié)點的輸出：

yi=f(∑iwjixi-θj)=f(netj)(2)

輸出節(jié)點的計算輸出：

zl=f(∑jvljyj-θl)=f(netl)(3)

3. BP神經(jīng)網(wǎng)絡(luò)用于GPS高程擬合

3.1 山區(qū)高程異常擬合實例:以本溪GPS和水準(zhǔn)資料作為樣本來源，進行BP高程異常擬合。

通過山區(qū)高程異常擬合實例，對數(shù)據(jù)分析可以得到如下結(jié)論，學(xué)習(xí)樣本數(shù)與測試樣本數(shù)之比在1/4之間時網(wǎng)絡(luò)穩(wěn)定性較好。高程擬合的精度與學(xué)習(xí)樣本數(shù)量有關(guān)，學(xué)習(xí)樣本數(shù)越多，擬合精度就越高。

3.2 平原地區(qū)高程異常擬合實例:以某市D級GPS部分?jǐn)?shù)據(jù)進行實驗研究

通過平原地區(qū)高程異常擬合實例，對數(shù)據(jù)分析可以得到如下結(jié)論，學(xué)習(xí)樣本數(shù)與測試樣本數(shù)之比在 1/3 之間時網(wǎng)絡(luò)穩(wěn)定性較好。學(xué)習(xí)樣本數(shù)對測試對象的精度也有著重要的影響，一般隨著學(xué)習(xí)樣本數(shù)的增多，中誤差會有所改善。這主要是更多的學(xué)習(xí)樣本就更能表述出所研究問題的一些基本特征，進而仿真的效果就能更好。

4. 結(jié)束語

重點研究基于BP神經(jīng)網(wǎng)絡(luò)的GPS高程異常擬合算法，詳細(xì)介紹了人工神經(jīng)網(wǎng)絡(luò)基本理論，重點討論了基于BP神經(jīng)網(wǎng)絡(luò)的GPS高程擬合，包括BP神經(jīng)網(wǎng)絡(luò)的基本原理、主要特點。分析了神經(jīng)網(wǎng)絡(luò)的BP算法，包括其數(shù)學(xué)模型、網(wǎng)絡(luò)結(jié)構(gòu)。構(gòu)造了基于BP神經(jīng)網(wǎng)絡(luò)的GPS高程擬合模型，結(jié)合具體工程數(shù)據(jù)進行了神經(jīng)網(wǎng)絡(luò)性能分析。

參考文獻

[1] 國家測繪局測繪發(fā)展研究中心.測繪發(fā)展研究動態(tài)[R].北京：國家測繪局，2008，8：1-7

[2] 李征航、黃勁松.GPS測量與數(shù)據(jù)處理[M].武漢：武漢大學(xué)出版社，2005，277-278

[3] 曹先革.基于人工神經(jīng)網(wǎng)絡(luò)的GPS高程異常擬合方法研究[D]，北京：中國地質(zhì)大學(xué)，2008

[4] 徐紹銓．GPS高程擬合系統(tǒng)的研究[J]，武漢：武漢測繪科技大學(xué)學(xué)報，1999，24(4),11-15

[5] 閻平凡.人工神經(jīng)網(wǎng)絡(luò)與模擬進化計算[M]，北京:清華大學(xué)出版社，2000，5-6

[6] 徐麗娜.神經(jīng)網(wǎng)絡(luò)控制[M].哈爾濱：哈爾濱工業(yè)大學(xué)出版社，1999，1-40

篇5

關(guān)鍵詞：加熱爐；BP神經(jīng)網(wǎng)絡(luò)；流量控制

神經(jīng)網(wǎng)絡(luò)具有自組織，自學(xué)習(xí)等優(yōu)點，利用神經(jīng)網(wǎng)絡(luò)對控制參數(shù)進行自整定，已達到控制要求。由于神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)過程較慢，可能導(dǎo)致局部極小點。本文提出一種基于改進神經(jīng)網(wǎng)絡(luò)的參數(shù)自整定控制器，對神經(jīng)網(wǎng)絡(luò)閥值和權(quán)值進行優(yōu)化，避免權(quán)值和閥值陷入局部最小點。

1.加熱爐控制系統(tǒng)

由于煤氣、空氣的流量控制是實現(xiàn)爐溫控制的手段，因此它實際上從屬于爐溫控制回路，這一回路是保證加熱爐正常燃燒和鋼坯加熱的最基本的回路。通常情況下，流量控制回路是一個串級控制回路，爐溫控制器的輸出作為其設(shè)定值，因而達到間接控制爐溫的目的。流量控制回路工作的穩(wěn)定程度以及控制性能的好壞將直接取決于該回路的控制量的設(shè)定值，并將直接影響到加熱爐爐溫的控制情況以及鋼坯的加熱過程。

2. 基于改進神經(jīng)網(wǎng)絡(luò)的加熱爐參數(shù)優(yōu)化控制方法

2.1 基于神經(jīng)網(wǎng)絡(luò)的控制原理

把神經(jīng)網(wǎng)絡(luò)模型與控制器有效結(jié)合，可以控制系統(tǒng)的輸出值與期望值之間的誤差達到最小。

基于神經(jīng)網(wǎng)絡(luò)的控制器分為兩部分：一部分是經(jīng)典的控制調(diào)制器；第二部分是神經(jīng)網(wǎng)絡(luò)，通過神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)和自組織能力調(diào)節(jié)參數(shù)，使之達到最優(yōu)。

2.2 改進神經(jīng)網(wǎng)絡(luò)控制算法

梯度下降法的收斂速度較慢，而擬牛頓法計算又較復(fù)雜，共軛梯度法則力圖避免兩者的缺點。共軛梯度法也是一種改進搜索方向的方法，它是把前一點的梯度乘以適當(dāng)?shù)南禂?shù)，加到該點的梯度上，得到新的搜索方向。

其迭代方程為

式中－最佳步長；

(1)

共軛梯度法比大多數(shù)常規(guī)的梯度下降法收斂快，并且只需增加很少的存貯量和計算量。對于權(quán)值很多的網(wǎng)絡(luò)，采用共軛梯度下降法是一個很好的選擇。

具體算法如下：

網(wǎng)絡(luò)初始化：確定神經(jīng)網(wǎng)絡(luò)輸入層，隱含層神經(jīng)元個數(shù)，以及各層權(quán)值初值，，給定學(xué)習(xí)速率和最大學(xué)習(xí)次數(shù)；

通過采樣的到給定值和輸出值，求出此時的誤差

求出神經(jīng)網(wǎng)絡(luò)各層神經(jīng)元的輸入、輸出：

輸入：

由經(jīng)典增量式計算出控制的輸出

進行神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)，在線調(diào)整神經(jīng)網(wǎng)絡(luò)權(quán)值，從而達到控制參數(shù)的自整定；

置，跳轉(zhuǎn)到第二步。

本文設(shè)計的改進神經(jīng)網(wǎng)絡(luò)控制器可以在線修正網(wǎng)絡(luò)的權(quán)值和閥值，不但能收斂到全局最小點，并且可以提高系統(tǒng)的收斂速度。

3系統(tǒng)仿真及結(jié)果分析

為了驗證所提算法的有效性，采用計算機為仿真軟件。

仿真條件：本文將鞍山后英軋鋼分廠的加熱爐為研究對象，加熱爐模型為

式中表示時刻爐溫溫度和燃?xì)饬髁?，表示時刻可測干擾和隨機噪聲。加熱爐作為非常復(fù)雜的被控對象，至今還沒有完整的數(shù)學(xué)模型，根據(jù)加熱爐大滯后，大慣性的特點，為了方便神經(jīng)網(wǎng)絡(luò)的研究，本文將鞍山后英軋鋼分廠的加熱爐簡化為一個帶有純滯后的一階慣性環(huán)節(jié)，其傳遞函數(shù)為：

，式中增益為，時間常數(shù)為，純滯后時間為

根據(jù)仿真試湊法確定隱層神經(jīng)元為個，構(gòu)造一個三層網(wǎng)絡(luò)的結(jié)構(gòu)為。輸出層與隱含層之間用非負(fù)函數(shù)，隱含層與輸入層之間用對稱函數(shù),在訓(xùn)練時選用網(wǎng)絡(luò)學(xué)習(xí)速率為。

將改進后的神經(jīng)網(wǎng)絡(luò)的控制器用于加熱爐控制系統(tǒng)中，取輸入為階躍信號用中對加熱爐控制系統(tǒng)進行建模并仿真。

實驗一：傳統(tǒng)控制器下的階躍響應(yīng)

圖1普通控制階躍響應(yīng)曲線

實驗二：增量式控制器下的階躍響應(yīng)

圖2增量式 控制階躍響應(yīng)曲線

實驗三：基于改進神經(jīng)網(wǎng)絡(luò)的控制器下的階躍響

圖 基于改進神經(jīng)網(wǎng)絡(luò)的控制階躍響應(yīng)曲線

4.結(jié)論

以上仿真結(jié)果說明，基于改進共軛梯度法神經(jīng)網(wǎng)絡(luò)控制算法較好的解決了被控對象存在時變性和滯后性的問題，同時克服了算法收斂慢，不易達到全局最優(yōu)的缺點，有效地提高了加熱爐控制系統(tǒng)的性能，具有一定的經(jīng)濟效益。

參考文獻：

[1] 楊永耀, 呂勇哉. 鋼坯加熱爐計算機控制動態(tài)數(shù)學(xué)模型的開發(fā). 自動化學(xué)報, 1987,13(4):257-264.

[2] 楊永耀, 梁軍. 加熱爐多模式控制冶金自動化, 1991, 15(5): 15-19.

篇6

關(guān)鍵詞：網(wǎng)格；資源調(diào)度；人工神經(jīng)網(wǎng)絡(luò)；BP算法

中圖分類號：TP183

Grid resources schedule model based on the BP algorithm

ZHOU Fei-fei，HU Yan-xia

Ministry of Education’s major laboratory of Lanzhou Jiaotong University, Lanzhou,730070

ZhengZhou Urban and Rural Planning Bureau ,Zhengzhou,45000

Abstract: The grid is the main direction of high-performance. The major factor affects the grid functional and the performance is grid resource management and scheduling. Because of the complexity of the grid, its resource management compared with traditional distributed networks becomes more complex. The efficient grid resources management algorithms are hot and difficult of grid study. The neural network has intelligence and can get the best results in complex circumstances. this paper uses BP algorithm to solve the problem of grid resource scheduling. And introduced the concept of grid, back propagation algorithm, and proposed grid scheduling of resources result based on the BP algorithm.

Keywords：grid; resource scheduling；artificial neural network；Back propagation algorithm;

0 引言

網(wǎng)格作為新一代的互聯(lián)網(wǎng)，是今后高性能計算的主要方向，而有效的資源調(diào)度直接影響到網(wǎng)格的功能和性能，因此，對網(wǎng)格資源調(diào)度問題的研究具有重要的理論意義和巨大的實踐價值。人工神經(jīng)網(wǎng)絡(luò)是一種模擬動物神經(jīng)網(wǎng)絡(luò)行為特征，進行分布式并行信息處理的算法數(shù)學(xué)模型，善于在復(fù)雜環(huán)境下，快速獲得滿足多種約束條件問題的最優(yōu)化答案，把神經(jīng)網(wǎng)絡(luò)的思想引入到網(wǎng)格的資源調(diào)度當(dāng)中，將二者有效結(jié)合，能夠更好的解決網(wǎng)格的資源調(diào)度問題。

1 網(wǎng)格的基本概念

網(wǎng)格又被稱為“下一代互聯(lián)網(wǎng)”，用于集成或共享在地理上分布的各種資源(包括計算機系統(tǒng)、存儲系統(tǒng)、通信系統(tǒng)、文件、數(shù)據(jù)庫、程序等)，使之成為一個邏輯整體，實現(xiàn)資源在網(wǎng)絡(luò)中的全面共享。

目前，網(wǎng)格技術(shù)已經(jīng)在科學(xué)計算領(lǐng)域得到了廣泛的應(yīng)用，很好的解決了分布式超級計算、高吞吐率計算、數(shù)據(jù)密集型計算等問題?？梢灶A(yù)見，隨著共享的資源越來越豐富，網(wǎng)格的應(yīng)用領(lǐng)域?qū)⒌玫礁蟮耐卣埂?/p>

2 網(wǎng)格中的資源調(diào)度

網(wǎng)格中的資源指所有能夠通過網(wǎng)格遠程使用的實體，包括：計算機軟件(比如操作系統(tǒng)、數(shù)據(jù)庫管理系統(tǒng)、應(yīng)用軟件、數(shù)據(jù)等)，計算機硬件(比如CPU、內(nèi)存、硬盤、光盤感器、磁帶等)，設(shè)備和儀器(比如通信介質(zhì)、天文望遠鏡、顯微鏡、傳感器、PDA、儀器儀表等)等物理資源以及人類資源(人的知識與能力)。【1】

由于網(wǎng)格是一個開放、動態(tài)的互聯(lián)網(wǎng)并行環(huán)境,用戶可以從網(wǎng)格的任何地方向網(wǎng)格平臺提交應(yīng)用,而且由于網(wǎng)格所固有的分布性、動態(tài)性、異構(gòu)性以及自治性等特征,使得網(wǎng)格資源、可能隨時發(fā)生改變。因此，網(wǎng)格資源管理系統(tǒng)是網(wǎng)格的核心組成部分，也是網(wǎng)格的重要研究方向。

2.1 網(wǎng)格資源調(diào)度策略

傳統(tǒng)的分布式系統(tǒng)中資源管理的主要任務(wù)是將多個用戶提交的程序調(diào)度到一個計算集群中以最大化系統(tǒng)的利用率。即將一個復(fù)雜的程序中的多個子程序調(diào)度到并行的計算機中以提高計算效率，減少運行時間。

而在網(wǎng)格中，由于網(wǎng)格系統(tǒng)的分布性、異構(gòu)性和動態(tài)性，網(wǎng)格資源管理必須為用戶提供可靠的、一致的以及廉價的資源，而不用考慮資源訪問點的物理位置。[2]

我們使用有層的層次模型實現(xiàn)資源調(diào)度算法。此模型類似于網(wǎng)絡(luò)的五層沙漏模型。在邏輯上分為三層：用戶層、資源管理層及網(wǎng)格資源層。

用戶層是網(wǎng)格資源的使用者。各種應(yīng)用均在這一層實現(xiàn)，該層的需求即網(wǎng)格系統(tǒng)提供的服務(wù)，是網(wǎng)格所要達到的目標(biāo)。在本層中，用戶或應(yīng)用系統(tǒng)通過面向服務(wù)的視圖向下層中的各種發(fā)送用戶請求，描述自愿選擇、任務(wù)進程創(chuàng)建和任務(wù)控制等。

資源管理層是本模型的核心層。由各種組成，是網(wǎng)格資源管理的執(zhí)行者。能夠發(fā)現(xiàn)、收集和存儲不同領(lǐng)域的資源信息；接收用戶請求，并按分配策略將所需要的資源分配給用戶。

網(wǎng)格資源層是網(wǎng)格系統(tǒng)中的硬件基礎(chǔ)，包括各種資源，它是網(wǎng)格資源管理的對象。其基本功能就是控制區(qū)域內(nèi)的資源，向上提供訪問這些資源的接口。

由以上分析可以看出，網(wǎng)格資源調(diào)度的實質(zhì)，就是將多個相互獨立的任務(wù)由各種分配到可用資源上，使得資源得到充分利用并且任務(wù)的完成時間最小。

調(diào)度算法的目標(biāo)是將所有的獨立的應(yīng)用任務(wù)通過調(diào)度到可獲得的計算資源中去，從可利用的資源中選取最佳的資源，并盡量減少由于網(wǎng)格的動態(tài)性而對網(wǎng)格整體性能的影響。不好的資源調(diào)度算法，將會增加任務(wù)的執(zhí)行時間并降低整個網(wǎng)格系統(tǒng)的吞吐量。因此，一個好的源調(diào)度算法，需要具有高效性和一定的智能性，使網(wǎng)格用戶能夠獲得所需要的資源，并且確保網(wǎng)格用戶不會過量使用資源。

由于神經(jīng)網(wǎng)絡(luò)能夠模擬人腦的思維模式，具有很好的自適應(yīng)性和學(xué)習(xí)能力，能夠?qū)崿F(xiàn)難以用數(shù)字計算和技術(shù)實現(xiàn)的最優(yōu)信號處理算法。因此，很適合網(wǎng)格資源調(diào)度算法。

3 BP神經(jīng)網(wǎng)絡(luò)原理

神經(jīng)網(wǎng)絡(luò)是一種模擬動物神經(jīng)網(wǎng)絡(luò)行為特征，進行分布式并行信息處理的算法數(shù)學(xué)模型。這種網(wǎng)絡(luò)能根據(jù)系統(tǒng)的復(fù)雜程度，通過調(diào)整內(nèi)部大量節(jié)點之間相互連接的關(guān)系，從而達到處理信息的目的。

3.1 神經(jīng)網(wǎng)絡(luò)的概念

國際著名的神經(jīng)網(wǎng)絡(luò)專家Hecht-Nielson給神經(jīng)網(wǎng)絡(luò)的定義是：“神經(jīng)網(wǎng)絡(luò)是一個以有向圖為拓?fù)浣Y(jié)構(gòu)的動態(tài)系統(tǒng)，它通過對連續(xù)或斷續(xù)式的輸入作為狀態(tài)響應(yīng)而進行信息處理”。【3】

神經(jīng)網(wǎng)絡(luò)系統(tǒng)是由大量的，同時也是很簡單的處理單元（稱為神經(jīng)元），通過廣泛地互相連接而形成的復(fù)雜網(wǎng)絡(luò)系統(tǒng)。雖然每個神經(jīng)元的結(jié)構(gòu)和功能十分簡單，但由大量神經(jīng)元構(gòu)成的網(wǎng)絡(luò)系統(tǒng)的行為卻是豐富多彩和十分復(fù)雜的。

神經(jīng)網(wǎng)絡(luò)適合于解決實際問題，它不僅可以廣泛應(yīng)用于模式識別、信號處理、知識工程、專家系統(tǒng)、優(yōu)化組合、機器人控制等工程領(lǐng)域，也可以廣泛應(yīng)用于醫(yī)學(xué)、商業(yè)、金融和文學(xué)領(lǐng)域。隨著神經(jīng)網(wǎng)絡(luò)理論本身以及相關(guān)理論、相關(guān)技術(shù)的不斷發(fā)展，神經(jīng)網(wǎng)絡(luò)的應(yīng)用定將更加深入。[4]

3.2 BP神經(jīng)網(wǎng)絡(luò)的概念

BP (Back Propagation)神經(jīng)網(wǎng)絡(luò)是1986年由Rumelhart和McCelland為首的科學(xué)家小組提出，全稱為基于誤差反向傳播算法的人工神經(jīng)網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)是目前研究最多、應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型。

BP神經(jīng)網(wǎng)絡(luò)能學(xué)習(xí)和存貯大量的輸入-輸出模式映射關(guān)系，而無需事前揭示描述這種映射關(guān)系的數(shù)學(xué)方程。它使用自適應(yīng)學(xué)習(xí)算法，通過反向傳播不斷調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值，使網(wǎng)絡(luò)的誤差平方和最小。

BP神經(jīng)網(wǎng)絡(luò)模型拓?fù)浣Y(jié)構(gòu)包括輸入層（input）、隱含層(hide layer)和輸出層(output layer)。

通過圖可看出，層與層之間的神經(jīng)元采用全互連的連接方式，通過相應(yīng)的權(quán)系數(shù)相互聯(lián)系，隱含層內(nèi)的神經(jīng)元之間沒有連接。因此BP網(wǎng)絡(luò)可以看成是從輸入到輸出的一種高度非線性映射，映射中保持拓?fù)洳蛔冃?，如果隱含層中神經(jīng)元數(shù)目足夠多，則BP網(wǎng)絡(luò)就能模擬任何有理函數(shù)。由于BP網(wǎng)絡(luò)可在多個連續(xù)的輸入和一個或多個連續(xù)的輸出之間建立非線性映射這一特性，它常被用于智能預(yù)測。從而，我們使用BP神經(jīng)網(wǎng)絡(luò)模擬網(wǎng)格資源調(diào)度過程。

3.2.1 BP神經(jīng)網(wǎng)絡(luò)的工作過程

BP神經(jīng)網(wǎng)絡(luò)由信息的正向傳播和誤差的反向傳播兩個過程組成：

信息的正向傳播過程：

輸入層各神經(jīng)元負(fù)責(zé)接收來自外界的輸入信息，并傳遞給隱含層各神經(jīng)元；隱含層負(fù)責(zé)信息變換，根據(jù)信息變化能力的需求，傳遞到輸出層。各神經(jīng)元的信息，經(jīng)進一步處理后，完成一次學(xué)習(xí)的正向傳播處理過程；輸出層向外界輸出信息處理結(jié)果。

誤差的反向傳播過程：

當(dāng)實際輸出與期望輸出不符時，進入誤差的反向傳播階段。誤差通過輸出層，按誤差梯度下降的方式修正各層權(quán)值，向隱含、輸入層逐層反傳。

周而復(fù)始的信息正向傳播和誤差反向傳播過程，是各層權(quán)值不斷調(diào)整的過程，也是神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練的過程，此過程一直進行到網(wǎng)絡(luò)輸出的誤差減少到可以接受的程度，或者達到預(yù)先設(shè)定的學(xué)習(xí)次數(shù)為止。[5]

4 使用BP神經(jīng)網(wǎng)絡(luò)的網(wǎng)格資源調(diào)度模型

由于BP神經(jīng)網(wǎng)絡(luò)算法響應(yīng)時間較快，適合大規(guī)模分布式的網(wǎng)格資源調(diào)度。為了能夠最大效率的調(diào)用網(wǎng)格資源，我們結(jié)合BP神經(jīng)網(wǎng)絡(luò)算法思想，提出了基于BP網(wǎng)絡(luò)的網(wǎng)格資源調(diào)度模型。

模型流程如下：

(1)將用戶提交的任務(wù)請求(包含任務(wù)的任務(wù)量、通信量、任務(wù)提交時間、時間限度等參數(shù))加入到網(wǎng)格中的任務(wù)隊列排隊。任務(wù)隊列可以根據(jù)不同用戶的不同需求(用戶等級、任務(wù)時間相應(yīng)要求等)對進入隊列的任務(wù)進行排序。

(2) 調(diào)度系統(tǒng)中的計時器，每隔一定時間就從任務(wù)隊列中取出待處理的任務(wù)，并從監(jiān)視器中獲得當(dāng)前系統(tǒng)資源分配列表。

(3) 根據(jù)待處理任務(wù)及系統(tǒng)資源，使用BP算法產(chǎn)生一個最優(yōu)化的任務(wù)分配表。

(4) 執(zhí)行任務(wù)分配表中的任務(wù)。如果任務(wù)順利完成，則將任務(wù)占有的資源釋，如果任務(wù)失敗，則釋放該任務(wù)所占有的系統(tǒng)資源，并將失敗的任務(wù)插入到任務(wù)隊列中，以待下次調(diào)度。

(5) 當(dāng)不能從任務(wù)隊列中獲得任務(wù)時，表明所有任務(wù)都已經(jīng)完成。

5總結(jié)

在網(wǎng)格環(huán)境中，資源調(diào)度是一項非常復(fù)雜且極具挑戰(zhàn)性的工作。計算資源調(diào)度的好壞，效率的高低直接關(guān)系到網(wǎng)格系統(tǒng)的性能。相對別的網(wǎng)格計算資源調(diào)度算法與模型，本文提出使用BP算法的分層資源調(diào)度模型。

該模型由調(diào)度主程序負(fù)責(zé)全局資源調(diào)度，監(jiān)控程序監(jiān)控每個資源任務(wù)的完成情況，這種方法在能保證任務(wù)完成的前提下，靈活地對網(wǎng)格資源進行配置，充分發(fā)揮網(wǎng)格中各節(jié)點計算機的計算能力。

參考文獻：

1崔飛.基于市場的網(wǎng)格資源調(diào)度算法研究[J].中國科技論文在線

2都至輝，陳渝，劉鵬. 網(wǎng)格計算.[M]. 清華大學(xué)出版社, 2002

3黨建武，王陽萍，趙庶旭. 神經(jīng)網(wǎng)絡(luò)理論.[M]. 蘭州大學(xué)出版社，2005,9

篇7

論文摘要：分析了模擬電路故障診斷的重要性和目前存在的困難，對基于小渡分析理論和神經(jīng)網(wǎng)絡(luò)理論的模擬電路故障診斷方法進行了綜述．指出了小波神經(jīng)網(wǎng)絡(luò)應(yīng)用于模擬電路故障診斷存在的問題和未來的應(yīng)用前景。

模擬電路故障診斷在理論上可概括為:在已知網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)、輸人激勵和故障響應(yīng)或可能已知部分元件參數(shù)的情況下，求故障元件的參數(shù)和位置。

盡管目前模擬電路故障診斷理論和方法都取得了不少成就，提出了很多故障診斷方法，如故障字典法、故障參數(shù)識別法、故障驗證法等。但是由于模擬電路測試和診斷有其自身困難，進展比較緩慢。其主要困難有:模擬電路中的故障模型比較復(fù)雜，難以作簡單的量化;模擬電路中元件參數(shù)具有容差，增加了故障診斷的難度;在模擬電路中廣泛存在著非線性問題，為故障的定位診斷增加了難度;在一個實用的模擬電路中，幾乎無一例外地存在著反饋回路，仿真時需要大量的復(fù)雜計算;實際的模擬電路中可測電壓的節(jié)點數(shù)非常有限.導(dǎo)致可用于作故障診斷的信息量不夠充分，造成故障定位的不確定性和模糊性。

因此，以往對模擬電路故障診斷的研究主要停留在中小規(guī)模線性無容差或小容差的情況，有些方法也已成功地應(yīng)用于工程實際。但如何有效地解決模擬電路的容差和非線性問題，如何解決故障診斷的模糊性和不確定性等是今后迫切需要解決的問題。小波神經(jīng)網(wǎng)絡(luò)則因其利于模擬人類處理問題的過程、容易顧及人的經(jīng)驗且具有一定的學(xué)習(xí)能力等特點，所以在這一領(lǐng)域得到了廣泛應(yīng)用。

1小波分析理論在模擬電路故障診斷中的應(yīng)用現(xiàn)狀分析

簡單地講，小波就是一個有始有終的小的“波浪”小波分析源于信號分析，源于函數(shù)的伸縮和平移，是Fourier分析、Gabor分析和短時Fourier分析發(fā)展的直接結(jié)果。小波分析的基木原理是通過小波母函數(shù)在尺度上的伸縮和時域上的平移來分析信號，適當(dāng)選擇母函數(shù).可以使擴張函數(shù)具有較好的局部性，小波分析是對信號在低頻段進行有效的逐層分解，而小波包分析是對小波分析的一種改進，它為信號提供了一種更加精細(xì)的分析方法，對信號在全頻段進行逐層有效的分解，更有利于提取信號的特征。因此，它是一種時頻分析方法。在時頻域具有良好的局部化性能并具有多分辨分析的特性，非常適合非平穩(wěn)信號的奇異性分析。如:利用連續(xù)小波變換可以檢測信號的奇異性，區(qū)分信號突變和噪聲，利用離散小波變換可以檢測隨機信號頻率結(jié)構(gòu)的突變。

小波變換故障診斷機理包括:利用觀測器信號的奇異性進行故障診斷以及利用觀測器信號頻率結(jié)構(gòu)的變化進行故障診斷。小波變換具有不需要系統(tǒng)的數(shù)學(xué)模型、故障檢測靈敏準(zhǔn)確、運算量小、對噪聲的抑制能力強和對輸入信號要求低的優(yōu)點。但在大尺度下由于濾波器的時域?qū)挾容^大，檢測時會產(chǎn)生時間延遲，且不同小波基的選取對診斷結(jié)果也有影響。在模擬電路故障診斷中，小波變換被有效地用來提取故障特征信息即小波預(yù)處理器之后，再將這些故障特征信息送人故障分類處理器進行故障診斷。小波分析理論的應(yīng)用一般被限制在小規(guī)模的范圍內(nèi)，其主要原因是大規(guī)模的應(yīng)用對小波基的構(gòu)造和存儲需要的花費較大。

2神經(jīng)網(wǎng)絡(luò)理論在模擬電路故障診斷中的應(yīng)用分析

人工神經(jīng)網(wǎng)絡(luò)(ANN)是在現(xiàn)代神經(jīng)科學(xué)研究成果的基礎(chǔ)上提出來的，是一種抽象的數(shù)學(xué)模型，是對人腦功能的模擬。經(jīng)過十幾年的發(fā)展，人工神經(jīng)網(wǎng)絡(luò)已形成了數(shù)十種網(wǎng)絡(luò)，包括多層感知器Kohomen自組織特征映射、Hopfield網(wǎng)絡(luò)、自適應(yīng)共振理論、ART網(wǎng)絡(luò)、RBF網(wǎng)絡(luò)、概率神經(jīng)網(wǎng)絡(luò)等。這些網(wǎng)絡(luò)由于結(jié)構(gòu)不同，應(yīng)用范圍也各不相同。由于人工神經(jīng)網(wǎng)絡(luò)本身不僅具有非線性、自適應(yīng)性、并行性、容錯性等優(yōu)點以及分辨故障原因、故障類型的能力外，而且訓(xùn)練過的神經(jīng)網(wǎng)絡(luò)能儲存有關(guān)過程的知識，能直接從定量的、歷史故障信息中學(xué)習(xí)。所以在20世紀(jì)80年代末期，它已開始應(yīng)用于模擬電路故障診斷。隨著人工神經(jīng)網(wǎng)絡(luò)的不斷成熟及大量應(yīng)用，將神經(jīng)網(wǎng)絡(luò)廣泛用于模擬電路的故障診斷已是發(fā)展趨勢。BY神經(jīng)網(wǎng)絡(luò)由于具有良好的模式分類能力，尤其適用于模擬電路故障診斷領(lǐng)域，因而在模擬電路故障診斷系統(tǒng)中具有廣泛的應(yīng)用前景，也是目前模擬電路故障診斷中用得較多而且較為有效的一種神經(jīng)網(wǎng)絡(luò)。 　3小波神經(jīng)網(wǎng)絡(luò)的應(yīng)用進展分析

3，1小波分析理論與神經(jīng)網(wǎng)絡(luò)理論結(jié)合的必要性

在神經(jīng)網(wǎng)絡(luò)理論應(yīng)用于模擬電路故障診斷的過程中，神經(jīng)網(wǎng)路對于隱層神經(jīng)元節(jié)點數(shù)的確定、各種參數(shù)的初始化和神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的構(gòu)造等缺乏更有效的理論性指導(dǎo)方法，而這些都將直接影響神經(jīng)網(wǎng)絡(luò)的實際應(yīng)用效果。小波分析在時域和頻域同時具有良好的局部化特性，而神經(jīng)網(wǎng)絡(luò)則具有自學(xué)習(xí)、并行處理、自適應(yīng)、容錯性和推廣能力二因此把小波分析和神經(jīng)網(wǎng)絡(luò)兩者的優(yōu)點結(jié)合起來應(yīng)用于故障診斷是客觀實際的需要。

目前小波分析與神經(jīng)網(wǎng)絡(luò)的結(jié)合有兩種形式，一種是先利用小波變換對信號進行預(yù)處理，提取信號的特征向量作為神經(jīng)網(wǎng)絡(luò)的輸人，另一種則是采用小波函數(shù)和尺度函數(shù)形成神經(jīng)元，達到小波分析和神經(jīng)網(wǎng)絡(luò)的直接融合第一種結(jié)合方式是小波神經(jīng)網(wǎng)絡(luò)的松散型結(jié)合，第二種結(jié)合方式是小波神經(jīng)網(wǎng)絡(luò)的緊致型結(jié)合。

3.2小波分析理論與神經(jīng)網(wǎng)絡(luò)理論的結(jié)合形式

小波與神經(jīng)網(wǎng)絡(luò)的松散型結(jié)合，即:用小波分析或小波包分析作為神經(jīng)網(wǎng)絡(luò)的前置處理手段，為神經(jīng)網(wǎng)絡(luò)提供輸人特征向魚具體來說就是利用小波分析或小波包分析，把信號分解到相互獨立的頻帶之內(nèi)，各頻帶內(nèi)的能童值形成一個向覺，該向童對不同的故障對應(yīng)不同的值，從而可作為神經(jīng)網(wǎng)絡(luò)的輸入特征向量一旦確定神經(jīng)網(wǎng)絡(luò)的輸入特征向童，再根據(jù)經(jīng)驗確定采用哪種神經(jīng)網(wǎng)絡(luò)及隱層數(shù)和隱層單元數(shù)等，就可以利用試驗樣本對神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練，調(diào)整權(quán)值，從而建立起所需的小波神經(jīng)網(wǎng)絡(luò)模型。

小波與神經(jīng)網(wǎng)絡(luò)的緊致型結(jié)合，即:用小波函數(shù)和尺度函數(shù)形成神經(jīng)元，達到小波分析和神經(jīng)網(wǎng)絡(luò)的直接融合，稱為狹義上的小波神經(jīng)網(wǎng)絡(luò)，這也是常說的小波神經(jīng)網(wǎng)絡(luò)。它是以小波函數(shù)或尺度函數(shù)作為激勵函數(shù)，其作用機理和采用Sigmoid函數(shù)的多層感知器基本相同。故障診斷的實質(zhì)是要實現(xiàn)癥狀空間到故障空間的映射，這種映射也可以用函數(shù)逼近來表示。小波神經(jīng)網(wǎng)絡(luò)的形成也可以從函數(shù)逼近的角度加以說明。常見的小波神經(jīng)網(wǎng)絡(luò)有:利用尺度函數(shù)作為神經(jīng)網(wǎng)絡(luò)中神經(jīng)元激勵函數(shù)的正交基小波網(wǎng)絡(luò)、自適應(yīng)小波神經(jīng)網(wǎng)絡(luò)、多分辨率小波網(wǎng)絡(luò)、區(qū)間小波網(wǎng)絡(luò)等。

3.3小波分析理論與神經(jīng)網(wǎng)絡(luò)理論結(jié)合的優(yōu)點

小波神經(jīng)網(wǎng)絡(luò)具有以下優(yōu)點:一是可以避免M LY等神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計的育目性;二是具有逼近能力強、網(wǎng)絡(luò)學(xué)習(xí)收斂速度快、參數(shù)的選取有理論指導(dǎo)、有效避免局部最小值問題等優(yōu)點。

在模擬電路故障診斷領(lǐng)域，小波神經(jīng)網(wǎng)絡(luò)還是一個嶄新的、很有前途的應(yīng)用研究方向。隨著小波分析理論和神經(jīng)網(wǎng)絡(luò)理論的不斷發(fā)展，小波神經(jīng)網(wǎng)絡(luò)應(yīng)用于模擬電路故障診斷領(lǐng)域?qū)⑷找娉墒臁?/p>

篇8

【關(guān)鍵詞】PCA神經(jīng)網(wǎng)絡(luò)算法閾值區(qū)低功耗低面積積分器

一、引言

本文中為實現(xiàn)植入式的腦電信號特征提取，而設(shè)計的一種基于模擬模塊的硬件實現(xiàn)方法，實現(xiàn)對神經(jīng)spike信號的神經(jīng)網(wǎng)絡(luò)算法的特征提取的PCA2-1網(wǎng)絡(luò)，本文的神經(jīng)網(wǎng)絡(luò)算法的硬件完全采用模擬電路來實現(xiàn)，以滿足植入式的芯片，需要具有低功耗，低面積的特點。本文中的特征提取選擇了主成分分析法（PCA），采用基于PCA算法的全模擬電路實現(xiàn)架構(gòu)，由具有足夠線性范圍的模擬乘法器，基于亞閾值區(qū)的積分器，合理的加法器模塊，來實現(xiàn)設(shè)計低功耗，低面積的神經(jīng)信號處理電路。最終驗證通過模擬電路實現(xiàn)的神經(jīng)特征提取電路的權(quán)值變化和MATLAB計算出的權(quán)值變化相一致，以此來證明該系統(tǒng)的正確性。

二、PCA神經(jīng)網(wǎng)絡(luò)

主分量分析的目的在于減少數(shù)據(jù)維數(shù)。其基本思想是提取出空間數(shù)據(jù)中的主要特征（主分量），減少數(shù)據(jù)冗余，去掉數(shù)據(jù)相關(guān)性，使得數(shù)據(jù)能夠在一個低維空間來處理。它確定一個方向向量w，使得輸入向量x在該方向上的投影y=wTx的方差最大。PCA神經(jīng)網(wǎng)絡(luò)克服了傳統(tǒng)方法的缺點，它通過學(xué)習(xí)自動收斂到主分量方向而不用計算相關(guān)矩陣[2]。本文中的實現(xiàn)PCA的神經(jīng)網(wǎng)絡(luò)為一個單層的前向網(wǎng)絡(luò)。

本文中的基于神經(jīng)網(wǎng)絡(luò)的PCA的算法實現(xiàn)步驟如下：

（1）在t=1時，用小的隨機數(shù)賦給主元神經(jīng)網(wǎng)絡(luò)的權(quán)值，另權(quán)值修正系數(shù)為一小的正數(shù)；

（2）對于在t=1，從訓(xùn)練樣本集中選取樣本輸入網(wǎng)絡(luò)，計算：

由于積分器的輸出是權(quán)值w，所以對輸出幅度有較高要求。本文采用的積分器的OTA為兩個單端輸出的鏡像電流源結(jié)構(gòu)。這樣輸出的幅度是全差分雙端輸出的2倍。而且兩個單端輸出很好的提高了電路的共模抑制比CMRR。OTA的輸出級為共源共柵的結(jié)構(gòu)，這讓OTA的輸出

圖3為對輸入數(shù)據(jù)進行長時間的仿真后數(shù)據(jù)的圖像特性，可以看出w的值有很好的收斂特性。

三、總結(jié)

PCA算法在噪聲比較大的情況下容易聚類失敗，而本文中的系統(tǒng)是作為已經(jīng)實現(xiàn)的低噪聲放大器和NEO信號去噪檢測之后的一級，所以選取PCA作為特征提取的方法是可行的。本文設(shè)計了一種基于神經(jīng)網(wǎng)絡(luò)算法的信號特征提取的硬件實現(xiàn)，采用了完全的模擬電路來實現(xiàn)。并根據(jù)算法的特點，合理的選擇和改進積分器電路和乘法器電路的拓?fù)浣Y(jié)構(gòu)，來實現(xiàn)電路的功能。并實現(xiàn)了系統(tǒng)的低功耗，低面積的特點。有利于集成于植入式系統(tǒng)的實現(xiàn)。通過對輸入一組方波數(shù)據(jù)的仿真，通過短時間來驗證瞬態(tài)輸出的準(zhǔn)確性，而長時間的仿真來驗證該系統(tǒng)可有效的讓權(quán)值w收斂。

參考文獻

[1] Hongge Li， Zhao Wei， Zhang Youguang. Micropower fully integrated CMOS readout interface for neural recording application[J]. 2010， 50（2）： 273-281.

[2] Oja E. Principal Components， Minor Components， and Linear Neural Networks[J]. Neural Networks， 1992，5（6）：927-935.

篇9

關(guān)鍵詞： 徑向神經(jīng)網(wǎng)絡(luò) 故障診斷 觀測器

一、徑向神經(jīng)網(wǎng)絡(luò)

在眾多的神經(jīng)網(wǎng)絡(luò)中，徑向神經(jīng)網(wǎng)絡(luò)是一種結(jié)構(gòu)簡單、訓(xùn)練速度快并且具有最佳逼近性能的多層前向神經(jīng)網(wǎng)絡(luò)。多年來，人們對徑向神經(jīng)網(wǎng)絡(luò)進行了大量的研究，并成功地應(yīng)用于故障診斷領(lǐng)域。主要原因有：

（1）它能存儲有關(guān)過程的知識，直接從歷史故障信息中學(xué)習(xí)，可以根據(jù)對象歷史數(shù)據(jù)訓(xùn)練網(wǎng)絡(luò)，然后將此信息與當(dāng)前測量數(shù)據(jù)進行比較，比確定故障的類型。

（2）它具有濾除噪聲即在噪聲的情況下得出正確結(jié)論的能力，可以訓(xùn)練人工神經(jīng)網(wǎng)絡(luò)來識別信息，使其在噪聲環(huán)境中有效地工作。

（3）它具有很強的非線性逼近能力。

（4）它具有分辨故障原因及故障類型的能力。

徑向神經(jīng)網(wǎng)絡(luò)（Radial Basis Function Neural Network，RBFNN）是20世紀(jì)80年代提出的一種以函數(shù)逼近理論為基礎(chǔ)的前向神經(jīng)網(wǎng)絡(luò)，其設(shè)計思想就是將徑向基函數(shù)（RBF）應(yīng)用于神經(jīng)網(wǎng)絡(luò)作為激勵函數(shù)。不同于BP網(wǎng)絡(luò)的全局逼近性能，RBF是一種局部逼近網(wǎng)絡(luò)，對于每個訓(xùn)練樣本，它只需對少量的權(quán)值進行局部的修正，因此速度很快，具有最佳的逼近性能。RBF神經(jīng)網(wǎng)絡(luò)的機構(gòu)與多層前向網(wǎng)絡(luò)結(jié)構(gòu)類似，其拓?fù)浣Y(jié)構(gòu)如圖所示。

RBF神經(jīng)網(wǎng)絡(luò)是由輸入層、隱含層和輸出層構(gòu)成的三層前向神經(jīng)網(wǎng)絡(luò)。第一層為輸入層，由信號源節(jié)點組成，其單元個數(shù)是由所描述問題的需要決定的；第二層為隱含層，是由一組徑向基函數(shù)構(gòu)成的非線性映射層，這樣就將輸入矢量直接映射到隱含層空間，當(dāng)徑向函數(shù)的中心確定以后，這種映射關(guān)系也就確定了；第三層為輸出層，提供從隱單元空間到輸出空間的一種線性變換。其中隱含層是網(wǎng)絡(luò)的核心，隱含層神經(jīng)元的變換函數(shù)是一種局部分布的對中心點徑向衰減的非線性函數(shù)，利用徑向基函數(shù)作為隱含層神經(jīng)元的基構(gòu)成隱含層空間，實現(xiàn)輸入矢量到輸出矢量的映射變換。這里主要研究以高斯函數(shù)為變換函數(shù)的徑向基神經(jīng)網(wǎng)絡(luò)。

RBF神經(jīng)網(wǎng)絡(luò)的輸入與輸出之間可認(rèn)為是一種映射關(guān)系：f（x）:R R

其中式中，i=1，2，…，n為隱含層節(jié)點數(shù)，n（y ，…，y ，…， y ）∈R 表示神經(jīng)網(wǎng)絡(luò)的輸出，x∈R 為網(wǎng)絡(luò)輸入矢量，w∈R 表示輸出權(quán)值，g∈R 為徑向基函數(shù)，g 表示隱層第i個神經(jīng)元的輸出值，w 表示第i個神經(jīng)元到輸出層第j個神經(jīng)元的權(quán)值。

式中，m ∈R 為徑向基神經(jīng)元的中心，r ∈R為徑向基神經(jīng)元的寬度，.表示2-范數(shù)或歐式距離。

徑向基神經(jīng)網(wǎng)絡(luò)的權(quán)值、中心與寬度是徑向基神經(jīng)元的三個重要參數(shù)。構(gòu)造和訓(xùn)練一個RBF神經(jīng)網(wǎng)絡(luò)的就是要是網(wǎng)絡(luò)通過學(xué)習(xí)，確定出每個隱層神經(jīng)元基函數(shù)的中心m 、寬度r 及隱層到輸出層的權(quán)值w，從而可以完成所需的輸入到輸出的映射。RBF網(wǎng)絡(luò)的三部分參數(shù)在映射中所起的作用是不同的。隱含層的徑向基函數(shù)完成的是從輸入空間到隱含層空間的非線性映射，而隱含層到輸出層的權(quán)值是實現(xiàn)從隱含層空間到輸出空間的線性映射，所完成的任務(wù)不同，決定了參數(shù)的訓(xùn)練方法和策略不同。

徑向基神經(jīng)元網(wǎng)絡(luò)的學(xué)習(xí)可以看成是誤差準(zhǔn)則下，以誤差函數(shù)f（x）為目標(biāo)函數(shù)的無約束最優(yōu)化問題。

式中，x表示網(wǎng)絡(luò)的三個待求的參數(shù)（中心、權(quán)值與寬度）；y 為網(wǎng)絡(luò)輸出，y 為期望輸出，N為樣本總數(shù)。

對于解決無約束最優(yōu)化問題，通常采用迭代的方法進行計算，在給定初值x 后，按照等式

逐步修改直至收斂于解，其中為迭代步數(shù)，a 為學(xué)習(xí)速度，p 代表搜索方向。當(dāng)用上式進行迭代時，函數(shù)f（x）應(yīng)該在每次迭代時都減小。研究結(jié)果顯示，最簡單的下降方向就是沿負(fù)梯度的方向，此時

式中，g 為f（x）在x 處的梯度，這樣我們就得到了最速下降的優(yōu)化算法：

有上面的推導(dǎo)可以看出，算法的關(guān)鍵是梯度的計算，下面給出梯度的計算公式。為了便于推導(dǎo)計算，將RBF網(wǎng)絡(luò)的數(shù)學(xué)模型表示如下：

式中，s=1，2，L，h為輸出變量的個數(shù)；i=1，2，L，n為隱含層的個數(shù)；j=1，2，L，N（N為樣本總數(shù)）；k為迭代步數(shù)；y 為第s個輸出；w 為輸出層的權(quán)值；m 為神經(jīng)元的中心；r 為神經(jīng)元的寬度；x（j）為輸入樣本。

定義如下的誤差函數(shù)：

式中，y 為網(wǎng)絡(luò)輸出，y 為期望輸出。

根據(jù)上述式子，輸出權(quán)值的梯度為： =-e （k）Q （k）（11）

具體步驟為：

（1）隨即給定一組參數(shù)x ∶m ，r ，w ，并給定迭代終止精度ε的值。

（2）令RBF網(wǎng)絡(luò)隱含層數(shù)目n=n ，n =l+m為任意小的正整數(shù)（其中l(wèi)和m分別表示系統(tǒng)輸入輸出的維數(shù)）。

（3）根據(jù)所給定的樣本，利用梯度法計算網(wǎng)絡(luò)的三個參數(shù)值，根據(jù)參數(shù)值計算網(wǎng)絡(luò)的輸出。

（4）根據(jù)樣本數(shù)據(jù)和網(wǎng)絡(luò)輸出計算誤差e（n），如果e（n）≤ε轉(zhuǎn)到下一步，否則讓n=n +n（其中n ＞0為整數(shù)），判斷是否n≤n （n 為預(yù)先設(shè)置的最大隱含層數(shù)目），滿足條件則轉(zhuǎn)上一步，否則轉(zhuǎn)下一步。

（5）記錄此時的n，m ，r ，w ，則得到RBF網(wǎng)絡(luò)隱含層的數(shù)目、網(wǎng)絡(luò)的中心、寬度和權(quán)值。

上述是基于最速度下降梯度法的徑向神經(jīng)網(wǎng)絡(luò)算法可以看出，網(wǎng)絡(luò)結(jié)構(gòu)的構(gòu)建與參數(shù)調(diào)整可以同時完成，具有學(xué)習(xí)時間短、計算量小等特點。

二、神經(jīng)網(wǎng)絡(luò)觀測器的建立

通常情況下，非線性系統(tǒng)的狀態(tài)空間模型可以表示如下：

x（k+1）=f（k，x（k））+g（k，x（k））u（k）+v（k）（14）

y（k+1）=h（k+1，x（k+1）+σ（k+1））（15）

式中，k為離散時間變量；x（k）∈R 為狀態(tài)變量；u（k）∈R 為輸入變量，y（k）∈R 為輸出向量；f:R R ，h:R R 為映射函數(shù)；v（k）和σ（k）分別為噪聲和模型不確定性函數(shù)。

根據(jù)RBF網(wǎng)路的最佳逼近性能，可以建立神經(jīng)網(wǎng)絡(luò)辨識模型，對于任意小的ε，存在RBF網(wǎng)絡(luò)逼近于系統(tǒng)的實際輸出：

e=y -y ＜ε（16）

式中，y 為網(wǎng)絡(luò)輸出，y 為期望輸出，ε為輸出殘差。當(dāng)無故障時，殘差信號由狀態(tài)估計的誤差和噪聲所決定，如果狀態(tài)估計的誤差足夠小，則殘差通常趨近于零。當(dāng)傳感器故障時系統(tǒng)的狀態(tài)方程變?yōu)椋?/p>

x（k+1）=f（k，x（k））+B（k，x（k））u（k）+v（k）（17）

y（k+1）=h（k+1，x（k+1））+σ（k+1）+D （k）（18）

式中，D ∈R 為傳感器故障分配矩陣，此時輸出殘差r（k）發(fā)生了很大的變化，所以根據(jù)殘差向量的改變進行傳感器的故障監(jiān)測與隔離。

在構(gòu)造出系統(tǒng)的觀測器之后，就可以將其用于系統(tǒng)的故障隔離。在本文中神經(jīng)網(wǎng)絡(luò)觀測器是作為一個無故障的正常的模型來使用?；谏窠?jīng)網(wǎng)絡(luò)的故障診斷系統(tǒng)結(jié)構(gòu)如圖所示：

三、故障診斷

基于神經(jīng)網(wǎng)絡(luò)的系統(tǒng)故障診斷的基本思想就是建立系統(tǒng)的辨識模型，根據(jù)模型輸出和實際系統(tǒng)輸出的殘差進行故障檢測與隔離，所以建立系統(tǒng)的辨識模型是研究的重點與核心。

針對于傳感器，使用如下的方法來進行故障診斷；

由于神經(jīng)網(wǎng)絡(luò)具有很強的自學(xué)習(xí)能力，因此可以通過學(xué)習(xí)來獲得傳感器測量值，從而為故障診斷提供有效的信息。

首先，應(yīng)用傳感器組中的任一個輸出信號和系統(tǒng)輸入作為神經(jīng)網(wǎng)絡(luò)的輸入信號，將所有傳感器的輸出信號作為神經(jīng)網(wǎng)絡(luò)的輸出信號，構(gòu)成輸入樣本集合，應(yīng)用RBF網(wǎng)絡(luò)離線訓(xùn)練如下m個神經(jīng)網(wǎng)絡(luò)模型：

y （k）=F ［y （k），u（k）］，i=1，2，…，m（19）

然后應(yīng)用神經(jīng)網(wǎng)絡(luò)觀測器可獲得m組，，…，，其中=［，，…，］ 是第i個觀測器得到的，網(wǎng)絡(luò)的輸入和訓(xùn)練時的輸入相同。在系統(tǒng)正常運行條件下，也即無故障時，接近系統(tǒng)傳感器輸出y 。當(dāng)?shù)趇個傳感器故障而其余的m-1個傳感器正常運行時，由第i個神經(jīng)網(wǎng)絡(luò)觀測器所得的傳感器的輸出估值將會偏離的輸出估值，而其他神經(jīng)網(wǎng)絡(luò)觀測器的輸出則不受影響，仍接近實際輸出。那么利用下面的邏輯檢測實現(xiàn)傳感器故障診斷。

定義閥值ε ＞0，j=1，2，…，m，計算判別函數(shù)。

式中，y 為第i個傳感器測量值，為由第i個傳感器的測量值獲得的第j個傳感器輸出的估計值。則有下面的邏輯：

四、小結(jié)

徑向神經(jīng)網(wǎng)絡(luò)具有最優(yōu)的逼近性能，可以精確地對系統(tǒng)進行辨識。利用神經(jīng)網(wǎng)絡(luò)觀測器進行系統(tǒng)故障診斷，需要建立精確的神經(jīng)網(wǎng)絡(luò)辨識模型。在精確模型的基礎(chǔ)上可完成對系統(tǒng)的故障診斷，這種抗干擾能力很強，對不確定、非線性系統(tǒng)有很好的效果。

(指導(dǎo)老師：何曉薇教授)

（作者系中國民航飛行學(xué)院飛行技術(shù)學(xué)院研究生）

篇10

關(guān)鍵詞：遺傳算法；BP神經(jīng)網(wǎng)絡(luò)；時間序列；預(yù)測；

中圖分類號：TP18 文獻標(biāo)識碼：A 文章編號：1009-3044（2015）31-0160-03

Application of Time Series Prediction based on the Genetic Algoriths and BP Neural Network

YANG Tong-man1，GUO Yu2

（1.College of Meteorology and Oceanography， PLA Univ. of Sci. & Tech. ，Nanjing 211101，China；2.Anhui University of Science and Technology，Huainan 232001，China）

Abstract： The basic principles of genetic algorithms and BP neural network algorithm for analysis， and will have good global search capability of genetic algorithm and can be arbitrary precision approach nonlinear function of neural network algorithm， genetic algorithms to optimize the characteristics of the BP algorithm ， time series forecasting algorithm based on genetic algorithm BP neural network build. And use the algorithm to do the closing stock market trading data prediction. Application results show that this method has good stability， high precision characteristics.

Key words：genetic algorithm；BP neural network；time series；prediction

隨著經(jīng)濟、科學(xué)技術(shù)等的快速發(fā)展，每天來自商業(yè)、社會、科學(xué)、工程、醫(yī)學(xué)等各個領(lǐng)域的呈爆炸式增長的數(shù)據(jù)，注入我們的計算機網(wǎng)絡(luò)、萬維網(wǎng)以及各種數(shù)據(jù)存儲設(shè)備，并且這些數(shù)據(jù)集基本上都具有時變性的特征。因此，目前許多數(shù)據(jù)集中的數(shù)據(jù)都是以時間序列的數(shù)據(jù)形式存在的。在互聯(lián)網(wǎng)金融、科研項目、醫(yī)學(xué)、工程等各個領(lǐng)域，都存在著在歷史數(shù)據(jù)的基礎(chǔ)上預(yù)測未來的問題。至今，各行各業(yè)的研究人員已經(jīng)建立了許多的時間序列預(yù)測模型及算法，這些預(yù)測算法針對線性系統(tǒng)的時間序列預(yù)測具有很好的效果。但是，面對自然和社會現(xiàn)象中存在的大量的非線性系統(tǒng)問題，這些方法并不能有效地解決趨勢預(yù)測問題，解決這類問題效果欠佳[1]。而人工神經(jīng)網(wǎng)絡(luò)等智能理論的興起與發(fā)展，為時間序列預(yù)測提供了全新且有效的針對非線性預(yù)測的分析方法。BP神經(jīng)網(wǎng)絡(luò)算法是非循環(huán)多級網(wǎng)絡(luò)的訓(xùn)練算法，具有廣泛的適用性。但是BP算法也存在訓(xùn)練速度慢、高緯曲面上局部極小的問題，并且在隱含層網(wǎng)絡(luò)節(jié)點數(shù)的選取上缺乏理論指導(dǎo)，這一系列的問題，大大降低了預(yù)測的精確性[2]。遺傳算法是一種通過模擬自然進化的過程，搜索出最優(yōu)解的方法，它具有良好的全局搜索能力的特點。因此，本文利用遺傳算法的特點，通過對BP算法的初始權(quán)值以及閾值進行優(yōu)化，以達到提高預(yù)測精確度的目的。

1基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)預(yù)測算法

1.1遺傳算法

遺傳算法（Genetic Algorithm）又叫基因進化算法或進化算法，它是一種啟發(fā)式的搜索算法。它能在搜索過程中，自動的搜索全局并選擇優(yōu)良的解，并能夠自適應(yīng)的控制搜索過程以達到最優(yōu)解[3]。遺傳算法是具有“生成+檢驗”的迭代過程的搜索算法[4]。其主要處理流程如下：

1） 首先對優(yōu)化問題的解進行編碼；

2） 適應(yīng)度函數(shù)，它主要依據(jù)優(yōu)化問題的目標(biāo)函數(shù)而定，是遺傳算法的關(guān)鍵；

3） 染色體的組合；

4） 變異。

1.2 BP神經(jīng)網(wǎng)絡(luò)模型及算法

1.2.1人工神經(jīng)網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Networks），是對人類的大腦系統(tǒng)的一個特定的描述，它是一個理論化的數(shù)學(xué)模型。它由大量的處理單元通過適當(dāng)?shù)姆绞交ヂ?lián)構(gòu)成，是一個大規(guī)模的非線性自適應(yīng)系統(tǒng)[5]。神經(jīng)網(wǎng)絡(luò)是通過對各種各樣的樣本，進行反復(fù)的學(xué)習(xí)和訓(xùn)練，并不斷的調(diào)整各連接弧上的權(quán)值以及節(jié)點的閾值，直到各個權(quán)值及閾值達到理想的穩(wěn)定狀態(tài)后，神經(jīng)網(wǎng)絡(luò)就能正確的反映網(wǎng)絡(luò)的輸入樣本對輸出樣本的映射關(guān)系[6]，它是通過這些不斷的訓(xùn)練來達到訓(xùn)練學(xué)習(xí)的目的的。

1.2.2 BP神經(jīng)網(wǎng)絡(luò)算法

BP神經(jīng)網(wǎng)絡(luò)算法，是非線性的連續(xù)變換函數(shù)的多層感知器的誤差向后傳播（ ErrorBack Propagation，BP）算法。其基本思想是利用輸出層的誤差來估算輸出層的直接前導(dǎo)層的誤差，如此循環(huán)下去，將獲得所有其他各層的誤差估計，形成將輸出端表現(xiàn)出的誤差沿著與輸入信號傳送相反的方向逐級向網(wǎng)絡(luò)的輸入端傳遞的過程[5]。目前此算法已經(jīng)在許多領(lǐng)域獲得了應(yīng)用[7]。BP神經(jīng)網(wǎng)絡(luò)算法能學(xué)習(xí)并存儲大量的輸入（input）-輸出（out）模式的映射關(guān)系，并且不需要在事前描述這種映射關(guān)系。BP算法的學(xué)習(xí)規(guī)則是使用最快速度的下降法，通過向后傳播，不斷的調(diào)整網(wǎng)絡(luò)各連接弧上的權(quán)值和節(jié)點的閾值，使得網(wǎng)絡(luò)的誤差平方和最小[3]。BP神經(jīng)網(wǎng)絡(luò)算法的網(wǎng)絡(luò)結(jié)構(gòu)包括輸入層，隱藏層和輸出層，如圖1所示。

圖1 BP算法的網(wǎng)絡(luò)結(jié)構(gòu)示意圖

假設(shè)有一個三層BP神經(jīng)網(wǎng)絡(luò)，并設(shè)其輸入層的第i個節(jié)點上的輸入向量ai；其隱含層上的第j個節(jié)點的輸入向量sj，輸出向量bj；其輸出層上的第k個節(jié)點的輸入向量ck，輸出向量ok；設(shè)其輸入層、隱層和輸出層的節(jié)點數(shù)分別為m、l、n。設(shè)輸入層和隱層節(jié)點間的聯(lián)接權(quán)Xij，隱層和輸出層節(jié)點間的聯(lián)結(jié)權(quán)Mjk，隱層和輸出層的各單元的輸出閾值分別是Hj和Ck，輸出層上的第k個節(jié)點的期望輸出值tk，若激活函數(shù)為f（x），則：

[sj=i=1maiωij-θjj=1，2，...，l]

[bj=f（sj）j=1，2，...，l]

[ck=j=1lbjvjk-γkk=1，2，...，n]

[ok=f（ck）k=1，2，...，n]

誤差函數(shù)為：

[E=12k（tk-ok）2]

BP神經(jīng)網(wǎng)絡(luò)算法將按照誤差減小的最快的方向，也就是負(fù)梯度的方向，來改變各層之間的聯(lián)接權(quán)，使得網(wǎng)絡(luò)慢慢地收斂。聯(lián)接權(quán)的增量的變化為：

[Δω=-η?E?ω]

其中[η]為學(xué)習(xí)率。

考慮到學(xué)習(xí)率的變化會影響網(wǎng)絡(luò)的性能[9]，所以在權(quán)值調(diào)整公式中增加一個動量項，達到微調(diào)權(quán)值修正量防止振蕩的效果[3]。通過增加動量項不僅僅考慮了誤差在梯度上的作用，同時也考慮了誤差曲面上變化的方向。

[Δwij（n+1）=ηδj（n+1）yi（n+1）+aΔwij（n）]

其中a是動量因子，一般a[η]（0，1）動量項反映了以前的調(diào)整經(jīng)驗，對下一時刻的調(diào)整起到一定阻尼作用。因此可以減小振蕩的趨勢，并促使聯(lián)接權(quán)值的變化方向為誤差曲面底部的平均方向。這不僅能夠降低網(wǎng)絡(luò)對誤差曲面上存在的局部的細(xì)節(jié)敏感性，還能夠在一定程度上緩解局部存在極小的問題。

1.3 遺傳算法對BP算法的優(yōu)化

利用遺傳算法能夠在全局搜索的優(yōu)勢，對BP算法的初始權(quán)值和閾值進行優(yōu)化。其流程圖如圖2所示：

圖2 遺傳算法對BP算法優(yōu)化流程圖

（1） 將BP算法的初始權(quán)值和權(quán)值優(yōu)化，表示為編碼；隨機產(chǎn)生一組串長為n的群體，為初始群體；

（2） 將編碼串譯碼成尋優(yōu)參數(shù)，并計算其對應(yīng)的目標(biāo)函數(shù)，從目標(biāo)函數(shù)中獲得各個體的適應(yīng)度值；

（3） 根據(jù)得到的各個體適應(yīng)度值，選擇產(chǎn)生適應(yīng)度值高的中間群體（父輩），并對其執(zhí)行復(fù)制、交叉和變異的操作，產(chǎn)生新的群體；

（4） 返回步驟（2），并反復(fù)執(zhí)行步驟（2）到步驟（4），使得群體能夠一代代的不斷的進化，直到滿足條件，輸出最優(yōu)個體解為止。

2基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)預(yù)測算法的應(yīng)用

股票市場是一個高度復(fù)雜的非線性動態(tài)系統(tǒng)[8]，股價的波動通常都具有很強的非線性的特征。股價的走勢及其波動受制于各種政治、經(jīng)濟、心理等諸多因素，以至于人們往往難以精確的預(yù)測股價的走勢。而股票的價格，卻是每一位投資者最關(guān)心的問題。自從有了股票交易市場，各種專家和投資資深者都在探索分析和預(yù)測股票價格走勢的方法，期望能夠準(zhǔn)確地對股價的走勢進行預(yù)測。

基于以上因素，本實驗選擇了2004年11月到2010年3月的股市交易數(shù)據(jù)作為實驗數(shù)據(jù)。對2004年到2010年2月份的數(shù)據(jù)做模型訓(xùn)練，并對2010年3月份的數(shù)據(jù)進行預(yù)測。本算法對股市交易數(shù)據(jù)中的收盤數(shù)據(jù)做了預(yù)測。從表（1）可以看出，該算法對3月份收盤數(shù)據(jù)的預(yù)測值與實際值的絕對誤差、相對誤差值都很小，精度很高。從圖（3）可以看出，預(yù)測數(shù)據(jù)與實際數(shù)據(jù)的趨勢很相近，幾乎重合。

表1 截取的5個樣本的預(yù)測結(jié)果

圖3 原始數(shù)據(jù)與預(yù)測數(shù)據(jù)趨勢圖

3 結(jié)論

本文針對非線性趨勢預(yù)測問題，在前人對BP算法存在的問題改進的基礎(chǔ)上，利用遺傳算法具有的良好全局搜索能力的特點，再次對BP神經(jīng)網(wǎng)絡(luò)算法進行了優(yōu)化，并將該算法應(yīng)用于對股市交易收盤數(shù)據(jù)的預(yù)測。經(jīng)過檢驗，證實了該方法的有效性。

參考文獻：

[1]曹星平，易東云，吳翊.基于神經(jīng)網(wǎng)絡(luò)的時間序列預(yù)測方法進展[J].電腦與信息技術(shù)， 1999（6）.

[2]胡冰蕾.基于遺傳優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)算法的短期負(fù)荷預(yù)測[J]. 供用電，2010（6）：42-44.

[3]任謝楠. 基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)的優(yōu)化研究及MATLAB仿真[D].天津師范大學(xué)，2014.

[4]王宏剛，錢鋒.基于遺傳算法的前向神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化[J]，2007，14（4）：387-190.

[5]蔣宗禮. 人工神經(jīng)網(wǎng)絡(luò)導(dǎo)論[M].北京：高等教育出版社， 2001.

[6]王成寶，任傳祥，尹唱唱，等. 基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)短時交通流預(yù)測[J]. 山東交通科技，2012（5）：5-7.

[7]Chen Hai-bo，Muller S G.Use of sequential learning for short- term traffic flow forecasting[J].TransportationResearch，2000，7（ 06） ： 11 - 13.