導語：如何才能寫好一篇循環(huán)神經網絡的優(yōu)點，這就需要搜集整理更多的資料和文獻，歡迎閱讀由公務員之家整理的十篇范文，供你借鑒。

篇1

 

目前國內外常用的信息安全風險評價模型主要由層次分析法(AHP)、基于概率統(tǒng)計的ALE算法，模糊綜合評價法等，也取得了一定的研究成果。但上述算法的基本思想是基于線性映射和概率密度分布的，即各風險指標與最終評價結果之間存在著線性關系[2]。然而，這種關系的存在是否科學至今也沒有得到準確的答復，同時這些方法在實施時雖然給出了定量計算的算法，但操作較為繁瑣，難以達到快速識別的要求。目前應用較廣泛的BP神經網絡評價算法存在著網絡參數(shù)難確定、收斂速度較慢且易陷入極小值等問題。為了解決上述問題，本文應用魚群算法對BP神經網絡進行了改進，結合信息安全評價實例進行了測試，并將測試數(shù)據與標準BP神經網絡進行了比較與分析，取得了理想的結果。

 

一、信息安全的概念

 

所謂的信息安全評估指的是通過分析信息系統(tǒng)所包含的資產總值、識別系統(tǒng)本身的防御機制以及所受到的危險性系數(shù)，利用數(shù)學模型綜合判斷出系統(tǒng)當前的風險值。信息安全風險評估主要包括三方面的內容，分別是資產總值識別、外部威脅識別以及脆弱性識別。資產總值識別是為了識別出系統(tǒng)所涉及的資產總值，外部威脅識別指的是識別當前狀態(tài)下系統(tǒng)受攻擊或威脅的程度，而脆弱性識別指的是系統(tǒng)自身的脆弱性程度。其中綜合考慮外部威脅以及內部脆弱性可以得出發(fā)生風險事件的危害性，而自然總值識別再加上脆弱性識別就可以得到系統(tǒng)的易損性，基于上述過程可以得到信息安全系統(tǒng)的風險值。

 

二、基本BP神經網絡算法

 

BP神經網絡算法是一種采用誤差反向傳播的多層前饋感知器。其特點是具有分布式的信息存儲方式，能進行大規(guī)模并行處理，并具有較強的自學習及自適應能力。BP網絡由輸入層(感知單元)、計算層(隱藏層)、輸出層三部分組成。輸入層神經元首先將輸入信息向前傳遞至隱含層節(jié)點，經過激活函數(shù)預處理后，隱層節(jié)點再將輸出信息傳送至輸出層得到結果輸出。輸入層與輸出層節(jié)點的個數(shù)取決于輸入、輸出向量的維數(shù)，隱含層節(jié)點個數(shù)目前并沒有統(tǒng)一的標準進行參考，需通過反復試錯來確定。根據Kolmogorov定理，具有一個隱層的三層BP神經網絡能在閉集上以任意精度逼近任意非線性連續(xù)函數(shù)，所以本文選擇單隱層的BP神經網絡。

 

三、人工魚群算法

 

3.1基本原理

 

通過對魚類覓食的觀察可知，魚類一般能自行或者尾隨其他同伴找到食物數(shù)量相對充足的地方。因此，一般魚類數(shù)量較多的地區(qū)即為食物相對充足的區(qū)域。人工魚群算法是指通過長期對魚類覓食行為的觀察，構造人工魚來模擬魚類的覓食、群聚、尾隨以及隨機行為，從而完成全局最優(yōu)值的尋找。算法所包含的基本過程如下：

 

覓食行為：魚類會利用視覺或嗅覺來感知水中食物濃度的高低，以此來選擇覓食的路線。

 

聚群行為：魚類一般會以群體形式進行覓食，以此來躲避天敵的傷害并以最大概率獲得準確的覓食路線。

 

尾隨行為：當群體中的某條魚或幾條魚尋找到食物后，其附近的其他同伴會立刻尾隨而來，其他更遠處的魚也會相繼游過來。

 

隨機行為：魚在水中的活動是不受外界支配的，基本上處于隨機狀態(tài)，這種隨機性有利于魚類更大范圍的尋找食物及同伴。

 

3.2 魚群算法優(yōu)化BP神經網絡的原理

 

BP神經網絡在求解最優(yōu)化問題時容易陷入局部極值，并且網絡的收斂速度較慢。魚群算法通過設定人工魚個體，模擬魚群在水中的覓食、尾隨和群聚行為，通過個體的局部尋優(yōu)，最終實

 

現(xiàn)全局尋優(yōu)。人工魚在不斷感知周圍環(huán)境狀況及

 

同伴狀態(tài)后，集結在幾個局部最優(yōu)點處，而值較大的最優(yōu)點附近一般會匯集較多的人工魚，這有

 

助于判斷并實現(xiàn)全局最優(yōu)值的獲取。因此用人工魚群算法來優(yōu)化BP神經網絡是一種合理的嘗試。

 

3.3 具體工作步驟

 

人工魚群算法用于優(yōu)化神經網絡時的具體步驟如下：

 

①設定BP神經網絡結構，確定隱層節(jié)點數(shù)目;

 

②設定人工魚參數(shù)，主要包括個體間距離、有效視線范圍以及移動步長等;

 

③人工魚進行覓食、群聚及尾隨行為來優(yōu)化BP神經網絡;

 

④通過設定的狀態(tài)參量，判斷是否達到目標精度;

 

⑤若達到精度要求則輸出網絡優(yōu)化權值，并執(zhí)行網絡循環(huán)，否則繼續(xù)改化參數(shù)進行優(yōu)化;

 

⑥輸出最終優(yōu)化參數(shù)并進行計算機網絡安全評價。

 

四、仿真實驗

 

將信息安全風險評估常用的3項評價指標的分值作為BP神經網絡的輸入，網絡的期望輸出只有一項，即安全綜合評價分值。目前用于信息安全風險評價的數(shù)據還很少，本文采用文獻[3]所列的15組典型信息安全單項指標評價數(shù)據，其中1-10項作為訓練，11-15項用于仿真。通過實際實驗分析，本文將權值調整參數(shù)α=0.1，閾值調整參數(shù)β=0.1，隱層神經元數(shù)目為6，學習精度ε=0.0001。網絡經過2000次訓練，收斂于所要求的誤差，人工魚群算法的相關參數(shù)： 種群大小為39;可視域為0.8;最大移動步長為0.6;擁擠度因子為3.782。然后對檢驗樣本及專家評價樣本進行仿真，結果如表1所示。可以看出，魚群神經網絡得到的仿真結果與期望值之間的平均誤差為0.001，而標準BP神經網絡為0.0052，所以魚群神經網絡的得到的仿真精度較高，取得了理想的實驗結果。

 

五、結論

 

本文將魚群算法和神經網絡結合起來對信息安全評價進行了研究，得到了如下幾個結論：

 

(1) 基于魚群算法優(yōu)化后的BP神經網絡具有收斂速度快、擬合精度高等優(yōu)點，克服了標準BP神經網絡收斂速度慢、容易陷入局部極小值的缺點。同時，優(yōu)化算法編碼過程簡單，并具有較強的魯棒性。

 

(2) 本文采用的實驗數(shù)據僅有15個，基于魚群算法優(yōu)化后的BP神經網絡精度有明顯提高，避免了由于樣本數(shù)量少造成的擬合精度低等缺點。

 

(3) 通過將標準BP神經網絡算法與魚群神經網絡算法進行對比發(fā)現(xiàn)，后者的收斂速度明顯加快并且自組織能力也有一定提高，在實際的工程建設中可以將其代替?zhèn)鹘y(tǒng)的BP神經網絡算法來進行信息安全的風險評估。

篇2

［關鍵詞］BP神經網絡農業(yè)工程農業(yè)管理農業(yè)決策

一、引言

采用神經網絡算法的信息處理技術，以其較強的計算性和學習性，現(xiàn)如今已經在各工程領域內得到了廣泛應用。隨著科技不斷的發(fā)展和研究的不斷深入，農業(yè)系統(tǒng)中采用的傳統(tǒng)分析和管理的方法已經不能滿足農業(yè)工程領域快速發(fā)展的需要。在農業(yè)系統(tǒng)中采用神經網絡技術可在一定程度上可彌補傳統(tǒng)方法的不足，現(xiàn)已成為實現(xiàn)農業(yè)現(xiàn)代化的一個重要途徑。神經網絡現(xiàn)已在農業(yè)生產的各個環(huán)節(jié)得到廣泛的應用，從作物營養(yǎng)控制、作物疾病診斷、產量預測到產品分級，顯示了巨大的潛力，并正以很快的速度與生產實際相結合。目前應用比較多的BP神經網絡，可通過學習以任意精度逼近任何連續(xù)映射，在農業(yè)生產與科研中展示出了廣闊的應用前景。

BP人工神經網絡方法。人工神經網絡是對生物神經網絡的簡化和模擬的一種信息處理系統(tǒng)，具有很強的信息存貯能力和計算能力，屬于一種非經典的數(shù)值算法。通常可分為前向神經網絡、反饋神經網絡和自組織映射神經網絡。BP神經網絡(Backpropugation Neura1 Network)是一種單向傳播的多層前向神經網絡，可通過連續(xù)不斷的在相對于誤差函數(shù)斜率下降的方向上計算網絡權值以及偏差的變化而逐漸逼近目標值，每一次數(shù)字和偏差的變化都與網絡誤差的影響成正比，并以反向傳播的方式傳遞到每一層，從而實現(xiàn)了神經網絡的學習過程。BP人工神經網絡的結構如圖所示，BP神經網絡可分為輸入層、中間層(隱含層)和輸出層，其中輸入和輸出都只有一層，中間層可有一層或多層。同層的網絡結點之間沒有連接。每個網絡結點表示一個神經元，其傳遞函數(shù)通常采用Sigmoid型函數(shù)。BP神經網絡相當于從輸入到輸出的高度非線性映射，對于樣本輸入和輸出，可以認為存在某一映射函數(shù)g，使得y0=g(xi)，i＝1，2，3，…，m，其中m為樣本數(shù)，xi為輸入樣本，yo為輸出結果。

BP神經網絡的一個顯著優(yōu)點就是其可進行自學習，能夠通過訓練得到預期的效果。其學習過程由正向傳播和反向傳播組成，神經網絡的輸入值經過非線性變換從輸入層經隱含層神經元的逐層處理傳向輸出層，此為正向傳播過程。每一層神經元的狀態(tài)將影響到下一層神經元狀態(tài)。如果輸出層得到的數(shù)值與期望輸出有一定的偏差，則轉入反向傳播過程。神經網絡通過對輸入值和希望的輸出值(教師值)進行比較，根據兩者之間的差的函數(shù)來調整神經網絡的各層的連接權值和各個神經元的閾值，最終使誤差函數(shù)達到最小。其調整的過程是由后向前進行的，稱為誤差反向傳播BP算法。具體學習過程如下：

（1)隨機給各個權值賦一個初始權值，要求各個權值互不相等，且均為較小的非零數(shù)。

（2)輸入樣本集中每一個樣本值，確定相應的網絡實際輸出值。

（3)計算實際的輸出值與相應的樣本集中的相應輸出值的差值。

（4)按極小誤差方式調整權值矩陣。

（5)判斷網絡誤差是否小于訓練前人為設定的一個較小的值，若小于，則跳出運算，此時的結果為神經網絡的最終訓練結果；若大于，則繼續(xù)計算。

（6）判斷最大迭代次數(shù)是否大于預先設定的數(shù)，若小于，返回（2）;若大于，則中止運算，其結果為神經網絡的最終訓練結果。

上述的計算過程循環(huán)進行，直到完成給定的訓練次數(shù)或達到設定的誤差終止值。

二、BP神經網絡在農業(yè)工程領域中的應用

1.在農業(yè)生產管理與農業(yè)決策中的應用

農業(yè)生產管理受地域、環(huán)境、季節(jié)等影響較大，用產生式規(guī)則完整描述實際系統(tǒng)，可能會因組合規(guī)則過多而無法實現(xiàn)。神經網絡的一個顯著的優(yōu)點就是其具有較強的自學習、自適應、自組織能力，通過對有代表性的樣本的學習可以掌握學習對象的內在規(guī)律，從而可以在一定程度上克服上述信息量大的問題。神經網絡在農業(yè)生產管理方面可用于農作物生長過程中對農作物生長需求進行預測，從而通過對養(yǎng)分、水分、溫度、以及PH值的優(yōu)化控制達到最優(yōu)的生長狀況。采用神經網絡預測算法的主要思想可描述為：（1）收集一定規(guī)模的樣本集，采用BP算法進行訓練，使網絡收斂到預定的精度；（2）將網絡權值矩陣保存到一存儲介質中，例如文本文件或數(shù)據庫中；（3）對于待預測數(shù)據的輸入部分，從存儲介質中讀出網絡連接權值矩陣，然后通過BP神經網絡的前向傳播算法計算網絡輸出，輸出結果既是預測出來的數(shù)值向量。如霍再林等針對油葵不同階段的相對土壤含鹽濃度對其產量的影響有一定的規(guī)律的現(xiàn)象，以油葵的6個成長階段的土壤溶液含鹽的相對濃度為輸入樣本，相對產量為輸出樣本，通過比較發(fā)現(xiàn)，訓練后的神經網絡能較好預測油葵產量，采用此方法可補充傳統(tǒng)模型的不足，為今后進一步的研究開辟了新路。

在農業(yè)決策方面，主要將農業(yè)專家面對各種問題時所采取的方法的經驗，作為神經網絡的學習樣本，從而采用神經網絡建立的專家系統(tǒng)將從一定程度上彌補了傳統(tǒng)方法的不足，將農業(yè)決策智能化。如何勇、宋海燕針對傳統(tǒng)專家系統(tǒng)自學習能力差的缺點，利用神經網絡可自我訓練的優(yōu)點，將神經網絡引入專家系統(tǒng)中。將小麥缺素時的田間宏觀表現(xiàn)，葉部、莖部、果實癥狀及引起缺素的原因這五個方面的可信度值作為神經網絡的輸入量，將農業(yè)專家診斷的結論作為輸出量，將這些數(shù)據作為神經網絡的訓練數(shù)據。實際應用表明此系統(tǒng)自動診斷的結果與專家現(xiàn)場診斷的結果基本一致，從而采用該系統(tǒng)能夠取代專家，實現(xiàn)作物的自我診斷，為農業(yè)管理方面提供了極大的幫助。如馬成林等針對于傳統(tǒng)施肥決策方法中非線性關系描述不足的問題，基于數(shù)據包分析和BP神經網絡，建立了施肥決策模型，應用表明，在有限的范圍內，模型預測結果較為合理，可以反映玉米的需肥特性。劉鋮等人提出采用神經網絡應用在農業(yè)生產決策中，以莜麥播種方式決策為例，通過對產生式規(guī)則的分析導出神經網絡輸入、輸出單元數(shù)，并通過多次試驗確定隱層單元數(shù)，用MATLAB方針結果表明，采用神經網絡作為農業(yè)生產決策的方法，取得了較好的效果。譚宗琨提出將基于互聯(lián)網環(huán)境下的神經網絡應用在玉米智能農業(yè)專家系統(tǒng)中，根據農作物發(fā)育進程分成若干個發(fā)育期，分別對各個發(fā)育期建立管理模型，依照作物各發(fā)育期進程時間間隔，由計算機系統(tǒng)自動選取相應的模型進行決策。應用分析的結果表明采用神經網絡的玉米智能專家系統(tǒng)已初步接近農業(yè)生產的實際。

2.在農產品外觀分析和品質評判

農產品的外觀，如形狀、大小、色澤等在生產過程中是不斷變化的，并且受人為和自然等復雜因素的影響較大。農產品的外觀直接影響到農產品的銷售，研究出農作物外觀受人為和自然的影響因素，通過神經網絡進行生產預測，可解決農產品由于不良外觀而造成的損失。如Murase 等針對西紅柿表皮破裂的現(xiàn)象，西紅柿表皮應力的增長與西紅柿果肉靠近表皮部分水分的增加有關，當表皮應力超過最大表皮強度時，將導致表皮破裂。用人工神經網絡系統(tǒng)，預測在環(huán)境溫度下的表皮應力，可通過控制環(huán)境變量來減少西紅柿表皮破裂所造成的損失。

在農業(yè)科研和生產中，農產品的品質評判大多是依賴于對農產品外觀的辨識。例如對果形尺寸和顏色等外觀判別果實的成熟度，作物與雜草的辨別，種子的外觀質量檢測。由于農業(yè)環(huán)境的復雜性和生物的多樣性，農產品的外觀不具有較確定的規(guī)律性和可描述性，單一采用圖像處理技術辨識農產品的外觀時不宜過多采取失真處理和變換，否則則增加圖像處理的復雜性，特征判別也相對困難。人工神經網絡由于其具有自學習、自組織的能力，比較適宜解決農業(yè)領域中許多難以用常規(guī)數(shù)學方法表達的復雜問題，與圖像處理技術相結合后，可根據圖像特征進行選擇性判別。采用此方法可以部分替代人工識別的工作，提高了生產效率，也有利于實現(xiàn)農業(yè)現(xiàn)代化。如Liao等將玉米籽粒圖像用34個特征參數(shù)作為神經網絡的輸入變量，將輸出的種粒形態(tài)分為5類，經過學習的神經網絡對完整籽粒分類的準確率達到93％，破籽粒分類的準確率達91％。

3.蔬菜、果實、谷物等農產品的分級和鑒定

在農業(yè)生產中，蔬菜、果實、谷物等農產品的分級和鑒定是通過對農產品外觀的辨識進行的。傳統(tǒng)的農產品外觀的辨識方法費時費力、預測可靠度很低，而且多采用人工操作，評價受到操作者主觀因素的影響，評判的精度難以保證。利用人工神經網絡技術結合圖像處理技術可部分代替以往這些主要依靠人工識別的工作，從而大大提高生產效率，實現(xiàn)農業(yè)生產與管理的自動化和智能化。

利用BP神經網絡技術對農產品果形尺寸和顏色等外觀評判，目前國內外已有不少成果用于實際生產中。何東健等以計算機視覺技術進行果實顏色自動分級為目的，研究了用人工神經網絡進行顏色分級的方法。分別用120個著色不同的紅星和紅富士蘋果作為訓練樣本集對網絡進行離線訓練。兩個品種的蘋果先由人工依據標準按著色度分成4級，對每一個品種分別求出7個模式特征值作為BP網絡的輸入，用訓練好的神經網絡進行分級。結果表明紅富士和紅星果實的平均分級一致率分別為94.2％和94.4％。劉禾等用對稱特征、長寬特征、寬度特征、比值特征等一系列特征值來描述果形。采用BP網絡與人工智能相結合，建立果形判別人工神經網絡專家系統(tǒng)。試驗水果品種為富士和國光。試驗表明系統(tǒng)對富士學習率為80％，對非學習樣本的富士蘋果的果形判別推確率為75％，系統(tǒng)對國光學習率為89％，對非學習樣本的國光蘋果果形判別系統(tǒng)的難確率為82％。

三、未來的發(fā)展方向

人工神經網絡的信息處理技術現(xiàn)已在農業(yè)工程領域內得到了迅速的應用，采用人工神經網絡算法的農業(yè)系統(tǒng)能夠從一定程度上改善控制效果，但此技術在農業(yè)范圍內還不夠成熟，有待于進一步的研究。今后科研的方向大體上可以從以下幾方面著手：

1.人工神經網絡算法的改進

人工神經網絡算法由于本身具有一定的缺點，從而采用人工神經網絡的算法的信息處理技術在應用過程中具有一定的局限性。在今后的研究中，可以從人工神經網絡方向著手，改進人工神經網絡算法，從而實現(xiàn)其在農業(yè)領域內更好的應用。近年來隨著模糊算法、蟻群算法等算法的相繼出現(xiàn)，將神經網絡與其他算法結合在一起已經成為了研究的熱門話題，也是未來算法研究的主要方向之一。

2.應用領域的擴展

人工神經網絡算法在農業(yè)工程方面現(xiàn)已得到了迅速的發(fā)展，擴展其在農業(yè)工程領域的應用范圍是未來的一個主要研究方向。人工神經網絡由于其具有自學習能力，可對農業(yè)系統(tǒng)的非線形特性進行較好的描述，采用人工神經網絡可解決傳統(tǒng)方法的不足，從而實現(xiàn)農業(yè)現(xiàn)代化。如何將神經網絡較好地引入到農業(yè)系統(tǒng)，解決農業(yè)工程中的部分問題，已是今后農業(yè)科研中的一個方向。

四、結束語

神經網絡作為一種人工智能范疇的計算方法，具有良好的自學習與數(shù)學計算的能力，可通過計算機程序進行模擬運算，現(xiàn)已廣泛用于模式識別、管理決策等方面。隨著計算機硬件和軟件的不斷發(fā)展與農業(yè)工程方面的研究的不斷深入，神經網絡將在農業(yè)管理、農業(yè)決策、農作物外觀分類、品質評判等方面充分發(fā)揮其自學習能力強，計算能力強的優(yōu)勢，通過對樣本數(shù)據的學習，神經網絡可較好地解決農作物生長過程中的作物分類、預測等非線形的問題。在農業(yè)工程領域內，神經網絡擁有廣闊的科研前景。

參考文獻:

[1]余英林李海洲:神經網絡與信號分析[M]. 廣州: 華南理工大學出版社,1996:45

[2]霍再林史海濱孔東等: 基于人工神經網絡的作物水―鹽響應初步研究[J].內蒙古農業(yè)大學學報，2003，24（3）：66～70

[3]何勇宋海燕:基于神經網絡的作物營養(yǎng)診斷專家系統(tǒng)[J]. 農業(yè)工程學報,2005,21（1）:110～113

[4]馬成林吳才聰張書慧等:基與數(shù)據包絡分析和人工神經網絡的變量施肥決策方法研究[J].農業(yè)工程學報,2006，20（2）:152～155

[5]劉鋮楊盤洪: 莜麥播種方式決策的BP神經網絡模型[J]. 太原理工大學學報，2006,37(5):119～121

[6]譚宗琨: BP人工神經網絡在玉米智能農業(yè)專家系統(tǒng)中的應用[J].農業(yè)網絡信息，2004(10):9～1

[7]Liao K,Li Z,Reid J F,et al.Knoledge-based color discrimination of corn kernels[J].ASAE paper[C].92～3579

篇3

關鍵詞 BP神經網絡 數(shù)據挖掘 最速下降法 函數(shù)逼近 模式識別

中圖分類號：TP391 文獻標識碼：A

1研究背景

BP神經網絡是一種多層的前饋網絡而且它的學習算法是一種誤差逆向傳播算法。BP神經網絡是目前研究最為成熟、應用最為廣泛的人工神經網絡模型之一。由于其結構簡單、可操作性強、具有較好的自學習能力、能夠有效地解決非線性目標函數(shù)的逼近問題等優(yōu)點，因此被廣泛應用于自動控制、模式識別、圖像識別、信號處理、預測、函數(shù)擬合、系統(tǒng)仿真等學科和領域中。

2 BP神經網絡原理

2.1概述

BP神經網絡是一種反向傳播誤差算法然后訓練的一個多層前饋網絡，簡稱為BP算法，它應用在已被開發(fā)出來的神經網絡中，到目前為止是應用最為廣泛的網絡模型之一。BP神經網絡可以學習并且存儲非常多的輸入模式與輸出模式之間的映射關系，卻無需在學習和存儲前事先揭示并描述輸入輸出間的映射關系的一種數(shù)學方程。它使用最速下降法，通過對輸出誤差的反向傳播，獲得不斷調整網絡連接權系數(shù)和閾值的信息，最終使神經網絡的平方誤差最小，達到期望要求。

2.2 BP神經網絡結構

BP神經網絡模型是一個三層網絡，它的拓撲結構可被劃分為：輸入層、輸出層、隱含層。其中輸入層與輸出層具有更重要的意義，因此它也可以為兩層網絡結構（把隱含層劃入輸入層或者把隱含層去掉）。每層都由許多簡單的能夠執(zhí)行并行運算的神經元組成，這些神經元與生物系統(tǒng)中的那些神經元非常類似，但其并行性并沒有生物神經元的并行性高。BP神經網絡是一個前饋網絡，因此它具有前饋網絡所具有的特性：相鄰兩層之間的全部神經元進行互相連接，而處于同一層的神經元不能進行聯(lián)接。

2.3 BP算法原理

BP神經網絡的基本原理是把一個輸入矢量經過隱含層的一系列變換，然后得到一個輸出矢量，從而實現(xiàn)輸入數(shù)據與輸出數(shù)據間的一個映射關系。輸入信息的正向傳播，以及輸出誤差的反向傳播，構成了 BP網絡的信息循環(huán)。BP算法根據輸出誤差來修改各神經元連接的連接權系數(shù)，其目的是使輸出誤差達到預計范圍內。BP網絡需要實際輸出與期望輸出之間的誤差來確定是否要修改神經元連接的連接權系數(shù)。其中，期望輸出便是該網絡意義上的“導師”。BP網絡具有對稱性的網絡結構，在輸出端的每一個處理單元基本上都具有一個相同的激勵函數(shù)。

BP算法由正向傳播和反向傳播兩部分組成。在正向傳播過程中，輸入信息從輸入層經隱層單元處理后，傳至輸出層。每一層神經元的狀態(tài)只影響下一層神經元的狀態(tài)。如果在輸出層得不到期望輸出，就轉為反向傳播，即：把誤差信號沿連接路徑返回，并通過修改各層神經元之間的連接權值，使誤差信號最小。

具體的算法步驟可概括如下：

第一步，選取初始權值、閾值。

第二步，重復下述過程直至滿足性能要求為止：

（1）對于學習樣本P=1到N

①計算每層各節(jié)點j的輸出yj，netj和的值（正向過程）；

②對各層從M層到第二層，對每層各節(jié)點反向計算%]j（反向過程）；

（2）修改權值

具體推導過程見參考文獻4。

3基于BP神經網絡設計的實例

3.1函數(shù)逼近

我們設計一個簡單的BP網絡，實現(xiàn)對非線性函數(shù)的逼近。通過改變該函數(shù)的參數(shù)以及BP網絡隱層神經元的數(shù)目，來觀察訓練時間以及訓練誤差的變化時間。將要逼近的非線性函數(shù)設為正弦函數(shù)，其頻率參數(shù)k可以調節(jié)。假設頻率參數(shù)k=2，繪制此函數(shù)的曲線。如圖1。

（1）網絡建立：用MATLAB編程建立BP網絡結構，為二層BP神經網絡。隱層神經元數(shù)目n 可以改變，暫時設為n=10，輸出層有一個神經元。網絡訓練采用Levenberg-Marquardt算法trainlm。

分析：因為建立網絡時，權值和閾值的初始化是隨機的，所以網絡輸出結果很差，根本達不到函數(shù)逼近的目的，并且每次運行的結果也有所不同。

（2）網絡訓練：在MATLAB里應用train（）函數(shù)對網絡進行訓練之前，需要預先設置訓練參數(shù)。將訓練時間設置為50，訓練精度設置為0.01，其余參數(shù)用默認值。

（3）網絡測試：對于訓練好的網絡進行仿真，繪制網絡輸出曲線，并與原始非線性函數(shù)曲線相比較，結果如下圖2。

由此可看出，得到的曲線和原始的非線性函數(shù)曲線很接近。這說明經過訓練后，BP網絡對非線性函數(shù)的逼近效果非常好。

（4）討論分析：改變非線性函數(shù)的頻率和BP網絡隱層神經元的數(shù)目，對于函數(shù)逼近的效果有一定的影響。網絡非線性程度越高，對BP網絡的要求越高，則相同的網絡逼近效果要差一些；隱性神經元的數(shù)目對于網絡逼近效果也有一定的影響，一般來說隱形神經元數(shù)目越多，則BP網絡逼近非線性函數(shù)的能力越強，同時網絡訓練所用的時間相對來說也要長一些。

參考文獻

[1] 閆志忠.BP神經網絡模型的改進及其應用研究[D].吉林大學，2003.

[2] 李友坤.BP神經網絡的研究分析及改進應用[D].安徽理工大學，2012.

[3] 吳昌友.神經網絡的研究及應用[D].東北農業(yè)大學， 2007.

篇4

摘要：針對電子政務績效評估不完善及BP神經網絡的收斂速度慢，需要較長的訓練時間的缺陷，本文在前人研究的基礎上建立了基于平衡計分卡的指標體系，針對BP神經網絡的缺陷，將粒子群優(yōu)化算法應用到模型中，改進了BP神經網絡模型，提出了基于粒子群優(yōu)化的BP神經網絡原理及求解方法，并通過實際的例子對建立的模型進行了訓練和驗證。通過本文的研究，為相關部門開展電子政務績效的評估提供了一定的參考依據，對電子政務的發(fā)展起到了一定的積極作用。

關鍵詞 ：電子政務；績效評價；平衡計分卡；神經網絡；粒子群算法

引言

20世紀60年代中后期，一些歐美的發(fā)達國家對政府進行改革，并強調政府行政的效率，為了衡量政府行政好壞，績效評價成為了一項快速發(fā)展起來的政治活動。1992年美國政府為了進一步完善電子政務績效的評價體系，頒布了相關的法律法規(guī)，通過立法進一步明確了電子政務績效評價的概念和制度，而亞歐一些國家政府也效仿美國，迅速引進了相關的評價制度和工具。電子政務績效評價指引了電子政務發(fā)展的方向，為政府開展電子政務提供了信息來源的平臺，為了能夠保證電子政務順利的開展，我們就需要建立一個有效的、全面的、較為完善的電子政務績效評價體系。本文在前人研究的基礎上建立了基于平衡計分卡的指標體系，針對BP神經網絡的收斂速度慢，需要較長的訓練時間的缺陷，將粒子群優(yōu)化算法應用到模型中，改進了BP神經網絡模型，提出了基于粒子群優(yōu)化的BP神經網絡原理及求解方法，并通過實際的例子對建立的模型進行了訓練和驗證。

1、基于平衡計分卡的電子政務績效評價指標體系的設計

結合定量分析和定性分析的方法來建立基于平衡計分卡的電子政務績效評價指標體系，并不斷的修正平衡計分卡的機構關系，不斷的革新指標內容，從而建立電子政務績效評價框架，修正后的電子政務績效評價BSC框架主要從成本效益、服務對象、內部運營及學習與發(fā)展四個維度提出了相應的問題，如圖1所示。

根據前面的分析，基于BSC的電子政務績效評價指標體系見表1，指標數(shù)據的獲取和計算方法見表1。

3、基于PSO-BP神經網絡的電子政務績效評價模型

3.1 數(shù)據的預處理

由于數(shù)據的獲取難度較大，因此本文借用了相關文章的數(shù)據[4]，選取了湖南省十一個省市的數(shù)據作為研究的樣本，為了確保輸入數(shù)據（包括訓練以及將來要預測的數(shù)據）在比較接近的范圍里，我們需要對數(shù)據進行歸一化處理。本文的數(shù)據主要包括輸入數(shù)據和期望輸出數(shù)據，輸入數(shù)據主要是湖南省十一個市的電子政務指標數(shù)據，包括16個輸入維度，輸出的是對電子政務系統(tǒng)的評價結果，主要包括：好、較好、一般、較差、差五個結果。利用下面的線性函數(shù)轉換方法完成數(shù)據的歸一化：

公式中的P為歸一化處理后的數(shù)據，P1為原始數(shù)據，P1min為原始數(shù)據中的最小值，P1max為原始數(shù)據中的最大值。

通常情況下，用于測試的輸入數(shù)據所對應的輸出數(shù)據不是量化數(shù)據，比如本文中所提到的好、較好、一般、較差、差五個結果。因此本文的輸出數(shù)據主要使用的是專家評價得出的分數(shù)，來對電子政務績效做出評價，分數(shù)評價結果的對應關系為：1-3為差，3-5為較差，5-7為一般，7-9為較好，9以上為好。經過歸一化處理過的指標數(shù)據和通過專家評價得出的評價結果如表2所示。

3.2 輸入層、輸出層及隱層節(jié)點的設計

由于一個三層的前向網絡具有以任意精度逼近任意一個非線性函數(shù)的能力，因此，只需構造一個輸入層、一個隱層和一個輸出層的3層神經網絡。本文中的電子政務績效評價指標體系共包括成本效益、服務對象、內部運營及學習與發(fā)展四個指標維度，然后又將其細分成16項三級指標，也就是說神經網絡輸入層的維度為16，即輸入層神經元個數(shù)Pn=16。輸出層輸出的結果是我們對電子政務系統(tǒng)的評價，而我們把評價結果好、較好、一般、較差、差作為網絡的唯一輸出，因此，輸出層神經元個數(shù)為r=1。

1988年Cybenko[11]大量的研究表明在三層神經網絡中一個隱藏層就可以實現(xiàn)任意分類的問題，以任何精度來實現(xiàn)任意非線性的輸入和輸出的映射。本文將隱藏層設置為一層。隱藏層節(jié)點的選擇也是一個復雜的問題，如果隱層節(jié)點數(shù)比較少的話，則有可能導致網絡訓練者性能很差；如果選擇較多的隱層節(jié)點數(shù)，雖然能夠降低系統(tǒng)誤差，但是會使網絡訓練的時間增加，而且也極易使訓練陷入局部極小點而得不到最優(yōu)點，最終會導致訓練出現(xiàn)“過擬合”的現(xiàn)象。本文采用的計算公式為：

其中n為輸入層節(jié)點數(shù)， m為輸出層節(jié)點數(shù)，a 為1 ~ 10 之間的常數(shù)。

3.3 基于BP神經網絡的電子政務績效評價模型的設計

利用BP神經網絡對電子政務績效進行評價的主要步驟有：

第一步：根據電子政務發(fā)展過程中的相關影響因素，選取合適的電子政務績效評價的指標數(shù)據，利用相關的算法對指標數(shù)據進行標準化處理[5]，將處理后的指標數(shù)據x1，x2，x3，……，xn作為輸入BP神經網絡的輸入值。

第二步：在輸入層輸入數(shù)據以后，數(shù)據會在神經網絡中正向傳播，數(shù)據在隱藏層進行一層一層的處理，然后會把處理后的數(shù)據傳向輸出層，輸出層得到的數(shù)據就是實際的輸出值Y。

第三步：當輸出層得到實際的輸出值以后，會和期望值進行比較，如果輸出值和期望值不相等，那么會根據相關的公式計算出誤差，然后把誤差信號按照原來的路徑進行反向的傳播，通過不斷的循環(huán)的傳播來調整隱藏層神經元的權重，從而使誤差越來越小。

第四步： 不斷的重復前面的第二步和第三步，一直到誤差可以小到某個閾值，然后停止訓練和學習，只有選擇的樣本足夠多時，神經網絡的訓練才更精確，輸入的樣本數(shù)據不同，得到的輸出向量也會不同，當所有的數(shù)據樣本的數(shù)據值和期望值誤差最小的時候，綜合評價結果更為接近，神經網絡的權重值Wij就是BP神經網絡通過訓練和自適應的學習得到的一個內部的表示。

對選取的樣本進行訓練以后，我們就可以利用BP神經網絡的訓練模型對電子政務績效進行評價，而且可以對大規(guī)模的電子政務進行績效評價，因為神經網絡具有一定魯棒性[6]，那么會導致出現(xiàn)主觀綜合評價值在一定的程度會與實際值存在少量偏差，但是這個偏差不會影響評價結果。

3.4 應用粒子群算法優(yōu)化BP神經網絡模型

1995年兩位美國學者對鳥群的群體遷徙和覓食的過程進行了模擬，從而提出了一種智能的優(yōu)化算法-粒子群優(yōu)化算法[7]（Particle Swarm Optimization，PSO），隨著近年來粒子群算法的不斷應用，已經逐漸成為一種新的優(yōu)化算法。

PSO算法的速度和位置迭代公式為：

其中w為慣性權值，粒子群算法通過引入慣性全職可以實現(xiàn)對全局和局部尋優(yōu)的能力的調整。合適的慣性權值可以避免陷入局部最優(yōu)和遠離全局最優(yōu)。這里的慣性權值隨迭代次數(shù)線性遞減以保證收斂，計算公式為：

其中wmax為初始設置的一個最大的慣性權重值，將其設置成0.95；wmin為初始設置的最小慣性權重值，這里設為0.25；tmax為種群最大的迭代次數(shù)，這里將其設置成200次，ti為1:200的循環(huán)迭代。

粒子相繼兩次位置的改變取決于粒子當前位置相對于其歷史最佳位置和群體歷史最佳位置的變化。因此，若把網絡的權值看作是PSO算法中粒子的位置，則在網絡訓練過程中，相繼兩次權值的改變可視作粒子的位置的改變。因而類比公式3，網絡的權值改變量計算公式為：

其中式中，wkj(b)和wji(b)個體最優(yōu)的網絡權值；wkj(g)和wji(g)為群體最優(yōu)的網絡權值。

4、實例分析

首先利用基本的BP神經網絡對選取的樣本進行訓練，這里選取了長沙、株洲、婁底、岳陽、永州、郴州、懷化、湘西等八個城市作為訓練樣本，訓練之前要對訓練參數(shù)進行基本設置，由于輸入層和輸出層節(jié)點數(shù)分別為16和1，那么隱藏層節(jié)點數(shù)可以選擇5-14個，利用MATLAB經過多次實驗，最終將隱藏層節(jié)點數(shù)確定為12個最為合適，誤差相對較小。

利用PSO優(yōu)化過的BP神經網絡對十一個市的樣本進行訓練和測試，為了保證測試結果的一致性，這里我們依然選取以下八個城市作為訓練的樣本：長沙、株洲、婁底、岳陽、永州、郴州、懷化、湘西，然后利用剩余的城市作為測試樣本。訓練過程如圖3所示，得到的實際輸出和期望輸出如表4所示。

優(yōu)化后的數(shù)值更加接近期望值，而且誤差會比PSO優(yōu)化前的BP神經網絡的訓練更小，優(yōu)化前后的測試的結果對比如表5所示。

本文在結合了BP神經網絡和粒子群優(yōu)化算法建立了PSOBP電子政務績效評價模型，取得了較為滿意的結果，然而本課題依然遇到了諸多的困難和問題，比如：數(shù)據獲取困難；另外本文算法中的許多參數(shù)都是用了默認值，沒有考慮到優(yōu)化前后初始權值和閾值的不一致性是否會影響結果，這也同樣成為了后續(xù)的研究重點。

參考文獻：

[1] 曹振飛.基于績效棱柱的電子政務績效評估研究[D].北京：北京交通大學，2010

[2] 王杰華.海關電子政務績效評估體系構建[D].上海：復旦大學，2010

[3] 彭賡，陳杰.基于相關者理論的電子政務績效評估體系[J].管理現(xiàn)代化,2008,15(1):37-39

[4] 侯衛(wèi)真.電子政務[M].北京：電子工業(yè)出版社，2013[5] Duncan Aldrich, John Carlo Berrot, Charles R. McClure.E-Government: initiatives, developments and issues [J].Government Information Quarterly. 2002,(19): 349-355

[6] 叢爽.面向MATLAB工具箱的神經網絡理論與應用[M].北京：中國科學技術大學出版社，2003

[7] 范娜，云慶夏. 粒子群優(yōu)化算法及其應用[J].信息技術，2006，2(1):53-57

[8] 呂培超.電子政務績效評估研究[D].廈門：廈門大學，2009

[9] 徐強.電子政務流程再造績效評估理論與實證研究[D].南京:南京大學,2010

[10] 張澤旭.神經網絡與MATLALB仿真[D].哈爾濱：哈爾濱工業(yè)大學,2011

篇5

關鍵詞:學生綜合素質評價;BP神經網絡;算法設計

中圖分類號:TP311文獻標識碼:A文章編號:1009-3044(2009)24-6786-03

BP neural Network Based on the Overall Quality of the Student Evaluation of Algorithm Design

ZHANG Wen-sheng

(Xiamen Gongshang Lvyou Xuexiao, Xiamen 3610012,China)

Abstract: In this paper, the overall quality of the students a variety of evaluation methods carried out in-depth analysis to explore the use of BP neural network theory to evaluate the feasibility of the overall quality, and BP neural network based on the overall quality of the student evaluation of algorithm design.

Key words: evaluation of the overall quality of students; BP neural network; algorithm design

學校德育教育是提高學生綜合素質的重要一環(huán),在學校工作中占有舉足輕重的地位。德育涉及大量定性和定量的數(shù)據處理,為了體現(xiàn)其科學性和公平性,采用先進的計算機技術進行學生綜合素質量化評估勢在必行。

1 問題的提出

據調查,目前在學校里對學生素質評價的方法,主要有以下幾種:

1) 定性描述法

在學期或學年結束時,班主任根據學生在班級、學校和社會活動中的行為表現(xiàn),運用文字對學生的綜合素質進行描述,作為對學生的評價。這種方法在評價學生綜合素質時起過一定的作用,但是,由于教師對學生綜合素質評價的內容不明確,要求不統(tǒng)一,帶有一定的主觀片面性和模糊性。

2) 等級劃分法

班主任根據平時對學生的觀察和了解,對學生的綜合素質行為劃分出優(yōu)、良、中、差四個等級。它只能說明每個學生綜合素質發(fā)展的程度,在班集體中所處的地位,但缺乏具體內容,學生對于自己或他人的優(yōu)點和缺點、以及個人今后的努力方向都不明確。

3) 自我總結法

這種方法是以學生為主,在教師的指導下總結自己的收獲,存在的問題、以及今后的努力方向,并寫成書面材料,然后寫在操行表的自我總結欄內。這種方法是以學生的自我評價為主,它對于提高學生的自我評價能力,具有一定的促進作用。但是,由于沒有老師和同學們參加評價,其評價結果缺乏客觀性。

4) 小組評議法

是以班級小組評議為主。通過開評議會的形式,對全組成員分別進行評議,肯定成績,提出缺點,最后把大家的意見集中起來,作為對學生的評價結果。它具有一定的客觀性,可是,沒有教師參加評議,影響了評價結果的可信度。

上述各種方法的都有一定的長處,也有一定的缺點。例如,對學生的綜合素質的結構,沒有明確統(tǒng)一的規(guī)定和具體要求;不能同時吸收各方面的意見參加評價;沒有制定較為符合需要的綜合素質量表和采用科學的測量手段等等。所以,評價的結果往往帶有主觀片面性,評語內容的不確定性,以及處在同一等級的同學之間存在差異的模糊性。于是最近又提出了對學生綜合素質定量進行測量和評價。

5) 定量分數(shù)法

將構成學生綜合素質的各種因素數(shù)量化,并制定出綜合素質量表。在具體的進行測量和評價時,把學生綜合素質所含每種因素的發(fā)展程度分為優(yōu)、良、中、差四個等級,每個等級分別對應一定的標準值。對不同因素確定不同的權重大小,再綜合學生每個因素所取得的標準值,最后得出學生的綜合素質分。

用定量的方法對學生的綜合素質發(fā)展程度進行評價時,不同因素需要確定不同的權重大小。權重的大小對評估結果十分重要,它反映了各指標的相對重要性。由于對不同的因素的權重是人為給定的,而學生綜合素質的各項因素對學生的整體素質存在不可確定的影響程度,因些在對學生的測量和評定過程中必然受到主觀因素及模糊隨機性的影響。并且這種方法需要消耗大量的人力和時間。

為了探討這個問題,我們根據BP神經網絡的基本概念和原理,用神經網絡自我學習的方法,對中學生綜合素質進行測量和評價。BP神經網絡能利用經驗樣本對神經網絡的訓練,達到神經網絡的自我學習,在網絡中自動建立一個多輸入變量與輸出變量間的非線性映射過程,無需建立具體的數(shù)學模型和規(guī)則,可以處理那些難以用模型或規(guī)則描述的過程或系統(tǒng)。神經網絡具有自組織、自學習、自適應的特點,能通過連接權重的不斷調整,克服權重確定的困難,弱化人為因素,自動適應信息、學習新知識,最終通過學習訓練對實際學習樣本提出合理的求解規(guī)則,對學生的綜合素質的整體評定具有十分重要的意義。首先我們來了解BP神經網絡的基本原理。

2BP神經網絡的基本原理

1) 神經元網絡基本概念

神經網絡是單個并行處理元素的集合,從生物學神經系統(tǒng)得到啟發(fā)。在自然界,網絡功能主要由神經節(jié)決定,可以通過改變連接點的權重來訓練神經網絡完成特定的功能。如圖1所示。這里,網絡將根據輸出和目標的比較而進行調整,直到網絡輸出和目標匹配。

2) 神經元網絡結構

圖2所示為一個單標量輸入且無偏置的神經元。

神經元輸出計算公式為:a=f(wp+b)。神經元中的w和b都是可調整的標量參數(shù)?？梢赃x擇特定的傳輸函數(shù),通過調整權重 和偏置參量 訓練神經網絡做一定的工作,或者神經網絡自己調整參數(shù)以得到想要的結果。

3) BP結構及算法描述

在實際應用中,神經網絡用得最廣泛的是反向傳播網絡(BP網絡),典型的BP網絡是三層網絡,包括輸入層、隱含層和輸出層,各層之間實行全連接。

BP網絡是采用Widrow-Hoff學習算法和非線性可微傳輸函數(shù)的多層網絡。網絡的學習過程由正向和反向傳播兩部分組成。在正向傳播過程中,每一層神經元的狀態(tài)只影響到下一層神經元網絡,如果輸出層不能得到期望輸出,就是實際輸出值與期望輸出值之間有誤差,那么轉入反向傳播過程,將誤差信號沿原來的連接通路返回,通過修改各層神經元的權值,逐次地向輸入層傳播去進行計算,再經過正向傳播過程,這兩個過程的反復運用,使得誤差信號最小。實際上,誤差達到人們所希望的要求時,網絡的學習過程就結束了。

4) 反向傳播算法

反向傳播學習算法最簡單的應用是沿著性能函數(shù)最速增加的方向一梯度的負方向更新權重和偏置。這種遞歸算法可以寫成:

xk+1=xk-ak*gk

這里xk是當前權重和偏置向量,gk是當前梯度,ak是學習速率。在神經元中,學習速度又稱為“學習速率”,它決定每一次循環(huán)訓練中所產生的權值變化量(即該值的存在是神經元網絡的一個必須的參數(shù))。大的學習速度可能導致系統(tǒng)的不穩(wěn)定,但小的學習速度將會導致訓練較長,收斂速度很慢,通常情況下取值在0-01～0,8之間。

3 基于BP神經網絡的學生綜合素質量化評估模型

從上述對神經元網絡基本概念的研究,我們可以看出BP神經網絡主要根據所提供的數(shù)據,通過學習和訓練,找出輸入與輸出之間的內在聯(lián)系,從而求取問題的解,而不是完全依據對問題的經驗知識和規(guī)則,因而具有自適應功能,這對于弱化權重確定中的人為因素是十分有益的;其次能夠處理那些有噪聲或不完全的數(shù)據,具有泛化功能和很強的容錯能力;由于實際對學生量化評估往往是非常復雜的,各個因素之間相互影響,呈現(xiàn)出復雜的非線性關系,人工神經網絡為處理這類非線性問題提供了強有力的工具。因此與其它評定方法相比,基于神經網絡的評價方法越來越顯示出它的優(yōu)越性。結合學校對學生進行綜合素質評估考核的具體問題,我們提出以下設計。

3.1量化評估內容的確定

1) 確定學生的綜合素質結構

學生的綜合素質結構,主要是根據一定歷史階段的社會要求、學校對學生的傳統(tǒng)要求,以及各個不同年齡階段學生心理和生理發(fā)展的特征來確定的,它具有一定的社會性、科學性、可行性。以教育部提出的職業(yè)學校學生發(fā)展目標為依據,評定內容包括:道德品質與公民素養(yǎng)、學習能力、交流與合作能力、運動與健康、審美與表現(xiàn)、職業(yè)技能等6個層次。每個層次又包括各種因素,各層次和因素之間又是相互聯(lián)系和相互促進的,它既反映了社會的、學校的具體要求,又符合學生綜合素質發(fā)展和形成的規(guī)律。當然,在實際評價學生中,可以根據學校的實際特點進一步確定各要素,進一步構成學生綜合素質評價的綜合評價指標體系。

2) 學生綜合素質評價的結構設計

用BP神經網絡進行學生綜合素質評價結構的設計如圖3所示。對學生的綜合素質進行量化評估時,從輸入層輸入評價學生綜合素質的n個評價指標因素信息,經隱含層處理后傳入輸入層,其輸出值y即為學生評估結果。這n個評價指標因素的設置,要考慮到能符合學生綜合素質發(fā)展和形成的規(guī)律,能全面評價學生的綜合素質狀況。

網絡結構的參數(shù)選擇十分重要,由于輸入層與隱含層神經元個數(shù)的增加會增加網絡的表達能力,不僅會降低系統(tǒng)的性能,同時也會影響其收斂速度和增加噪聲干擾。所以首先必須確定輸入層神經元的數(shù)目。為使模型即有理論價值又有可操作性,本例對應于對學生綜合素質考核結構的六個因素,本文采用6個輸入神經元,分別為道德品質與公民素養(yǎng)、學習能力、交流與合作能力、運動與健康、審美與表現(xiàn)、職業(yè)技能等評價指標。由于目前隱單元數(shù)尚無一般的指導原則,為了兼顧網絡的學習能力和學習速度,隱含層神經元的個數(shù)選擇采用試算法,在網絡訓練過程中進行調整。筆者首先選定15,用訓練樣本來學習,然后減少隱含層單元數(shù)后再進行學習,通過觀察訓練誤差變化的大小來調整隱單元數(shù)。其原則是:若在減少隱單元數(shù)進行訓練時過程平衡(即逐步收斂并達到較小的誤差)且誤差無顯著增加,則說明減少隱單元數(shù)是合適的;否則表明隱單元數(shù)不宜減少,而應增加隱單元數(shù)直到滿意為止。選擇一個輸入神經元為學生綜合素質最終評價結果,分別以0、0,5、1對應于學生評議等級的優(yōu)、良、中三種不同的評價結果。經過多次實驗,最后得到適宜的網絡模型為6-4-1網絡模式。

3.2 量化評估模型

1) 指標體系的規(guī)范化處理

根據神經網絡計算規(guī)則,為了保證輸出在線性部分,不到兩端去,應保證輸入輸出在0-1之間,反傳達時也一樣,輸出應在0~1之間。因此要將原始數(shù)據歸一預處理,變換為[0,1]區(qū)間的數(shù)值,得到規(guī)范化數(shù)據,作為輸入輸出節(jié)點的樣本數(shù)據。原始數(shù)據采用我校高一年一個班級的50名學生的學生綜合素質各項指標因素樣本數(shù)據,將實際數(shù)據分為兩組:前40名學生的各項指標因素成績樣本數(shù)據作為學習樣本,后10名學生的成績數(shù)據作為測試樣本。

2) 學習算法

本模型采用6-4-1BP神經網絡結構,其中輸入層為6個指標值和一個閾值。模型初始化時對所有的連接權賦予(0,1)上分布的隨機數(shù),閾值取1。權值的修正依據帶慣性因子的delta規(guī)則。根據多次試驗的結果,其中,慣性因子α=0.075,學習率η=0.85,將樣本數(shù)據40組為一次循環(huán),每次循環(huán)記錄40組樣本中最大的學習誤差。經過多次的學習,最后觀察網絡輸入與期望輸出的相對誤差,當誤差小于0.005時,學習結束?？梢缘玫饺绻龃髽颖镜膫€數(shù),精度還會進一步提高。

本文探討了神經網絡在學生綜合素質評價上的應用方法,可取得較為理想的結果,它可以解決用傳統(tǒng)統(tǒng)計方法不能或不易解決的問題。但是由于它是一種黑盒方法,無法表達和分析評估系統(tǒng)的輸入與輸出間的關系,因此也難于對所得結果作任何解釋,對求得的結果作統(tǒng)計檢驗;再者,采用神經網絡作評價系統(tǒng)時,由沒有一個便于選定最合適的神經網絡結構的標準方法,只能花大量時間采用湊試法,從許多次實驗中找出“最合適”的一種;還有樣本數(shù)據需要足夠的多,才能得到較為理想的結果。

參考文獻:

[1] 高長梅,趙承志,白昆榮.學校德育工作全書(上)[M].北京:人民日報出版社,2005.

[2] 聞新,周露,李翔,張寶偉.MATLAB神經網絡仿真與應用[M].北京:科學出版社,2008.

[3] J.P.Marques de sa,Pattern Recognition―Concepts,Methods and Applications[M].北京:清華大學出版社,2006.

篇6

（中國蚌埠汽車士官學校裝備技術系，安徽 蚌埠 233000）

【摘　要】神經網絡具有并行處理能力、自學習能力，自適應能力和可以逼近任意的非線性函數(shù)等特點，是解決非線性、多變量、不確定的復雜診斷問題的一條有效的途徑，神經網絡的這些特點使得它在故障諺斷領域應用越來越廣泛。本文利用LM改進學習算法訓練所建立的BP神經網絡，然后利用訓練好的神經網絡進行柴油機故障診斷，得出診斷結果，使故障診斷具有人工智能化。

關鍵詞 BP神經網絡；優(yōu)化；故障診斷；仿真

1　BP神經網絡

BP神經網絡是多層前饋神經網絡，它的名字源于網絡權值的調整規(guī)則，采用的是后向傳播學習算法，既BP算法。BP網絡是目前應用最廣的神經網絡之一，BP網絡是由一個輸人層，一個或多個隱層以及一個輸出層組成，如圖1所示，上下層之間實現(xiàn)全連接，而每層神經元之間無連接。網絡的學習過程包括正向傳播和反向傳播。在正向傳播進程中，輸入信息從輸入層經隱層加權處理傳向輸出層，經功能函數(shù)運算后得到的輸出值與期望值進行比較，若有誤差，則誤差反向傳播，沿原先的連接通道返回，通過逐層修改各層的權重系數(shù)，減小誤差。隨著這種誤差逆向傳播修正的不斷進行，網絡對輸入模式響應的正確率也不斷上升。

研究表明，帶有兩個隱層的BP網絡能形成任何形狀的決策區(qū)域。當BP網用作非線性映射時，允許網絡實現(xiàn)輸入到輸出之間的任意映射關系，即可建立故障征兆空間與故障空間的某種映射關系，每當給出一個實測的故障征兆矢量，網絡即能通過狀態(tài)演化（前傳和聯(lián)想）收斂到與其最相近的模式，從而診斷其故障原因。典型的基于神經網絡模式識別的故障診斷系統(tǒng)結構如圖2所示。

2　BP神經網絡的不足

BP神經網絡模型雖然在各方面都具有重要意義，而且應用也很廣泛，但它也存在一些不足。從數(shù)學上看，它是一個非線性優(yōu)化問題，不可避免的存在局部極小點，學習算法的收斂速度慢，網絡隱層單元數(shù)選取帶有很大的盲目性和經驗性，新加入的樣本要影響已學完的樣本等。

具體來說，BP算法對樣本進行逐個學習時，常會發(fā)生“學了新的，忘了舊的”的遺忘現(xiàn)象。故此值得對樣本不斷循環(huán)重復，這樣一來其學習時間必然延長。為了克服這個缺點，將逐個學習改為批量學習，即對所有樣本都進行學習后將其誤差相加，然后用這個誤差之和來對網絡的權系數(shù)進行調整。但是這樣一來，在誤差求和時，這些誤差有可能互相抵消，這就降低了算法的調整能力，也就是延長了學習的時間。所以，按批量學習其收斂速度也會很慢。同時，批量學習方法還有可能產生新的局部極小點。比如各誤差不為零，但其總和為零，這種情況發(fā)生后算法就穩(wěn)定在這個狀態(tài)上，造成新的局部極小點。

3　BP神經網絡學習算法的優(yōu)化

為了提高神經網絡算法的學習效率及穩(wěn)定性，在反向傳播（BP）算法中可以引入基于非線性最小二乘法的Levenberg-Marquart（LM）最優(yōu)算法，替代原BP算法中的梯度下降法尋找最佳網絡連接權值。

LM算法是一種優(yōu)良的非線性最小二乘優(yōu)化方法，這種方法的一般模型為：

LM算法是二階收斂的Newton算法的變形，又稱變尺度法。牛頓法的權值調整算法如下：

在Gauss－Newton法中，我們要求A是滿秩的。遺憾的是在實際情況中，A為奇異的情況經常發(fā)生，使得算法常常收斂到非駐點。這樣造成的結果是線性搜索得不到進一步下降，從而無法找到最優(yōu)點。LM算法通過引入一個可變因子μ，將一個對角陣μI加到ATA上去，改變了原矩陣的特征值結構使其變成滿秩正定矩陣，從而確保線性搜索的方向為下降的方向。其權值調整規(guī)則為：

我們可以利用μ來控制迭代，μ可以在一較大的范圍內進行調整。μ較小時即為Gauss－Newton法；μ較大時即為最速下降法。μ參數(shù)的引入，以及在迭代過程中μ參數(shù)的可調節(jié)性，極大地改善了算法收斂的穩(wěn)定性。

采用LM最優(yōu)化算法訓練神經網絡，替代原BP算法中的梯度下降法尋找最佳網絡連接權值。仿真試驗證明，這種學習算法提高了BP網絡算法的學習效率及穩(wěn)定性，并提高了網絡的收斂速度，更好的實現(xiàn)了對柴油機燃油壓力信號的故障診斷。

4　基于優(yōu)化的BP神經網絡柴油機燃料系故障診斷

4.1　確定故障特征信息

柴油機燃油系統(tǒng)的狀態(tài)信息主要體現(xiàn)在高壓油管的壓力波形中，當某處發(fā)生故障時，必然使原有供油狀態(tài)發(fā)生變化，燃油流動的壓力和流速等參數(shù)會有相應的改變，反映在壓力波形上將導致波形形態(tài)和波形參數(shù)值的變化。因此利用壓力傳感器測取高壓油管的燃油壓力波形，并對波形進行分析、提取出故障特征，再利用人工神經網絡模型對特征值進行模式識別就可達到故障診斷的目的。圖3、圖4分別為100%和25%供油量噴油壓力波形圖。

4.2　提取特征參數(shù)

特征參數(shù)的提取是模式識別過程中的重要環(huán)節(jié)，它關系到模式識別效果的準確性。由于燃油壓力波形是一種規(guī)則波形，任一壓力波形都標志著柴油機燃油系統(tǒng)的一種工作狀態(tài)。壓力波形的狀態(tài)信息主要體現(xiàn)在波形的結構形態(tài)上，可以直接從其時域波形上提取波形的結構特征，并表示為便于計算的特征空間。根據分析和試驗，對于燃油壓力波形來說，最大壓力、起噴壓力、落座壓力、次最大壓力、波形幅度、上升沿寬度、波形寬度、最大余波寬度等特征最能表現(xiàn)出柴油機運行時的狀況。為了獲得最佳診斷效果，我們選用這八種參數(shù)構成特征向量空間，如圖5所示。

4.3　BP神經網絡的建立及故障診斷過程

4.3.1　數(shù)據樣本采集

柴油機燃料系故障主要是供油量不足，主要表現(xiàn)為針閥卡死、針閥泄漏、出油閥失效等。在發(fā)動機800r/min時，用傳感器分別采集正常油量、針閥卡死、針閥泄漏、出油閥失效四種狀態(tài)的燃油壓力數(shù)據，繪制出不同狀態(tài)下的燃油壓力波形，對每個波形手動提取出最大壓力、啟噴壓力、落座壓力、次最大壓力、波形幅度、上升沿寬度、波形寬度、最大余波寬度這8個特征值。一般情況下，每個狀態(tài)至少采集提取5個實際樣本，每個樣本都包括以上8個特征值，用來建立網絡，訓練網絡，并進行故障診斷。

4.3.2　BP神經網絡的建立和訓練

新建BP神經網絡NewNet，如圖6所示，網絡設計采用三層BP網絡，網絡的輸入層個數(shù)為8個，輸出層的個數(shù)為4個，隱含層的個數(shù)并不是固定的，經過實際訓練的檢驗和不斷的調整，確定隱含層的個數(shù)近似遵循下列關系n2=2n1+1。其中n1為輸入層個數(shù)，n2為隱含層個數(shù)，因此隱含層個數(shù)為17個。

四種故障模式可以用如下形式表示輸出：

正常油量（1，0，0，0）；針閥卡死（0，1，0，0）；針閥泄漏（0，0，1，0）；出油閥失效（0，0，0，1）。

輸入層至隱層的連接權Wij、隱層至輸出層的連接權Vjt、隱層各單元的輸出閾值θj、輸出層各單元的輸出閾值γj ，都選取為（－1～1）之間的隨機數(shù)，然后按照BP網絡的學習步驟進行學習。網絡輸入層的傳遞函數(shù)采用雙曲正切S型傳遞函數(shù)Tansig，第二層傳遞函數(shù)采用S型對數(shù)函數(shù)Logsig，利用基于非線性最小二乘法的LM最優(yōu)算法，替代原BP算法中的梯度下降法訓練神經網絡，求出最佳網絡連接權值和閾值。

利用所采集數(shù)據樣本，作為網絡訓練的原始樣本，確定初始連接值和閾值后利用Matlab編程，訓練的速度為0.1，訓練誤差精度為0.01，對網絡訓練9000次，得出最終的各個連接權值和閾值，訓練結束。

4.3.3　故障診斷過程及結果

網絡訓練結束后，將表1中的測試數(shù)據輸入訓練好地BP網絡。

經過運算后，網絡輸出層得出如下的診斷結果：

從測試結果可以看出，診斷結果與實測值具有良好的一致性，診斷誤差分別為0.0043、0.0005、0.0035和0.0380可見診斷誤差非常小，因此可以判定，該BP神經網絡完全可以滿足柴油機燃油系常見故障的診斷要求。

5　結束語

仿真試驗表明，基于優(yōu)化的BP神經網絡的故障診斷結果與實測值具有良好的一致性，只要選擇足夠典型的原始故障樣本訓練BP神經網絡，網絡的容錯性和穩(wěn)定性就較好。針對設備運行的復雜性，僅選用單一的診斷參數(shù)往往會做出錯誤的判斷，而基于神經網絡的故障模式識別方法能充分利用信息特征，實現(xiàn)輸人與輸出之間的映射關系，得出準確的診斷結果。（下轉第188頁）

參考文獻

［1］黃麗．BP神經網絡算法改進及應用研究[D]．重慶師范大學，2008：6－15．

［2］孫即祥．現(xiàn)代模式識別[M]．國防科技大學出版社，2001，5．

［3］李國勇．智能控制及其MATLAB實現(xiàn)[M]．電子工業(yè)出版社，2005，5．

［4］李煥良，等．基于BP神經網絡的電氣系統(tǒng)故障診斷[J]．起重運輸機械，2005，6:55－56．

［5］王俊生．柴油發(fā)動機燃油系統(tǒng)的故障分析研究[J]．山西建筑，2003，4:250．

［6］董學剛．燃油壓力波檢測在機車柴油機故障判斷上的應用[J]．內燃機車，2002，7:25－27．

篇7

關鍵詞:功率放大器; 預失真技術; 神經網絡; 單入雙出; 互調失真

中圖分類號:TP18 文獻標識碼:A

文章編號:1004-373X(2010)09-0107-05

Research of Self-adaptive Digital Predistortion Technology Based on SIDO-neural Network

QIU Wei, LIU Yu-peng, ZHANG Lei-lei

(The base of China Ocean Measure, Jiangyin 214431, China)

Abstract: Because of inherent nonlinearity of high-power amplifier, which may cause bad influence on communication systems, it is necessary to make a linearization processing to overcome or weaken it. The math analysis of nonlinear distortion for the high-power amplifier(HPA) is performed. The basic principle of digital predistortion and the foundamental knowledge of neural network are described. A self-adaptive digital predistortion technology based on SIDO-neural network is proposed according to the amplifying amplitude and the distortion characteristic of phase, which can be improved by the technology. Taking a double-sound signal and 16QAM signal as an example, the Matlab simulation is carried out, The result proves that this technology is superior.

Keywords: power amplifier; predistortion technology; neural network; SIDO; intermodulation distortion

0 引 言

無線通信技術迅猛發(fā)展,人們對通信系統(tǒng)的容量要求也越來越大。為了追求更高的數(shù)據速率和頻譜效率,現(xiàn)代通信系統(tǒng)都普遍采用線性調制方式,如16QAM和QPSK方式,以及多載波配置[1]。

但這些技術產生的信號峰均比都較大,均要求功率放大器具有良好的線性特性,否則就會出現(xiàn)較大的互調失真,同時會導致頻譜擴展,造成臨道干擾,使誤碼率惡化,從而降低系統(tǒng)性能。

預失真技術是一項簡單易行的功放線性化技術,具有電路形式簡單,調整方便,效率高,造價低等優(yōu)點[2]。其中,基帶預失真還能采用現(xiàn)代的數(shù)字信號處理技術,是最為看好的一項功放線性化技術。這里利用一種簡單的單入雙出三層前向神經網絡來進行自適應預失真處理,同時補償由高功率放大器非線性特性引起的幅度失真和相位失真,從而實現(xiàn)其線性化。

文中分析了基于這種結構的自適應算法,并做了相應的仿真。仿真結果表明,該方法能有效克服功放的非線性失真,且收斂速度比一般多項式預失真更快,具有一定的優(yōu)勢。

1 高功率放大器非線性分析

高功率放大器一般都是非線性器件,特別是當輸入信號幅度變化較大時,放大器的工作區(qū)將在飽和區(qū)、截止區(qū)、放大區(qū)之間來回轉換,非線性失真嚴重,會產生高次諧波和互調失真分量。由于理論上任何函數(shù)都可以分解為多項式的形式,故放大器的輸入和輸出關系表示為:

Vo=a1Vi+a2V2i+a3V3i+…+anVni(1)

假設輸入的雙音信號為:

Vi=V1cos(ω1t)+V2cos(ω2t)(2)

把式(2)代入式(1),得到輸出電壓為:

Vo=a22(V21+V22)+a1V1+a334V31+32V1V22+…cos(ω1t)+a2V2+a334V32+32V2V21+…cos(ω2t)+12a2V21+…cos(2ω1t)+12a2V22+…cos(2ω2t)+14a3V31+…cos(3ω1t)+14a3V32+…cos(3ω2t)+a2V1V2[cos(ω1+ω2)t+cos(ω1-ω2)t]+34a3V21V2[cos(2ω1+ω2)t+cos(2ω1-ω2)t]+

34a3V22V1[cos(2ω2+ω1)t+cos(2ω2-ω1)t]+58a5V31V22cos(3ω2-2ω1)t+58a5V21V32cos(3ω1-2ω2)t+…

從上式可以看出,輸出信號中不僅包含了2個基頻ω1,ω2,還產生了零頻,2次及高次諧波以及互調分量。通常2ω1-ω2,2ω2-ω1,3ω1-2ω2和2ω1-3ω2會落在通頻帶內,一般無法濾除,是對通信影響最大的非線性失真分量,即所謂的三階互調和五階互調。放大器線性化的目標就是在保證一定效率的前提下最大地減小┤階和┪褰諄サ鞣至俊

2 預失真基本原理及其自適應

預失真就是在信號通過放大器之前通過預失真器對信號做一個與放大器失真特性相反的失真,然后與放大器級聯(lián),從而保證輸出信號相對輸入信號是線性變化。預失真器產生一個非線性的轉移特性,這個轉移特性在相位上與放大器轉移特性相反,實質上就是一個非線性發(fā)生器。其原理圖如圖1所示。

圖1 預失真基本原理

預失真器的實現(xiàn)通常有查詢表法和非線性函數(shù)兩種方式[2]。由于查表法結構簡單,易于實現(xiàn),早期的預失真多采用此方法,但它對性能的改善程度取決于表項的大小,性能改善越大,需要的表項越大,所需要的存儲空間也越大,每次查找遍歷表項的每個數(shù)據和更新表項所需要的時間和計算時間也越長,因此在高速信息傳輸?shù)慕裉煲呀洸豢扇?。非線性函數(shù)法是用一個非線性工作函數(shù)來擬合放大器輸出信號采樣值及其輸入信號的工作曲線,然后根據預失真器特性與放大器特性相反,求出預失真器的非線性特性函數(shù),從而對發(fā)送信號進行預失真處理。這種方法只需要更新非線性函數(shù)的幾個系數(shù),而不需要大的存儲空間,因此是近年來研究的熱點。

假設預失真器傳輸函數(shù)為F(x),放大器傳輸函數(shù)為G(x),F和G均為復函數(shù)。若輸入信號為x(t),則經過預失真器之后的信號為u(t)=F[x(t)],放大器輸出函數(shù)為y(t)=G[u(t)]=G{F[x(t)]},預失真的目的就是使x(t)通過預失真器和放大器級聯(lián)后輸出y(t)=ax(t),a為放大器增益。通過一定的方法可以找到合適的F,使實際輸出和期望輸出的誤差最小。

由于溫度、電器特性、使用環(huán)境等因素的不斷變化,放大器的傳輸特性也會發(fā)生變化,從而預失真器傳輸函數(shù)F(x)的各參數(shù)也會隨之而變化,因此現(xiàn)代數(shù)字預失真技術一般都要采用自適應技術以跟蹤調整參數(shù)的變化。目前常用的兩種自適應預失真結構如圖2、圖3所示。

圖2 自適應預失真系統(tǒng)結構圖

圖3 復制粘帖式自適應預失真系統(tǒng)結構圖

圖2是一般的通用自適應結構,結構簡單,思路明確,但一些經典的自適應算法由于多了放大器求導項而不能直接應用,且需要辨識放大器的傳輸特性,而圖3的復制粘帖式結構(非直接學習)則不存在這些問題,關于這種結構的優(yōu)缺點比較和具體性能分析見文獻[3]。本文將采用后一種自適應結構。

3 基于一種單入雙出式神經網絡的自適應預失真技術

3.1 神經網絡

神經網絡是基于生物學神經元網絡的基本原理而建立的。它是由許多稱為神經元的簡單處理單元組成的一類自適應系統(tǒng),所有神經元通過前向或回饋的方式相互關聯(lián)、相互作用。由Minsky和Papert提出的多層前向神經元網絡是目前最為常用的網絡結構,已廣泛應用到模式分類和函數(shù)逼近中,且已證明含有任意多個隱層神經元的多層前向神經元網絡可以逼近任意的連續(xù)函數(shù)[4]。本文利用神經網絡的這種功能來擬合預失真器的特性曲線,并且用改進的反向傳播算法來自適應更新系數(shù)。

多層前向神經元網絡由輸入層、一個或多個隱層和輸出層并以前向方式連接而成,其每一層又由許多人工神經元組成,前一層的輸出作為下一層神經元的輸入數(shù)據。三層前向神經元網絡示意圖如圖4所示,其中輸入層有M個人工神經元,隱層有K個神經元,輸出層有N個神經元。關于人工神經元的具體介紹參考文獻[5-6]。

圖4 三層前向神經元網絡

3.2 基于單入雙出式神經網絡的自適應預失真系統(tǒng)模型

對于圖5所示的單入雙出式三層前向神經網絡,假設隱層包含K個神經元。輸入數(shù)據經過一系列權系數(shù){w11,w12,…w1K}加權后到達隱層的各個神經元。隱層中的神經元將輸入進來的數(shù)據通過一個激勵函數(shù)(核函數(shù)),將其各神經元的輸出經過一系列權系數(shù){w21,w22,…,w2K}和{w31,w32,…,w3K}加權并求和后分別作為輸入層第一個神經元和第二個神經元的輸入,然后各神經元的輸入通過激勵函數(shù)得到兩個輸出。

將圖5代替圖3中的函數(shù)發(fā)生器,即得到本文中所提到的基于單入雙出式前向神經網絡的預失真器結構圖,如圖6所示。

神經網絡的三組系數(shù)向量開始都隨機初始化。設輸入序列為xi(i=1,2,…),通過幅度提取和相位提取后得到信號的幅度序列和相位序列。若神經網絡的輸入為原始輸入序列的幅度序列ri(i=1,2,…),則隱層各單元輸入I1k=w1kri-θ1k。經過核函數(shù)后,隱層各單元的輸出為J1k=f(I1k),其中f(x)=11+e-x為核函數(shù),輸出層的靜輸入為z1=∑Kk=1w2k*J1k-θ1,z2=∑Kk=1w3k*J1k-θ2,輸出層神經元1的輸出,即預失真器幅度預失真分量為U1=f(z1)。

圖5 單入雙出三層前向神經元網絡

圖6 單入雙出式前向神經網絡預失真器結構圖

由于相位失真分量的輸出范圍沒有限制在0和1之間,因此不能用核函數(shù)加以限制,這里設定輸出層神經元2的輸出等于其輸入,即預失真器相位預失真分量為U2=z2,最后預失真后的幅度和相位和的指數(shù)相乘得到送入功放的復信號。功率放大器的輸出信號設為yi(i=1,2,…),其幅度和相偏分別為yai(i=1,2,…)和ypi(i=1,2,…)。最后整個系統(tǒng)的幅度絕對誤差為ea(i)=Gri-ya(i),相位絕對誤差為ep(i)=U2(i)+yp(i),整個系統(tǒng)的絕對誤差和為e(i)=ea(i)+ep(i),然而直接把此誤差運用到反向傳播算法(BP算法)中會導致算法出現(xiàn)局部收斂且收斂速度極慢。因此本文對誤差信號做了改進,即把誤差信號改為:

e(i)=12[λ(ea(i)]2+(1-λ)φ[ea(i)]+

λ[ep(i)]2+(1-λ)φ[ep(i)]

其中:φ(x)=In[cos(βx)]/β,加入的調整因子λ和輔助項φ,能把算法從局部收斂點拉出來,且收斂速度得到一定的提高。最后根據反向傳播算法,得到訓練神經網絡的權系數(shù)更新式如下(下標2為隱層到輸出層權系數(shù),下標1為輸入層到隱層權系數(shù)):

δ2a(i)=ca(i)*[1+U1(i)]*[1-U1(i)](3)

δ2p(i)=cp(i)(4)

w2(i)=α*δ2a(i)*J1+η*w2(i-1)(5)

θ2(i)=α*δ2a(i)+η*θ2(i-1)(6)

w3(i)=-α*δ2p(i)*J1+η*w3(i-1)(7)

θ3(i)=-α*δ2p(i)+η*θ2(i-1)(8)

δ1(i)=(δ2a(i)*w2-δ2p(i)*w3)*

J1(i)*[1-J1(i)](9)

w1(i)=β*δ1(i)*ri+η*w1(i-1)(10)

θ1(i)=β*δ1(i)+η*θ1(i)(11)

式中:ca(i)=λea(i)-1-λ2tan[β*ea(i)];cp(i)=λ*ep(i)-1-λ2tan[β*ep(i)]。

預失真權系數(shù)可分為訓練和跟蹤兩個階段。根據上面的迭代公式,得到一組訓練神經網絡的權系數(shù),用當前的權系數(shù)替代預失真器神經網絡中原來的權系數(shù),得到一組新的預失真系數(shù),之后重新計算誤差,繼續(xù)上面的過程循環(huán)迭代運算,直到誤差小于規(guī)定的范圍,即整個系統(tǒng)收斂,則預失真器訓練完成,此時為訓練階段。之后隨著溫度、輸入的調制信號不同,以及環(huán)境等變化可能引起功放特性的變化,可以設置一個誤差門限值,一旦發(fā)現(xiàn)誤差超過此門限,立即重新啟動上面的循環(huán)迭代,重新訓練,直到滿足條件,此時為跟蹤階段。這種改進型BP算法的收斂速度快,能滿足實時運算的要求。同時在硬件實現(xiàn)上,只要做一個核函數(shù)發(fā)生器,其他都是乘累加運算,硬件實現(xiàn)要簡單得多,因此具有一定的實用性。

4 性能仿真

文中使用雙音信號進行了仿真分析,雙音信號為:

xs=0.5[sin(2π×10×t)+sin(2π×8×t)]

放大器模型采用經典salef[9]模型,神經網絡的隱層數(shù)設為15。圖7為雙音信號原始頻譜。

圖8是為雙音信號直接通過放大器和通過文中所提的預失真網絡后再通過放大器的頻譜圖對比。由此可見,雙音信號直接通過放大器后產生了較大的失真,其中的三階互調達到了-16 dB,五階互調也有-29 dB。通過對文中所提神經網絡預失真系統(tǒng)進行處理后,即信號通過預失真器再通過放大器后,三階互調被抑制到-42 dB,五階互調也被抑制到-48 dB以下,此時三階互調改善26 dB,五階互調改善19 dB,使放大器的非線性失真得到較大的抑制。

圖7 原始信號歸一化頻譜圖

圖8 預失真前后信號歸一化頻譜圖

下面以16QAM信號為例,說明這種預失真技術對功放非線性特性的改善,如圖9所示。

圖9(a)為16QAM信號規(guī)則星座圖,調制信號均勻地分布在正方形的16個點上;圖9(b)為16QAM信號經過功率放大器后解調的星座圖。由圖可見,信號經過放大器后,幅度受到壓縮,相位發(fā)生偏移,并且輸入信號幅度越大,輸出信號幅度壓縮越大,相位偏移越嚴重,最后出現(xiàn)嚴重的“云團效應”,使得接收端不能正確解調信號。圖9(c)是經過本節(jié)所提出的單入雙出式神經網絡預失真器處理后解調信號的星座圖。由圖可見,經過預失真處理后,由于放大器非線性引起的幅度壓縮和相位旋轉都得到較好的糾正,“云團效應”明顯減弱,最后各個點基本都在理想點上,與┩9(a)對比,基本消除了失真。

5 結 語

針對放大器固有的非線性特性問題,從數(shù)學上分析了放大器的非線性失真,介紹了基于預失真基本原理和神經網絡基本概念,提出了一種單入雙出式神經網絡自適應預失真技術。仿真結果表明,該技術能對三階互調能抑制29 dB左右,對五階互調能抑制19 dB左右,對QAM調制信號由于放大器非線性引起的幅度壓縮和相位旋轉都得到較好的糾正,在很大程度上克服了放大器非線性特性,改善了通信系統(tǒng)的性能。

圖9 16QAM信號星座圖失真及改善對比

參考文獻

[1]趙慧,漆蘭芬.射頻放大器的工作函數(shù)預失真線性化[J].無線電工程,2001,31(12):58-61.

[2]賈建華,劉戰(zhàn)勝.關于自適應預失真射頻功率放大器線性化研究[J].微波學報,2005,21(3):48-50.

[3]錢業(yè)青.一種高效的用于RF功率放大器線性化的自適應預失真結構[J].通信學報,2006,27(5):35-40,46.

[4]CYBENKO G. Approximations by superpositions of a sigmoidal function[J]. Mathematics of Control, Signals and Systems, 1989(2): 183-192.

[5]劉寶碇,趙瑞清,王綱.不確定規(guī)劃及應用[M].北京:清華大學出版社,2003.

[6]朱劍英.只能系統(tǒng)非經典數(shù)學方法[M].武漢:華中科技大學出版社,2001.

[7]WU Shan-yin, SIMON H S F, WONG Y M. The use of nonlinear curvefitting in digital predistortion for linearizing RF power amplifiers[J]. IEEE ICICS, 2005, 3: 960-963.

[8]GLENTIS G O, BERBERDIS K, THEODORIDID S. Efficient least sqares adaptive algorithms for FIR transversal filtering[J].IEEE Signal Processing Magazine,1999,16(4):13-41.

篇8

從建設工程造價指數(shù)的內涵和編制過程來看，其在建設工程中得到了廣泛應用，具體表現(xiàn)在以下幾個方面：

（1）建設工程造價指數(shù)在工程決策階段得到了重要應用。在工程決策階段，建設工程造價指數(shù)的運用，為投資方提供了工程總體造價的參考，保證了建設工程項目總體造價能夠有一個大致的范圍作為依據，滿足建設工程造價管理需要，為滿足投資方需求提供了有力支持。因此，對于建設工程而言，建設工程造價指數(shù)在工程決策階段得到了重要應用。保證了建設工程的正常進行。

（2）建設工程造價指數(shù)在工程施工階段得到了重要應用建設工程項目的實際施工來看，工程造價管理是貫穿于整個工程項目的重要管理手段，對建設工程而言意義重大。結合當前建設工程造價管理實際，在工程施工階段中，工程造價指數(shù)為施工方法提供了具體的造價依據，便于施工方合理控制總體投資，在滿足工程建設需要的同時，有效節(jié)約資金，保證工程造價管理能夠在施工階段取得積極效果。

（3）建設工程造價指數(shù)在工程結算階段得到了重要應用。在建設工程的竣工結算階段，其結算依據主要依靠工程前期制定的造價來確定，這不但是工程造價管理的重要內容，同時也是工程造價管理的有效延伸。在這一過程中，工程造價指數(shù)得到了具體應用，為工程竣工結算提供了具體依據，保證了工程竣工結算的準確性和實效性，滿足了建設工程竣工結算的實際需要。

2建設工程造價指數(shù)及其造價預測的實證研究

2.1信息采集

本文以住宅建筑工程造價指數(shù)為例進行預測實證分析。為某市2011年一季度~2013年三季度小高層住宅的建筑工程造價指數(shù)。擬以2011年一季度～2013年一季度的建筑工程造價指數(shù)為建模數(shù)據集，以2013年二季度和2013年三季度的建筑工程造價指數(shù)作為測試數(shù)據進行預測實證分析。

2.2模型建立

首先利用2011年一季度~2013年一季度9個季度的造價指數(shù)預測2013年二季度的造價指數(shù)，則原始序列對Y進行加速平移變換和加權平均處理得序列即2013年二季度造價指數(shù)的最終預測值為123.3。接下來將該預測值與前9個季度的實際值作為原始序列，對2013年三季度的造價指數(shù)進行預測，得最終預測結果為126.2。

2.3預測結果分析

幾種模型預測結果精度對比如表2，模型擬合曲線對比。通過對比5種模型的預測結果和擬合效果可以發(fā)現(xiàn)，隨機振蕩GM（1，1）模型的預測精度和擬合效果要好于傳統(tǒng)GM（1，1）模型，蟻群改進BP神經網絡模型的預測精度和擬合效果要好于BP神經網絡模型，而隨機振蕩GM（1，1）與蟻群改進BP神經網絡組合循環(huán)模型的預測精度和擬合效果最好。這主要是因為隨機振蕩GM（1，1）與蟻群改進BP神經網絡組合循環(huán)模型在改進傳統(tǒng)GM（1，1）模型與BP神經網絡模型的基礎上，能更好地將灰色系統(tǒng)模型弱化數(shù)據隨機性和波動性的優(yōu)點與人工神經網絡非線性、自適應能力強的特點相融合，不僅提高了模型的穩(wěn)定性，拓寬了模型的適用性，也大大提高了模型的預測精度。因此可以將其作為建設工程造價指數(shù)的預測模型。

3結束語

篇9

關鍵詞：圖像采集和處理；圖像檢測；Gabor紋理濾波；神經網絡

DoI：10.15938/j.jhust.2016.06.009

中圖分類號：TPl83；TP391.4

文獻標志碼：A

文章編號：1007-2683（2016）06-0044-06

0.引言

鋼鐵企業(yè)為了提高競爭力，對帶鋼的生產提出了新的要求，也對帶鋼表面檢測系統(tǒng)提出了更高的要求，既要有更高的檢測速度還要有更加準確的檢測精度，而與此同時，跟隨機器視覺技術的發(fā)展，帶鋼表面檢測系統(tǒng)也得到了廣泛的研究與應用，主要研究包括：①光源技術，由于帶鋼檢測對光源要求頻度高、體積小，這限制了傳統(tǒng)光源在其應用，激光具有方向性好、亮度高、體積小等優(yōu)點，被廣泛應用于帶鋼檢測應用中，國內的徐科等提出熱軋鋼檢測中用綠光作為激光光源，但激光照明需解決均勻性問題.②掃描技術，由于電荷耦合元件（charge-coupled device，CCD）能夠實現(xiàn)實時檢測，成為目前研究和應用的主流技術，但是，CCD電荷耦合器需在同步時鐘的控制下，以行為單位一位一位地輸出信息，速度較慢，而互補金屬氧化物半導體（complementary metal oxide semiconductor，CMOS）光電傳感器采集光信號的同時就可以取出電信號，還能同時處理各單元的圖像信息，速度比CCD電荷耦合器快很多，③圖像處理算法，受限于帶鋼加工過程的特性，帶鋼表面呈現(xiàn)出隨機紋理的特點，對于隨機紋理圖像的處理分析，目前常用的方法有共生矩陣法、頻域濾波法、分形法等，作為頻域濾波法的代表，二維Gabor濾波器有著與生物視覺系統(tǒng)相近的特點，廣泛應用于紋理圖像的處理分析，但是，CPU很難滿足現(xiàn)在的帶鋼檢測的實時要求，④分類算法，特征選擇的主流算法是主成分分析和信息增益，主成分分析存在特征向量方向不一致的問題，而且如何確定主成分存在主觀性，信息增益可以衡量特征的劣，利用它可對特征進行排序，方便后面的特征選擇，但信息增益適用于離散特征，信息增益率既適用于離散特征也適用于連續(xù)特征，被廣泛應用于特征選擇的過程中，圖像分類算法主流算法包括支持向量機和BP神經網絡，支持向量機不適用于大樣本的分類問題，BP神經網絡方法具有能夠解決非線性分類問題，對噪聲不敏感等優(yōu)點，被廣泛應用于帶鋼檢測中，如王成明等提出的基于BP神經網絡的帶鋼表面質量檢測方法等，但是BP神經網絡的超參的設定往往具有隨機性，這嚴重影響了分類效果。

本文首先介紹了帶鋼表面缺陷高速高分辨率成像系統(tǒng)的設計，針對光源的不均勻性、圖像處理速度慢等問題，提出改進方法，然后介紹了分類器的構建，針對樣本劃分的隨機性、特征選擇的隨機性以及BP神經網絡超參設定的隨機性問題，做出改進，最后介紹試驗結果。

1.帶鋼表面缺陷高速高分辨率的成像系統(tǒng)的設計

1）大功率半導體均勻發(fā)光激光器技術，激光能夠保證帶鋼表面缺陷的檢出率，本系統(tǒng)選用808mm半導體激光器作為照明源，出光功率可達30w，亮度可達1500流明，激光照明需解決均勻性的問題，本文采用了基于鮑威爾棱鏡的激光線發(fā)生辦法，解決了激光照明的均勻性問題，其光路如圖1所示。

該方法首先在激光聚焦位置放置圓形球面透鏡，負責將發(fā)散的激光束匯聚成準平行光，同時控制光柱的粗細，然后，利用鮑威爾棱鏡的擴散效果對圓柱的一個方向進行擴束，最終形成激光線，為保證亮度及寬度的適應性，激光器出光口距離圓透鏡、鮑威爾棱鏡的距離可以精密調整，為了降低反射亮度損失，在透鏡表面鍍上808±5nm的T≥99%的增透膜。

GPU的算法分為兩個流程：訓練過程主要針對無缺陷圖像進行，通過訓練完成紋理圖像的背景建模，一方面消除背景變化帶來的干擾，另一方面形成有效的Gabor卷積參數(shù)，以便在檢測過程中得到最優(yōu)的檢出效果.檢測過程對實際拍攝的缺陷圖像進行分析，首先按照GPU的核心數(shù)和緩存大小對圖像進行分解，本文所有GPU的核心數(shù)為1024，顯存2G，因此將原始圖像分解為1000塊，分別加載到1000個核心中，同時并發(fā)運行卷積運算.最后將各個窗口的卷積結果合并到一起，得到完成的濾波結果，最后借助于背景模式，將背景的干擾消除，得到干凈的缺陷區(qū)域。

3）成像系統(tǒng)，根據缺陷檢測的精度要求（1800m/min的檢測速度，0.25mm的精度），帶鋼的規(guī)格要求（1900 mm規(guī)格），對帶鋼進行成像系統(tǒng)設計，基于互補金屬氧化物半導體（CMOS）的成像芯片具有速度快，用電低等優(yōu)勢，選用兩個4K線掃描CMOS相機作為成像核心器件，選用Camera Link Full接口作為數(shù)據輸出，兩個4K掃描中間重疊100mm作為圖像拼接區(qū)，兩組線激光光源與線掃描組成系統(tǒng)的主要成像模塊，成像系統(tǒng)結構如圖3所示。

2.構建分類器

檢測缺陷類別及其特征描述如表1所示：

1）訓練集和樣本集劃分.主要缺陷類別有5個，每個類別收集樣本7000，共計35000個樣本，為了避免訓練集和樣本集劃分的盲目性，采用10一折交叉驗證的方式劃分訓練集和測試集，即將樣本集分成10份，從中選1份為測試集，剩下的為訓練集，如圖4所示，究竟選擇哪一份作為測試集，需在后面的嵌套循環(huán)中實現(xiàn)。

2）特征選擇，缺陷區(qū)域的長度、寬度、面積、區(qū)域對比度等共計138個特征形成初始特征集合，利用信息增益率來對各個特征排序。

上述各循環(huán)組合在一起就是一個嵌套循環(huán)，其N-S盒圖如圖5所示，最外層是測試集和訓練集的10折交叉驗證，第1層是確定最優(yōu)的特征數(shù)，第3層是確定最優(yōu)的隱含層節(jié)點數(shù)，第4、5層是確定最優(yōu)的輸入層和隱含層、隱含層和輸出層的初始權值。

經以上循環(huán)，確定D3作為測試集，最優(yōu)特征數(shù)為23個，最優(yōu)的隱含層節(jié)點數(shù)是46個，同時也確定了最優(yōu)的初始權值，對應的3層BP神經網絡的網絡模型如圖6所示。

3.實驗結果

1）鮑威爾棱鏡與柱透鏡進行對比在實際工作距離1.5m處，采用0.1m為間隔使用光功率計測試光源功率，如圖7所示，橫軸為測試點，縱軸為測試點的光功率。實驗表明，鮑威爾棱鏡均勻性優(yōu)于柱透鏡。

2）Gabor濾波方法與其他方法比較將動態(tài)閾值法+Blob分析法（方法A）和灰度共生矩陣紋理背景消除法（方法B）兩種方法與Gabor濾波方法進行比較，如圖8所示.由于缺陷與背景灰度相近（圖（a）），致使方法A缺陷丟失（圖（b）），由于缺陷與背景紋理相近（圖（d）），致使方法B產生噪聲（圖（e）），Gabor方法取得了不錯的效果（圖（e）、（圖（f）））。

3）GPU與CPU比較以4096×4096的圖像為例，選10幅有代表性圖像，利用CPU（最新的inteli7-2600處理器，4核8線程，2.6GHz，內存8G）和GPU（nVidiaGTX970，4G存顯卡）進行Ga-bor運算，計算時間如表2所示，GPU計算效率明顯優(yōu)于CPU，其中CPU的平均耗時為290.4ms，而GPU的平均耗時為31.7ms。

4）檢測效果在產線速度為1775m/min，最小檢測缺陷的尺寸為0.25mm的檢測系統(tǒng)中，對帶鋼的主要4種類型缺陷進行檢測統(tǒng)計，檢測結果如表3所示。

可計算出整體檢出率99.9%，檢測準確率99.4%。

篇10

關鍵詞能源需求預測，粒子群算法，BP神經網絡，主成分分析法

中圖分類號F201 文獻標識碼A

Construction of Energy Demand Forecasting

Model and Empirical Analysis of Guangdong Province

YE Yiyong

（College of Economics & Management Wuyi University Jiangmen， Guangdong 529020，China）

AbstractIn order to make accurate forecast for energy demand of Guangdong province， this paper analyzed the various factors which impact on energy demand of Guangdong province， and constructed the predict index system. On this basis， according to the nonlinear characteristics of the energy system， combined with the advantages of particle swarm optimization algorithm and BP neural network， a prediction model was constructed based on PSOBP neural network. And the method of principal component analysis was used to reduce the dimensions of the prediction index system in order to reduce the size and complexity of the neural network. Then， this paper simulated the energy demand data of Guangdong province from 1985 to 2013， and carried on the forecast energy demand of Guangdong province during 2014 to 2018. The theoretical analysis and empirical study show that this method can reflect the characteristics of energy demand of Guangdong province， and the predicted result is more accurate and reasonable.

Key words forecasting of energy demand， PSO， BP neural network， PCA

1引言

隨著社會經濟的快速發(fā)展，各行業(yè)對能源的需求大幅度增加.據統(tǒng)計，廣東省2000年的能源消耗量是7 983萬噸標準煤，2013年的能源消耗量上升到25 645萬噸標準煤，是2000年消耗量的3.2倍，其中一次能源消費90%依賴省外，二次能源消費中的電力消費有10%也是依賴省外，據估算，未來10年這個比例將達到30%左右.經濟快速發(fā)展所帶來的巨大能源需求與供給不足之間的矛盾越來越嚴重，能源短缺已成為制約廣東省經濟持續(xù)發(fā)展的關鍵問題，如果不采取有效的措施，將會延緩廣東省產業(yè)結構的轉型升級優(yōu)化，乃至影響全省經濟的穩(wěn)步增長.系統(tǒng)地分析廣東省能源需求的影響因素，準確地預測廣東省未來能源需求的數(shù)量，進而制定科學合理的能源發(fā)展戰(zhàn)略，確保廣東省經濟可持續(xù)發(fā)展，具有非常重要的現(xiàn)實意義.

2文獻綜述

能源系統(tǒng)是一個復雜的非線性系統(tǒng)，其需求量受到眾多因素的影響.當前很多學者已經對能源需求問題進行了深入的研究，使用的預測方法包括趨勢外推法、消費彈性法、主要消耗部門預測法、回歸分析法預測等[1-3]，取得了一定的效果.但在預測精度方面還存在一定的差距，一方面是由于能源系統(tǒng)本身的復雜性、非線性、非確定性的特征導致的，另一方面是因為預測方法本身還存在一些不足之處，不足以完全準確反映預測目標和指標體系之間的數(shù)量關系.要解決上述問題，除了需要構建科學的預測指標體系，更關鍵的就是要尋找更加科學有效的預測方法.

鑒于此，部分學者開始研究能源系統(tǒng)的非線性和不確定性等系統(tǒng)特征，如自組織特征、分形特征、混沌特征和模糊性等，并在此基礎上引進非線性方法對能源需求進行預測，如非線性/混沌時間序列方法、遺傳算法、灰色理論、人工神經網絡方法等[4-8]，這些方法可以彌補線性模型在預測復雜能源需求時的不足.其中具有代表性的方法是人工神經網絡，它是由大量神經元通過極其豐富和完善的連接而構成的自適應、非線性動態(tài)系統(tǒng)，它從結構、實現(xiàn)機理和功能上模擬生物神經網絡，通過并行分布式的處理方法，克服了傳統(tǒng)的基于邏輯符號的人工智能在處理直覺、非結構化信息方面的缺陷，具有自適應、自組織和實時學習的特點[9].它在解決非線性及高維模式識別問題中表現(xiàn)出許多特別的優(yōu)勢，受到學者的青睞.當前，已有眾多學者將神經網絡及其擴展模型應用于時間序列預測方面，并取得了很好的效果[10-15].

通過對文獻的綜合分析發(fā)現(xiàn)，神經網絡及其相關的模型已經被廣泛應用到金融、工業(yè)、交通等領域，但是在能源需求預測領域的應用較少.針對廣東省能源需求系統(tǒng)具有非線性和影響因素眾多等特征，建立了基于改進的PSOBP神經網絡的預測模型，給出了方法的基本原理和具體實現(xiàn)步驟，然后通過對廣東省1985―2013年能源需求歷史數(shù)據的建模和仿真，驗證了方法的有效性，最后對廣東省未來5年的能源需求進行預測，為能源管理者提供決策參考的依據.

3廣東省能源需求影響因素分析

能源需求受到多方面因素的影響，本文結合其他學者的研究成果[16-18]，遵循可獲得性、可比性、實際性、綜合性的原則，從以下幾個方面對影響能源需求的因素進行分析.

①經濟增長.經濟增長是影響能源需求的主要因素，隨著廣東省社會經濟的快速發(fā)展和產業(yè)結構的持續(xù)優(yōu)化，對能源的需求量將在很長一段時間內保持較高的水平.衡量經濟增長的指標本文采用國內生產總值（GDP）.

②產業(yè)結構調整.三大產業(yè)中，工業(yè)的發(fā)展對經濟增長的貢獻最大，對能源的需求也最大，第一、第三產業(yè)對能源的需求相對較少.工業(yè)的快速發(fā)展所帶來的負面影響是顯而易見的.近年來，廣東省在產業(yè)結構優(yōu)化和轉型升級方面出臺了一系列的政策措施，隨著我省產業(yè)結構的調整，對能源需求數(shù)量的必將產生很大的影響.

③能源消費結構.該項指標反映了各種消費能源在消費總量中所占的比例關系，廣東省的能源消費以煤為主，據統(tǒng)計，超過50%的能源來自煤炭燃燒.煤炭為不可再生能源，利用率較低，容易污染環(huán)境，政府在大力推行開發(fā)可再生能源和清潔能源，改善能源消費結構，降低能耗指數(shù).

④技術進步.首先是通過先進技術的應用，改善生產工藝和流程，提高能源的利用率，節(jié)約能源消費；其次是將技術應用于新能源開發(fā)，從而改變能源消費結構，進而影響能源消費總量.由于技術進步難以量化，本文使用單位GDP的能耗來表示.

⑤人口和城市化.能源是人類生存和發(fā)展的物質前提，人類的衣食住行與能源息息相關，人口基數(shù)越大，對能源的需求量就越大，隨著工業(yè)化、城鎮(zhèn)化進程的加快，人民生活水平穩(wěn)步提升，對能源需求的影響更加明顯.

⑥居民生活消費水平.居民生活水平的提高，以及消費觀念和消費行為的變化，會直接導致產業(yè)結構的變動，進而影響能源消費的數(shù)量，特別是增加對電力、液體和氣體燃料等優(yōu)質能源的需求.

綜上所述，影響能源需求的主要因素有經濟的增長（廣東省GDP）、產業(yè)結構（工業(yè)在國民經濟中的比重）、能源消費結構（煤炭的消費比重）、技術進步（單位GDP的能耗）、人口（廣東省人口數(shù)量）、城市化（全省城鎮(zhèn)人口所占的比重）、居民人均消費水平，預測對象為廣東省每年的能源消費數(shù)量.

4PSOBP能源需求預測模型構建

4.1BP神經網絡模型

BP神經網絡是一種多層前饋神經網絡，該網絡的主要特點是信號向前傳遞，誤差反向傳播.在前向傳遞中，輸入信號從輸入層經過隱含層逐層處理，直至輸出層.每一層的神經元狀態(tài)只影響下一層神經元狀態(tài).如果輸出層得不到期望輸出，則轉入反向傳播，根據預測誤差調整網絡權值和閾值，從而使BP神經網絡預測輸出不斷逼近期望輸出[19].BP神經網絡的拓撲結構如圖1所示，BP算法如下.

1）各層權值及閾值的初始化.

2）輸入訓練樣本，并利用訓練樣本對網絡進行訓練，計算各層輸出.

3）求出并記錄各層的反向傳輸誤差.

4）按照權值以及閾值修正公式修正各層的權值和閾值.

5）按照新的權值重復2）和3）.

6）若誤差符合預設要求或者達到最大學習次數(shù)，則終止學習.

7）使用訓練好的模型對預測樣本進行預測.

4.2標準粒子群優(yōu)化算法

粒子群優(yōu)化算法（Particle Swarm Optimization）源于對鳥類捕食行為的研究，鳥類捕食時，每只鳥找到食物最簡單有效的方法就是搜尋當前距離食物最近的鳥的周圍區(qū)域.PSO算法就是從這種生物種群行為特征中得到啟發(fā)并用于求解優(yōu)化問題的.算法中每個粒子代表問題的一個潛在解，每個粒子對應一個由適應度函數(shù)決定的適應度值.粒子的速度決定了粒子移動的方向和距離，速度隨自身及其他粒子的移動經驗進行動態(tài)調整，從而實現(xiàn)個體在可解空間的尋優(yōu)[19].

假設粒子群的種群規(guī)模為Z，搜索空間為Y維，第i個粒子的位置表示為

Xi={xi1，xi2，…，xiY}，i=1，2，…，Z，第i個粒子的速度表示為Vi={vi1，vi2，…，viY，第i個粒子的個體極值表示為Pi={pi1，pi2，…，piY，當前的全局極值表示為Pg={pg1，pg2，…，pgY.因此，粒子的速度與位置按下式更新：

Vi（k+1）=ωVi（k）+c1r1（Pi（k）-Xi（k））+

c2r2（Pg（k）-Xi（k）），

Xi（k+1）=Xi（k）+Vi（k+1），

vij（k+1）=vmax，vij（k）>vmax，

-vmax，vij（k）

其中，ω為慣性權重，是平衡粒子的全局搜索能力和局部搜索能力的參數(shù)；c1和c2為加速因子，是調整粒子自身經驗和群體經驗對粒子運動軌跡的影響的參數(shù)；r1和r2是在[0，1]區(qū)間內均勻分布的兩個隨機數(shù)；vmax為粒子的最大速度，是用來限制粒子的速度的參數(shù)，vij為第i個粒子在第j維的速度.

4.3改進的粒子群優(yōu)化算法

標準的粒子群算法雖然具有收斂速度快、通用性強等優(yōu)點，但由于算法實現(xiàn)過程僅利用了個體最優(yōu)和全局最優(yōu)的信息，因此導致種群的多樣性消失過快，出現(xiàn)早熟收斂、后期迭代效率不高、容易陷入局部最優(yōu)等缺點，增加了尋找全局最優(yōu)解的難度.要解決上述問題，可以從以下兩方面進行改進.

4.3.1動態(tài)調整慣性權重

慣性權重ω用來控制粒子之前的速度對當前速度的影響，它將影響粒子的全局和局部搜索能力.較大的ω值有利于全局搜索，較小ω值有利于局部搜索，但在標準的PSO算法中，ω的值是固定的，在算法運行過程中，根據實際情況給ω賦予動態(tài)變化的值，使得算法能夠平衡全局和局部搜索能力，這樣可以以最少的迭代次數(shù)找到最優(yōu)解.經驗參數(shù)是將ω初始值設定為0.9，并使其隨迭代次數(shù)的增加線性遞減至0.3，以達到上述期望的優(yōu)化目的.通過線性轉換來完成上述參數(shù)值變化的過程.

ω=ωmax-ωmax-ωminnN. （2）

其中ωmax，ωmin分別是ω的最大值和最小值，n和N是當前迭代次數(shù)和最大迭代次數(shù)，在迭代開始時設ω=ωmax，ω在迭代過程中逐漸減小，直到ω=ωmin.

這樣設置使PSO算法能夠更好的控制探索與開發(fā)的關系，在開始優(yōu)化時搜索較大的解空間，找到合適的粒子，然后在后期逐漸收縮到較小的區(qū)域進行更精細的搜索以加快收斂速度.

4.3.2增加粒子的多樣性

在此借鑒遺傳算法中變異的思想，對部分符合條件的粒子以一定的概率重新初始化，目的是通過變異操作來保持種群的多樣性，拓展種群的搜索空間，使得粒子能夠跳出當前局部最優(yōu)的位置，在更大的空間繼續(xù)搜索全局最優(yōu)值.引入線性動態(tài)變異算子：

Fn=Fmin-nN（Fmin-Fmax）.（3）

式中，F(xiàn)n為當前的變異概率；n為當前的迭代次數(shù)；N為最大的迭代次數(shù)；Fmax，F(xiàn)min為最大的變異概率和最小的變異概率.

剛開始迭代時，種群以一個極小的概率發(fā)生變異，至迭代后期，變異概率迅速擴大，粒子可以迅速跳出當前的搜索區(qū)域，在更大的區(qū)域內尋找最優(yōu)解.

4.4改進的PSOBP神經網絡模型

BP神經網絡的學習過程主要是權值和閾值的更新過程，采用的學習算法是以梯度下降為基礎的，但梯度下降法的訓練效果過于依賴初始權值的選擇，且存在訓練時間長、易陷入局部極小等問題.而粒子群算法可以避免梯度下降法中要求函數(shù)可微、對函數(shù)求導的過程，也避免了遺傳算法中的選擇、交叉等操作，具有收斂速度快、記憶性強和全局搜索能力較強等特點[20]，可以將兩種算法結合起來，利用PSO算法中粒子的位置來對應神經網絡網絡中的連接權值和閾值，以神經網絡的輸出誤差作為PSO算法的適應函數(shù)，通過PSO算法的優(yōu)化搜索來訓練神經網絡的權值和閾值，可以彌補BP網絡在學習能力和收斂速度上的不足，既充分發(fā)揮了神經網絡的非線性映射能力，還可以縮短神經網絡的訓練時間，提高預測的精度.

PSO優(yōu)化BP神經網絡的主要步驟如下.

1）初始化.根據BP神經網絡的輸入樣本，建立BP神經網絡的拓撲結構，輸入層節(jié)點數(shù)，隱含層節(jié)點數(shù)，輸出層節(jié)點數(shù)；初始化粒子的位置和速度，以及粒子數(shù)、最大迭代次數(shù)、慣性權重、學習因子等參數(shù).

2）通過網絡訓練，計算粒子的適應度值，得到粒子的個體最優(yōu)值與全局最優(yōu)值.將粒子適應度值與個體最優(yōu)值和全局最優(yōu)值相比較，記錄當前粒子所經歷的最好位置.

3）考察每一個粒子的適應度值.若該值優(yōu)于個體最優(yōu)，則將當前值置為個體最優(yōu)，并更新該粒子的個體最優(yōu)；若粒子中的個體最優(yōu)優(yōu)于當前的全局最優(yōu)，則將個體最優(yōu)置為全局最優(yōu)，并更新全局最優(yōu)值.

4）將經過PSO優(yōu)化的權值和閾值作為BP神經網絡的初始權值和閾值代入BP網絡，訓練至滿足網絡的性能指標，即均方誤差小于預先設定的誤差要求或達到最大迭代次數(shù)時，停止迭代，輸出結果，否則轉到2，繼續(xù)迭代直至算法收斂.

5）由訓練和測試樣本完成神經網絡的訓練和測試，輸出預測值.如圖2所示.

5.2數(shù)據預處理

為了消除各指標不同量綱的影響，需要對數(shù)據進行標準化處理，以解決指標之間的可比性.本文使用離差標準化的方法，對原始數(shù)據進行線性變換，使變換后的值映射到[0，1]之間，并保持原本的數(shù)量關系，變換公式如（4）式所示.

Yi=（Xi-min）/（max-min）.（4）

其中，Yi是樣本i歸一化的值，Xi是樣本i的值，min為樣本最小值，max為樣本最大值.但這個方法有個缺點，當有新的樣本數(shù)據加入時，數(shù)據的最大值和最小值可能會發(fā)生變化，需要重新計算Yi值.

在預測或者評價完成后，再使用反歸一化的方法對數(shù)據進行還原處理，得出其真實值，具體的數(shù)據處理過程可以直接調用Matlab工具箱里的Mapminmax函數(shù)來完成.

5.3數(shù)據降維

就神經網絡的結構而言，預測指標體系越龐大，指標數(shù)量越多，模型就越復雜，預測結果的不確定性就越大，相應地，模型的泛化能力會降低，同時也會增加運算的時間.因此有必要對前面確定的影響能源需求的指標進行定量化的分析，在盡量減少信息丟失的前提下減少指標的個數(shù)，即完成樣本指標的降維.

主成分分析法就是通過線性變換的方法，把原始變量組合成少數(shù)幾個具有代表意義的指標，使得變換后的指標能夠更加集中地反映研究對象特征的一種統(tǒng)計方法[21].對樣本的原始數(shù)據進行主成分分析，得到各個主成分的特征值和方差貢獻率，如表2所示.

從表2的數(shù)據可知，當抽取的主成分為Y1，Y2時，主成分的累計方差貢獻率已達到93.22%，基本覆蓋了原來7個指標所包含的信息.因此可以把Y1，Y2這2個主成分的數(shù)據作為模型的輸入，這樣就大幅度減少了神經網絡的輸入節(jié)點數(shù)，降低了模型的復雜程度，同時也有利于前期樣本數(shù)據的獲取.

根據主成分分析法得出前2個主成分的系數(shù)如表3所示.

從表達式（5）可以看出，第一主成分Y1與x1、x2、x5、x6、x7均保持了較強的正相關，而與x3，x4呈現(xiàn)出負相關，這個數(shù)量關系說明了第一主成分基本反映了上述指標的信息.由于x1、x2、x5、x6、x7是從不同的方面反映了社會經濟發(fā)展的水平，而x3和x4反映了能源消費的狀況，因此，第一主成分Y1是綜合反映了經濟發(fā)展狀況和能源需求之間的密切關系.

從表達式（6）可以看出，第二主成分Y2與x1、x2、x3、x4相關性較強，其中與x3（能源結構）是高度相關的，說明第二主成分基本反映了這個指標的信息.

5.4模型參數(shù)設置

神經網絡的結構一般由樣本的輸入和輸出指標數(shù)量確定，由于使用PCA做數(shù)據降維后，樣本數(shù)據的維數(shù)為2，輸出數(shù)據維數(shù)為1，所以確定模型的輸入節(jié)點數(shù)為2，輸出節(jié)點數(shù)為1.本文選用的是三層的BP神經網絡模型，關于隱含層數(shù)目的確定，目前沒有一個通用的方法，只能根據經驗或者多次試驗來決定.由于隱含層的數(shù)量會影響到模型的學習時間、擬合效果以及泛化能力，因此必須確定一個最佳的隱含層單元數(shù)，根據相關學者的研究結論，隱含層的數(shù)量與問題的要求、輸入、輸出指標的個數(shù)都有關系，且其數(shù)量關系符合以下的計算公式[21]：

R=S1+S2+a.（7）

其中R為隱含層單元數(shù)，S1、S2分別為輸入層和輸出層的數(shù)量，a為[1，10]之間的常數(shù).經過循環(huán)比較算法，得出R的值為4時，模型具有較好的學習效果和泛化能力，因此本文確定神經網絡模型的結構為2-4-1，隱層使用sigmoid函數(shù)，輸出層使用pureline函數(shù)，神經網絡的學習效率取0.1，訓練次數(shù)為150，輸出目標值為0.001.粒子群規(guī)模為50，迭代次數(shù)為100，學習因子c1=1.7，c2=1.5，慣性權重ωmax=0.9，ωmin=0.3，粒子速度最大值為5，最小值為-5.

5.5模型訓練

本文選取前24個樣本數(shù)據作為訓練數(shù)據，用于確定模型的相關參數(shù)，剩余5個樣本作為測試數(shù)據，用于檢驗模型的效果.

將訓練數(shù)據代入模型進行計算，得到的適應度曲線變化如圖3所示，訓練值與實際值比較如圖4所示，可以看出PSOBP模型對歷史數(shù)據的學習情況非常理想，大部分樣本的訓練值與實際值基本吻合，個別樣本有一定的偏差，但在合理的誤差范圍之內，說明該模型的構建是行之有效的.

5.6模型測試

將訓練后的模型對5個預測樣本數(shù)據進行預測，并把預測值與實際值進行比較，結果如表4所示，預測結果如圖5所示，樣本誤差如圖6所示.可以看到，2009-2013年的預測準確度非常高，平均誤差為2.3%，以2009年為例，預測偏差為2.87%，換算成實際的偏差數(shù)量就是552.95萬噸標準煤，準確的預測結果將為能源規(guī)劃與實施提供有力的依據.

由表5可知，PSOBP模型的預測平均誤差為2.3%，BP模型的平均預測誤差為4.8%，說明經過粒子群算法優(yōu)化神經網絡參數(shù)后，不僅使得模型的收斂速度加快，運算時間減少，同時在預測精度方面也有了很大的提升.

5.7不同方法預測結果比較

為了體現(xiàn)PSOBP神經網絡模型的優(yōu)勢，本文同時使用未經優(yōu)化的BP神經網絡對數(shù)據進行訓練和預測，并將兩種預測結果進行比較，具體數(shù)據見表5所示，比較效果如圖9和圖10所示.

5.8未來5年能源需求預測

根據上述預測模型和流程，對廣東省未來5年的能源需求進行預測，這里假設未來5年各項樣本指標均保持當前的增長速度，得出的結果見表6.

從表6可知，未來5年，廣東省的能源需求將持續(xù)增長，平均保持5.7%的增長率，并且增長的速度逐步加快，2018年的需求量將達到33 842.34萬噸標準煤.因此，如何針對快速增長的能源需求，采取有效的措施來解決供需不平衡的矛盾，將是決策者需要考慮的問題.根據廣東省發(fā)改委2013年底公布的《廣東省能源發(fā)展十二五規(guī)劃》，在保證全省能源供應能力的前提下，將進一步加快能源消費結構的調整，構建與科學發(fā)展要求相適應的安全、穩(wěn)定、經濟、清潔的現(xiàn)代能源供應保障體系，具體措施是進一步優(yōu)化能源結構和布局，提升能源利用效率，逐步降低單位GDP能耗，并且爭取在新能源的利用開發(fā)方面取得突破性進展，從而為全省經濟社會發(fā)展提供強有力的能源保障.

6結論

對廣東省的能源需求問題進行了深入的研究，在結合定性和定量分析的基礎上，確定了影響能源需求的主要因素，構建了PSO-BP神經網絡的能源需求預測模型，并對廣東省2014-2018年的能源需求進行了預測.理論分析和實證研究表明，該方法能夠很好的反映廣東省能源需求的特征，預測結果較為準確合理.但就本文所考慮的預測指標體系而言，以定量的指標為主，如何在模型中把政策法規(guī)、環(huán)境保護等難以定量的影響因素包含進來，構建更為完善的預測指標體系，以及當樣本數(shù)量較少的時候，如何保證模型的學習能力和泛化能力，這些問題需要繼續(xù)完善解決.

參考文獻

[1]林伯強.中國能源需求的經濟計量分析[J].統(tǒng)計研究， 2001（10）：34-39.

[2]韓君.中國能源需求的建模與實證分析[D].蘭州商學院， 2007.

[3]魏一鳴等.中國能源需求報告（2006）：戰(zhàn)略與政策研究[M].北京：科學出版社， 2006.

[4]A S WEIGEND . Time series analysis and predicationusing gated experts with application to energy demandforecast[J]. Applied Articial Intelligence， 1996（6）：583-624.

[5]V GEVORGIAN ， M KAISER . Fuel distribution andconsumption simulation in the republic of Armenia[J]. Simulation， 1998（3）：154-167.

[6]張玉春，郭寧，任劍翔.基于組合模型的甘肅省能源需求預測研究[J].生產力研究， 2012（11）：31-34.

[7]馮亞娟，劉曉愷，張波.基于QGALSSVM的能源需求預測[J].科技與經濟，2014（3）：56-61.

[8]蘆森.基于組合模型的中國能源需求預測[D].成都：成都理工大學， 2010.

[9]李琳娜.基于核主成分分析（KPCA）和神經網絡的單目紅外圖像深度估計[D].上海：東華大學， 2013.

[10]張均東，劉澄，孫彬.基于人工神經網絡算法的黃金價格預測問題研究[J].經濟問題， 2010（1）：45-48.

[11]熊志斌.ARIMA融合神經網絡的人民幣匯率預測模型研究[J].數(shù)量經濟技術經濟研究， 2011（6）：75-81.

[12]龍文，梁昔明，龍祖強，等.基于混合進化算法的RBF神經網絡時間序列預測[J].控制與決策， 2012（8）：20-25.

[13]王慶榮，張秋余.基于隨機灰色蟻群神經網絡的近期公交客流預測[J].計算機應用研究， 2012（6）：32-37.

[14]張大斌，李紅燕，劉肖，等.非線性時間序列的小波-模糊神經網絡集成預測方法[J].中國管理科學， 2013（2）：81-86.

[15]高玉明，張仁津.基于遺傳算法和BP神經網絡的房價預測分析[J].計算機工程， 2014（4）：187-191.

[16]伍秀君.廣東省能源需求預測分析及能源發(fā)展對策研究[D].廣州：暨南大學，2007.

[17]薛黎明.中國能源需求影響因素分析[D].徐州：中國礦業(yè)大學，2010.

[18]秦國真.云南能源需求影響因素分析及預測[D].昆明：云南財經大學，2012.

[19]來建波.基于神經網絡的路段行程時間預測研究[D].昆明：云南大學， 2011.