• <input id="zdukh"></input>
  • <b id="zdukh"><bdo id="zdukh"></bdo></b>
      <b id="zdukh"><bdo id="zdukh"></bdo></b>
    1. <i id="zdukh"><bdo id="zdukh"></bdo></i>

      <wbr id="zdukh"><table id="zdukh"></table></wbr>

      1. <input id="zdukh"></input>
        <wbr id="zdukh"><ins id="zdukh"></ins></wbr>
        <sub id="zdukh"></sub>
        公務員期刊網 精選范文 神經網絡隱含層的作用范文

        神經網絡隱含層的作用精選(九篇)

        前言:一篇好文章的誕生,需要你不斷地搜集資料、整理思路,本站小編為你收集了豐富的神經網絡隱含層的作用主題范文,僅供參考,歡迎閱讀并收藏。

        神經網絡隱含層的作用

        第1篇:神經網絡隱含層的作用范文

        關鍵詞:BP神經網絡;非線性函數;擬合;收斂

        中圖分類號:TP18文獻標識碼:A文章編號:1009-3044(2012)27-6579-05

        Nonlinear Function Approximation Based on BP Neural Network

        ZHANG Bao-kun1, ZHANG Bao-yi2

        (1.China Nuclear Control System Engineering Co.,Ltd, Beijing 100076, China; 2. Shenzhen Speedy-Tech Electronics Co., Ltd, Shenzhen 518004, China)

        Abstract: This paper introduces the features and algorithm theorem of BP neural network, and deduces the update rules of the network weight based on a given BP neural network. According to several problems of BP neural network, suggestions are pro? vided for these problems. Applicability of BP neural network for nonlinear function approximation is verified by simulations, and the accuracy can be guaranteed.

        Key words: BP neural network; nonlinear function; approximation; convergence

        BP(Back Propagation)神經網絡是1986年由Rumelhart和McCelland提出的,它是一種誤差按反向傳播的多層前饋網絡,是目前應用最廣泛的神經網絡模型之一。BP神經網絡具有非常強的非線性映射能力,能以任意精度逼近任意連續函數,因此在人工智能的許多領域都得到了廣泛的應用。

        通常,BP算法是通過一些學習規則來調整神經元之間的連接權值,在學習過程中,學習規則以及網絡的拓撲結構不變。然而一個神經網絡的信息處理功能不僅取決于神經元之間的連接強度,而且與網絡的拓撲結構(神經元的連接方式)、神經元的輸入輸出特性和神經元的閾值有關,因而神經網絡模型要加強自身的適應和學習能力,應該知道如何合理地自組織網絡的拓撲結構,知道改變神經元的激活特性以及在必要時調整網絡的學習參數等。[1]圖1多層神經網絡結構

        圖1中給出的多層神經網絡輸入層有n個神經元,隱含層有l個神經元,輸出層有m個神經元。其中wij是輸入層第i個神經元和隱含層第j個神經元之間的連接權值,wjk是隱含層第j個神經元和輸出層第k個神經元之間的連接權值。對于輸入層神經元,其作用函數取線性函數,即神經元的輸出等于輸入。隱含層和輸出層神經元的輸入分別是上一層神經元輸出的加權和,且每個神

        在以下仿真實例中,BP網絡為有監督學習,訓練輸入樣本為input=[1 2 3 4 5 6 7 8 9 10 11 12 13 14],輸出樣本output=[1 2 3 6 11 16 19 24 25 29 32 33 36 42],隱含層節點數為6,網絡最大訓練次數為1000次,學習率為0.005,輸入層到隱含層的初始權值W1以及隱含層到輸出層的初始權值均為-0.1至0.1范圍內的隨機數,仿真結果如下兩圖所示:圖3 BP神經網絡擬合誤差曲線

        圖2中的虛線為BP網絡對測試數據的擬合曲線。實驗結果表明,BP神經網絡能有效擬合非線性函數,若增加隱含層節點數則能進一步提高擬合精度,但是會加大計算量,影響訓練速度。

        本文首先介紹了BP神經網絡的原理以及網絡權值的修正規則,然后通過編程實現BP神經網絡,并將之應用到非線性函數的擬合。實驗結果表明,BP神經網絡能很好的擬合非線性函數,參數的選擇對網絡的性能影響很大。

        [1]何偉,譚駿珊,王楚正,等.BP神經網絡的改進算法及應用[J].信息與電腦,2009(10):34-36.

        [2]程森林,師超超.BP神經網絡模型預測控制算法的仿真研究[J].計算機系統應用,2011,20(8):100-103.

        [3]周永進,蔡惠華,尹遜震,等.改進的BP網絡及其在數據預測中的應用[J].微計算機信息,2007,23(27):150-151.

        [4]夏玫.BP神經網絡泛化能力改進研究[D].太原科技大學,2009.

        [5]王爽,張鷹,呂瑞霞.BP神經網絡的算法改進及應用[J].電腦知識與技術,2009,15(4):933-935.

        第2篇:神經網絡隱含層的作用范文

        關鍵詞:模擬電路;故障診斷;模糊數學;BP網絡;模糊BP網絡

        0引言

        電路故障是指在規定的條件下,電路工作時它的一個或幾個性能參數不能保持在要求的上、下限之間,其結構、組件、元器件等出現性能減退、老化、破損、斷裂、擊穿等現象,喪失了在規定條件和環境下完成所需功能的能力。

        長期以來,學界對模擬電路工作特點的研究已相當深入,但對于故障診斷方法的研究卻困難較大,這是由于模擬電路本身的特性決定的:1)輸入激勵和輸出響應都是連續量,模擬電路中的故障模型復雜,量化難度大;2)模擬電路信號量程寬,不管電壓、電流的量程還是頻率都可達十幾個數量級,測量難度大;3)模擬電路中的元器件參數具有容差,導致電路的故障狀態的模糊性,而無法準確定位;4)模擬電路中存在廣泛的反饋回路和非線性問題,使計算的難度更加復雜。因此,學界提出了許多模型和方法來完成對某些符合特定條件的模擬電路的故障診斷。其中神經網絡法的使用就相當普遍,在硬和軟故障診斷中都有應用,因為神經網絡的技術優勢針對模擬電路故障診斷有較好的適用性,這主要體現在:1)神經網絡的大規模并行處理特點,大大提高了診斷效率;2)自適應與自組織能力使神經網絡在學習和訓練中改變權重值,發展出新的功能。同時,模糊數學也與神經網絡相結合,這是利用了模糊數學對待診斷模擬元器件的故障不確定性進行量化處理,能夠有效克服模擬電路元器件因為容差、非線性及噪聲造成的電路參數模糊性。

        本文的研究目的就是分別利用單純BP神經網絡和模糊BP神經網絡的方法建立模擬電路故障診斷模型,利用電路仿真收集電路不同工作狀態下的關鍵點電壓,代入診斷模型并得到診斷結果。根據各網絡的結果分析比較各診斷模型的優缺點,找出模糊數學對改進模擬電路故障診斷模型的具體表現。

        1模糊神經網絡的故障診斷模型

        1.1典型模糊神經網絡診斷模型介紹

        圖1顯示的是一個典型的模糊神經網絡模型,該模型由原始知識獲取(Fundamental Knowledge Acquire,FKA)、特征參數處理(Characteristic Parameter Produce,CDP)、知識提取(Knowledge Extracted,KE)、經驗知識庫(Experience Knowledge Base,EKB)、學習樣本集(Learning Sample Set,LSS)和模糊神經網絡(Fuzzy Neural Networks,FNN)共6個模塊共同組成,其工作流程是:

        圖1 典型模糊神經網絡診斷模型

        1)原始知識獲取模塊通過對電路工作原理進行分析,模擬或仿真各類故障發生時輸入和輸出參數,從而獲取原始知識(X,Y),將其傳入知識提取模塊中供系統學習,所得經驗集存入經驗知識庫中;

        2)將原始知識和已經存放在經驗知識庫中的經驗知識(初始庫可為空)一起輸入學習樣本組織模塊中,進行學習樣本的構建,合成訓練樣本集為(X1,Y1);

        3)將(X1,Y1)輸入到模糊神經網絡模塊,學習訓練,并在達到指定精度后停止;

        4)將從模擬電路中獲得的實測參數Xc輸入至特征參數提取模塊中,完成數據分析和處理,輸出特征參數數據Xc';

        5)將特征參數數據輸入到學習收斂后的模糊神經網絡中,進行診斷推理,得出診斷結果Yc';

        6)將得到的實測數據集(Xc',Yc')輸入學習樣本組織模塊,動態增強模糊神經網絡的自適應能力;

        7)將得到的實測數據集(Xc',Yc')輸入知識提取模塊,進行分析和處理,如能提取出經驗知識,則歸入經驗知識庫中[1]。

        1.2模糊神經網絡結構

        模糊神經網絡的結構應該包括4層,如圖2所示。

        模糊層的作用是將輸入量進行模糊化。每一個模糊層節點對應一個該論域中的模糊子集和隸屬函數。該層接收精確數值輸入,經過模糊化計算得出對應的隸屬度并輸出。

        圖2 模糊神經網絡結構圖

        輸入層、隱含層和輸出層共同構成一個完整的神經網絡。輸入層不具有運算功能,它只是將所感知的輸入值精確傳遞到神經網絡中;隱含層的作用相當于特征檢測器,提取輸入模式中包含的有效特征信息,使輸出層所處理的模式是線性可分的,該層節點是模糊神經元,與輸入層間的連接權值是隨機設定的固定值;輸出層節點也是模糊神經元,與隱含層之間采用全連接方式,其連接權值是可調的,作用是輸出用模糊量表示的結果[2]。

        1.3輸入層、輸出層和隱含層節點數確定

        輸入層的個數代表了電路故障診斷的關鍵測試點的個數N1,輸出點為電路所具有的潛在故障模式種類數N3。

        根據輸入層和輸出層的個數,隱含層節點數N2的確定有以下4種經驗公式[3]:

        (1)

        (為0~10之間的常數)(2)

        (為0~10之間的常數)(3)

        (4)

        2模糊數學和神經網絡的算法介紹

        2.1模糊數學和隸屬度函數

        模糊數學的作用是對測試點測得的電壓信號進行特征提取——模糊化處理。因為在模擬電路測試中,參數值會隨著故障原因的不同和故障階段不同而發生變化,所以在進行數據處理時常用方法是使用精確事實規則。即用正態分布函數作為隸屬度函數表示“大約為a”的模糊概念,此外還有如三角分布和梯形分布等[4]。在使用中,正態分布使用較多,其中的a是該測試點的理想狀態工作點,b為該測試點在各種可能狀態下的工作電壓均方差。

        2.2BP神經網絡與算法

        圖3BP神經網絡模型結構圖

        反向傳播網絡(Back-Propagation Network,簡稱BP網絡),是一種有隱含層的多層前饋網絡。每一層均有一個或多個神經元節點,信息從輸入層依次經各隱含層向輸出層傳遞,層間的連接關系強弱由連接權值W來表征。BP算法是一種監督的學習,基本原理是梯度最速下降法,中心思想是調整權值使網絡總誤差最小。通過連續不斷地在相對于誤差函數斜率下降的方向上計算網絡權值和偏差值的變化而逐漸逼近目標的。每一次權值和偏差的變化都與網絡的誤差的影響成正比,并以反向傳播的方式傳遞到每一層。BP網絡模型結構如圖3所示。

        以BP神經網絡模型結構圖為例進行BP算法推導,其輸入為P,輸入神經元有r個,隱含層內有s1個神經元,激活函數為F1,輸入層內有s2個神經元,對應的激活函數為F2,輸出為A,目標矢量為T。

        1)隱含層輸出:(i=1,2,…,s1)(5)

        2)輸出層輸出: (k=1,2,…,s2) (6)

        3)定義誤差函數:(7)

        4)輸入層的權值變化量:(8)

        其中:

        同理可得:(9)

        5)隱含層權值變化有: (10)

        其中:

        同理: (11)

        BP網絡經常使用的是S型的對數、正切激活函數或線性函數[5]。

        3電路故障診斷算法驗證

        圖4 共集-共射電路的直流通路圖

        例:如圖4所示的直流通路圖,電阻的標稱值如圖中所注。利用Multism軟件在直流狀態下進行多次Monte Carlo分析仿真該電路[6],并考慮電阻的容差影響,取40個樣本作為模糊神經網絡的訓練樣本,另取5個樣本為測試樣本。設電阻R1~R5的容差值為-5%~5%。測試點選為A、B、C、D和E五點,所測電壓值為VA、VB、VC、VD和VE。

        表1 部分電路實驗樣本原始數據

        表2 測試樣本原始數據

        表1列舉了40組電路實驗樣本原始數據的11組,包含了該電路在11種工作狀態下的五個關鍵點電壓值,所以N1=5,N2=11,隱含層的節點數可以依據公式2.3確定為12個,其中a為5。

        表2則列舉了5組測試樣本的原始數據。

        步驟一:數據模糊化

        根據用正態分布函數作為隸屬度函數表示“大約為a”模糊概念的思路,可以分別得到各測試點上電壓隸屬度函數的參數值。

        a1=5.57、a2=4.97、a3=4.9、a4=5.7和a5=5.69以及b1=4.3729、b2=4.4817、b3=3.9091、b4=4.2870和b5=3.7944。

        由各測試點的隸屬度函數可得到網絡的訓練樣本見表3。

        表3 神經網絡部分輸入、輸出訓練樣本

        步驟二:將訓練樣本輸入神經網絡進行訓練

        將全部40個原始值和模糊化值的輸入樣本和對應的輸出樣本分別輸入BP神經網絡中進行訓練。

        步驟三:將測試樣本輸入神經網絡進行檢測

        將全部5個原始值和模糊化值的輸入樣本和對應的輸出樣本分別輸入已經訓練好的BP神經網絡中,輸出診斷結果見表4。

        表4 輸出診斷結果

        表4中的數據是經過故障診斷后得到的結果,在此只是各隨機選用了一組數據加以比較說明。通過對故障診斷的試驗觀察和結果的比較可以作出以下分析。

        1)模糊化數據能夠有效減少神經網絡的收斂次數。如在BP網絡診斷中,使用模糊化數據的迭代次數由886減少到263次,收斂速度明顯加快;

        2)模糊化數據能夠有效提高神經網絡訓練的效果。通過表4中數據的對比可以發現對于相同的神經網絡,經過模糊化數據的訓練,其準確性更高。這主要表現在電路所對應的狀態結果普遍高于未經模糊化數據訓練的網絡得出的結果;同時,其他狀態對應的機率更低,皆低于0.1,且更多值為0,說明數據模糊化能使神經網絡的診斷結果更集中,正確率更高,有效性更加明顯。

        4結論

        通過分別采用BP網絡和模糊BP網絡建立了電路故障診斷模型,對電路相同工作狀態參數的診斷結果進行比較,得出了模糊數學對提高電路故障診斷模型精度和有效性效果明顯的結論。模糊數學和神經網路理論的組合有效地提高了模擬電路故障診斷模型的收斂速度,提高了故障診斷的工作效率,還提高了診斷的準確性,有效性得到了充分顯示。

        參考文獻

        [1] 呂律,魏蛟龍.基于模糊神經網絡的板級電路故障診斷研究[J].計算機與數字工程,2003(3):21-23.

        [2] 李國勇.智能預測控制及其MATLAB實現[M].北京:電子工業出版社,2010.

        [3] MATLAB中文論壇.MATLAB神經網絡30個案例分析[M].北京:北京航空航天大學出版社,2010.

        [4] 朱大奇.電子設備故障診斷原理與實踐[M].北京:電子工業出版社,2004.

        第3篇:神經網絡隱含層的作用范文

        [關鍵詞]人力資源管理;人力資源需求預測;BP神經網絡

        [中圖分類號]F270.7[文獻標識碼]A[文章編號]2095-3283(2013)01-00-02

        一、 應用BP神經網絡的必要性

        隨著經濟全球化和信息技術的加快發展,我國企業面臨著更為嚴峻的競爭壓力。為了適應現代市場需求,企業必須優化配置人力資源,并科學制定人力資源規劃。其中,科學的人力資源需求預測是人力資源開發和規劃的基礎,對人力資源管理活動將產生持續和重要的影響。

        企業人力資源需求預測分析方法多種多樣。在進行人力資源需求預測時,企業要考慮的因素復雜多變,如企業的目標和經營戰略、生產狀況的變化、工作設計或組織結構的變化等,而且各種影響因素與預測結果之間的相關性難以用定量的方法表示出來,是非線性相互制約的映射關系。將BP神經網絡方法應用于人力資源需求預測領域,彌補和改進了人力資源需求預測分析方法,能較好地實現各指標與需求結果之間非線性關系的映射,對企業人力資源決策具有一定的參考和指導作用。

        二、BP神經網絡的基本原理

        人工神經網絡,簡稱神經網絡,是一種包括許多簡單的非線性計算單元或聯結點的非線性動力系統,是用大量簡單的處理單元廣泛連接組成的復雜網絡。Back-Propagation Network,簡稱為BP網絡,即基于誤差反向傳播算法的多層前饋網絡,是目前應用最成功和廣泛的人工神經網絡。它由輸入層、隱含層和輸出層組成。隱含層可以是一層或多層。BP神經網絡自身具有的非線性映射、自學習、自適應能力、容易實現并行計算等優點,彌補和改進了供應商選擇和評價方法,能較好地實現各指標與評價結果之間非線性關系的映射。

        基于BP神經網絡,構建供應商的選擇評價模型,其基本思想為:假設輸入變量為X=(X1,X2,···,Xi)',隱含層輸出變量為Y=(Y1,Y2,···,Yj)',輸出層變量為Z=(Z1,Z2,···,Zl)',期望輸出的目標變量為T=(T1,T2,···,Tl)',Wij、Wjl分別為輸入層到隱含層、隱含層到輸出層的連接權值(如圖1所示)。對于i個輸入學習樣本X1,X2,···,Xi,已知與其對應的輸出樣本為Z1,Z2,···,Zl。通過BP算法的學習,沿著負梯度方向不斷調整和修正網絡連接權值Wij和Wjl,使網絡的實際輸出Z逐漸逼近目標矢量T,也就是使網絡輸出層的誤差平方和達到最小。

        圖1三層BP網絡結構圖三、BP神經網絡在企業人力資源需求預測中的應用

        根據上述BP神經網絡主要思想,以A公司為例,分析如何運用MATLAB工具箱實現基于BP神經網絡的企業人力資源需求預測。

        1.樣本數據處理

        選取年份、產值、資產總計、利潤4個指標作為輸入向量,從業人員作為目標向量(見表1)。在對BP網絡進行訓練前,應該對數據進行歸一化處理,使那些比較大的輸入仍落在傳遞函數梯度大的地方。本例采用MATLAB工具箱中的premnmx()函數把數據歸一到[-1,1]之間,如表2所示。

        對于BP網絡,有一個非常重要的定理。即對于任何在閉區間內的一個連續函數都可以用單隱層的BP網絡逼近,因而一個三層BP網絡就可以完成任意的n維到m維的映射。本例采用單隱層的BP網絡進行從業人員預測。由于輸入樣本為4維的輸入向量,因此,輸入層一共有4個神經元,網絡只有1個輸出數據,則輸出層只有1個神經元。隱含層神經元個數根據最佳隱含層神經元數經驗公式取15個。因此,網絡應該為4×15×1的結構。隱含層神經元的傳遞函數為S型正切函數tansig(),輸出層神經元的傳遞函數為線性激活函數purelin()。

        3.BP網絡訓練及仿真

        建立網絡后,對表2中的數據進行訓練,訓練參數的設定如表3所示,其他參數取默認值。

        訓練次數12100012目標誤差120.00112學習速率120.01訓練結果如圖1所示,可見經過52次訓練后,網絡的目標誤差達到要求。

        圖1訓練結果網絡訓練結束后,運用MATLAB工具箱中的sim()函數,將經過歸一化后的數據表2進行仿真模擬,獲得網絡的輸出,然后將運算結果通過postmnmx()函數進行反歸一化處理,得到BP網絡預測值,最后檢查BP網絡預測值和實際從業人員數之間的誤差是否符合要求,如表4所示。

        4.預測結果評價

        圖2反映了該BP網絡較好地逼近了輸入矢量,即年份、產值(萬元)、資產總計(萬元)和利潤(萬元)與目標矢量,即從業人員(人)之間的線性關系。用BP神經網絡對現有人力資源狀況進行分析擬合,是人力資源需求預測的較理想方法。與傳統的人力資源需求預測方法相比,將BP神經網絡用于人力資源需求預測,克服了輸入矢量和目標矢量非線性、不符合統計規律的問題。BP神經網絡模型良好的容錯和自學習能力,調用MATLAB工具箱函數,使預測過程更易實現,可以更好地對人力資源進行規劃,提高人力資源預測精度。

        圖2BP神經網絡的函數逼近結果將BP神經網絡應用于企業人力資源需求預測,能較好地建立起各影響因素與預測結果之間的非線性關系,是企業預測人力資源需求的一種較理想的方法。但BP神經網絡也存在著一些不足和問題。主要表現在學習速率太小可能會造成訓練時間過長;BP算法可以使權值收斂到某個值,但并不能保證其為誤差平面的全局最小值;網絡隱含層的層數和單元數的選擇一般是根據經驗或者通過反復實驗確定,網絡往往存在很大的冗余性,在一定程度上也增加了網絡學習的負擔。因此,BP神經網絡在企業人力資源需求預測領域的應用仍需根據企業自身實際情況做進一步的改進和完善。

        [參考文獻]

        [1]飛思科技產品研發中心神經網絡理論與MATLAB7實現[M]北京:電子工業出版社,2005.

        [2](美)海金(Simon Haykin)神經網絡原理(原書第2版)[M]葉世偉,史忠植譯北京:機械工業出版社,2004.

        [3]叢爽面向MATLAB工具箱的神經網絡理論與應用[M]中國科學技術大學出版社,1998.

        [4]劉躍基于BP神經網絡的人力資源估價研究[J]統計與信息論壇,2007(1):96-99.

        [5]艷明四種人力資源的定量預測方法及評述[J]統計與決策,2008(7):30-32.

        [6]國家統計局固定資產投資統計司,中國行業企業信息中心中國大型房地產與建筑業企業年鑒[M]北京:中國大地出版社,2003-2008.

        [7]王文富企業人力資源預測與規劃研究[D]天津大學,2004.

        第4篇:神經網絡隱含層的作用范文

        關鍵詞:短期負荷預測;神經網絡;遺傳算法

        作者簡介:黃國棟(1976-),男,廣東陽江人,廣東電網湛江供電局,工程師。(廣東 湛江 524005)

        中圖分類號:TM714 文獻標識碼:A 文章編號:1007-0079(2014)06-0261-02

        電力短期負荷預測是對未來一周以內(通常為一周或一天)的負荷進行預測。短期負荷預測在電網運行實時控制和發電規劃中具有重要地位,短期負荷的預測結果是調度中心制定發電計劃、電力系統運行安全評估、電力企業日常經營管理的重要依據。[1]在當前電力系統市場化形勢下,提高負荷預測精度對于電力系統的經濟運行、合理制定機組檢修計劃和進行電力需求管理等具有重要意義。

        一、電力系統負荷變化的特點及預測方法

        電力系統負荷變化受到很多因素的影響。一方面,負荷變化存在由未知不確定因素引起的隨機波動;另一方面,具有周期變化的規律性,這也使得負荷曲線具有相似性;同時,由于受天氣、節假日等特殊情況的影響,負荷變化又會體現出差異性。[2]整體上講,負荷曲線是與很多因素相關而且難以用數學公式表達的非線性函數。

        相對于早期的統計技術法和專家系統法,神經網絡的優點在于它不依靠專家經驗,只利用觀察到的數據,可以在訓練過程中通過學習來逼近任意的非線性輸入/輸出關系,因此,將神經網絡方法應用于電力負荷預測有著明顯的優勢。但是,神經網絡存在兩個主要問題:收斂速度慢和容易陷入局部極小點。因此,本文采用遺傳算法優化人工神經網絡,建立電力短期負荷預測模型,并將結合廣東省某城市的電力負荷的實際情況對預測方法進行探討和研究。

        二、人工神經網絡模型

        BP(Back Propagation)神經網絡是一種按誤差逆傳播算法訓練的多層前饋網絡,神經網絡模型中的所有神經元按照功能一般分成三層(輸入層、隱含層和輸出層),各層順次連接。[3]其三層模型拓撲結構如圖1所示。

        BP算法的學習過程分為正向傳播過程和反向傳播過程兩個階段。

        1.正向傳播過程

        輸入信息從輸入層經隱含層逐層計算各單元的實際輸出值,各神經元的狀態只對下一層神經元的狀態產生影響。設BP網絡的輸入層有n1個節點,隱含層有n2個節點,輸出層有n3個節點,輸入為xi,輸入層與隱含層之間的權值為wki,隱含層與輸出層之間的權值為wjk;隱含層的閾值為bk,輸出層的閾值為bj;隱含層的傳遞函數為f1(·),輸出層的傳遞函數為f2(·)。則隱含層節點輸出zk和輸出層節點輸出yj分別為:

        k=1,2,……n2

        (1)

        j=1,2,……n3

        (2)

        2.反相傳播過程

        若網絡實際輸出值與期望值之差,即誤差超出允許值,則逆向逐層修正連接權值。設BP網絡有P個輸入樣本,采用平方型誤差函數,于是得到全局誤差為:

        (3)

        式中:為第p個樣本的實際輸出,為期望輸出。

        采用累計誤差BP算法依次調整輸出層權值wjk和隱含層權值wki誤差使全局誤差變小,即:

        (4)

        (5)

        式中:η為學習率。

        如此往復不斷調整權值,直到使網絡的誤差滿足要求。

        三、遺傳算法

        1.遺傳算法的基本原理

        遺傳算法(Genetic Algorithms,簡稱GA)是一種高度并行、自適應全局優化搜索方法。[4]它借鑒自然界遺傳和選擇機理,首先初始化一個種群,然后按照某種指標在每一代選取較優個體,利用遺傳算子(選擇、交叉和變異)對這些個體進行組合,產生新一代個體,重復此過程,直到滿足優化準則為止。遺傳算法是基于對生物遺傳和進化過程的計算機模擬,它能使各種人工系統具有良好的自適應能力和優化能力。目前,遺傳算法已經廣泛應用于規劃設計、組合優化、自適應控制、經濟運行、模式識別、人工智能、分子生物學、故障診斷以及計算機技術等領域,并取得了很好的效果。

        2.遺傳算法的實現過程

        (1)將問題的解以編碼形式表示出來,并隨機生成若干個體,即初始群體。

        (2)譯碼,計算目標函數得出個體適應度值,判斷是否滿足停止條件。

        (3)根據個體適應度值的高低,應用選擇、交叉和突變算子進行遺傳操作,產生下一代群體。

        (4)返回步驟(2),反復執行,直到滿足停止條件。最后,搜索到最優個體,即問題的最優解。[5]

        3.遺傳算法優化BP網絡權值、閾值

        由于遺傳算法是以最大值作為優化目標,為適應神經網絡算法的要求,將適應度函數取反,即變為以最小值為優化目標。遺傳算法優化BP神經網絡算法的步驟:

        (1)構建BP網絡,確定遺傳算法個體長度。

        (2)生成初始種群,確定種群規模。對遺傳算法個體進行編碼,編碼由神經網絡的輸入層與隱含層的連接權值、隱含層閾值、隱含層與輸出層的連接權值和輸出層閾值四部分組成。

        (3)根據個體得到BP網絡的權值和閾值,應用訓練數據訓練,得到網絡的輸出。計算實際輸出與期望輸出的誤差,并依據此誤差計算個體適應度值。

        (4)根據個體的適應度進行選優操作,選擇若干適應度強的個體直接進入下一代,適應度差的個體被淘汰。

        (5)進行交叉、變異操作,生成下一代群體,然后返回步驟(3),直到得到最優解。

        四、實例分析

        本試驗分別采用單一神經網絡預測法、遺傳算法和神經網絡的組合預測法,分別對廣東省某城市某一日的時負荷進行預測與分析。以該市2010年6月2日~21日和2010年6月3日~22日(只選取工作日)的整點負荷訓練樣本集,根據6月23日各整點的時負荷數據和24日各整點的溫度與天氣,預測6月24日的時負荷。

        1.數據預處理

        根據神經網絡的建模原理,訓練樣本的準確性對于模型的預測準確性至關重要。由于系統故障、線路停電檢修、通信錯誤等原因,歷史負荷數據中經常存在一些不良數據。這些不良數據具有很強的隨機性,會對網絡的預測精度和預測速度產生嚴重影響。因此,在建立電力短期負荷預測模型前,先對訓練用的數據樣本進行預處理。應用格拉布斯準則判別是否有不良數據,如果有要直接消除并以相應的插值代替,從而提高數據的準確度和可信度。經計算,本實例的樣本數據正常,符合實際情況。

        數據歸一化方法是神經網絡預測前對數據常做的一種處理方法。數據歸一化處理把所有的數據都轉化為[0,1]之間的數,其目的是取消數據間數量級差別,避免因為輸入/輸出數據數量級差別較大而造成網絡預測誤差較大。最后需要進行反歸一化,得到最終預測結果。[6]數據歸一化的方法主要有最大最小值法和平均數方差法。本文采用最大最小值法。

        2.確定BP神經網絡結構

        考慮到該城市位于中國南端,緯度較低,影響電力負荷最主要的因素是溫度等天氣情況。采集預測日前一天每小時的負荷數據和預測日當天各小時的溫度值(取平均值)、氣象類型(晴、陰、雨)作為預測條件。由此確定BP神經網絡模型的輸入節點數為3;輸出節點數為1;隱含層節點數取8。為方便計算,將氣象類型數字化、歸一化處理,溫度值和負荷數據歸一化處理。本文采用分散式建模方法,即為一天的24小時各建立一個模型,共建立24個。分散式建模方法相對于集中建模方法(24小時用一個模型),雖然模型多,但是預測準確度高。每個整點的時負荷采用相應的BP神經網絡模型進行預測。建模工具選用matlab7.0。[7]

        3.遺傳算法優化神經網絡

        以整點負荷、溫度數據和氣象數據作為網絡的訓練樣本集,應用遺傳算法對基于單一神經網絡建立的各個模型(每小時各建一個模型,共24個)進行優化,得到每個模型近似最優權值和閾值。應用優化的權值和閾值對BP神經網絡進行訓練,并保存訓練好的網絡。最后,應用訓練好的網絡對各整點時負荷進行預測。

        表1 2010年6月24日負荷預測值與誤差

        時間 實際值 BP神經網絡

        方法預測 誤差/% 遺傳算法神經網絡方法預測 誤差/%

        0:00 404.743 412.375 1.886 397.470 -1.797

        1:00 382.280 376.397 -1.539 382.009 -0.071

        2:00 359.937 369.208 2.576 352.735 -2.001

        3:00 355.508 352.308 -0.900 357.115 0.452

        4:00 347.836 341.504 -1.820 346.528 -0.376

        5:00 347.545 342.354 -1.494 346.586 -0.276

        6:00 354.184 356.650 0.696 360.655 1.827

        7:00 364.504 363.920 -0.160 360.123 -1.202

        8:00 395.881 392.358 -0.890 390.042 -1.475

        9:00 462.394 471.572 1.985 464.239 0.399

        10:00 500.344 502.904 0.512 494.610 -1.146

        11:00 514.415 515.950 0.298 513.479 -0.182

        12:00 477.935 489.898 2.503 485.792 1.644

        13:00 479.680 473.516 -1.285 472.638 -1.468

        14:00 470.148 477.403 1.543 462.066 -1.719

        15:00 482.950 490.302 1.522 474.556 -1.738

        16:00 487.295 483.800 -0.717 486.028 -0.260

        17:00 501.225 503.265 0.407 505.465 0.846

        18:00 470.361 462.391 -1.694 466.165 -0.892

        19:00 455.995 443.791 -2.676 463.788 1.709

        20:00 493.266 494.178 0.185 494.682 0.287

        21:00 489.909 498.115 1.675 486.195 -0.758

        22:00 474.146 486.493 2.604 480.348 1.308

        23:00 446.201 436.293 -2.221 441.855 -0.974

        單一神經網絡方法和遺傳算法優化神經網絡方法得出的預測結果見表1和圖3。從圖3中3條曲線對比可以看出,應用遺傳算法優化神經網絡預測模型得到的預測結果比單一神經網絡的更接近實際負荷曲線。單一神經網絡預測的負荷最大誤差為-2.676%,平均誤差1.408%,而用基于遺傳算法優化神經網絡預測的負荷最大誤差為-2.001%,平均誤差為1.034%,精度顯然大于單一神經網絡。

        五、結論

        本文利用遺傳算法優化了BP神經網絡結構,并且應用此模型對實際電力短期負荷進行了預測試驗分析。實證證明,遺傳算法的全局優化搜索能力有效彌補了BP神經網絡容易陷入局部極小值的缺陷,在此基礎上建立的預測模型的可靠性、準確性都有所增強,證明了基于遺傳算法優化的神經網絡的短期負荷預測方法是可行的。

        參考文獻:

        [1]牛東曉,曹樹華,趙磊,等.電力負荷預測技術及其應用[M].北京:中國電力出版社,2002.

        [2]陳金賽,張新波.基于改進BP人工神經網絡的電力負荷預測[J].杭州電子科技大學學報,2011,34(4):173-176.

        [3]田景文,高美娟.人工神經網絡算法研究及應用[M].北京:北京理工大學出版社,2006.

        [4]王小平,曹立明.遺傳算法[M].西安:西安交通大學出版社,

        2002.

        [5]李玲純,田麗.基于遺傳算法和BP神經網絡的短期電力負荷預測[J].安徽工程科技學院學報,2009,24(3):57-60.

        第5篇:神經網絡隱含層的作用范文

        關鍵詞: 徑向基函數神經網絡; 近鄰傳播聚類算法; 隱含層; 逼近誤差

        中圖分類號: TN711?34; TP398.1 文獻標識碼: A 文章編號: 1004?373X(2016)19?0016?04

        Abstract: The prediction accuracy of the traditional radial basis function (RBF) neural network may result in lower algorithm efficiency and pathological numerical value due to the inappropriate random selection of the hidden layer center node, to improve the efficiency of RBF neural network, a method of using affinity propagation (AP) clustering algorithm to improve RBF neural network is proposed. The principle and modeling steps of the method are introduced. Since the adopted AP clustering algorithm belongs to the self?adapting clustering learning algorithm, it needn′t predefine the numbers of the hidden layer center nodes, and is applied to prediction without transcendental information. The AP algorithm is used for clustering iteration according the information of training sample, so as to determine the center node and node numerical value of hidden layer in RBF neural network, and solve the center dereferencing problem of RBF network. After that, all input data is taken in RBF neural network based on AP clustering algorithm for prediction. Since the use of AP algorithm needn′t predefine the clustering numbers, the proposed scheme can improve the learning accuracy and training speed of the RBF neural network. The approximate simulation experiment was performed for sine function with the proposed optimization scheme. The results show that the approximate error of the proposed scheme is only 0.005 5, and can keep good prediction accuracy under the noise of 0.3.

        Keywords: radial basis function neural network; affinity propagation clustering algorithm; hidden layer; approximate error

        0 引 言

        RBF(Radial Basis Function)網絡是一種單隱含層前饋神經網絡,其基本思想是在隱含層內基函數的作用下,將輸入信息的不可分矢量變換到高維可分空間[1?3]。RBF網絡結構簡單而且具備非線性逼近能力,收斂速度快。RBF網絡已經廣泛應用于函數逼近、模式識別、信號處理和控制等領域[4?5]。由于RBF網絡的輸出是線性的,隱含層的輸出是非線性的,所以對RBF網絡的訓練主要針對隱含層。目前,提高RBF網絡性能的主要方法包括調節隱含層層數,調節隱含層的中心節點參數和寬度參數。王榮秀等利用局部保持投影的方法[6],對用于來波到達角估計的神經網絡進行降維,同時獲得了良好的估計精度和效率。郭偉等用K近鄰統計法估計隱含節點輸出矩陣和輸出節點輸出矩陣之間的互信息,減少相關性最小的隱含節點以優化網絡結構[7]。薛福強等通過改進的層次遺傳算法確定RBF神經網絡均衡器結構[8],使用較少的隱含層單元獲得了信道均衡器的低誤碼率。

        近鄰傳播AP算法是Frey等提出的一種新的聚類算法[9]。它因無需指定聚類數目,具有更高效的處理速度,同時也能夠得到較好的聚類結果。朱紅等提出了一種改進屬性約簡的細粒度AP算法[10],實現聚類的并行處理。然而,利用AP聚類算法的優秀特性對RBF神經網絡進行優化的文獻卻比較少見。本文使用AP算法對輸入數據進行聚類,選出聚類中心作為隱含層的中心節點,以聚類中心數作為隱含層節點數,解決了隱含層中心取值和層數確定的問題,使RBF網絡只需要進行一步迭代算法,就能得到輸出結果。

        1 RBF網絡模型

        RBF神經網絡是由輸入層、隱含層和輸出層組成的單隱層前饋網絡[11?12]。其中,輸入層不會改變輸入信息的相關性,只起到傳遞作用;而隱含層單元為感受野單元,由一組徑向基函數構成,一般為非線性函數[13]。

        3 AP聚類算法優化的RBF神經網絡

        目前針對RBF神經網絡隱含層優化的方法主要分為兩類:調節隱含層層數,調節隱含層的中心節點參數和寬度參數。調節隱含層層數的方法需要根據訓練數據的先驗信息設置具體的隱含層層數,或者利用預處理的方法對輸入進行處理以消除部分相關性。當隱含層內的神經元無法覆蓋所有輸入信息的數據集合時,網絡本身的預測精度就難以保證。調節隱含層節點參數和寬度參數的方法需要根據具體的應用需要開發新的預處理方法,實施起來不具有普適性。在本文提出的AP算法優化的RBF神經網絡中,由于AP聚類學習算法屬于自適應聚類學習算法,它無需事先給定隱含層中心節點的個數,只需要根據輸入樣本的信息進行聚類迭代,從而確定徑向基函數的中心點,能夠適用于不具有先驗信息的預測。

        本文提出的基于AP算法優化RBF神經網絡模型由兩部分組成:首先用AP算法對樣本進行初始聚類,以確定RBF神經網絡的中心節點及其數目;然后將所有數據交給RBF神經網絡進行預測。基于AP算法優化的RBF神經網絡模型如圖2所示。

        4 仿真結果

        本文以逼近正弦函數[y=sin(2πx)]為例,首先取0.01~1之間以0.01為間隔的100個數作為輸入值,然后使用AP算法選出中心節點,接著使用RBF網絡進行訓練,最后取0.505~1之間以0.01為間隔的50個數作為輸入值進行預測,以輸出誤差值的最大值作為評價標準。阻尼因子設置為[λ=0.5,]中心節點數目標識為[A。][W1]為無噪聲時的誤差,[W2]為加入占空比為30%的白噪聲后的逼近誤差。表1為無噪聲環境下[P]取不同值時選擇出的中心節點和逼近誤差。

        由圖4可以看出,取0.505~1區間內以0.01為間隔的50個數作為輸入數據進行預測后得到的預測結果非常好。

        圖5和圖6分別是在噪聲占空比為0.15和0.3環境下的預測結果。從這兩幅圖中可以看出在低噪聲情況下,本文提出的方案能夠很好地抑制噪聲,取得較好的預測結果。在高噪聲情況下,本文提出的方案仍然能夠獲得有效的預測結果。

        從上述仿真結果可以看出,在無噪聲情況下選出的節點數越多,逼近誤差值越小,但是中心節點數增多,會導致隱含層層數增多,網絡結構更加復雜,大大增加了訓練時間,降低了學習速率。因此選擇適當的中心節點數和中心節點對RBF網絡非常重要。

        5 結 語

        RBF神經網絡隱含層中心節點個數和選取方案關乎其預測精度,而現有中心節點的選取方案依賴于對訓練樣本的相關性分析,使得RBF神經網絡實施復雜,不具有普適性。本文利用AP聚類算法無需指定聚類個數、自適應實現全局最優聚類和聚類速度快的優點,用AP算法確定RBF神經網絡中心節點個數和數值。本文改進的RBF網絡不僅能夠確定隱含層的層數還能選出中心節點,訓練速度快,解決了RBF網絡最重要的問題,而且不依賴于具體訓練數據的相關程度,具有普適性。從仿真實驗可以看出,AP算法和RBF網絡結合后的預測結果準確度高,逼近效果好,表明AP算法能夠有效地解決RBF網絡隱含層優化問題。

        參考文獻

        [1] 文翰,肖南峰.基于強類別特征近鄰傳播的半監督文本聚類[J].模式識別與人工智能,2014,27(7):646?654.

        [2] 回立川,于淼,梁芷睿.應用近鄰傳播算法改進RBF的短期負荷預測[J].電力系統及其自動化學報,2015,27(1):69?73.

        [3] 趙鳳嬌,賀月姣.基于改進的K?means聚類算法水下圖像邊緣檢測[J].現代電子技術,2015,38(18):89?91.

        [4] 黃建清,王衛星,胡月明,等.近鄰傳播聚類無線傳感器網絡分簇路由算法[J].計算機工程與設計,2014,35(2):406?410.

        [5] 常瑞花.基于密集度量元的近鄰傳播聚類算法[J].微電子學與計算機,2015(5):1?5.

        [6] 王榮秀,田雨波,張貞凱.基于局部保持投影和RBF神經網絡的DOA估計[J].科學技術與工程,2013,13(24):7054?7058.

        [7] 郭偉.基于互信息的RBF神經網絡結構優化設計[J].計算機科學,2013,40(6):252?255.

        [8] 薛富強,葛臨東,王彬.基于改進層次遺傳算法優化的神經網絡信道均衡器[J].計算機應用與軟件,2010,27(5):75?77.

        [9] FREY B J, DUECK D. Clustering by passing messages between data points [J]. Science, 2007, 315(5814): 972?976.

        [10] 朱紅,丁世飛,許新征.基于改進屬性約簡的細粒度并行AP聚類算法[J].計算機研究與發展,2012,49(12):2638?2644.

        [11] 李英樂,于洪濤,劉力雄,等.基于RBF神經網絡的微博消息傳播時間預測方法[J].計算機工程與設計,2013,34(11):3815?3819.

        [12] 孟軍,尉雙云.基于近鄰傳播聚類的集成特征選擇方法[J].計算機科學,2015,42(3):241?244.

        [13] 錢雪忠,趙建芳,賈志偉.基于約束投影的近鄰傳播聚類算法[J].計算機工程與科學,2014,36(3):524?529.

        [14] 邢,劉劍.基于近鄰傳播與密度相融合的進化數據流聚類算法[J].計算機應用,2015,35(7):1927?1932.

        第6篇:神經網絡隱含層的作用范文

        計算機網絡的安全評價是計算機操作和運行過程中的一個重要的環節。影響計算機網絡安全的因素有很多,例如硬件、軟件設備、計算機程序、操作方式、網絡環境等。傳統的計算機網絡安全評價是一個線性評價的過程,不能對各種影響因素進行綜合的評價,在評價的精度上也不高。神經網絡是在傳統評價方式上進行優化的一種評價手段,采用了更為合理的評價標準,然后通過專家打分的方式確定各個影響因素在評價指標中所占到的比重,最后得出計算機網絡的安全評價。

        關鍵詞:

        神經網絡;計算機;網絡安全評價;應用

        伴隨著網絡技術的發展,計算機網絡安全的影響因素也在不斷增加,病毒、系統漏洞、黑客入侵等多種安全隱患對計算機的功能和操作都能產生了極大的影響。這些影響因素之間還會相互影響,形成錯綜復雜的非線性關系,給網絡系統安全性的定量評價帶來了極大的難度。計算機網絡安全的傳統評價方式采用的是線性評價的模式,在操作上較為復雜,且精度不高,已經無法在實際應用中發揮有效的作用。另一種專家評價方式則帶有較強的主觀性,且對專家自身的專業素質和工作經驗有著較高的要求,評價的結果往往難以驗證。神經網絡是近幾年發展起來的新型評價方式,它是由許多神經元組成的,能夠對網絡的安全性進行非線性的評價,并完成對網絡的簡單維護和控制,與傳統評價方式相比,神經網絡在評價精度和效率上都有較大的提高。

        1神經網絡的特點及發展

        神經網絡的提出是在上個世紀中期。生物學家和物理學家首次嘗試將兩個學科的研究結合起來,形成了神經網絡模型。這種模型是以人腦的神經網絡為模板,模擬了人腦處理信息和傳遞信息的過程。通過數學學科對網絡的結構、神經元的組成等進行研究,以及生物學對神經元的功能、作用原理等進行研究,成功模擬出了神經網絡模型。這一模型的提出為神經網絡在計算機安全評價方面的應用奠定了基礎。上個世紀中后期,計算機領域的專家將神經網絡的模型應用到了計算機網絡安全的研究上,并在原始模型的基礎上,增加了模型的感知功能,并與計算機技術進行了結合,在工程學領域進行了應用。神經網絡模型在計算機網絡上的應用能夠實現對聲波的檢測和識別,并且確定目標物的精確位置。這促進了神經網絡技術的進一步發展。上個世紀末,計算機專家又提出了一種新的映射網絡模型,利用映射中的拓撲結構,對計算機的功能進行了模擬。1982年,生物學家對神經網絡的性質進行了更深層的研究,從而發現神經網絡是一種非線性的結構,由此神經網絡為計算機網絡安全的評價提供了一條新的思路。

        2計算機網絡安全評價體系概述

        計算機網絡安全是現在人們關注的重點問題之一,所謂的計算機網絡安全就是指通過合理的措施確保計算機中的數據信息的安全性和可靠性。計算機網絡安全包括兩部分的內容,第一部分是邏輯安全,所謂的邏輯安全是指保證計算機中存儲的數據信息的完整性和安全性;第二部分是物理安全,所謂的物理安全是指要對計算機的硬件設施進行檢查,保證計算機的硬件設施、系統處于安全運行狀態,避免出現計算機硬件設施運行異常的情況。但需要注意的是計算機網絡安全不僅僅包括上述這些內容,隨著網絡技術的不斷發展,計算機網絡安全還應包括網絡信息共享的安全性。通過上述的分析不難發現,計算機網絡安全具有下述幾個特征。第一,計算機網絡安全具有一定的保密性,計算機網絡中傳輸的數據信息有很大一部分是需要保密的,因此為了保證網絡傳輸信息的安全,必須要加強計算機網絡安全建設;第二,計算機網絡安全具有一定的完整性,計算機中無論是存儲的數據還是傳輸的數據都應保證其完整性,這樣才能滿足相應的使用要求;第三,計算機網絡安全應具有一定的可控性,計算機網絡安全性應是處于可以控制的范圍內,如果不能滿足這一要求,則會影響計算機網絡的使用效果。近年來,隨著科學技術的不斷發展,計算機網絡安全面臨的挑戰愈加嚴峻,在這種情況下,必須要加強對計算機網絡安全的重視。計算機網絡安全評價是實現網絡安全保護的重要環節之一,只有對網絡中存在的安全隱患進行有效的評估和檢測,才能有針對性地制定解決方案,從而實現網絡的安全穩定運行。隨著評價方式的不斷豐富和評價標準的不斷完善,逐漸形成了一個完整的網絡安全評價體系。網絡安全評價體系的建立需要遵循一些基本的原則。首先是準確性原則,建立計算機網絡安全評價體系的根本目的就是要有效識別網絡中的安全隱患,確保網絡環境的安全可靠,評價的準確性直接影響了網絡安全維護的質量。其次是獨立性,要對網絡安全進行評價必須要有一定的安全標準,這就需要設置一系列的評價指標,各個指標之間都應當是相互獨立的,不應當在內容上產生重疊,防止指標之間的相互影響。第三是簡潔性原則,在確保評價準確的基礎上,要使評價的過程盡量的簡化,這樣才能提高評價的效率。第四是完善性原則,完善性就是要求指標應當包含對網絡安全性各個方面的評價,能夠從整體上反映出整個系統的運行狀態。最后是可行性原則,在選擇評價指標時應當考慮到指標能否在實際中進行操作和執行,因此,指標的設定應當盡量與實際操作結合起來。

        3網絡安全體系的設定

        根據網絡安全的狀況可以將計算機的網絡安全分為四個等級,分別是安全、有風險、有危險、非常危險。不同的安全等級可以采用不同的顏色進行標注。例如十分危險可以用紅色進行標注,表明網絡中存在極大的漏洞,需要立即進行處理。有危險可以用橙色進行標注,說明網絡中存在安全隱患,需要對網絡進行檢查,并進行一定的殺毒處理。有風險可以用黃色進行標注,說明網絡的運行的過程中出現了風險項,需要對網絡進行一定的檢測和調試,及時排除網絡中的風險項。安全可以用綠色來表示,說明網絡安全狀況良好,可以進行放心的使用。用顏色來表示不同的安全狀態是一種十分直觀的表示方式,能夠方便用戶在最短的時間內確認網絡的運行狀況。

        4各評價指標的取值及標準化問題

        計算機網絡安全評價由于各個指標所評價的因素不同,因此在指標的取值和標準上也有所不同。評價的方式主要有兩種,分別是定性評價和定量評價。這兩種評價方式的側重點有所不同,因此將兩項評價指標結合起來能夠更全面反映網絡的安全狀況。定量指標在進行取值時應當根據實際情況進行選取,不能對所有的定量指標采取一樣的評價指標。在進行標準化處理時則要將取值的范圍限定在0-1之間。對定性標準而言,采用專家打分的方式是較好的取值方式,不同的系統也要根據實際情況進行不同的等級評價。定性指標也應當進行一定的標準化處理。

        5借助神經網絡建立計算機網絡安全評價的必要性

        與傳統的算法相比,神經網絡算法有著明顯的優勢,例如,有較強的學習能力,能夠進行自我調解,精確度較高等。

        5.1較強的適應性神經網絡具有良好的環境適應能力,當其處于輸入或輸出的狀態時,可以進行自我調節從而提高計算的精度,并對計算的過程進行反饋。

        5.2容錯性神經網絡與傳統算法相比,最大的優勢在于它對噪音和不完善的信息具有較高的敏感度,這是由于神經網絡的每一個節點對應著網絡中的一個特征,當某一個節點中輸入的信息出現問題時,神經網絡能夠立即作出反應。

        5.3可在線應用神經網絡運行的核心環節在訓練過程,因此在這一個階段會耗費較長的時間。一旦神經網絡完成這一個階段的工作后,就能快速的獲得計算結果,從而提高了安全評價的效率,能夠在在線系統的應用中獲得良好的效果。

        6計算機網絡安全評價模型的設計

        6.1輸入層輸入層的神經元節點數量應當根據計算機網絡安全評價指標的數量來確定。例如,當計算機安全評價模型中含有20個指標時,輸入層的神經元指標也必須為20個。

        6.2隱含層絕大多數神經網絡的隱含層屬于單向隱含層。隱含層節點的數量直接決定著神經網絡的性能。當隱含層的數量過多時會導致神經網絡的結構過于復雜,信息傳輸的速率較低。當隱含層的節點數量較少時,神經網絡的容錯能力會減弱。因此,隱含層節點的數量必須進行合理地選擇。根據實際操作的經驗,通常隱含層的節點數量為5個時能夠起到較好的評價作用。

        6.3輸出層輸出層的節點數量通常為2個,可以通過不同的組合方式來表示不同等級的網絡安全狀態。例如,(1,1)表示安全,(1,0)表示存在風險,(0,1)表示存在危險,(0,0)表示非常危險。

        7計算機網絡評價的具體步驟

        計算機網絡評價的具體過程分為兩個步驟:首先是構建計算機網絡安全評價體系,其次是使用粒子群優化的方法對BP神經系統進行優化,改善BP神經網絡自身的缺陷,提高其性能。BP神經網絡的優化方法有以下幾點:對BP神經網絡的目標量、函數等進行初始化;對粒子的初始速度、初始位置、動量參數等進行設置和調整;通過粒子群的集中來完善BP神經網絡的功能,對網絡的適應度作出評價;對每個神經元進行歷史適應度與當前適應度的對比,若當前的適應度是歷史最高時,就應當及時保存,并將此作為評價的標準;計算每個粒子的慣性;當粒子的位置和運動速率產生變化時,記錄粒子群之間的適應度誤差,并做好相應的記錄;對系統適應度的誤差進行統計。

        8計算機網絡安全評價的原理

        計算機的安全評價原理是依據相關的評價標準,先確定評價的范圍和內容,再根據網絡的實際運行狀況和安全狀態,對網絡中可能出現安全隱患的區域進行預測,并采取制定的標準進行評價,最終得到網絡安全等級。在這一過程中,合理地選擇計算機網絡的評價因素、建立正確的評價模型是關鍵的環節。計算機網絡是一個非線性的結構,安全漏洞的出現具有突發性和多變性。而神經網絡具有非線性的評價功能,用它來進行計算機網絡的安全等級評價是一種科學性較高的評價模式,能夠有效地提高評價的精度。

        8.1計算機網絡安全評價指標體選擇計算機是一個十分復雜的體系,影響其安全等級的因素有很多,要確保安全評價的準確性就要建立起一個完善、合理的評價體系。計算機網絡安全評價指標的選擇應當從管理安全、物理安全、邏輯安全等幾個方面進行考慮,并采用專家系統對安全評價標準的選擇進行調整和確定,確定各個指標在最終的評價體系中所占的比重。

        8.2計算機網絡安全指標的歸一化處理由于各個指標之間的評價方式有所不同,因此不同的指標之間是無法進行直接的比較的。為了便于進行指標之間的比較,并加快神經網絡的收斂速率,需要對指標進行歸一化處理。定性指標可以通過專家打分的方式進行歸一處理,定量指標則需要經過一定的公式計算進行歸一化處理。

        8.3BP神經網絡算法BP神經網絡是當前最常用的一種神經網絡模型。它采用的是梯度下降的算法,可以對誤差進行反向計算,從而對網絡的閾值進行不斷的調整,減少計算的誤差。BP神經網絡具有強大的非線性逼近能力,計算方法較為簡單,但是也有一定的缺陷,例如容易陷入局部極值,從而防止了有效的收斂,此外,BP神經網絡還有全局能力不強的缺點,由于BP神經網絡采用的是反向傳播的下降算法,所以收斂速度極慢。

        9神經網絡系統在計算機網絡安全中的應用

        計算機網絡具有傳遞數據、分享信息的功能,當前已經在眾多領域進行了應用,包括商務、貿易、信息管理等。而網絡黑客則利用了計算機網絡的安全漏洞,對系統進行攻擊和入侵,并竊取了客戶重要的個人信息和商業信息,給用戶造成了極大的經濟損失,并對整個社會造成惡劣影響。神經網絡系統在計算機信息傳遞的過程中起到了過濾非法信息的作用。在網絡世界中,信息的傳遞是雙向的,而在神經網絡的模式下,信息的輸入和輸出都要經過神經網絡的過濾作用。神經網絡的三個組成部分,輸入層、輸出層、隱含層都對信息有過濾的作用,經過三層的過濾作用,信息的安全性有了更好的保障。在這三層中,隱含層起到了關鍵性的作用。輸入的信息都要先經過隱含層,在經過隱含層的處理后,再通過輸出層傳出。在信息傳輸的過程中,若發現信息存在異常,可以輸送回上一層進行信息的重新核對,信息重新進行上述的處理過程,直到確認信息無誤后才會輸出。神經網絡系統的應用極大地提高了網絡的安全性,從而為人們提供了一個良好的網絡環境。盡管神經網絡系統有上述的這些優點,但也存在一定的缺陷。雖然神經網絡的靈活性和適應性較強,但對缺失信息的反應不如傳統算法靈敏。在神經網絡中,一個節點只能反映一個網絡問題,一旦一個節點發生問題后,整個神經網絡都會作出相應的反應。神經網絡具有較好的延展性,可以容納多種類型的樣本數據。神經網絡還具有較好的學習適應能力,可以歸納總結運行過程中的運算規律,自動調節信息輸入輸出的形式,從而減少數據的誤差。神經網絡還能在有線網絡中進行應用,因此可以進行大范圍的推廣。大量的節點共同組成了神經網絡,相鄰的節點之間都是相互連接的,從而確保了信息傳遞的效率。神經系統能夠自動的調節節點之間的關聯,具有一定的智能化操作功能,還可以對問題進行簡單的分析。神經系統的結構較為復雜,在處理信息的過程中可以產生多種不同的組合類型,并從這些組合中優選出最佳的組合方式。但這種結構也會導致在信息處理的過程中一些細小的問題容易被忽視,在一定程度上影響信息處理的精度。一些復雜的數據采用神經網絡的處理方法速率會十分的緩慢。在輸入信息不斷增加的過程中,計算機內部的存儲壓力會顯著上升,進一步影響信息的處理速度。神經網絡與人工智能的功能還是存在一定的差距的,在性能和結構上還有進一步完善的空間。

        10結束語

        神經網絡是將生物學與數學進行結合的典范,將兩個學科的優勢充分的利用起來。神經網絡在計算機網絡安全評價中能夠起到良好的效果,可以在未來進行進一步的推廣應用。

        參考文獻:

        [1]李忠武,陳麗清.計算機網絡安全評價中神經網絡的應用研究[J].現代電子技術,2014(9):11-13.

        [2]鄭剛.計算機網絡安全評價中神經網絡的應用研究[J].網絡安全技術與應用,2014(7):33-36.

        第7篇:神經網絡隱含層的作用范文

        關鍵詞:BP神經網絡;農用地定級;評價

        0 引言

        農用地定級作為農用地分等與估價的中間環節,是在分等對農用地質量區域性差異評價的基礎上,考慮影響土地質量的自然因素和社會經濟因素,根據土地管理,尤其是耕地保護管理的需要,在一定行政區內進行的農用地質量綜合評定[1]。根據《農用地定級規程》(TD/T1005-2003),農用地定級推薦采用因素法、修正法或樣地法,在加權求和模型、幾何平均模型或復合模型求取土地評價單元總分值的基礎上,通過等間距法、數軸法或總分頻率曲線法進行土地級別的劃分。

        傳統的定級方法容易受人為主觀因素影響,導致評價結果的不準確性,而人工神經網絡的評價方法具有自學習、自組織、自適應性的特點,正好可以解決此問題。人工神經網絡(Artifical Neural Network,ANN)的評價與優化功能在近幾年的地學研究中得到充分體現[2],其中BP(Back Propagatin)人工神經網絡是目前應用最廣泛的一類,該網絡在具有人工神經網絡各特點的同時,還具有構建簡單、訓練算法豐富、映射能力強等優點。本文嘗試運用 BP人工神經網絡進行農用地定級,利用這種非線性定量分析的方法不僅可以減少人為確定權重的主觀性和模糊性,同時還可以精簡評價過程。

        1 研究區概況

        嘉魚縣位于湖北東南部,長江中游南岸。地跨東經113°39′-114°22′,北緯29°48′-30°19′,縣境地形狹長,全境長85km,寬5.7-17.9km。地屬長江沖積平原,地面高程都在18-26m之間。屬亞熱帶濕潤型季風氣候,具有四季分明、氣候溫和、濕度較大、日照充足、雨熱同季、無霜期長等特點。境內平原與丘崗氣候亦無明顯區別。

        嘉魚縣國土面積為101842.36hm2。其構成是:農用地面積74,885hm2,占總面積73.53%,其中耕地面積為32,944.26hm2,占總面積32.35%;建設用地面積10,462.7hm2,占總面積的10.27%,其中居民點及工礦用地5,254.72hm2,占總面積5.16%,未利用地16,494.66hm2,占總面積16.20%。

        2 研究方法與模型

        2.1 BP人工神經網絡

        BP(Back Propagatin)人工神經網絡是目前世界上研究最深入、應用最廣泛的人工神經網絡模型。該網絡一般由輸入層、隱含層(或稱中間層)和輸出層三層構成;層內的單元不發生聯系,層間的單元間通過輸入數據及其對應的權重值相互連接。信息由輸入層進入網絡后,傳到隱含層單元,經過響應傳遞函數(一般取Sigmoid 函數),再傳到輸出層并計算輸出值。之后網絡將應有的輸出與實際輸出進行比較,通過反向傳播誤差,修正與基本單元相連接的各輸入量的權重,并重新計算輸出、進行比較。通過信息傳遞、輸出、比較、反饋的連續反復訓練,使模擬誤差逐步降低直至低于規定要求[4]。

        2.2 建立定級模型

        根據對BP人工神經網絡的分析,農用地定級評價的BP神經網絡模型結構如圖1所示:

        由模型結構圖可以看出,模型由三層神經元組成:輸入層、隱含層和輸出層。其中輸入層神經元是經過標準化處理后的農用地定級評價基礎指標;輸出層神經元是農用地定級評價的結果,即農用地定級級別;而隱含層的神經元數目的多少則是對整個網絡能否正常工作具有重要意義,所以科學地、自動地確定隱含層節點數目是極其重要的。

        2.2.1 確定隱含層節點數

        從原理上說, 一個在輸入層上具有m個神經元,隱含層具有(2m+1)個神經元,輸出層具有n個神經元的三層網絡,可以精確地實現任意給定的連續的映射。因此,每當創建一個新的人工神經網絡模型時,可以從這(2m+1)個隱層節點入手進行篩選,根據前人經驗[6~9]可以依據以下公式進行設計:

        (1)

        (2)

        式中:m為隱層節點數;n為輸入層節點數;w為輸出層節點數;R(10)為1~10之間的常數。

        2.2.2 模型建立步驟

        根據圖1所示BP網絡,可按以下步驟建立模型:

        (1)確定影響因素因子并進行數據量化處理,作為網絡輸入。收集研究區內樣點資料,并進行必要的分析與檢驗,剔除不合格的樣點數據,確保樣本數據可靠。

        (2)確定網絡結構,即根據評估對象特性確定隱含層節點數及各層的節點數。

        (3)初始化網絡及學習參數,即將隱含層和輸出層各節點的連接權值、神經元閾值賦予某一區間的一個隨機數。

        (4)提供訓練樣本。即從樣本數據中,選取一部分樣本,作為網絡學習樣本。

        (5)訓練樣本經過隱含層、依權值和激活函數的作用在輸出節點算得網絡輸出值,并計算網絡輸出與樣點期望輸出間的均方差,如果均方差大于給定限差,則執行下一步(6);如小于,則返回本步,進行下一個訓練樣本訓練,直到訓練樣本集合中的每個樣本滿足輸出要求為止,即BP網絡學習完畢。

        (6)從輸出層反向計算到第一隱含層,首先計算同一層節點的的誤差δ,然后按梯度法修正權值,再用修正后的各節點連接權值轉到第(5)步重新計算。

        3 嘉魚縣農用地定級評價

        3.1 嘉魚縣農用地定級指標體系構建

        3.1.1 農用地定級影響因素分析

        影響農用地定級的因素主要指對農用地質量差異有顯著影響的自然因素、區位因素和社會經濟因素[3]。

        (1)自然因素:指對農用地質量有顯著影響的局部氣候差異、地形、土壤條件、水資源狀況等,主要包括溫度、降水量、蒸發量、地形部位、坡度坡向、土壤質地、土壤pH值、土壤污染狀況、地下水埋深、水源水質等。

        (2)區位因素:指土地利用狀況、耕作便利條件和基礎設施條件等,主要包括灌溉保證率、排水條件、田間道路、耕作距離、田塊平整度、利用集約度、人均耕地、利用現狀等。

        (3)社會經濟因素:指對農用地質量有影響的區位條件和交通條件,主要包括中心城市影響度、農貿市場影響度、道路通達度等。

        不同地區,影響農用地質量的因素存在差異,在具體評估過程中,選擇定級因素應遵循以主導因素為主的原則,選擇那些對農用地質量有顯著影響的、有較大變化范圍的主要因素,盡可能舍棄那些影響弱、或與主導因素存在相關關系的因素。為了便于應用數學模型對農用地定級評價,還必須根據各因素對農用地質量的影響程度大小進行量化及相應的處理。

        3.1.2 嘉魚縣農用地定級指標體系

        根據以上分析,結合《農用地定級規程》(TD/T 1005-2003)中提供的農用地定級備選因素因子、統計資料與影響因素的相關性和資料收集的難易性、以及以往土地評估經驗和專家的建議,利用特爾菲法,最終確定選擇了自然因素、社會經濟因素和區位因素3個方面共10個因子指標,建立了嘉魚縣農用地定級評價指標體系,如表1:

        3.2 屬性數據的標準化處理

        為了統一數據量綱、提高數據可比性,并滿足BP模型對數據的要求,需要對所有因子指標進行量化,并根據需要對數據進行極差標準化處理,從而把所有數據轉化到0~1范圍內[5]。經極差標準化后的數據如表2:

        3.3 定級評價過程BP網絡模擬

        在嘉魚縣農用地定級評價過程中,采集的樣本數總數為163,其中訓練集樣本63個,占總數的38.7%,測試集樣本100個。利用MATLAB軟件將經過標準化處理后的10個定級因子作為樣本的輸入值,利用63個訓練樣本進行網絡學習訓練,并進行網絡隱含層神經元數的調整,最終確定隱含層神經元數為6,即網絡結構為10-6-1,程序代碼如下:

        %p為樣本輸入數據;%t為目標數據

        net=newff([0 1;0 1;0 1;0 1;0 1;0 1;0 1;0 1;0 1;0 1],[6 1],{'tansig' 'purelin'},'traingdx');

        net.trainParam.goal=0.001;

        net.trainParam.epochs=10000;

        net=init(net);net=train(net,p,t);save net10 net;

        網絡訓練成功,并保存網絡。將測試樣本輸入訓練好的網絡中,輸出定級結果。神經網絡輸出的結果是定級評估的量化值,而不僅是級別,級別內部差別也可得到體現。如表3:

        3.4 試驗結果與分析

        根據神經網絡計算出的評價值,可將嘉魚縣農用地分為5級。一、二級地分別占總面積的16%和15%,分布在全縣的東南部地勢較平緩的平原地區;三級和四級地分別占總面積的31%、35%,主要分布在全縣的西北崗地區;五級地占總面積的3%,主要為自然條件和灌溉條件差、利用率低的地區。評價結果與嘉魚縣實際情況基本相符,該結果反映出嘉魚縣農用地低等級別地較多,占農用地總面積的六成以上。也間接反映出近年來,耕地質量下降的問題。

        4 結論

        盡管BP神經網絡有其自身的弱點,還有待進一步的完善。但由于神經網絡具有自身適應能力,排除了很多人為的干擾因素,從而能對農用地定級給出一個客觀的評價。并且,人工神經網絡還可以精簡評價過程,為評價工作減少不必要的冗余。通過BP網絡在嘉魚縣農用地定級評價中的應用,與嘉魚縣實際情況是基本相符合的,證明了該方法還是具有很強的實際應用價值的。

        參考文獻:

        [1] 金曉斌,張鴻輝.基于模糊ISODATA聚類方法的農用地定級研究[J].農業工程學報,2008,24(7):82-85.

        [2] 朱紅梅,周子英.BP人工神經網絡在城市土地集約利用評價中的應用――以長沙市為例[J].經濟地理,2009,29(5):836-839.

        [3] TD/T1005-2003.農用地定級規程[S].

        [4] 張蓬濤,楊紅.基于神經網絡的基準地價預測模型研究--以河北省主要城市為例[J].中國土地科學,2000,14(5):32-35.

        [5] 劉耀林,焦利民.土地評價理論、方法與系統開發[M].北京: 科學出版社,2008:213-223.

        [6] 趙霈生,陳百明.在土地評價中應用人工神經網絡專家系統的理論與實踐[J].中國土地科學,1998,12(2):28-34.

        [7] 周開利,康耀紅.神經網絡模型及其MATLAB仿真程序設計[M].北京:清華大學出版社,2005:89-100.

        第8篇:神經網絡隱含層的作用范文

        關鍵字神經網絡,BP模型,預測

        1引言

        在系統建模、辨識和預測中,對于線性系統,在頻域,傳遞函數矩陣可以很好地表達系統的黑箱式輸入輸出模型;在時域,Box-Jenkins方法、回歸分析方法、ARMA模型等,通過各種參數估計方法也可以給出描述。對于非線性時間序列預測系統,雙線性模型、門限自回歸模型、ARCH模型都需要在對數據的內在規律知道不多的情況下對序列間關系進行假定。可以說傳統的非線性系統預測,在理論研究和實際應用方面,都存在極大的困難。相比之下,神經網絡可以在不了解輸入或輸出變量間關系的前提下完成非線性建模[4,6]。神經元、神經網絡都有非線性、非局域性、非定常性、非凸性和混沌等特性,與各種預測方法有機結合具有很好的發展前景,也給預測系統帶來了新的方向與突破。建模算法和預測系統的穩定性、動態性等研究成為當今熱點問題。目前在系統建模與預測中,應用最多的是靜態的多層前向神經網絡,這主要是因為這種網絡具有通過學習逼近任意非線性映射的能力。利用靜態的多層前向神經網絡建立系統的輸入/輸出模型,本質上就是基于網絡逼近能力,通過學習獲知系統差分方程中的非線性函數。但在實際應用中,需要建模和預測的多為非線性動態系統,利用靜態的多層前向神經網絡必須事先給定模型的階次,即預先確定系統的模型,這一點非常難做到。近來,有關基于動態網絡的建模和預測的研究,代表了神經網絡建模和預測新的發展方向。

        2BP神經網絡模型

        BP網絡是采用Widrow-Hoff學習算法和非線性可微轉移函數的多層網絡。典型的BP算法采用梯度下降法,也就是Widrow-Hoff算法。現在有許多基本的優化算法,例如變尺度算法和牛頓算法。如圖1所示,BP神經網絡包括以下單元:①處理單元(神經元)(圖中用圓圈表示),即神經網絡的基本組成部分。輸入層的處理單元只是將輸入值轉入相鄰的聯接權重,隱層和輸出層的處理單元將它們的輸入值求和并根據轉移函數計算輸出值。②聯接權重(圖中如V,W)。它將神經網絡中的處理單元聯系起來,其值隨各處理單元的聯接程度而變化。③層。神經網絡一般具有輸入層x、隱層y和輸出層o。④閾值。其值可為恒值或可變值,它可使網絡能更自由地獲取所要描述的函數關系。⑤轉移函數F。它是將輸入的數據轉化為輸出的處理單元,通常為非線性函數。

        2.1基本算法

        BP算法主要包含4步,分為向前傳播和向后傳播兩個階段:

        1)向前傳播階段

        (1)從樣本集中取一個樣本(Xp,Yp),將Xp輸入網絡;

        (2)計算相應的實際輸出Op

        在此階段,信息從輸入層經過逐級的變換,傳送到輸出層。這個過程也是網絡在完成訓練后正常運行時的執行過程。

        2)向后傳播階段

        (1)計算實際輸出Op與相應的理想輸出Yp的差;

        (2)按極小化誤差的方式調整權矩陣。

        這兩個階段的工作受到精度要求的控制,在這里取作為網絡關于第p個樣本的誤差測度,而將網絡關于整個樣本集的誤差測度定義為。圖2是基本BP算法的流程圖。

        2.2動態BP神經網絡預測算法

        在經典的BP算法以及其他的訓練算法中都有很多變量,這些訓練算法可以確定一個ANN結構,它們只訓練固定結構的ANN權值(包括聯接權值和結點轉換函數)。在自動設計ANN結構方面,也已有較多的嘗試,比如構造性算法和剪枝算法。前一種是先隨機化網絡,然后在訓練過程中有必要地增加新的層和結點;而剪枝法則正好相反。文獻[2]中提出了演化神經網絡的理念,并把EP算法與BP進行了組合演化;也有很多學者把遺傳算法和BP進行結合,但這些算法都以時間復雜度以及空間復雜度的增加為代價。根據Kolmogorov定理,對于任意給定的L2型連續函數f:[0,1]nRm,f可以精確地用一個三層前向神經網絡來實現,因而可以只考慮演化網絡的權值和結點數而不影響演化結果。基于此,在BP原有算法的基礎上,增加結點數演化因子,然后記錄每層因子各異時演化出的結構,最后選取最優的因子及其網絡結構,這樣就可以避免由于增加或剪枝得到的局部最優。根據實驗得知,不同的預測精度也影響網絡層神經元的結點數,所以可根據要求動態地建立預測系統。具體步驟如下:

        (1)將輸入向量和目標向量進行歸一化處理。

        (2)讀取輸入向量、目標向量,記錄輸入維數m、輸出層結點數n。

        (3)當訓練集確定之后,輸入層結點數和輸出層結點數隨之而確定,首先遇到的一個十分重要而又困難的問題是如何優化隱層結點數和隱層數。實驗表明,如果隱層結點數過少,網絡不能具有必要的學習能力和信息處理能力。反之,若過多,不僅會大大增加網絡結構的復雜性(這一點對硬件實現的網絡尤其重要),網絡在學習過程中更易陷入局部極小點,而且會使網絡的學習速度變得很慢。隱層結點數的選擇問題一直受到神經網絡研究工作者的高度重視。Gorman指出隱層結點數s與模式數N的關系是:s=log2N;Kolmogorov定理表明,隱層結點數s=2n+1(n為輸入層結點數);而根據文獻[7]:s=sqrt(0.43mn+0.12nn+2.54m+0.77n+0.35)+0.51[7]。

        (4)設置結點數演化因子a。為了快速建立網絡,可以對其向量初始化,并從小到大排序[4,7]。

        (5)建立BP神經網絡。隱含層傳遞函數用tansig,輸出層用logsig,訓練函數采用動態自適應BP算法,并制訂停止準則:目標誤差精度以及訓練代數。

        (6)初始化網絡。

        (7)訓練網絡直到滿足停止判斷準則。

        (8)用測試向量對網絡進行預測,并記錄誤差和逼近曲線,評估其網絡的適應性。其適應度函數采取規則化均方誤差函數。

        (9)轉到(5),選取下一個演化因子,動態增加隱含層結點數,直到最后得到最佳預測網絡。

        3基于神經網絡的預測原理[4]

        3.1正向建模

        正向建模是指訓練一個神經網絡表達系統正向動態的過程,這一過程建立的神經網絡模型稱為正向模型,其結構如圖3所示。其中,神經網絡與待辨識的系統并聯,兩者的輸出誤差用做網絡的訓練信號。顯然,這是一個典型的有導師學習問題,實際系統作為教師,向神經網絡提供算法所需要的期望輸出。當系統是被控對象或傳統控制器時,神經網絡多采用多層前向網絡的形式,可直接選用BP網絡或它的各種變形。而當系統為性能評價器時,則可選擇再勵學習算法,這時網絡既可以采用具有全局逼近能力的網絡(如多層感知器),也可選用具有局部逼近能力的網絡(如小腦模型控制器等)。3.2逆向建模

        建立動態系統的逆模型,在神經網絡中起著關鍵作用,并且得到了廣泛的應用。其中,比較簡單的是直接逆建模法,也稱為廣義逆學習。其結構如圖4所示,擬預報的系統輸出作為網絡的輸入,網絡輸出與系統輸入比較,相應的輸入誤差用于訓練,因而網絡將通過學習建立系統的逆模型。但是,如果所辨識的非線性系統是不可逆的,利用上述方法將得到一個不正確的逆模型。因此,在建立系統時,可逆性應該先有所保證。

        4應用實例分析

        以我國西南某地震常發地區的地震資料作為樣本來源,實現基于動態神經網絡的地震預報。根據資料,提取出7個預報因子和實際發生的震級M作為輸入和目標向量。預報因子為半年內M>=3的地震累計頻度、半年內能量釋放積累值、b值、異常地震群個數、地震條帶個數、是否處于活動期內以及相關地震區地震級。在訓練前,對數據進行歸一化處理。由于輸入樣本為7維的輸入向量,一般情況下輸入層設7個神經元。根據實際情況,輸出層神經元個數為1。隱含層神經元的傳遞函數為S型正切函數,輸出層也可以動態選擇傳遞函數。實例數據來自文獻[4],將數據集分為訓練集、測試集和確定集。表1中的7×7數組表示歸一化后的訓練向量,第一個7表示預報因子數,第二個7表示樣本數。

        表1歸一化后的訓練向量

        在不同神經元數情況下,對網絡進行訓練和仿真,得到如圖5所示的一組預測誤差曲線。其中,曲線A表示隱層結點數為6時的預測誤差曲線,曲線B表示隱含層結點數為3時的預測誤差曲線,曲線C表示隱含層結點數為5時的預測誤差曲線,曲線D表示隱含層結點數為4時的預測誤差曲線。將五種情況下的誤差進行對比,曲線C表示的網絡預測性能最好,其隱含層神經元數為5,圖中曲線E表示的是隱含層結點數為15時的預測誤差曲線(文獻[4]中的最好結果)。同時也證明,在設計BP網絡時,不能無限制地增加層神經元的個數。若過多,不僅會大大增加網絡結構的復雜性,網絡在學習過程中更易陷入局部極小點,而且會使網絡的學習速度、預測速度變得很慢。

        5結論

        本文針對基本的BP神經網絡,提出了可動態改變神經元數(與精度相關)的BP神經網絡預測方法,可以根據實際情況建立預測系統。用此種方法可以建立最好的神經網絡,不會有多余的神經元,也不會讓網絡在學習過程中過早陷于局部極小點。

        參考文獻

        [1]YaoX,LiuY.FastEvolutionaryProgramming.inEvolutionaryProgrammingⅤ:Proc.5thAnnu.Conf.EvolutionaryProgram,L.Fogel,P.AngelineandT.Bäck,Eds.Cambridge,MA:MITPress,1996,451-460

        [2]XinYao,YongLiu,ANewEvolutionarySystemforEvolvingArtificialNeuralNetworksIEEETRANSACTIONSONNEURALNETWORKS,VOL8,NO.31997,694-714

        [3]潘正君,康立山,陳毓屏.演化計算[M].北京:清華大學出版社,1998

        [4]飛思科技產品研發中心.神經網絡理論與實現.北京:電子工業出版社,2005

        [5]蔡曉芬,方建斌.演化神經網絡算法.江漢大學學報,第33卷第3期,2005.9

        第9篇:神經網絡隱含層的作用范文

         

        計算機網絡的快速發展和技術的廣泛應用給人們的生產生活提供了便利,但同時,也帶來了一些不容忽視的安全隱患。近年來,影響計算機安全的因素很多,例如犯罪團伙利用網絡等高科技進行犯罪的案例屢見不鮮。對此進行嚴格防范,更好地促進計算機和互聯網的發展,需要對計算機網絡安全進行評價,建立安全、有效的計算機網絡評價系統,網絡安全評價體系可以對整個計算機網絡進行評估和分析,完善評價體系,使系統更準確、可靠,其中使用率最高的則是神經網絡。

         

        1 神經網絡的概述

         

        1.1 神經網絡的簡介

         

        神經網絡又被稱為鏈接模型,它效仿了生物神經網絡而建立,它以人腦的信息處理方式為基礎,采用建立數學模型的方式研究大腦行為結構和生物神經元基本特征,世界上第一個神經網絡模型是由數學家和生物學家共同提出。神經網絡復雜多變,它是由神經元內部通過大量節點進行相互連接形成的一種網絡結構,其中每個神經元都可處理信息,從而達到處理海量信息的規模。隨后,計算機學家在原有的神經網絡模型的基礎上增加了學習機制,將神經網絡技術應用在工程中,設計出了感知器神經網絡模型,我國的計算機學家和數學家通過對神經網絡的分析,展開長期的研究工作,掌握了模型的實質,研究表明,神經網絡模型適合應用在不同的研究領域。

         

        1.2 神經網絡的功能

         

        神經網絡是一項人工智能系統,是通過生物神經網絡的工作原理建立而來,它的應用具有全方位的優越性能。計算機神經網絡系統還可實現預測功能,此功能為聯想模式的升級版,主要運用于市場和企業中,例如股票等證券市場,預測功能可對股市證券和企業的未來效益進行預測分析,基于計算機的神經網絡為市場和企業的發展提供了強有力的支持。正是有這些優越性能,神經網絡系統在計算機網絡安全評價過程中,才能發揮出最大的價值。

         

        2 計算機網絡安全概述

         

        2.1 計算機網絡安全的簡介

         

        計算機網絡安全是指在網絡環境中,采用先進的科學技術和網絡管理控制措施來保證計算機資料能得以安全及完整的保護。計算機網絡安全由邏輯安全和物理安全兩大重要部分組成:第一,計算機的邏輯安全是指其中信息數據的保密性、完整性及可用性方面的內容;第二,物理安全包括了系統中的組網硬件和相關軟件等方面內容,其具有可控性及可審查性等特點。在當今的計算機網絡環境中,安全問題是關鍵,由于網絡的開放自由性導致信息在傳播過程中會受到硬件漏洞或者通訊協議方面的攻擊,這不僅給本地用戶帶來威脅,對國際網絡市場也是一種挑戰。

         

        2.2 計算機網絡安全評價體系的建立

         

        計算機網絡安全評價體系的建立是對網絡安全評價的一個強有力保障,該體系能全面、科學、客觀的體現計算機網絡中存在的不安全因素并且給出相對應的解決措施,所以應該根據多種綜合因素設立評價體系中的評價指標,從而準確地反映評價信息,計算機網絡安全評價系統的構建原則是:第一,可行性。在計算機網絡安全評價體系構建過程中,結合實際的測評條件,因地制宜,才能有效的進行測評和操作。第二,準確性。在計算機網絡安全評價體系的構建過程中,應當對網絡安全的技術水平進行真實的體現,及時且準確的對安全信息進行監測分析再反饋到計算機網絡中,使技術人員及時有效的解決產生的問題。第三,完備性。建立的安全評價體系,需確保所選指標對網絡安全基本特征有全面的反映,進而提高評價結果的真實可靠性。第四,簡要性。在選取評價指標的過程中,要選取具有代表性的,保證結果準確可靠從而降低工作量。第五,獨立性。計算機網絡是一個復雜多變的系統,在選取各項評價指標時,要避免出現重復選擇的情況,減少指標間的關聯度,從而客觀準確的將計算機網絡安全運行狀態展現出來。計算機安全網絡存在一定風險性,在安全保護上也存在難度,遵守以上原則,在實際工作應用中,提高計算機網絡的工作質量和效率。

         

        3 基于神經網絡的計算機網絡安全評價系統

         

        在神經網絡模型中,使用最為廣泛的是BP神經網絡模型,它采用最速下降法進行反向傳播,調整相關數值,將誤差降至最低。BP神經網絡模型還通過誤差逆傳播算法,訓練前饋多層網絡。其算法簡單,容易實現,具有非線性逼近能力。本文以BP神經網絡為研究對象,對計算機網絡安全評價進行分析。

         

        3.1 神經網絡的計算機網絡安全評價模型設計

         

        基于神經網絡設計的計算機網絡安全評價模型,由3個部分組成,分別是輸入層、隱含層和輸出層:(1)輸入層。BP神經網絡在設計的過程中規定輸入層神經元節點的數量,與計算機網絡安全評價指標數量必須一致,所以對模型輸入層中神經元節點的數量確定需由二級指標的數量完成。例如,在安全評價體系中設計了10個二級指標,在計算機網絡安全評價模型中輸入層神經元節點數量也必須是10個。(2)BP神經網絡模型在設計的過程中,采用單向隱含層,如果隱含層中的節點數過多會延長神經網絡學習時間,如果隱含層節點數的數量過少則會降低神經網絡的容錯能力。所以隱含層中的節點數量對網絡性能有較大的影響。(3)輸出層。BP神經網絡在輸出層的設計工作即反映網絡安全評價結果,依據輸入層的評價設計,將輸出層的節點數設為2個,則(1,1)的輸出結果表示非常安全,(1,0)的輸出結果基本安全,(0,1)的輸出結果表示不安全,(0,0)的輸出結果表示非常不安全。

         

        3.2 神經網絡的計算機網絡安全評價模型學習

         

        BP神經網絡在計算機網絡安全評價模型中需完成神經網絡的學習,也就表示其在模型構建前需進行神經網絡的訓練工作,這使BP神經網絡具有初始連接權,在完成神經網絡的學習后,減少誤差值,保證安全評價結果和使用者期望值達成一致。

         

        3.3 神經網絡的計算機網絡安全評價模型驗證

         

        為確保計算機網絡安全模型的應用效能,在完成設計與學習工作后,對其進行驗證,首先選取樣本數據,再將樣本數據輸入到模型中,通過模型內部檢驗分析,完成評價功能的應用,如果輸出的安全評價結果與期望值達成一致,則說明基于神經網絡的計算機網絡安全評價模型具有準確性,可以使用。

         

        4 結語

         

        隨著社會的發展,科學的進步,越來越多的先進信息技術和網絡技術得以應用,計算機網絡是一個復雜的系統,其中存在一定的風險性,計算機網絡的安全問題是目前亟待解決的關鍵問題。在當前社會,神經網絡技術廣泛應用于各大領域,將神經網絡模型與計算機網絡安全相結合,遵守可行性、準確性、完備性、簡要性、獨立性原則,構建一個網絡安全評價體系。有利于對計算機安全管理奠定基礎,基于神經網絡的計算機網絡安全評價體系能使評價結果更具真實性和可靠性,但目前的神經網絡技術并不十分成熟,根據其應用特點,將神經網絡技術與其他技術相融合的發展問題,仍值得廣大學者深入研究。通過本文的分析與研究,認識到神經網絡的發展及特點,針對其功能的優越性,加大對神經網絡的重視,提高安全評價體系對環境的適應力,提升體系的容錯性,實現在線應用模式,促進其在計算機網絡安全中的進一步完善和發展,為計算機網絡安全評價提供保障,使神經網絡在計算機網絡安全評價中發揮更大的作用。

        相關熱門標簽
        无码人妻一二三区久久免费_亚洲一区二区国产?变态?另类_国产精品一区免视频播放_日韩乱码人妻无码中文视频
      2. <input id="zdukh"></input>
      3. <b id="zdukh"><bdo id="zdukh"></bdo></b>
          <b id="zdukh"><bdo id="zdukh"></bdo></b>
        1. <i id="zdukh"><bdo id="zdukh"></bdo></i>

          <wbr id="zdukh"><table id="zdukh"></table></wbr>

          1. <input id="zdukh"></input>
            <wbr id="zdukh"><ins id="zdukh"></ins></wbr>
            <sub id="zdukh"></sub>
            日本大胆欧美中文字幕 | 亚汌国产精品久久久秋霞 | 欧美一区二区三区精品日韩 | 亚洲欧美日韩国产精品专区 | 亚洲午夜福利国产门事件 | 日韩欧美精品中文字幕 |