前言:一篇好文章的誕生,需要你不斷地搜集資料、整理思路,本站小編為你收集了豐富的神經(jīng)網(wǎng)絡的認識主題范文,僅供參考,歡迎閱讀并收藏。
關鍵詞:BP神經(jīng)網(wǎng)絡;人臉識別;奇異值
中圖分類號:TP391 文獻標識碼:A文章編號:1007-9599 (2011) 13-0000-01
Face Recognition Based on the BP Neural Network
Liu Weiwei
(Chinese People's Public Security University,Beijing100872,China)
Abstract:In order to achieve the purpose of face recognition by classifying the feature vector of face image,a new methods for face recognition on neural networks is presented in this paper.Singular values features of face image matrix are used as features,Back-Propagation(BP)networks are used as recognition.Through the experiments,it show that the method of face recognition is reliable and have a ability of high maneuverability.
Kewwords:BP neural network;Face recognition;Singular values
一、引言
人臉識別的發(fā)展應用廣泛,利用人臉圖像進行識別身份容易被接受,具有非打擾性、直接性、唯一性。人臉識別主要是對人臉特征向量分類識別。神經(jīng)網(wǎng)絡可以用做人臉特征的分類器。它是一種模擬人類大腦的思維方式和組織形式而建立的數(shù)學模型。具有強大的自適應、自學習、高度容錯能力,因此成功運用在模式識別和預測等領域。BP網(wǎng)絡是神經(jīng)網(wǎng)絡中最完美的,采用BP神經(jīng)網(wǎng)絡可以進行人臉特征向量識別分類。
二、BP神經(jīng)網(wǎng)絡
BP網(wǎng)絡是一種單向傳播的多層前饋神經(jīng)網(wǎng)絡,它包括一個輸入層、若干隱含層和一個輸出層,上下層之間實現(xiàn)全連接,而每層神經(jīng)元之間沒有連接。利用BP神經(jīng)網(wǎng)絡可以實現(xiàn)輸入向量 到輸出向量 的非線性映射。該網(wǎng)絡的前層和后層都有連接權值 ,每一層有閾值 ,這些值在初始時刻是隨機生成的。在具體的應用中,將特征值向量作為輸入向量,特征值所對應的結果作為輸出向量,BP網(wǎng)絡載入這些數(shù)據(jù)訓練和學習,從而對連接權值和閾值不斷進行修正,使網(wǎng)絡達到的最優(yōu)狀態(tài),完成網(wǎng)絡的學習和訓練過程,為后續(xù)的數(shù)據(jù)分類做準備。因此可以將BP神經(jīng)網(wǎng)絡作為人臉特征向量的分類器,以達到人臉識別的目的。
三、基于BP神經(jīng)網(wǎng)絡的人臉識別
人臉識別是基于人臉的唯一性進行識別,這里采用奇異值分解的方法提取人臉特征向量。本實驗的數(shù)據(jù)取自ORL人臉數(shù)據(jù)庫,該庫由40人、每人10幅、共400幅人臉圖像組成。這些照片包含測試者的不同面部表情。本實驗選擇兩個測試者進行識別,每個測試者的十幅圖像作為一個類,每個類的前九幅圖像的特征向量作為網(wǎng)絡的學習訓練樣本,第十幅圖像的特征向量作為測試數(shù)據(jù)。
(一)樣本數(shù)據(jù)的獲取
采用奇異值分解的方法提取人臉圖像的特征向量,這些特征向量作為BP網(wǎng)絡的學習和訓練樣本數(shù)據(jù),對樣本數(shù)據(jù)進行歸一化后得到。例如 =(0.55650.53230.36750.40620.35990.38540.37030.3062)表示第一個測試者的第一副圖像的特征向量,在BP網(wǎng)絡中對應的輸出向量為(1,0)。
(二)BP神經(jīng)網(wǎng)絡的建立
第一,確定隱含層的層數(shù)。對于一般的模式識別問題,三層網(wǎng)絡可以有效的解決此問題。本試驗采用三層網(wǎng)絡,輸入層的神經(jīng)元個數(shù)為特征向量的維數(shù)n=8,隱含層的神經(jīng)元個數(shù)為p=2n+1=17,輸出層的神經(jīng)元個數(shù)為輸出向量的維數(shù)為m=2。隱含層神經(jīng)元傳遞函數(shù)選用tansig,輸出層神經(jīng)元傳遞函數(shù)選用logsig。輸出向量為(1,0)和(0,1)表示為第一個和第二個測試者。
第二,載入樣本數(shù)據(jù)學習和訓練。樣本數(shù)據(jù)包括輸入向量和輸出向量,通過學習和訓練不斷的修正網(wǎng)絡中的權值和閾值。訓練曲線的收斂情況如圖2.
在matlab環(huán)境下運行,采用測試樣本進行測試,實驗結果輸出為(0.98490.0027);(0.00270.9547),試驗結果接近(1,0)和(0,1),分別為一號和二號測試者,實驗達到預期結果。
圖1.訓練曲線
四、結語
運用BP人工神經(jīng)網(wǎng)絡建立了人臉識別模型,解決了對人臉特征向量進行分類識別的問題,從而達到對人臉識別這一最終目的。識別結果表明,在小樣本空間下,運用BP神經(jīng)網(wǎng)絡的人臉識別運算速度快、操作簡單、識別率高,BP神經(jīng)網(wǎng)絡可以用于人臉識別系統(tǒng)中的識別部分,并且可以擴展到其他模式識別問題。
參考文獻:
[1]郝文化.MATLAB圖像圖像應用教程[M].中國水利水電出版社,2004
[2]邵擁軍等.基于BP神經(jīng)網(wǎng)絡的湘西金礦成礦預測[J].中南大學學報,2007
[3]高全學等.SVD用于人臉識別存在的問題及解決方法[J].中國圖象圖形學報,2006
[4]楊天軍,張曉春等.基于BP神經(jīng)網(wǎng)絡的城市道路交通安全評價研究[J].中國礦業(yè)大學學報,2005
關鍵詞 人臉識別;期望最大;主成分分析;徑向基神經(jīng)網(wǎng)絡;特征抽取
中圖分類號TP39 文獻標識碼A 文章編號 1674-6708(2011)52-0202-02
0 引言
人臉識別是模式識別領域的一個前沿課題,有著廣泛的應用價值。Turk & Pentland 提出了基于KL變換的人臉識別方法[1],Hong[2]提出了基于奇異值分解的識別方法。主成分(PCA)方法作為一種有效的人臉代數(shù)特征提取方法廣泛應用于人臉識別領域,直接用PCA方法抽取原始圖像的特征,雖然方法簡單,但是耗時非常的大,本文采用了期望最大PCA[3-4](Expectation Maximization Principal Component Analysis, EMPCA)方法,此算法無需計算樣本的協(xié)方差矩陣,因此有效的降低計算的復雜度。神經(jīng)網(wǎng)絡由于具有非線性特征和聯(lián)想記憶功能,在各門學科領域都具有很重要的實用意義,其學習能力和容錯能力對不確定性模式識別具有獨到之處。本文探討了用EMPCA方法提取圖像的主成分特征和采用RBF神經(jīng)網(wǎng)絡[5-7]作為分類器的人臉識別方法。
1 主成分分析(PCA)
設是n維隨機向量x經(jīng)過居中處理后的T個采樣點,即相當于將T個隨機采樣點在坐標軸上對齊同一個坐標原點,其中為樣本均值。通過對采樣點的線性正交變換,得到一個m維2階不相關向量組 y,。
基于協(xié)方差變換的主成分分析[1](PCA)定義如下:得到采樣點x經(jīng)居中處理后的數(shù)據(jù)的協(xié)方差矩陣,根據(jù)矩陣計算理論[9],有如下等式成立:
(1)
其中分別為矩陣對應的特征值和特征向量。
取矩陣的前D個特征值為,并且這些特征值滿足,它們對應的特征向量為,則滿足等式
(2)
的向量稱為采樣點x的第k個主成分。對于人臉圖像處理而言,每一幅人臉圖像都可以投影到由前D個特征向量所張成的子空間中,因此每一幅人臉圖像相當于對應子空間中的一個點,同樣,子空間中的任一點也對應一幅圖像,由于這些圖像很像人臉,所以它們被稱作“特征臉”。通過此投影法,可以有效的對原始圖像降維,并盡量保留原始圖像的主要信息。
2 Expectation-Maximization Principal Component Analysis (EMPCA)
在EMPCA[3-4]算法中,PCA方法可看作是一種有限情形下的線性高斯模型特殊類。這種線性高斯模型假設變量y是由k維變量x和附加的高斯噪聲v構成。
因此,該模型可寫成:
(3)
其中矩陣C為維矩陣,v為具有協(xié)方差矩陣R的p維噪聲。
由于x,v是獨立分布的,所以我們可以將變量y寫成:
(4)
在上面的線性高斯模型的時候,有2個中心問題是我們要關注的。第一個問題是壓縮:給定固定的模型參數(shù),如何確定觀察值y的隱狀態(tài)x?
由于數(shù)據(jù)點是獨立的,我們關注單個隱狀態(tài)給相應單個觀察量的后驗概率。這個可以很容易的通過線性矩陣投影計算得到:
(5)
,(6)
從以上我們可以得到隱狀態(tài)和,同時也可以得出如何用x重構y(7)
最終,任何數(shù)據(jù)點y的概率均可通過(4)得到。
第二個問題是參數(shù)設置這包括如何確定矩陣,使得由該模型構造的觀察數(shù)據(jù)似然性最大。有很多EM算法[3]去做這個過程,但是不同的算法都有相似的結構:用公式(6)在e-step中估計未知狀態(tài),然后在m-step中選擇,目的是使估計值x和觀察值y之間的概率最大。
我們得到EMPCA 算法如下:
1)初始化和迭代次數(shù)N
2)經(jīng)N次迭代取得C
(1)e-step:
(2)m-step:
其中Y為原始人臉數(shù)據(jù)。
1)得到C的規(guī)范化正交基作為新的C值,即新值滿足
2)求的特征值和特征向量,假設分別為和V,最終的特征向量
3 RBF神經(jīng)網(wǎng)絡
徑向基(Radial Basis Function,RBF)神經(jīng)網(wǎng)絡是前饋神經(jīng)網(wǎng)絡中的一類特殊的三層神經(jīng)網(wǎng)絡。RBF網(wǎng)絡從輸入空間到隱含空間的變換是非線性的,而從隱含層空間到輸出空間的變換則是線性的。其隱含單元的特性函數(shù)采用非線性的徑向基函數(shù),以對輸入層的激勵產(chǎn)生局部化響應,即僅當輸入數(shù)據(jù)落在一指定的小范圍內時,隱層單元才會做有意義的非零響應。RBF神經(jīng)網(wǎng)絡的拓撲結構如圖1所示。
圖 1 RBF神經(jīng)網(wǎng)絡拓撲圖
RBF網(wǎng)絡對應于輸入到輸出的映射,RBF網(wǎng)絡的輸出為:
(10)
其中表示某點的位置,l為隱層單元數(shù)。為輸出單元與隱層單元之間的連接權值,R是非線性徑向對稱基函數(shù),常采用的為高斯型基函數(shù):
(11)
其中為隱層第j個單元的輸出,x是輸入模式,為核函數(shù)中心,為函數(shù)的寬度參數(shù),控制了函數(shù)的徑向作用范圍。
4 人臉識別實驗與結果分析
本文采用ORL人臉數(shù)據(jù)庫驗證該算法,該數(shù)據(jù)庫包括從1992年4月到1994年4月劍橋大學實驗室拍攝的一系列人臉圖像,具體為40個人,每個人有不同表情或不同視點的10幅圖像所構成,傾斜角度不超過20度,這些人臉圖像的分辨率為92×112,為灰度圖像,數(shù)據(jù)庫中的部分人臉圖像如下圖所示:
圖2 ORL人臉數(shù)據(jù)庫部分人臉數(shù)據(jù)
在我們的實驗中,為了處理數(shù)據(jù)的方便,我們首先通過二維小波變換得到原來圖像的低頻信息,得到的部分圖像如下(此時人臉圖像維數(shù)為46×56):
圖3 經(jīng)小波處理之后的部分低頻圖像
對于得到的低頻圖像,分別采用PCA算法和EMPCA算法計算人臉圖像的特征空間,在同等的實驗條件下,采用PCA算法得到對應的特征向量空間需要404.55s,而采用EMPCA算法只需要28.13s,由此可見EMPCA的特征抽取速度是傳統(tǒng)PCA方法的15倍。經(jīng)過PCA和EMPCA算法得到的部分特征臉圖像分別如下:
圖4 不同算法分別得到的前八個特征向量所對應的特征臉
上:由PCA算法得到的部分對應特征臉
下:由EMPCA算法得到的部分對應特征臉
從得到的特征臉圖像可以看出,通過EMPCA算法得到的特征臉圖像基本上類似通過傳統(tǒng)PCA方法得到的特征臉圖像,也說明同樣代表了原始圖像的主要信息。
在得到特征向量之后,將原始人臉圖像投影到特征空間,得到圖像的投影數(shù)據(jù),然后用RBF神經(jīng)網(wǎng)絡分類,此實驗中,以每人前6幅圖像作為訓練樣本,所有人臉圖像作為測試樣本。此外,筆者還做了該方法與經(jīng)典特征臉,F(xiàn)isherfaces方法的比較實驗,以及在不同分類情況下的分類性能。識別率分別見表1,表2。
表1 特征臉,F(xiàn)isherfaces和EMPCA方法采用RBF神經(jīng)網(wǎng)絡分類識別率對照表
表1表明了在同等的實驗條件下,本文算法的識別性能優(yōu)于經(jīng)典的特征臉方法和Fisherfaces方法。
表2 不同分類方法識別率對照表
表2顯示了同樣在經(jīng)過EMPCA方法抽取有效特征之后,采用不同的分類方法得到的識別率對照表,從該表中可以看出RBF神經(jīng)網(wǎng)絡的分類性能優(yōu)于KNN的分類性能。
在以上的基礎上,筆者還做了在不同模式類別數(shù)情況下的實驗,實驗結果分別如圖5,圖6所示。在不同的類別情況下,從圖5可以看出在總體性能比較上,經(jīng)過EMPCA算法得到的特征數(shù)據(jù)的分類性能優(yōu)于傳統(tǒng)的特征臉和Fisherfaces方法,圖6比較了分別采用RBF和KNN分類方法對EMPCA算法得到的投影數(shù)據(jù)的識別率,從圖中可以看出RBF神經(jīng)網(wǎng)絡的分類性能優(yōu)于KNN分類器的分類性能。
圖5 采用RBF神經(jīng)網(wǎng)絡分類 圖6 采用RBF神經(jīng)網(wǎng)絡和KNN
性能比較圖 分類性能比較圖
5結論
基于EMPCA算法和RBF神經(jīng)網(wǎng)絡的人臉識別方法,有效的解決了傳統(tǒng)PCA方法計算的復雜性問題,無需計算樣本的協(xié)方差矩陣,避免了采用傳統(tǒng)PCA方法所需要的復雜的計算代價和巨大的存儲代價。在識別策略上,具有分類作為的神經(jīng)網(wǎng)絡模型比簡單的KNN分類器具有更好的識別性能。
參考文獻
[1]Turk M, Pentland A. Eigenfaces for recognition. Journal of Cognitive Neuroscience,1991,3(1):71-86.
[2]洪子泉,楊靜宇.用于圖像識別的圖像代數(shù)特征抽取[J].自動化學報,1992,18(2):232-238.
[3]A.P.Dempster,N.M.Laird,and D.B.Rubin.Maximum likelihood from incomplete data via the EM algorithm. Journal of the Royal Statistical Society series B,39:1-38,1977.
關鍵詞:BP神經(jīng)網(wǎng)絡;人臉識別;MATLAB
中圖分類號:TP391
隨著科技的發(fā)展,對人臉識別技術的發(fā)展要求越來越迫切,如(1)在企業(yè)、住宅安全和管理方面,要求實現(xiàn)人臉識別門禁考勤系統(tǒng),人臉識別防盜門等。(2)在公安、司法和刑偵方面,利用人臉識別,在全國范圍內搜捕逃犯。(3)在銀行的自動提款機中,如果應用人臉識別就會避免由于用戶卡片和密碼被盜。(4)在電子商務交易過程中,如果使用人臉識別實現(xiàn)當事人在網(wǎng)上的數(shù)字身份和真實身份統(tǒng)一,便增加了電子商務的可靠性。而人臉識別的軟件系統(tǒng)開發(fā),是聯(lián)系理論和實踐的最重要的環(huán)節(jié),因此實現(xiàn)人臉識別系統(tǒng)的開發(fā)應用越來越重要。
1 BP網(wǎng)絡的概述
1.1 BP神經(jīng)網(wǎng)絡的定義。前饋多層神經(jīng)網(wǎng)絡廣泛的應用于模式識別與分類、控制、預測、圖像處理等問題,是當今社會應用最廣、發(fā)展最快的人工神經(jīng)網(wǎng)絡之一。由于此神經(jīng)網(wǎng)絡的網(wǎng)絡權值閾值的確定常采用誤差反向傳播算法(Back Propagation,簡稱作BP算法),所以通常稱這種前饋網(wǎng)絡為BP網(wǎng)絡。典型的BP網(wǎng)絡是三層網(wǎng)絡,包括輸入層、隱含層和輸出層。各層之間實行全連接,而其中隱含層可以是一層,也可以是多層(如圖1)。
圖1 單隱含層的BP網(wǎng)絡結構
BP網(wǎng)絡的學習由四個過程組成,即:(1)輸入模式:輸入層經(jīng)隱含層向輸出層的“模式順傳播”過程;(2)網(wǎng)絡的理論輸出與網(wǎng)絡實際輸出之差的誤差信號:由輸出層經(jīng)隱含層向輸入層逐層修正連接權的“誤差逆?zhèn)鞑ァ边^程;(3)由“模式順傳播”與“誤差逆?zhèn)鞑ァ钡姆磸徒惶孢M行的網(wǎng)絡“記憶訓練”過程;(4)網(wǎng)絡趨向收斂即網(wǎng)絡的全局誤差趨向極小值的“學習收斂”過程。簡言之,就是由“模式順傳播”“誤差逆?zhèn)鞑ァ薄坝洃浻柧殹薄皩W習收斂”的過程。傳遞函數(shù)一般為(0,1)S型函數(shù) 。BP網(wǎng)絡隱層中的神經(jīng)元均采用S型交換函數(shù),輸出層則采用純線性變換函數(shù)。
1.2 BP網(wǎng)絡的算法。BP算法可描述為大致五步:(1)初始化各權值為較小的隨機值;(2)選取訓練集;(3)根據(jù)輸入計算理論輸出;(4)調節(jié)輸出層和隱含層的連接權值;(5)返回第二步反復訓練網(wǎng)絡直至誤差理想為止。
其流程圖如圖2:
圖2 神經(jīng)網(wǎng)絡算法流程圖
2 BP神經(jīng)網(wǎng)絡實現(xiàn)人臉識別
2.1 設計思路。本設計采用50幅圖像(10個人每人5幅)作為訓練圖像,應用主成分分析對訓練圖像進行二階相關和降維,提取訓練圖像的獨立基成分構造人臉子空間,并將訓練集中的人臉圖像向獨立基上投影得到的系數(shù)輸入改進的BP神經(jīng)網(wǎng)絡進行訓練。然后將待識別的人臉圖像向獨立基上投影得到投影系數(shù),再將其輸入已訓練過的BP神經(jīng)網(wǎng)絡進行識別。設計結構如圖3。
圖3 人臉識別系統(tǒng)結構
2.2 BP網(wǎng)絡的創(chuàng)建和初始化。因網(wǎng)絡的輸入矢量與輸出矢量相差較大,為了減少網(wǎng)絡的訓練誤差,在建立網(wǎng)絡之前要對輸入矢量進行歸一化。這里我們利用premnmx函數(shù)把輸入初始化在[-1,1]之間。程序代碼如下:
p=premnmx(p')';
t=[1000;1000;1000;1000;1000;0100;0100;0100;0100;0100;
0010;0010;0010;0010;0010;0001;0001;0001;0001;0001]'
2.3 訓練神經(jīng)網(wǎng)絡。本設計的方法如下:
%設計神經(jīng)網(wǎng)路
[prow pcol]=size(p);
num=prow*pcol;%提取p中元素個數(shù)作為神經(jīng)網(wǎng)絡的輸入層神經(jīng)元個數(shù)
net=newff(minmax(p),[num,10,4],{'tansig','tansig','purelin'},'traingda');%隱層神經(jīng)元個數(shù)為10,輸出層神經(jīng)元個數(shù)為4,4表示識別出人
net.trainParam.show=200;%顯示速率為200
net.trainParam.lr=0.01;%學習率為0.01
net.trainParam.epochs=5000;%迭代次數(shù)不超5000
net.trainParam.goal=0.001;%訓練誤差為0.001
[net,tr]=train(net,p,t);
網(wǎng)絡的訓練函數(shù)有很多種,如trainlm,其中traingd學習算法是一般的剃度下降法;traingdx學習算法是剃度下降動量法,學習速率是自適應的。Trainlm的學習算法為Levenberg-Marquadt反傳算法,該訓練函數(shù)的優(yōu)點在于收斂速度很快。本設計選用的訓練函數(shù)為traingdx,在網(wǎng)絡達到起訓練誤差要求時會自動停止,節(jié)省訓練時間。訓練過程中為了得到較小的誤差,可以增加訓練次數(shù)。
2.4 系統(tǒng)的性能評估。為了測試設計的網(wǎng)絡模式識別系統(tǒng)的可靠性,這里用50幅圖像輸入樣本,來觀察其輸出結果。通過程序演示,基本可以識別出不同的人臉特征。如果要提高精度,可以延長網(wǎng)絡的訓練時間,或者是將網(wǎng)絡隱含層的神經(jīng)元數(shù)目增多。為了測試系統(tǒng),可提取幾取幾幅人臉圖片數(shù)據(jù),然后把它們輸入到網(wǎng)絡中,觀察其得到的輸出,并進行誤差分析。
3 結束語
本設計是利用BP算法,以MATLAB軟件作為工具手段,建立人臉識別的BP神經(jīng)網(wǎng)絡,且利用50副人臉圖像數(shù)據(jù)訓練網(wǎng)絡,使神經(jīng)網(wǎng)絡能辨別出人臉信息。結果說明,本設計在人臉識別方面有比較好的優(yōu)勢。
在本設計中,使用了不人臉圖像數(shù)據(jù)作為輸入來訓練網(wǎng)絡,提高了整個網(wǎng)絡容錯的能力,這樣更適合在實際環(huán)境中使用。
參考文獻:
[1]藺廣逢,繁引娣,張媛.主成分分析與BP神經(jīng)網(wǎng)絡的人臉識別方法研究[J].現(xiàn)代電子技術,2007(02).
[2]MartinT.Hag,Howard B.Demuth. Neural Network Design Original[M].PSW publishing company.
[3]張威.MATLAB基礎與編程入門[M].西安:西安電子科技大學出版社,2004.
[4]叢爽.面向MATLAB工具箱的神經(jīng)網(wǎng)絡理論與應用[M].合肥:中國科學技術大學出版社,2003.
【摘要】 目的:應用BP人工神經(jīng)網(wǎng)絡原理,設計一種類風濕關節(jié)炎疾病診斷的方法。方法:選用對類風濕關節(jié)炎敏感的8個指標,作為BP人工神經(jīng)網(wǎng)絡的輸入數(shù)據(jù),對樣本進行訓練和預測。結果:BP人工神經(jīng)網(wǎng)絡經(jīng)通過對150例樣本的運算,訓練集的113例樣本,訓練正確率為97.4%;預測集的37例樣本,預測正確率為91.9%。結論:BP人工神經(jīng)網(wǎng)絡能為類風濕關節(jié)炎作出較準確的診斷,能提高診斷的客觀性。
【關鍵詞】 人工神經(jīng)網(wǎng)絡; 類風濕關節(jié)炎; 預測
類風濕關節(jié)炎(Rheumatoid arthritis ,RA)是一種以關節(jié)滑膜發(fā)生慢性炎性病變的自身免疫性疾病,其病程多呈進行性進展,致殘率高,治愈率低下[1],早期臨床表現(xiàn)不典型,單項自身抗體檢測的靈敏度和特異性均有不足,類風濕因子的檢出率也偏低,容易造成誤診[2,3]。因此醫(yī)務人員主要是通過敏感性互補的幾個檢驗指標和臨床表現(xiàn)對類風濕關節(jié)炎作出診斷[4],但在疾病的診斷中往往帶有很多的主觀因素。近年來發(fā)展起來的人工神經(jīng)網(wǎng)絡是種理論化的數(shù)學模型,是模仿人腦神經(jīng)的網(wǎng)絡結構及其功能而建立起來的一種信息處理系統(tǒng),具有自行學習、聯(lián)想記憶、錯誤容納和強大的非線性處理能力[5]。因此人工神經(jīng)網(wǎng)絡常常被應用到臨床醫(yī)學疾病的診斷上。本研究結合類風濕關節(jié)炎診斷的8個主要指標,設計一種基于人工神經(jīng)網(wǎng)絡類風濕關節(jié)炎的診斷方法,通過對150例樣本的網(wǎng)絡運算,探討了人工神經(jīng)網(wǎng)絡對類風濕關節(jié)炎診斷的可行性。
1 人工神經(jīng)網(wǎng)絡基本原理
人工神經(jīng)網(wǎng)絡可以通過對外界信息的學習,以特定的方式對這些信息進行處理和概括,從而具備了對這些信息的識別功能,并產(chǎn)生了一個相對應的結論。因此,再次給人工神經(jīng)網(wǎng)絡這樣一個相似的條件時,神經(jīng)網(wǎng)絡就會根據(jù)已學到的知識,自行推理判斷,得到一個我們需要的結果。
1.1 人工神經(jīng)元
人工神經(jīng)元是組成人工神經(jīng)網(wǎng)絡的基本處理單元,簡稱為神經(jīng)元。如圖1顯示了一個具有r個輸入分量的人工神經(jīng)元模型[6]。
圖1中p(r=1,2,…,r) 為該神經(jīng)元的輸入數(shù)據(jù);Wr 為該神經(jīng)元分別與各輸入數(shù)據(jù)間的連接強度,稱為連接權重,權重值的大小代表上一級神經(jīng)元對下一級神經(jīng)元的影響程度。b為該神經(jīng)元的閾值,f(x)為作用于神經(jīng)元的激勵函數(shù),通常采用的是S 型函數(shù),其數(shù)學表達式見式(1)[7]:
f(x)=(1+e-Qx)-1(1)
a為神經(jīng)元的輸出數(shù)據(jù)。神經(jīng)元將接收信息pi與連接權重wi 的點乘積求和構成其總輸入, 在神經(jīng)元閾值b的作用下經(jīng)函數(shù)f(x)的作用,產(chǎn)生信號輸出a。
圖1 人工神經(jīng)元模型
1.2 人工神經(jīng)網(wǎng)絡
人工神經(jīng)網(wǎng)絡是由多個不同的神經(jīng)元連接而成,一般含有多個層次,每個層次又包含了多個神經(jīng)元,上一層次的神經(jīng)元只能對下一層的神經(jīng)元產(chǎn)生作用,同層神經(jīng)元間無相互作用[7]。根據(jù)神經(jīng)元的不同連接方式,就形成了不同功能的連接網(wǎng)絡模型。比如BP神經(jīng)網(wǎng)絡,Kohonen神經(jīng)網(wǎng)絡,Hopfield神經(jīng)網(wǎng)絡等等,多達數(shù)十種。在醫(yī)學中應用比較廣泛的是BP神經(jīng)(Back Propagation),也就是誤差逆向傳遞網(wǎng)絡[8],本研究中采用的也是BP神經(jīng)網(wǎng)絡。BP神經(jīng)網(wǎng)絡一般由輸入層,隱含層和輸出層構成,其結構模型如圖2所示。
神經(jīng)網(wǎng)絡輸入層的神經(jīng)元是接受外界信息的端口,不包括數(shù)據(jù)運算功能,他將外界的輸入數(shù)據(jù)通過一個連接權重傳遞給下一隱含層的神經(jīng)元。隱含層是神經(jīng)網(wǎng)絡的核心部分,數(shù)量上可以有一個或多個層次,隨著層次的增多,網(wǎng)絡結構變得更復雜,網(wǎng)絡數(shù)據(jù)處理功能也增強。網(wǎng)絡的最后一層是輸出層,輸出層接收到隱含層的各項信息,然后經(jīng)過轉換把信息傳給外界。
輸入層 隱含層 輸出層
圖2 BP人工神經(jīng)網(wǎng)絡模型
1.3 人工神經(jīng)網(wǎng)絡工作原理
為了解決臨床上對疾病的預測或識別等問題,神經(jīng)網(wǎng)絡主要是通過學習來獲取"知識"或"經(jīng)驗"的,這一過程總體上可分為訓練和預測兩個階段。所謂訓練就是形成一種病因與疾病之間的函數(shù)映射關系,即給定一個實際輸出與期望輸出的目標誤差值,將病人的各種病因、實驗室檢查、影像超聲檢查、臨床表現(xiàn)等作為網(wǎng)絡的輸入信息加到其輸入端,輸入信息經(jīng)過隱含層神經(jīng)元的處理后,傳遞給輸出層。如果輸出層得到的結果大于預先給定的誤差目標值時,神經(jīng)網(wǎng)絡將這種誤差信號沿原來的傳遞路線逐層返回,并調節(jié)各個層次間神經(jīng)元連接的權重值,這種過程不斷交替進行,直到誤差達到目標值時,訓練過程結束。經(jīng)過訓練可使疾病的各種情況分布到連接權上, 使學習后的網(wǎng)絡權重值存儲了臨床癥狀和疾病類型等相關的知識,此時可以認為神經(jīng)網(wǎng)絡建立起了病人的各種因素與該病人是否患有某種疾病的映射關系,這種映射關系就是一個預測疾病的判別函數(shù)。預測就是檢驗判別函數(shù)的可靠程度,利用一些未包括在訓練集中的樣本構成預測集,將預測集中與疾病相關的數(shù)據(jù)輸入到訓練好的網(wǎng)絡中去,在訓練階段所得到的判別函數(shù)的作用下,就可以得到一個測試結果,從網(wǎng)絡的輸出端就可以診斷病人是否為疾病患者。
2 人工神經(jīng)網(wǎng)絡診斷類風濕關節(jié)炎實例
2.1 病例選取及變量確定
實驗數(shù)據(jù)來源于哈爾濱醫(yī)科大學附屬醫(yī)院,總共有150例。其中類風濕關節(jié)炎患者83例,女71例,占85.5%;男12例,占14.5%。年齡范圍為20~79歲,平均年齡為48.92歲。所有患者均符合1987年美國風濕病協(xié)會修訂的類風濕關節(jié)炎診斷標準。用來作正常對照的有67例,其中女62例,占92.5%;男5例,占%7.5,年齡范圍為18~79歲,平均年齡為43.63歲。病人資料主要包括臨床癥狀與體征,相關實驗室檢查,相應影像學檢查。
根據(jù)中華醫(yī)學會風濕病學分會制定的類風濕關節(jié)炎診斷指南,典型的類風濕關節(jié)炎按照1987年美國風濕病協(xié)會修訂的類風濕關節(jié)炎診斷標準來診斷并不困難,但某些不典型、早期類風濕關節(jié)炎,常常被誤診或漏診。2008年,胡勇等[9]通過研究發(fā)現(xiàn),抗CCP抗體對類風濕關節(jié)炎的敏感性和特異性分別為80.0%和93.7 %,聯(lián)合抗CCP抗體和RF可以提高診斷的準確性,對類風濕關節(jié)炎的早期診斷有重要意義。因此為了提高神經(jīng)網(wǎng)絡診斷各種類型類風濕關節(jié)炎的準確率,我們選取了x1(關節(jié)晨僵)、x2(對稱性關節(jié)炎)、x3(腕、掌指或者近端指間關節(jié)至少有一個關節(jié)腫)、x4(3個或者3個以上關節(jié)部位腫)、x5(關節(jié)X線改變)、x6(皮下結節(jié))、x7(RF )和x8(抗CCP抗體)這8個指標來作為神經(jīng)網(wǎng)絡運算的輸入數(shù)據(jù)。其中x1、x2、x3、x4、x5、x6和x7這幾個輸入數(shù)據(jù)是1987年美國風濕病協(xié)會修訂的類風濕關節(jié)炎診斷標準所包含的內容,x8是為了提高對不典型、早期類風濕關節(jié)炎的診斷所采用的輸入數(shù)據(jù)。上述x1、x2、x3、x4、x5、x6是定性變量(離散變量),臨床上常用陽性和陰性來描述,實驗中用1和0對這些變量進行賦值,當變量值為1時表示陽性,為0時表示陰性;而變量x7、x8是定量變量(連續(xù)變量),用原始數(shù)據(jù)來描述。
2.2 確定訓練樣本及預測樣本
在以上150例樣本中(83例類風濕關節(jié)炎和67例正常對照)中分別選取63例類風濕關節(jié)炎和50例正常對照的樣本,用來組成訓練集,并用1~113的數(shù)字對其進行順序編號,1~63號代表是類風濕關節(jié)炎,64~113號代表的是正常對照組的樣本。剩余的樣本用來組成預測集,集中樣本總數(shù)為37例,其中類風濕關節(jié)炎患者有20例,正常對照組有17例,也用同樣的方法進行編號。訓練集與預測集樣本比例大約為4:1。
2.3 網(wǎng)絡參數(shù)的設定及算法程序
首先對神經(jīng)網(wǎng)絡參數(shù)設定如下:輸入神經(jīng)元個數(shù)為8,輸出神經(jīng)元個數(shù)為1,期望目標輸出值用0表示正常,用1表示類風濕關節(jié)炎,隱含層采用tansig函數(shù)。訓練次數(shù)為6000次,訓練目標為0.06,學習速度為0.05,網(wǎng)絡連接權重初始值是[-1,1]之間的隨機數(shù),其次網(wǎng)絡進行運算所采用的是批動量梯度下降算法,應用MATLAB6.5來編寫該程序算法。
2.4 訓練及預測結果
將訓練集樣本的8個指標輸入到BP網(wǎng)絡的算法程序中,網(wǎng)絡經(jīng)過500次的訓練后,達到了訓練目標的要求,訓練結果如圖3所示,預測輸出以0.5為閾值,>0.5者為類風濕關節(jié)炎患者,
圖3 113例樣本訓練結果從訓練得到的圖形可以看出,63例類風濕關節(jié)炎患者中有54例訓練結果都在目標輸出值1附近,而且非??拷?。只有9例稍微偏離了目標輸出值1,由于輸出結果均在0.5~1.5的范圍內,可以認為訓練結果與實際相吻合。類似的在50例正常對照組中,有47例輸出結果都在目標值0的附近,輸出值都在0~0.5之間,訓練結果與實際也相吻合。而編號為64、75、92的3例樣本,其輸出值大于0.5,明顯大于目標輸出值0,樣本訓練結果有錯誤。綜上所述,訓練集中113例樣本有110訓練正確,訓練正確率達到97.4%。
經(jīng)過訓練可以得到一個能反映類風濕關節(jié)炎疾病情況的神經(jīng)網(wǎng)絡模型。把預測集樣本的數(shù)據(jù)導入到訓練好的神經(jīng)網(wǎng)絡中去,進行預測,預測的結果如圖4。
圖4 37例樣本預測結果從上圖的輸出結果可以看出,在20例類風濕關節(jié)炎樣本的預測中,19例樣本的輸出結果主要集中在目標輸出值1附近,沒有超出0.5~1.5的范圍,可以視為預測結果與實際相符合,而編號為1的樣本,其輸出值小于0.5,偏離了目標輸出值1,預測結果錯誤。另外17例正常對照組中,15例預測結果與實際相符合,而編號為27、33號的樣本其輸出值大于0.5,明顯偏離目標輸出值0,預測不正確。所以對于預測的總體樣本來說,34例預測正確,準確率為91.9%,靈敏度為94.7%,特異度為86.7%。
訓練集和預測集的樣本,經(jīng)BP神經(jīng)網(wǎng)絡運算,其結果如表1所示。表1 BP神經(jīng)網(wǎng)絡測試樣本的計算結果
3 討論
由表1可知,2例預測有誤的樣本,它們來源于預測集的正常對照組中。同樣在訓練階段,運算有誤的3例樣本也全都來源于訓練集的正常對照組中。由此可見,運算有誤的樣本在訓練集和預測集之間存在一種對應關系,即神經(jīng)網(wǎng)絡對樣本訓練的錯誤率越高,其預測的準確率就越低。同時,一些樣本的訓練和預測結果也出現(xiàn)了較大范圍的波動,沒有集中在目標值為1和0的這兩條直線上。出現(xiàn)這種結果的原因可能是:有些樣本數(shù)據(jù)偏倚,訓練樣本總數(shù)又不是很多,從而導致這些數(shù)據(jù)偏倚的樣本所占的比例較大,在總體中表現(xiàn)出來的作用也就較強。因此加大訓練樣本的數(shù)量,選擇數(shù)據(jù)偏倚較少或者更有代表性的樣本來學習訓練,神經(jīng)網(wǎng)絡就能更準確的反映疾病自身情況,同時網(wǎng)絡所包含的病因與疾病間相映射的函數(shù)關系也就更具有普遍性。
對疾病診斷過程而言,人工神經(jīng)網(wǎng)絡能夠模擬專家級醫(yī)師診斷疾病的思維過程和獲得診斷疾病的相關知識。此后對疾病進行預測時就可以避免醫(yī)師對疾病診斷的主觀性及思維定勢,因此能提高疾病診斷的客觀性。盡管臨床上也存在一些疾病患者,往往因為診斷數(shù)據(jù)的缺失,給醫(yī)師診斷帶來了很多的困難或是誤診,然而神經(jīng)網(wǎng)絡具有的容錯性質以及能根據(jù)訓練得來的知識和處理問題的經(jīng)驗,對上述缺失的數(shù)據(jù)等這種復雜的問題,做出合理的判斷與推理,從而為病人做出較正確的診斷。
在疾病診斷方面, 按照1987年美國風濕病協(xié)會修訂的類風濕關節(jié)炎診斷標準,對一些不典型,早期的類風濕關節(jié)炎常常不能作出正確的診斷,特異性也低,往往造成誤診。然而基于人工神經(jīng)網(wǎng)絡類風濕關節(jié)炎的診斷方法,通過對37例樣本的預測,預測結果表明:本方法對類風濕關節(jié)炎的診斷,其準確率為91.9%,靈敏度為94.7%,特異度為86.7%,可作為疾病診斷的一種新方法。當然,實驗中也存在一些問題有待于進一步研究,如輸入變量的選擇及其數(shù)據(jù)處理,網(wǎng)絡初始權重的計算,網(wǎng)絡訓練的最佳原則,隱含層數(shù)的設計等等。隨著研究的進一步深入,人工神經(jīng)網(wǎng)絡必將得到臨床工作者的認同并為疾病研究帶來諸多的便利。
【參考文獻】
1 顧福榮,張義東,施錦杰.抗CCP抗體、抗RA33抗體、抗Sa 抗體和RF聯(lián)合檢測對類風濕性關節(jié)炎診斷的意義.江西醫(yī)學檢驗,2007,25(1):24~25.
2 Matsuo K,Xiang Y,Nakamura H,et al.Identification of novel eitrullinated autoantigens of synovium in rheumatoid arthritis using a proteomie approach.Arthritis Res Ther,2006,8(6):1~3.
3 Harrison MJ,Paget SA. Anti2CCP antibody testing as a diagnostic and prognostic tool in rheumatoid arthritis.QJM,2007,100(4):193~201.
4 王青青.類風濕性關節(jié)炎的診斷與治療.全科醫(yī)學臨床與教育.2008,6(2):92~94.
5 孫文恒,王煒,周文策.人工神經(jīng)網(wǎng)絡技術在胰腺癌診斷中的應用.蘭州大學學報,2008,44(7):224~227.
6 宋燁,楊本付,人工神經(jīng)網(wǎng)絡及其在疾病診斷中的應用,中華醫(yī)學實踐雜志,2006,5(3):275~277.
7 王俊杰,陳景武.BP神經(jīng)網(wǎng)絡在疾病預測中的應用.理理醫(yī)藥學雜志,2005,21(3):259~262.
關鍵詞:水動力模型,ANN神經(jīng)網(wǎng)絡系統(tǒng),模型數(shù)據(jù),缺失數(shù)據(jù)模擬
中圖分類號:G250.72 文獻標識碼:A
我國大多數(shù)的城市管網(wǎng)建設滯后于水廠建設,給水管網(wǎng)的鋪設會隨城市的發(fā)展不斷地鋪設延長,與之相對應的是用水量的急劇增長,與老管線的協(xié)調規(guī)劃問題等等,這一切的問題都使地下管線的管理成為一個極其復雜的問題。構建水動力模型,可以實時的看到管網(wǎng)的薄弱環(huán)節(jié),并且通過分析得知造成管網(wǎng)問題的原因。水動力模型可以應用于并的給水系統(tǒng)的規(guī)劃,設計及改擴建;管網(wǎng)改造優(yōu)先性評估;管網(wǎng)改造并行方案的的成本分析,運行情況;指導和幫助安排管網(wǎng)檢漏工作等。
建立水動力模型是一項復雜并且富有難度的工程,需要將給水管道的的信息,包括管道的管徑、材質、管齡,粗糙系數(shù)等如實的反應到模型中,運行模型后要選擇管網(wǎng)中具有典型代表性的節(jié)點,得到這些節(jié)點的節(jié)點流量與節(jié)點壓力模擬值,將這些曲線與實際中該節(jié)點的流量與壓力曲線進行對比。通過調整管網(wǎng)的粗糙系數(shù),節(jié)點流量分配等核心數(shù)據(jù)使模擬曲線與實測曲線相吻合,這個過程稱之為模型校核。校核后的模型才能應用于實際的工程工作中。
模型搭建和校核的過程中需要許多數(shù)據(jù),而在現(xiàn)有國內的自來水公司,極少有完備的數(shù)據(jù),而這些數(shù)據(jù)的檢測和整理是一項復雜并且耗費財力的工程。當有所需的數(shù)據(jù)缺失時,根據(jù)現(xiàn)有的數(shù)據(jù)搭建ANN(人工神經(jīng)網(wǎng)絡)模型,模擬出缺失的數(shù)據(jù)曲線,從而用于水動力模型的校核工作中。譬如,節(jié)點流量曲線、節(jié)點壓力曲線、節(jié)點的化學物質殘留量曲線等等。
1 人工神經(jīng)網(wǎng)絡的概念
人工神經(jīng)網(wǎng)絡是一種應用類似于大腦神經(jīng)突觸聯(lián)接的結構進行信息處理的數(shù)學模型,是一種運算模型,由大量的節(jié)點(或稱神經(jīng)元)和之間相互聯(lián)接構成。每個節(jié)點代表一種特定的輸出函數(shù),稱為激勵函數(shù)(activation function)。每兩個節(jié)點間的連接都代表一個對于通過該連接信號的加權值,稱之為權重,這相當于人工神經(jīng)網(wǎng)絡的記憶。網(wǎng)絡的輸出則依網(wǎng)絡的連接方式,權重值和激勵函數(shù)的不同而不同。而網(wǎng)絡自身通常都是對自然界某種算法或者函數(shù)的逼近,也可能是對一種邏輯策略的表達。人工神經(jīng)網(wǎng)絡是數(shù)學統(tǒng)計學方法的一種實際應用,通過統(tǒng)計學的標準數(shù)學方法我們能夠得到大量的可以用函數(shù)來表達的局部結構空間,通過統(tǒng)計學的方法,人工神經(jīng)網(wǎng)絡能夠類似人 一樣具有簡單的決定能力和簡單的判斷能力,這種方法比起正式的邏輯學推理演算更具有優(yōu)勢。因為它不需要全面的數(shù)據(jù)。實踐證明只要中間的隱含層個數(shù)足夠多,ANN神經(jīng)網(wǎng)絡無限逼近任何連續(xù)函數(shù)。
圖1 3層ANN(BP)網(wǎng)絡結構
Fig. 1 Three level ANN model’s structure
2基于ANN人工神經(jīng)網(wǎng)絡的節(jié)點壓力模型的建立
人工神經(jīng)網(wǎng)絡是一個能夠學習,能夠總結歸納的系統(tǒng),也就是說它能夠通過已知數(shù)據(jù)的實驗運用來學習和歸納總結。人工神經(jīng)網(wǎng)絡通過對局部情況的對照比較,它能夠推理產(chǎn)生一個可以自動識別的系統(tǒng)。人工網(wǎng)絡系統(tǒng)之所以能夠推理,基礎是需要有一個推理算法則的集合。在本次的實例檢驗過程中使用相關系數(shù)和確定性系數(shù)來衡量模型的準確性,如果確定性系數(shù)越大,預測值和實測值的相關系數(shù)越大,誤差就越小,模型的計算結果就越好。通過對模型精度的分析,判斷節(jié)點壓力曲線是否可以用于水動力模型的,模型校核工作中。
其實人工神經(jīng)網(wǎng)絡就是一個黑箱子,它所建立的模型不是基于實際的物理聯(lián)系,而是基于我們所記錄數(shù)據(jù)和所得值之間的函數(shù)關系(這種函數(shù)關系在運算的過程中不得而知),對于人工神經(jīng)網(wǎng)絡的計算過程我們不關心也不必去了解它計算過程的細節(jié)。人工神經(jīng)網(wǎng)絡在做出預測之前是使用記錄數(shù)據(jù)的學習過程,之后的使用就是在上面的學習過程之后,人工神經(jīng)網(wǎng)絡會擬合出一個比較準確的函數(shù)關系從而會根據(jù)所給數(shù)據(jù)預測出我們所關心變量的結果。
本文以節(jié)點壓力曲線的模擬為例子,闡述ANN模型的搭建,以及模擬結果的精確性。
已有的數(shù)據(jù)為給水管網(wǎng)中8個節(jié)點的壓力曲線,靠近泵站的一個節(jié)點的壓力缺失某幾個小時的數(shù)據(jù),現(xiàn)利用已知數(shù)據(jù)搭建ANN模型,模擬出此時,一個小時后,兩個小時后,4個小時后的模擬壓力曲線。通過對模型結果的分析,得出其結果是否能用于水動力模型校核工作。
2.1 訓練模式對的準備工作
對于管網(wǎng)中的節(jié)點壓力來講,他們之間具有相關性,因為在預測未知點的壓力曲線時,其他管網(wǎng)中的節(jié)點都是未知節(jié)點的重要影響因子。因此在搭建模型時要在輸入層配置相應的單元用來模擬未知節(jié)點的壓力曲線。
目標節(jié)點預見期壓力=F{(某時間點NODE1水位),(某時間點NODE2水位),(某時間點NODE3水位)…(某時間點NODE8水位)}某時間點指的是預見期之前某個相應的時間點。
整個模型從數(shù)據(jù)輸入到結果分析的過程可以用流程圖表示出來。數(shù)據(jù)輸入->數(shù)據(jù)編輯->模型參數(shù)確立->運行模型->模型結果分析。
2.2 目標函數(shù)(確定性系數(shù))的確立
R= 式-1
式中 R為確定性系數(shù)
為該城市實測河流水位
為實測河流水位的平均值
為模型預測水
為模型預測水位的平均值
R越接近于1,說明模擬結果與實際測量結果越一致,也即模型越精確。
2.3 模型的結構參數(shù)的確立
人工神經(jīng)網(wǎng)絡模型中關鍵的參數(shù)有學習率,中間層的神經(jīng)元數(shù),動量因子,終止學習條件,本文利用設定最大平均誤差來終止模型運行。其中的學習率和動量因子會影響到模型的收斂速度。學習率和動量因子的取值范圍都在[0,1]之間。學習率越大運算速度越大但是如果取過大的值會導致模型不收斂,由于模型的運算速度比較快為了得到更加精確的結果取學習率為0.02.動量因子根據(jù)經(jīng)驗取0.1,中間層的神經(jīng)元數(shù)取30。
3 實例分析
我們擁有管網(wǎng)中9個節(jié)點的壓力曲線值,但是某個時間段節(jié)點9的壓力曲線缺失,管網(wǎng)中9個節(jié)點的具置見圖2.
圖2 管網(wǎng)中的9個節(jié)點
Fig. 2 The 9 nodes in the network
示意圖中觀測站一為模型下游目標站的位置,本文所討論的預測站也就是目標站。
建立模型之后對該城市城市管網(wǎng)中的節(jié)點9,此時以及未來1-4小時的節(jié)點壓力進行預測。根據(jù)該中的8個節(jié)點和目標節(jié)點的的壓力曲線數(shù)據(jù)為基礎進行訓練,并且對預測的結果進行分析。來判斷時候可以將模擬的數(shù)據(jù)直接用于模型校核。
表1 預見期分別為0-4h的模型精確度參數(shù)
Table 1 Model’s forecast precision in 0-4hours
圖3 同時刻節(jié)點壓力的模擬值與實測值
Fig. 4 Forecast water level the same time with measured data
圖4 預見期為1h時的節(jié)點壓力曲線
Fig. 5 Forecast water level 1 hour later
圖5 預見期為4h時的節(jié)點壓力曲線
Fig. 5 Forecast water level 4 hour later
圖6 預測同時刻的各個節(jié)點與目標節(jié)點的相關貢獻系數(shù)
Fig. 6 Relative contribution coefficient between observation station and objective node on the same
time
圖7 預測4h之后的各個觀測節(jié)點與目標節(jié)點的相關貢獻系數(shù)
Fig. 7 Relative contribution coefficient between and objective station when the forecast stage 4 hours
表2不同預見期的絕對誤差
通過研究神經(jīng)網(wǎng)絡模型的結果可見:
(1)通過圖6、圖7可以得知使用人工神經(jīng)網(wǎng)絡模型,各個節(jié)點的實測數(shù)據(jù)對于最后的目標節(jié)點影響是不同的。節(jié)點3的對與目標站的相關系數(shù)性較小,在實際工作中可以舍棄此地數(shù)據(jù)的采集,從而減少人力物力的投入。隨著預測時間的不同其相關系數(shù)亦會發(fā)生變化。
(2)預見期越長,其最后結果的可靠性越差。確定性系數(shù),和絕對誤差可以反映之,預見期為0h、1h時,其誤差很小,當延長其預見期時,其誤差會相應變大。當模擬結果用于水動力模型校核時,目標節(jié)點的模擬結果與輸入節(jié)點為同時刻時,模擬數(shù)據(jù)與實測數(shù)據(jù)高度吻合,說明該結果可以輸入水動力模型,進行校核。隨著預見期變長,其模擬結果也越來越不準確。預見期為4小時時,其結果不能作為水動力模型的輸入數(shù)據(jù)進行模型校核。
(3)在水動力模型校核過程中,可以將ANN的預測結果也就是預見期的目標節(jié)點壓力曲線用于在水動力模型中。從而解決了原始數(shù)據(jù)缺失的問題。
4 結論
本文采用ANN(人工神經(jīng)網(wǎng)絡)建立了節(jié)點壓力的預測模型,其預測結果可以應用于水動力模型中,用模型校核的原始輸入值。從而為搭建城市的給水管網(wǎng)水動力模型提供科學的依據(jù)。也節(jié)約了大量人力,物力和財力的消耗。
參考文獻
嚴熙世, 趙洪賓. 給水管網(wǎng)系統(tǒng)理論與分析. 中國建筑工業(yè)出版社, 2003.9
陶建科, 劉遂慶, 建立微觀動態(tài)水力模型標準方法研究.給水排水, 2000, 26(5):4~8
Maier H R, Dandy G C. The use of artificial neural networks for the prediction of water quality parameters. Water Resources, 1996 ,32 (4) :1013 - 1022.
關鍵詞:神經(jīng)網(wǎng)絡 油氣層識別 進展
油氣勘探具有高投入、高風險的特點,如何利用現(xiàn)有勘探資料,采取切實可行的技術方法,增強測試層位的可靠性和準確性,對于擴大油氣儲量及提高已發(fā)現(xiàn)油氣藏的勘探價值具有重要意義。首先精確地判識油氣層位,可以大大減少試油成本及減少投資損失。其次對于新的勘探區(qū)域,如能準確地判識出油氣層,則有助于新的油氣藏的發(fā)現(xiàn)。因此,對儲層進行識別和預測,有著巨大的社會效益和經(jīng)濟效益。
油氣層綜合解釋的任務是要判斷儲層中所含流體的性質,從而為準確地發(fā)現(xiàn)油氣層和確定試油層位提供依據(jù)。目前油田常用的解釋方法主要有定性解釋法和交匯圖法,其前者不足是受人為因素影響較大,自動化、系統(tǒng)化程度較低;而后者在解釋時只能對參數(shù)成對考慮,無法同時綜合多個有效參數(shù)。鑒于上述方法的諸多不足,近年來用人工神經(jīng)網(wǎng)絡對儲層進行識別與評價成為研究及應用的較為廣泛的方法。
1、概述
神經(jīng)網(wǎng)絡具有很強的自適應學習能力。它模擬人腦的結構,通過對外界事物的感知及認識實現(xiàn)其判別過程,如加利福尼亞技術學院J.J.Hopfield提出的Hopfield網(wǎng)絡用于地震模式識別油氣層系統(tǒng)。
用從有噪聲干擾的模擬地震記錄中檢測亮點模式,識別能力是十分驚人的。Poultion M.M等人在給定油氣層的電磁橢圓圖像情況下,用神經(jīng)網(wǎng)絡方法來估算良導體的位置、深度和導電率與面積乘積,效果也是很好的。
模糊識別的優(yōu)點: ①利用測井多參數(shù)模糊識別儲層時,各測井參數(shù)反映儲層類型所包含的信息不同,因此綜合儲層模糊隸屬度中各參數(shù)所加權值應根據(jù)曲線對模式識別貢獻的大小來確定。②模糊識別方法是一種多參數(shù)的模式識別方法,具有思想簡單、計算速度快、模式識別符合率較高等優(yōu)點。缺點:建模過程中需要較多的建模樣本,對于井資料較少的井不容易識別。目前在油氣層識別中的應用比較普遍的神經(jīng)網(wǎng)絡方法有以下幾種:
2、結構風險最小神經(jīng)網(wǎng)絡油氣識別理論
中國科學院地質與地球物理研究所張向君在深入研究了神經(jīng)網(wǎng)絡系統(tǒng)處理信息的能力之后,針對神經(jīng)網(wǎng)絡油氣識別中網(wǎng)絡結構設計、提高識別結果準確性等問題,提出了結構風險最小神經(jīng)元網(wǎng)絡方法,在理論上提出了神經(jīng)網(wǎng)絡結構設計方法即網(wǎng)絡“修剪"方法,該方法要求首先訓練一個大的網(wǎng)絡,然后逐漸去掉隱層中多余的節(jié)點:Waug和Massimo等的研究結果表示:含有一個隱層的位置、深度和導電率與面積乘積,效果也是很好的。
Hashem和Schmeiser為提高網(wǎng)絡訓練精度,提出一優(yōu)化組合方法,即對一訓練樣本分別獨立地用若干網(wǎng)絡訓練,然后通過對已訓練網(wǎng)絡的輸出加權合并,將各個獨立的部分網(wǎng)絡組合在一起;Jacobs和Jordan發(fā)展了一種分級混合結構網(wǎng)絡,它首先將一個復雜問題分解成各種簡單問題,再對每一個簡單的問題分別由一個網(wǎng)絡單獨處理,最后再將各個網(wǎng)絡組合在一起解決整體復雜問題。結構風險最小神經(jīng)元網(wǎng)絡運用串行訓練算法能自適應地擴展網(wǎng)絡容量并使網(wǎng)絡的結構風險達到最小,提高了儲層識別結果的準確性。研究表明,訓練樣本一定時,神經(jīng)網(wǎng)絡的結構越簡單,其風險越小,識別結果愈可靠,并且使神經(jīng)網(wǎng)絡的結構風險達到最小。
3、時間延遲神經(jīng)網(wǎng)絡地震油氣識別方法
江漢石油學院劉瑞林等人在研究了目前已發(fā)展的幾種地震資料油氣識別技術后認為通常采用孤立模式分類方法一般先根據(jù)目的層的位置選取一個包含目的層的時窗,接著對這個時窗內的地震信號進行特征提取,然后對這些特征信息用相應的分類方法進行分類。特征信息與地層含油氣情況的關系是靜態(tài)的映射關系,方法本身沒有考慮特征信息隨時間的變化與地層油氣聚集的聯(lián)系,容易產(chǎn)生誤識問題。針對以上現(xiàn)象提出了時間延遲神經(jīng)網(wǎng)絡地震油氣識別方法即采用滑動時窗的辦法進行多時窗特征提取,以表達特征信息隨時間的變化,亦即地層層序等因素的變化。時間延遲神經(jīng)網(wǎng)絡模型通過井旁道的標定,對于每一道就有一個多維特征串,這些特征串與地層含油氣與否的關系通過一個時間延遲神經(jīng)網(wǎng)絡(TDNN)模型聯(lián)系起來,用于表達相應時窗特征信息與地層含油氣性的關系。時間延遲網(wǎng)絡進行油氣識別時增加了層序的約束,對于地震油氣識別來說是一種合理的方法。
4、前饋式(Back Propagation)神經(jīng)網(wǎng)絡
簡稱BP神經(jīng)網(wǎng)絡,它是目前應用最廣泛、研究最深入的一種多層前饋神經(jīng)網(wǎng)絡。該種網(wǎng)絡采用有導師監(jiān)督的學習方式和廣義的Delta學習規(guī)則,即誤差反傳播算法,對非線性可微分函數(shù)進行網(wǎng)絡權值訓練。它經(jīng)常使用的激活函數(shù)是S型對數(shù)或正切函數(shù)以及線性函數(shù)。BP算法是一種監(jiān)督式的學習算法,它是通過連續(xù)不斷地在相對于誤差函數(shù)斜率下降的方向計算網(wǎng)絡權值和偏差的變化而逐漸逼近目標的。它由信息的正向傳遞和誤差的反向傳播兩部分組成。在第一階段,即信息的正向傳遞階段,給出輸入信息,通過神經(jīng)網(wǎng)絡處理并計算每個神經(jīng)元的實際輸出值;在第二階段,即誤差反向傳播階段,網(wǎng)絡在輸出層比較網(wǎng)絡輸出與目標值,若未能得到期望的輸出值,則逐層遞歸計算目標值與期望輸出之差(即誤差),以此為根據(jù)調節(jié)權值。上述兩個過程反復進行,直到網(wǎng)絡輸出與目標匹配或誤差達到人們所希望的要求為止。
5、自組織特征映射(seIf-organiZingfeaturemap)SOM神經(jīng)網(wǎng)絡
自組織特征映射網(wǎng)絡是一種競爭式學習網(wǎng)絡。這種網(wǎng)絡采用無導師監(jiān)督的學習方式,以基本競爭網(wǎng)絡算法為基礎,通過網(wǎng)絡中鄰近神經(jīng)元陽J的側向交互作用和相互競爭。在一維或二維輸出空間中形成輸入信號的特征分布拓撲圖,自適應的形成對輸入模式的不同響應,以完成對輸入信號的特征提取功能。SOM模型是由輸入層和輸出層(競爭層)組成的兩層網(wǎng)絡。網(wǎng)絡中的權分為兩類:一類是層與層之間的權;另一類是層內互相抑制的權。一般來講,它們是固定的,如果滿足一定的分布關系,距離近的抑制強,距離遠的抑制弱,它是一種對稱權。SOM網(wǎng)絡將學習過程分成兩部分來進行:一是選擇最佳匹配神經(jīng)元,二是權向量的自適應更新過程。SOM模擬了大腦信息處理的自組織、自學習和聚類功能,并以其高強度的特征判別優(yōu)點在許多領域得到了廣泛應用。
6、改進的組合進化算法的神經(jīng)網(wǎng)絡
成都理工大學張學慶等針對使用神經(jīng)網(wǎng)絡進行計算的過程中,神經(jīng)網(wǎng)絡的收斂速度慢、容錯能力差、算法不完備等缺點。在充分分析了基于遺傳算法的神經(jīng)網(wǎng)絡具有強的全局搜索能力,基于進化規(guī)劃的神經(jīng)網(wǎng)絡具有強的局部尋優(yōu)能力的特點后,將組合進化算法應用于油水層測井解釋中,降低了誤判率。
組合進化算法的過程如下:設立一個競爭池,將所有父代個體放入池中,然后進行雜交和變異操作,并用神經(jīng)網(wǎng)絡進行訓練。將產(chǎn)生的個體也放入競爭池,對競爭池中的個體按適應值進行排序,進行確定性選擇,保留最好的前n個個體。這樣就完成了一次種群進化,重復這一過程,直到滿足條件為止。改進的組合進化算法的神經(jīng)網(wǎng)絡具有遺傳算法的較強的全局搜索能力和進化規(guī)劃的較強的局部尋優(yōu)能力,應用于油氣水層測井解釋中,效果好。
經(jīng)過長期不懈努力,科學家認為可以從仿制人腦神經(jīng)系統(tǒng)的結構和功能出發(fā),研究人類智能活動和認識現(xiàn)象。然而,客觀現(xiàn)實世界是紛繁復雜的,非線性情況隨處可見,人腦神經(jīng)系統(tǒng)更是如此。為了更好地認識客觀世界,我們必須對非線性科學進行研究。人工神經(jīng)網(wǎng)絡作為一種非線性的、與大腦智能相似的網(wǎng)絡模型,就這樣應運而生了。因此,首先對人工神經(jīng)網(wǎng)絡進行了概述;而后重點描述BP網(wǎng)絡模型,對其基于彈性BP算法的BP網(wǎng)絡設計與實現(xiàn);最后,對網(wǎng)絡的訓練和測試進行了簡單的分析。
關鍵詞:
人工神經(jīng)網(wǎng)絡;數(shù)學模型;策略
神經(jīng)系統(tǒng),是人體器官的一種較為復雜的系統(tǒng)。人工神經(jīng)網(wǎng)絡是對人腦的神經(jīng)結構與機制進行模擬,是一種區(qū)別于符號推理以及邏輯思維的人工智能技術。人工神經(jīng)網(wǎng)絡是基于現(xiàn)代神經(jīng)生物學和認知科學對人類信息處理研究成果的基礎上研發(fā)的,用來模擬生物神經(jīng)系統(tǒng)對真實世界的物體來做出反應。除此之外,它還屬于一種大規(guī)模自適應的非線性動力學系統(tǒng),具備非常強的聯(lián)想記憶和自主學習能力。人工神經(jīng)網(wǎng)絡具有非線性映射、模式識別、函數(shù)逼近、聚類分析、數(shù)據(jù)壓縮以及優(yōu)化設計的功能,并且在穩(wěn)定性、收斂性等方面都有良好的性質,被廣泛應用于信息處理、模式識別、計算機視覺、優(yōu)化計算、智能控制等各個領域中。
一、人工神經(jīng)網(wǎng)絡
人工神經(jīng)網(wǎng)絡,可以稱之為神經(jīng)網(wǎng)絡或者鏈接模型,是屬于一種對人腦或者自然神經(jīng)網(wǎng)絡的若干個基本特性進行抽象和模擬的網(wǎng)絡?,F(xiàn)階段人工神經(jīng)網(wǎng)絡的研究成果基礎是對大腦的模擬研究,是為了模擬大腦當中的某些機理與機制,實現(xiàn)某個方面的功能而進行專項研究的。人工神經(jīng)網(wǎng)絡具有可以充分逼近任意復雜的非線性關系,對于定量或者定性的信息會采用并行分布的處理方式,使其可以大量并且快速進行運算、適應不確定的系統(tǒng)和對定量以及定性信息進行同一時間的處理。人工神經(jīng)網(wǎng)絡的優(yōu)越性表現(xiàn)在三方面,具有自主學習的能力,具有聯(lián)想存儲的能力,具有高速尋找并且尋找優(yōu)化方式的能力。對人工神經(jīng)網(wǎng)絡的研究,可以分為理論研究和應用研究兩個方面的研究。在理論研究中,可以利用神經(jīng)生理與認知科學對人類的思維以及智能機理進行相關研究,還可以利用人腦神經(jīng)的基礎理論研究成果,用數(shù)理方法對神經(jīng)網(wǎng)絡模型進行更加完善、更加優(yōu)越的探索。在應用研究方面,神經(jīng)網(wǎng)絡可以實現(xiàn)對軟件的模擬和對硬件的科學研究。而且,神經(jīng)網(wǎng)絡在各個領域中也都得到了廣泛的研究,例如模式識別、信號處理、知識工程、專家系統(tǒng)、優(yōu)化組合以及機器人控制等領域。
現(xiàn)行的數(shù)理知識是建立在集合論的基礎上的,隨著數(shù)學階段的發(fā)展,對于人類系統(tǒng)的行為,或者對于人類復雜系統(tǒng),比如航天系統(tǒng)、人腦系統(tǒng)以及社會系統(tǒng)等方面,其中的參數(shù)和變量有很多,各種因素也是相互交錯的,因此,系統(tǒng)是相當復雜的,相對的模糊性也會顯得非常明顯。就認識方面來講,可以用模糊性這個詞語來概括概念外延的不確定性。因此,模糊數(shù)學的概念應運而生,主要的研究內容包括三個方面。首先,可以對模糊數(shù)學的理論進行精確研究,其中包含著與精確數(shù)學以及隨機數(shù)學的關系;其次,還需要研究模糊語言學和模糊邏輯,人類的自然語言都是具有模糊性的,人們經(jīng)常會接收到迷糊語言和模糊的信息,并且可以對其做出正確的判斷和辨別。因此,為了可以使得自然語言和計算機語言的直接對話,就必須把人類的自然語言和思維的過程提煉成為數(shù)學模型來對計算機進行指令,這樣就可以建立模糊數(shù)學的模型樣本,通過運用此種方式,建立的就是模糊數(shù)學的模型,也是運用數(shù)學方法的關鍵之所在。最后,研究模糊數(shù)學的應用,模糊數(shù)學的研究對象通常是以不確定的事物為主的。模糊的集合通常都是通過數(shù)學來適用描述的復雜的事物,將研究的對象數(shù)學化,將其中的不確定性很好地和抽象的數(shù)學溝通起來,達到形象生動直觀的效果。
二、BP網(wǎng)絡模型
1.BP網(wǎng)概述BP算法,是由PallWerbas博士在1974年首次提出的,即為誤差逆?zhèn)鞑W習算法,而對于此算法完整的提出是在1986年由Rumelhart和McCelland為首的科學家小組提出來的。后來,人們把BP算法在進行訓練之前的前饋型的神經(jīng)網(wǎng)絡稱之為BP網(wǎng)絡,逐漸以其簡潔、實用和高度的非線性映射能力成為流行的網(wǎng)絡模型,在信號處理、模式識別、系統(tǒng)辨識以及數(shù)據(jù)壓縮中都有廣泛的應用。在人工神經(jīng)網(wǎng)絡的實際應用過程當中,大部分的模型會采用BP網(wǎng)絡或者它所擁有的變化形式,屬于前向網(wǎng)絡中的基礎核心部分,屬于人工神經(jīng)網(wǎng)絡中的精華部分。2.BP網(wǎng)絡拓撲結構BP網(wǎng)絡屬于一種前向型神經(jīng)網(wǎng)絡,其中的神經(jīng)網(wǎng)絡具有三層或者三層以上,可以對上下層之間的神經(jīng)元進行全部的連接,也就是說下層的每一個神經(jīng)元可以和上層的每一個神經(jīng)元實現(xiàn)連接,但是在同層之間的神經(jīng)元是沒有辦法相連的。3.BP網(wǎng)絡的工作原理以及過程對于BP網(wǎng)絡的學習可以有兩個階段。首先,需要學習信號的正向傳播過程。當一對學習的模式進行網(wǎng)絡提供之后,神經(jīng)元的激活值就會從輸入層當中的各隱含層向輸出層中進行傳播,并且在輸出層的各個神經(jīng)元內會相應地輸入響應值。其次,是對正方向的傳播過程進行誤差的修正,如果在輸出層中的輸出值和預期的有偏差,就會對實際輸入與期望輸出之間的誤差進行逐層遞歸的計算,計算方向會按照減小期望輸出和實際輸出之間的誤差方向。對輸出層之間的各個隱含層進行每一層的連接權進行逐層的修正,最后再回到輸入層,這個循環(huán)的過程就稱之為“誤差逆?zhèn)鞑W習算法”?,F(xiàn)階段,這種誤差傳播的修正方式在不斷地進行創(chuàng)新修正,網(wǎng)絡對應的輸入模式相應的正確率也會隨著算法的不斷發(fā)展得到相對應地提高。4.算法流程BP的算法流程如圖2。
三、基于彈性BP算法的BP網(wǎng)設計與實現(xiàn)
1.BP網(wǎng)絡結構的設計在1989年,RobertHecht-Nielson證明了在任何一個閉區(qū)間當中的一個連續(xù)的函數(shù)都可以用一個隱含層的BP網(wǎng)絡來進行逼近,這就導致了用一個3層的BP網(wǎng)絡可以完成任意的從N到M維的映射。輸入層節(jié)點的點數(shù)是根據(jù)樣本的輸入特征項來決定的,而輸出的節(jié)點數(shù)是根據(jù)樣本的期望輸出項來決定的。在隱層節(jié)點當中,由于隱層節(jié)點的數(shù)目過多,平均的收斂速度就會變慢并且速度是極其不穩(wěn)定的,這樣就會增加初始權值的敏感度,網(wǎng)絡的泛化能力也會隨之降低,在對隱層節(jié)點數(shù)進行計算的時候。其中,h代表的是隱層節(jié)點數(shù),nin代表的是輸入層的節(jié)點數(shù),則nout則代表的是輸出層的節(jié)點數(shù)。當因為網(wǎng)絡發(fā)生誤差產(chǎn)生下降的時候,也就是E(網(wǎng)絡誤差)下降的速度非常緩慢的時候,這個時候網(wǎng)絡的收斂水平還需要進一步提高的時候,就會增加一個隱層節(jié)點。如果遇到相反的情況,則就會減少一個相應的節(jié)點。對于BP網(wǎng)絡的優(yōu)化,主要包括以下幾個步驟。首先,利用彈性BP算法來對網(wǎng)絡的權值和偏差進行修正,利用此種算法,在很大程度上避免了使得學習(是學習)陷入局部狹小的現(xiàn)象,這樣可以加快學習收斂的速度;其次,對于隱含的節(jié)點數(shù)可以進行隨意的設定;而后,在對隱含層和輸出層的激活函數(shù)之間可以在給定的5種暢通的函數(shù)當中進行隨意的選擇,最后就需要對輸入向量的歸一化了。
四、網(wǎng)絡的訓練與測試
1.訓練樣本的聲場以及網(wǎng)絡的構造如果采用100個樣本對來進行聲場訓練樣本對,這里的樣本數(shù)據(jù)采用LINSPACE(X1,X2,N)的函數(shù)生成。在本文當中,BP網(wǎng)絡有三層構造。在這三層構造當中,第一層采用tansig激活函數(shù);第二層采用logsig激活函數(shù),在第三層則需要采用purline激活函數(shù)來進行。在網(wǎng)絡訓練當中需要用Matlab神經(jīng)網(wǎng)絡工具箱當中的L-M法的trainlm這個函數(shù)來進行計算。2.網(wǎng)絡學習以及等級的評價通過MATLAB的神經(jīng)網(wǎng)絡工具箱上建立的模型,需要將學3.網(wǎng)絡測試成效從評價的結果上來看,運用人工神經(jīng)網(wǎng)絡的評價方法最大限度地減少了人為因素的影響,在這其中可以在很大程度上減少因為傳統(tǒng)方式而在設計權重過程當中的不確定性,通過這種方式來對評價的對象進行自動評價。同時,BP的神經(jīng)網(wǎng)絡這種評估方式本身也具有一定的局限性,例如對網(wǎng)絡當中的隱層節(jié)點個數(shù)難以確定,在學習訓練的過程當中最容易陷入局部最優(yōu)的問題,在很大程度上會影響評價結果的精準性。
五、結束語
運用人工神經(jīng)網(wǎng)絡方式有效解決多源、多類型以及多屬性地址處理和分析問題,在很大程度上突破了統(tǒng)計數(shù)學模型對預測的約束力和限制力。應用人工神經(jīng)網(wǎng)絡進行復雜的地址信息的非線性整合處理,可以精準的對各類資料進行綜合分析和歸類。
參考文獻:
[1]李傳杰.基于模糊數(shù)學及神經(jīng)網(wǎng)絡的心理評估模型[D].山東大學,2008
[2]徐振東.人工神經(jīng)網(wǎng)絡的數(shù)學模型建立及成礦預測BP網(wǎng)絡的實現(xiàn)[D].吉林大學,2004
[3]鄧麗瓊,朱俊.基于BP神經(jīng)網(wǎng)絡的教師課堂教學評價模型[J].國土資源高等職業(yè)教育研究,2013
關鍵詞:ZISC78;徑向基函數(shù)神經(jīng)網(wǎng)絡(RBFNN);實時;預報
1引言
神經(jīng)網(wǎng)絡是近年來得到廣泛關注的一種非線性建模預報技術。它具有自組織、自學習、自適應和非線性處理、并行處理、信息分布存儲、容錯能力強等特性,對傳統(tǒng)方法效果欠佳的預報領域有很強的吸引力?;谏窠?jīng)網(wǎng)絡的非線性信息處理方法已應用于軍事信息處理及現(xiàn)代武器裝備系統(tǒng)的各個方面,并有可能成為未來集成智能化的軍事電子信息處理系統(tǒng)的支撐技術。該技術在一些先進國家已部分形成了現(xiàn)實的戰(zhàn)斗力。
船舶在波浪中航行,會受到風、浪和流的影響,因而將不可避免地發(fā)生搖蕩運動。嚴重的搖蕩會使船員工作效率下降、物品損壞、軍艦的戰(zhàn)斗力下降。如果能夠預知未來一段時間船舶的運動情況,不僅有利于盡早采用先進控制算法控制艦載武器平臺隔離船舶運動的影響,使其始終穩(wěn)定瞄準目標,而且還可獲得未來一個海浪周期內的船舶運動情況,以研究船載武器上層的控制策略,從而提高火力密度,因此,有必要研究在海浪中具有一定精度的海浪中船舶運動的短期預報。此外,如能有效準確地預報船舶的橫搖運動,對于提高船舶的耐波性和適航性也有重要意義。
國內外學者也將神經(jīng)網(wǎng)絡用于船舶運動預報研究,但往往沒有考慮實時性等實現(xiàn)問題,因而不能實用化。神經(jīng)網(wǎng)絡實現(xiàn)技術是神經(jīng)網(wǎng)絡研究的一個重要方面。神經(jīng)網(wǎng)絡實現(xiàn)可分為全硬件實現(xiàn)和軟件實現(xiàn)兩種。目前神經(jīng)網(wǎng)絡的實現(xiàn)還主要以軟件模擬為主,由于現(xiàn)行的馮諾曼計算機體系結構不能實現(xiàn)并行計算,因而神經(jīng)網(wǎng)絡軟件的實時應用還受到一定限制。
目前,一些著名集成電路制造公司如Intel、Mo-torola、松下、日立、富士通等均已推出自己的模擬或數(shù)字神經(jīng)網(wǎng)絡芯片,這些芯片無論在網(wǎng)絡規(guī)模還是運行速度上都已接近實用化的程度,因而給神經(jīng)網(wǎng)絡應用的發(fā)展以極大的推動。由于艦載武器系統(tǒng),需選用具有在片學習功能的神經(jīng)網(wǎng)絡芯片,即將網(wǎng)絡訓練所需的反饋電路及權值存儲、計算和修正電路都集成在了一個芯片,因而可實現(xiàn)全硬件的、具有自學習能力的神經(jīng)網(wǎng)絡系統(tǒng),也可以說,這是一種具有自適應能力的神經(jīng)網(wǎng)絡。
2ZISC78的功能及工作原理
ZISC78是由IBM公司和Sillicon聯(lián)合研制的一種低成本、在線學習、33MHz主頻、CMOS型100腳LQFP封裝的VLSI芯片,圖1所示是ZISC78的引腳排列圖。ZISC78的特點如下:
內含78個神經(jīng)元;
采用并行結構,運行速度與神經(jīng)元數(shù)量無關;
支持RBF/KNN算法;
內部可分為若干獨立子網(wǎng)絡;
采用鏈連接,擴展不受限制;
具有64字節(jié)寬度向量;
L1或LSUP范數(shù)可用于距離計算;
具有同步/異步工作模式。
2.1ZISC78神經(jīng)元結構
ZISC78采用的神經(jīng)元結構如圖2所示,該神經(jīng)元有以下幾種狀態(tài):
(1)休眠狀態(tài):神經(jīng)網(wǎng)絡初始化時,通常處于這種狀態(tài)。
(2)準備學習狀態(tài):任何時侯,神經(jīng)網(wǎng)絡中的神經(jīng)元都處于這種狀態(tài)。
(3)委托狀態(tài):一個包含有原型和類型的神經(jīng)元處于委托狀態(tài)。
(4)激活狀態(tài):一個處于委托狀態(tài)的神經(jīng)元,通過評估,其輸入矢量處于其影響域時,神經(jīng)元就被激活而處于激活狀態(tài)。
(5)退化狀態(tài):當一個神經(jīng)元的原型處于其它神經(jīng)元類型空間內,而大部分被其他神經(jīng)元類型空間重疊時,這個神經(jīng)元被宣布處于退化狀態(tài)。
2.2ZISC78神經(jīng)網(wǎng)絡結構
從圖3所示的ZISC78神經(jīng)網(wǎng)絡結構可以看出,所有神經(jīng)元均通過“片內通信總線”進行通信,以實現(xiàn)網(wǎng)絡內所有神經(jīng)元的“真正”并行操作?!捌瑑韧ㄐ趴偩€”允許若干個ZISC78芯片進行連接以擴大神經(jīng)網(wǎng)絡的規(guī)模,而這種操作不影響網(wǎng)絡性能。
ZISC78片內有6bit地址總線和16bit數(shù)據(jù)總線,其中數(shù)據(jù)總線用于傳輸矢量數(shù)據(jù)、矢量類型、距離值和其它數(shù)據(jù)。
2.3ZISC78的寄存器組
ZISC78使用兩種寄存器:全局寄存器和神經(jīng)元寄存器。全局寄存器用于存儲與所有神經(jīng)元有關的信息,每片僅有一組全局寄存器。全局寄存器組中的信息可被傳送到所有處于準備學習狀態(tài)和委托狀態(tài)的神經(jīng)元。神經(jīng)元寄存器用于存儲所屬神經(jīng)元的信息,該信息在訓練學習操作中寫入,在識別操作中讀出。
2.4ZISC78的操作
ZISC78的操作包括初始化、矢量數(shù)據(jù)傳播、識別和分類等三部分。
初始化包括復位過程和清除過程。
矢量數(shù)據(jù)傳播包括矢量數(shù)據(jù)輸入過程和神經(jīng)元距離計算過程。神經(jīng)元距離就是輸入矢量和神經(jīng)元中存儲的原型之間的范數(shù)。通常可選L1范數(shù)或Lsup范數(shù):
其中,Xi為輸入矢量數(shù)據(jù),Xs為存貯的原型數(shù)據(jù)。
對于識別和分類,ZISC78提供有兩種可選擇的學習算法RBF和KNN。其中RBF是典型的徑向基函數(shù)神經(jīng)網(wǎng)絡。在該RBF模式下,可輸出識別、不確定或不認識的狀態(tài);KNN模式是RBF模式的限制形式,即在KNN模式下,新原型的影響域總被設為1,輸出的是輸入向量和存儲原型之間的距離。需要指出的是,ZISC78具有自動增加或減小神經(jīng)元個數(shù)以適應輸入信號的分類和識別功能,神經(jīng)元個數(shù)的最大值和最小值在全局寄存器組中設定。
2.5ZISC78的組網(wǎng)
一個ZISC78芯片內可以通過寄存器操作定義若干個獨立的網(wǎng)絡。若干個ZISC78芯片通過層疊可以組成一個更大的神經(jīng)網(wǎng)絡,組網(wǎng)芯片數(shù)量沒有限制,小于10個ZISC78組網(wǎng)時,甚至連電源中繼器件也不需要。所以,ZISC78具有最大的靈活性,能夠滿足不同的需要。
3仿真實例
為了驗證ZISC78用于船舶運動實時預報的精度,本文對徑向基函數(shù)神經(jīng)網(wǎng)絡預報進行了仿真,圖4給出了基于徑向基函數(shù)神經(jīng)網(wǎng)絡和船舶運動慣導實測信號預報的0.3秒(15步)誤差曲線圖。
通過以慣導實測數(shù)據(jù)ZHX_lg.dat為例預報0.3秒(15步)以后的船舶運動,作者運用相空間重構理論已經(jīng)判斷出本數(shù)據(jù)為非線性信號。
該仿真的最大預報誤差方差為6.4666e-004,該數(shù)據(jù)可以滿足戰(zhàn)技指標。
計算機網(wǎng)絡的快速發(fā)展和技術的廣泛應用給人們的生產(chǎn)生活提供了便利,但同時,也帶來了一些不容忽視的安全隱患。近年來,影響計算機安全的因素很多,例如犯罪團伙利用網(wǎng)絡等高科技進行犯罪的案例屢見不鮮。對此進行嚴格防范,更好地促進計算機和互聯(lián)網(wǎng)的發(fā)展,需要對計算機網(wǎng)絡安全進行評價,建立安全、有效的計算機網(wǎng)絡評價系統(tǒng),網(wǎng)絡安全評價體系可以對整個計算機網(wǎng)絡進行評估和分析,完善評價體系,使系統(tǒng)更準確、可靠,其中使用率最高的則是神經(jīng)網(wǎng)絡。
1 神經(jīng)網(wǎng)絡的概述
1.1 神經(jīng)網(wǎng)絡的簡介
神經(jīng)網(wǎng)絡又被稱為鏈接模型,它效仿了生物神經(jīng)網(wǎng)絡而建立,它以人腦的信息處理方式為基礎,采用建立數(shù)學模型的方式研究大腦行為結構和生物神經(jīng)元基本特征,世界上第一個神經(jīng)網(wǎng)絡模型是由數(shù)學家和生物學家共同提出。神經(jīng)網(wǎng)絡復雜多變,它是由神經(jīng)元內部通過大量節(jié)點進行相互連接形成的一種網(wǎng)絡結構,其中每個神經(jīng)元都可處理信息,從而達到處理海量信息的規(guī)模。隨后,計算機學家在原有的神經(jīng)網(wǎng)絡模型的基礎上增加了學習機制,將神經(jīng)網(wǎng)絡技術應用在工程中,設計出了感知器神經(jīng)網(wǎng)絡模型,我國的計算機學家和數(shù)學家通過對神經(jīng)網(wǎng)絡的分析,展開長期的研究工作,掌握了模型的實質,研究表明,神經(jīng)網(wǎng)絡模型適合應用在不同的研究領域。
1.2 神經(jīng)網(wǎng)絡的功能
神經(jīng)網(wǎng)絡是一項人工智能系統(tǒng),是通過生物神經(jīng)網(wǎng)絡的工作原理建立而來,它的應用具有全方位的優(yōu)越性能。計算機神經(jīng)網(wǎng)絡系統(tǒng)還可實現(xiàn)預測功能,此功能為聯(lián)想模式的升級版,主要運用于市場和企業(yè)中,例如股票等證券市場,預測功能可對股市證券和企業(yè)的未來效益進行預測分析,基于計算機的神經(jīng)網(wǎng)絡為市場和企業(yè)的發(fā)展提供了強有力的支持。正是有這些優(yōu)越性能,神經(jīng)網(wǎng)絡系統(tǒng)在計算機網(wǎng)絡安全評價過程中,才能發(fā)揮出最大的價值。
2 計算機網(wǎng)絡安全概述
2.1 計算機網(wǎng)絡安全的簡介
計算機網(wǎng)絡安全是指在網(wǎng)絡環(huán)境中,采用先進的科學技術和網(wǎng)絡管理控制措施來保證計算機資料能得以安全及完整的保護。計算機網(wǎng)絡安全由邏輯安全和物理安全兩大重要部分組成:第一,計算機的邏輯安全是指其中信息數(shù)據(jù)的保密性、完整性及可用性方面的內容;第二,物理安全包括了系統(tǒng)中的組網(wǎng)硬件和相關軟件等方面內容,其具有可控性及可審查性等特點。在當今的計算機網(wǎng)絡環(huán)境中,安全問題是關鍵,由于網(wǎng)絡的開放自由性導致信息在傳播過程中會受到硬件漏洞或者通訊協(xié)議方面的攻擊,這不僅給本地用戶帶來威脅,對國際網(wǎng)絡市場也是一種挑戰(zhàn)。
2.2 計算機網(wǎng)絡安全評價體系的建立
計算機網(wǎng)絡安全評價體系的建立是對網(wǎng)絡安全評價的一個強有力保障,該體系能全面、科學、客觀的體現(xiàn)計算機網(wǎng)絡中存在的不安全因素并且給出相對應的解決措施,所以應該根據(jù)多種綜合因素設立評價體系中的評價指標,從而準確地反映評價信息,計算機網(wǎng)絡安全評價系統(tǒng)的構建原則是:第一,可行性。在計算機網(wǎng)絡安全評價體系構建過程中,結合實際的測評條件,因地制宜,才能有效的進行測評和操作。第二,準確性。在計算機網(wǎng)絡安全評價體系的構建過程中,應當對網(wǎng)絡安全的技術水平進行真實的體現(xiàn),及時且準確的對安全信息進行監(jiān)測分析再反饋到計算機網(wǎng)絡中,使技術人員及時有效的解決產(chǎn)生的問題。第三,完備性。建立的安全評價體系,需確保所選指標對網(wǎng)絡安全基本特征有全面的反映,進而提高評價結果的真實可靠性。第四,簡要性。在選取評價指標的過程中,要選取具有代表性的,保證結果準確可靠從而降低工作量。第五,獨立性。計算機網(wǎng)絡是一個復雜多變的系統(tǒng),在選取各項評價指標時,要避免出現(xiàn)重復選擇的情況,減少指標間的關聯(lián)度,從而客觀準確的將計算機網(wǎng)絡安全運行狀態(tài)展現(xiàn)出來。計算機安全網(wǎng)絡存在一定風險性,在安全保護上也存在難度,遵守以上原則,在實際工作應用中,提高計算機網(wǎng)絡的工作質量和效率。
3 基于神經(jīng)網(wǎng)絡的計算機網(wǎng)絡安全評價系統(tǒng)
在神經(jīng)網(wǎng)絡模型中,使用最為廣泛的是BP神經(jīng)網(wǎng)絡模型,它采用最速下降法進行反向傳播,調整相關數(shù)值,將誤差降至最低。BP神經(jīng)網(wǎng)絡模型還通過誤差逆?zhèn)鞑ニ惴?,訓練前饋多層網(wǎng)絡。其算法簡單,容易實現(xiàn),具有非線性逼近能力。本文以BP神經(jīng)網(wǎng)絡為研究對象,對計算機網(wǎng)絡安全評價進行分析。
3.1 神經(jīng)網(wǎng)絡的計算機網(wǎng)絡安全評價模型設計
基于神經(jīng)網(wǎng)絡設計的計算機網(wǎng)絡安全評價模型,由3個部分組成,分別是輸入層、隱含層和輸出層:(1)輸入層。BP神經(jīng)網(wǎng)絡在設計的過程中規(guī)定輸入層神經(jīng)元節(jié)點的數(shù)量,與計算機網(wǎng)絡安全評價指標數(shù)量必須一致,所以對模型輸入層中神經(jīng)元節(jié)點的數(shù)量確定需由二級指標的數(shù)量完成。例如,在安全評價體系中設計了10個二級指標,在計算機網(wǎng)絡安全評價模型中輸入層神經(jīng)元節(jié)點數(shù)量也必須是10個。(2)BP神經(jīng)網(wǎng)絡模型在設計的過程中,采用單向隱含層,如果隱含層中的節(jié)點數(shù)過多會延長神經(jīng)網(wǎng)絡學習時間,如果隱含層節(jié)點數(shù)的數(shù)量過少則會降低神經(jīng)網(wǎng)絡的容錯能力。所以隱含層中的節(jié)點數(shù)量對網(wǎng)絡性能有較大的影響。(3)輸出層。BP神經(jīng)網(wǎng)絡在輸出層的設計工作即反映網(wǎng)絡安全評價結果,依據(jù)輸入層的評價設計,將輸出層的節(jié)點數(shù)設為2個,則(1,1)的輸出結果表示非常安全,(1,0)的輸出結果基本安全,(0,1)的輸出結果表示不安全,(0,0)的輸出結果表示非常不安全。
3.2 神經(jīng)網(wǎng)絡的計算機網(wǎng)絡安全評價模型學習
BP神經(jīng)網(wǎng)絡在計算機網(wǎng)絡安全評價模型中需完成神經(jīng)網(wǎng)絡的學習,也就表示其在模型構建前需進行神經(jīng)網(wǎng)絡的訓練工作,這使BP神經(jīng)網(wǎng)絡具有初始連接權,在完成神經(jīng)網(wǎng)絡的學習后,減少誤差值,保證安全評價結果和使用者期望值達成一致。
3.3 神經(jīng)網(wǎng)絡的計算機網(wǎng)絡安全評價模型驗證
為確保計算機網(wǎng)絡安全模型的應用效能,在完成設計與學習工作后,對其進行驗證,首先選取樣本數(shù)據(jù),再將樣本數(shù)據(jù)輸入到模型中,通過模型內部檢驗分析,完成評價功能的應用,如果輸出的安全評價結果與期望值達成一致,則說明基于神經(jīng)網(wǎng)絡的計算機網(wǎng)絡安全評價模型具有準確性,可以使用。
4 結語
隨著社會的發(fā)展,科學的進步,越來越多的先進信息技術和網(wǎng)絡技術得以應用,計算機網(wǎng)絡是一個復雜的系統(tǒng),其中存在一定的風險性,計算機網(wǎng)絡的安全問題是目前亟待解決的關鍵問題。在當前社會,神經(jīng)網(wǎng)絡技術廣泛應用于各大領域,將神經(jīng)網(wǎng)絡模型與計算機網(wǎng)絡安全相結合,遵守可行性、準確性、完備性、簡要性、獨立性原則,構建一個網(wǎng)絡安全評價體系。有利于對計算機安全管理奠定基礎,基于神經(jīng)網(wǎng)絡的計算機網(wǎng)絡安全評價體系能使評價結果更具真實性和可靠性,但目前的神經(jīng)網(wǎng)絡技術并不十分成熟,根據(jù)其應用特點,將神經(jīng)網(wǎng)絡技術與其他技術相融合的發(fā)展問題,仍值得廣大學者深入研究。通過本文的分析與研究,認識到神經(jīng)網(wǎng)絡的發(fā)展及特點,針對其功能的優(yōu)越性,加大對神經(jīng)網(wǎng)絡的重視,提高安全評價體系對環(huán)境的適應力,提升體系的容錯性,實現(xiàn)在線應用模式,促進其在計算機網(wǎng)絡安全中的進一步完善和發(fā)展,為計算機網(wǎng)絡安全評價提供保障,使神經(jīng)網(wǎng)絡在計算機網(wǎng)絡安全評價中發(fā)揮更大的作用。