前言:一篇好文章的誕生,需要你不斷地搜集資料、整理思路,本站小編為你收集了豐富的神經網絡遺傳算法主題范文,僅供參考,歡迎閱讀并收藏。
中圖分類號:TM1文獻標識碼:A文章編號:1007-3973(2010)06-083-02
隨著現代工業(yè)科技的發(fā)展,電力電子裝置的應用越來越廣泛,非線性和時變性電子裝置大量投入到電網使得電力系統(tǒng)中的非線性負荷急劇增加,導致了配電網中電壓和電流波形的嚴重失真,由此而產生了電網諧波污染問題,諧波的產生降低了電能質量,直接影響工業(yè)用電設備和居民用電設備的正常安全運行。另一方面隨著科技的發(fā)展,各種精密儀器的投入使用對電能質量提出了更高的要求。諧波問題作為降低電能質量問題的核心內容對電力系統(tǒng)的安全經濟運行帶來了巨大的挑戰(zhàn) 。
對諧波含量準確進行分析計算時保證諧波治理效果的重要前提,本文采用遺傳算法改進神經網絡算法進行諧波含量計算,其實時性和結果精確性都有較大提高。
1諧波含量計算問題
原始理想的電壓和電流波形應該是標準的正弦波波形, 可以假設電源瞬時電壓為
考慮到負載電流發(fā)生畸變,含有諧波分量,根據傅里葉級數將負載電流分解為:
其中,為基波有功電流;為基波無功電流;為高次諧波電流,可以將式(2)改寫成權值模式:
對諧波含量的分析計算目標即為求出的值,其中體現高次諧波的含量 。實際電網中由于電力系統(tǒng)為三相系統(tǒng),偶次諧波基本消除,因此只考慮奇次諧波,占總諧波含量97%以上的諧波集中在25次諧波以下,本文只分析25次以下(包括25次)奇次諧波含量,根據以上分析,式(4)可以簡化成
其中 諧波分析即為求取式(5)中權值系數 的值。
2基于神經網絡諧波檢測算法
本系統(tǒng)采用單層感知器―誤差修正學習法 。由式(5)可知,神經網絡諧波權值計算可用如圖1所示,作為網絡的輸入,為理論電流:
為實測電流值,也就是期望電流值,為期望電流值與網絡實際輸出之差,即誤差信號:
誤差信號為驅動控制信號,其目的是修正調節(jié)各次諧波權值,使網絡輸出一步一步接近期望輸出 ,這一目標通過最小化性能指標來實現 ,性能指標定義如下:
權值修正法則如下:
其中表示第n個輸入量第k+1表示第次迭代后結果,為學習率,為學習誤差,為第n個輸入向量。
綜合以上分析可知,采用單層感知器-誤差修正神經網絡的諧波算法計算步驟如下:
(1)給定初始諧波權值
初始權值賦值可采用在規(guī)定區(qū)間內的隨機賦值法,初值賦值區(qū)間為[-2,2]。
(2)給定當前輸入
由前面分析可知為神經網絡輸入,輸入量在不同的時刻t不同,因此必須建立查表機制來查詢不同時刻的網絡輸入,用表示第n次迭代中第個輸入量( 的順序依次編號)。
(3)由權值和輸入量計算網絡輸出值
(4)根據網絡輸出和期望輸出計算學習誤差,如式(7)所示。
(5)根據學習誤差調節(jié)權值
其中表示第次迭代中第n個輸入量的連接權值
(6)回到2繼續(xù)進行下一次迭代計算
基于單層感知器-誤差修正學習網絡最大的優(yōu)點就是迭代過程相對簡單,最后系統(tǒng)能穩(wěn)定收斂到目標范圍。但系統(tǒng)的穩(wěn)定性受系統(tǒng)反饋參數影響較大,學習率的選取對于系統(tǒng)重復學習過程中的穩(wěn)定性和收斂性是非常重要的,的值過大,會加快收斂速度但誤差過大,的值過小,學習速度過慢,也將影響系統(tǒng)實時響應速度。
3遺傳算法改進神經網絡算法
上一節(jié)中提到的單層感知器-誤差修正神經網絡是一種簡單的尋優(yōu)算法,但神經網絡權值尋優(yōu)算法存在全局搜索能力差的缺點,初始權值隨機性過大影響網絡的泛化能力,而遺傳算法可以對復雜的,非線性的、多峰的不可微函數實現最優(yōu)全局搜索,能有效利用歷史信息來推測下一代更優(yōu)質的尋優(yōu)點集 。這樣不斷進化,最后收斂到一個最適應環(huán)境的個體上,進而得出問題的最優(yōu)解。因此,可以先用遺傳算法對初始權值進行優(yōu)化,在大范圍解空間定位出適用于優(yōu)化目標的較好搜索空間,然后利用神經網絡在這一個較小解空間進行局部尋優(yōu),這樣既可以避免在尋優(yōu)過程陷入局部最優(yōu),還可以加快算法收斂。據此本文將遺傳算法與單層感知器-學習修正神經網絡算法進行結合來優(yōu)化諧波含量計算。遺傳算法進化步驟如下 :
第一步:確定決策變量和約束條件
包括基波權值在內,一共有13組,總共有26個權值,諧波權值的范圍一般在[-1,1],權值可能溢出,本文將權值范圍擴大到[-2,2],即:
第二步:建立優(yōu)化模型
優(yōu)化目標為使得性能指標到合理范圍
第三步:確定編碼、解碼方法
對于每一個權值其取值區(qū)間為[-2,2],由于遺傳算法計算目的為搜索最優(yōu)區(qū)間,而非最優(yōu)解,因此將[-2,2]區(qū)間以0.2為單位分為20等份,計算最終目標只需求出最優(yōu)解所在區(qū)間即可,可知每個權值從-2到2有21個取值可能,可用4位二進制編碼串表示,一共有26個權值,按照的順序需要104位二進制編碼串來表示,這便構成了染色體編碼方法。解碼時先將104位的二進制編碼串截成26段4位二進制編碼串,每一段編碼串表示一個權值編碼,設某一段編碼為,解碼后表示權值實際值為,可知
第四步:確定個體評價方法
可知個體評價方法即為性能指標控制到合理范圍。
第五步:設計遺傳算子
選擇運算選用比例選擇算子;交叉運算使用單點交叉算子;編譯運算使用基本位變異算子。
第六步:設定遺傳算法運行參數
包括群體大小、終止代數、交叉概率和變異概率
結合前面神經網絡算法的分析,可得出遺傳算法改進神經網絡算法計算諧波的總計算流程,如圖2所示:
4MATLAB仿真分析
根據前面對算法的分析,使用MATLAB提供的神經網絡和遺傳算法工具性進行仿真處理 。設置遺傳算法群體大小為80,終止代數為100,交叉概率為0.7,變異概率為0.001,神經網絡算法學習率為0.1,使用遺傳算法改進神經網絡算法的訓練樣本曲線如圖3所示,單獨使用神經網絡算法的訓練樣本曲線如圖4所示:
由圖3和圖4可知,采用遺傳算法改進神經網絡算法進行諧波分析,在遺傳算法完成100步迭代后適應度最高樣本的訓練誤差已經降到,此后進行神經網絡訓練到160步后訓練誤差已經降到,相比單獨使用神經網絡算法,需要到350步訓練誤差才能到,可見采用遺傳算法改進神經網絡算法大大加快了迭代速度和計算結果的準確性。
5遺傳算法改進神經網絡算法的優(yōu)點
使用遺傳算法改進神經網絡算法為諧波計算分析提出了新的解決思路,主要特點包括:(1)全局搜索能力強,算法精確度高 。(2)抗干擾能力強.。(3)自適應能力強。智能算法進行諧波分析作為一種新興的諧波分析思路,但是由于智能算法對于訓練樣本的依耐性非常大,算法參數的設置對于整體計算精度和效率影響非常大,現場應用不夠,因此還需作更為深入的探索研究。
注釋:
呂潤如. 電力系統(tǒng)高次諧波[M].北京:中國電力出版社,1998.
危韌勇,李志勇.基于人工神經元網絡的電力系統(tǒng)諧波測量方法[J]. 電網技術,1999,23(12):20-23.
焦李成.神經網絡計算[M].西安:西安電子科技大學出版社,1993.
危韌勇,李志勇,李群湛.一種基于ANN理論的諧波電流動態(tài)檢測方法研究[J]. 鐵道學報,2000,22(1):40-43.
陳國良,王熙法,莊鎮(zhèn)泉,王東生.遺傳算法及其應用[M].北京:人民郵電出版社,1999.
王小平,曹立民.遺傳算法-理論、應用于軟件實現[M].西安:西安交通大學出版社,2002.
[關鍵詞] 神經網絡; 煤礦突水; 優(yōu)化設計; 遺傳算法
1 引言
煤礦行業(yè)作為我國的一種重要的傳統(tǒng)能源行業(yè),在國民經濟、人民生活等眾多領域中起著舉足輕重的作用。但現階段我國的煤礦企業(yè)普遍存在著安全化的建設水品嚴重的滯后,在生產中,安全保障方法嚴重的不足,開挖的成本居高不下。而與其相對的是近些年來,遺傳算法和神經網絡技術的興起,改變了傳統(tǒng)安全監(jiān)測的諸多不足之處,使得信息安全化技術滲透了人們生活的每個角落。在很多地方已經將引進遺傳算法和神經網絡技術這種重要的輔技術作為一種衡量公司運營好壞的標準。
而現階段我國的煤礦企業(yè)基本上受制于安全化系統(tǒng)不發(fā)達,從而使得煤礦生產中的突水事故經常發(fā)生,同時,企業(yè)內部的各個應用之間也難以連通,不利于系統(tǒng)集成,致使系統(tǒng)內溝通繁瑣。不止如此,缺乏有效的安全化技術也使得領導缺乏及時有效的數據用于推斷預測企業(yè)的發(fā)展與行業(yè)的發(fā)展趨勢。這些問題在一定程度上嚴重的制約了我國的煤礦行業(yè)發(fā)展,利用現有遺傳算法和神經網絡技術的煤礦監(jiān)測技術完全可以大大改善這種現象。
因此,將遺傳算法和神經網絡的技術引入我們煤礦行業(yè)勢在必行。而在預測煤礦突水事件的方案中可以有效的將信息資源集中到各個管理機構,從而推進煤礦行業(yè)的安全化進程,促進煤礦行業(yè)的發(fā)展。
2 神經網絡在煤礦突水預測中的應用
神經網絡是一種符號數值相結合以人工神經網絡為核心建造的智能預測系統(tǒng)。其采用一種或多種神經網絡算法來學習輸入輸出之間的關系,摒棄了傳統(tǒng)產生式系統(tǒng)的結構和工作周期。該模型的建立過程,一是確定礦井突水的主要影響因素即確定輸入層神經元的個數,如含水層條件、構造條件、巖性組合條件、開采條件以及巖性特征等因素;二是確定隱含層的層數和神經元的個數;三是確定輸出層神經元的個數。對建立的模型進行訓練和檢驗,準確率高達100%。在突水事故中因構造引起事故的主要控制因素是斷裂構造。神經網絡非線性特征可以實現數據輸入和輸出的任意映射,這使得它在許多領域得到了廣泛的應用,如模式識別、函數逼近、數據壓縮等領域。神經網絡的學習過程按照有導師的方式進行網絡學習訓練,分為網絡輸入信號正向傳播和誤差信號反向傳播兩種形式。在正向傳播中,輸入數據從輸入層經過隱含層逐步計算結果,將其傳向輸出層,網絡的訓練過程中輸入模式的網絡信息與輸出層的各神經元輸出值對應;在學習的過程中,若輸出層得不到預先設定的期望輸出,則網絡按減小期望輸出與實際輸出的誤差理論原則。
神經網絡技術正由于其強大的數值處理能力,因而用于煤礦突水事件的設計,這種設計也是最近幾年才開始使用,為生產提供了很好的科學方案設計。在使用了神經網絡技術預測突水后,可以大大提高設計效率和質量,還保障了煤礦生產中的安全?;谏窠浘W絡技術的煤礦預測突水設計方案優(yōu)化的目的是讓施工中在最少的材料和最低成本的情況下,用最合理的技術完成要求的工作,最大程度的完成施工中不發(fā)生突水事件,把巷道內部的強度、剛度、穩(wěn)定性能都 發(fā)揮出來。神經網絡技術軟件就是比人工系統(tǒng)多出了智能識別,自動的在系統(tǒng)內部生成機械的最有配置。
⑴ 非線性的優(yōu)化設計法
非線性的優(yōu)化設計是不同的約定的函數數值所產生的一種安全設計方案。系統(tǒng)在使用時,會自動生成約定之外的函數數值,這些數值直接用于機械的編程使用中,指導施工運行。這種非線性方案可以分為兩種。一種是利用目標定位將一次積分和二次積分在相乘的情況下,再次加權,以得到相應的施工設計方案。這種方法具體有共軛替代法、變化模式階層法以及多普勒開根號法。這些在神經網絡技術的安全方案中正是由于穩(wěn)定性能良好,計算較為簡便,所以使用比較廣泛。另外一種就是假定一個多元函數,將函數在定義域范圍內縮減至有效值,把目標函數的第三種類型編程可分析區(qū)域加以利用。這種方法雖然比較簡單,但是用于突水預測中卻很少,最主要的原因是在轉變編程中多次使用神經網絡技術,導致系統(tǒng)的數據無法完全復制到程序中,施工所執(zhí)行的命令和指令都是很片面,具體變現在工作斷斷續(xù)續(xù),不能系統(tǒng)的完成整個工程的協(xié)調指令。
⑵ 線性優(yōu)化設計法
在突水預測設計問題大多要使用線性函數,根據線性函數出來數據時又可以分為直接法和間接法。直接法通常有復雜圖形靜態(tài)變現法,在突水預測在運轉中會遇到一些人為情況下無法處理的事情,這時利用神經網絡技術所生成的處理技術,可以很好的在具體的點位固定目標,將安全設施指引到正確的位置。構造中,函數不斷的迭代,自動加載出合適的運行模式,在一系列的數學計算后,得出線性解答,最終得到合理的解決方案。
間接法常見的有共軛函數法、增廣矩陣變化法。它是將煤礦突水的線性優(yōu)化問題轉化成非線性優(yōu)化問題,再通過非線性優(yōu)化方法來求解,或者非線性優(yōu)化問題轉化成線性規(guī)劃問題來處理。加運轉的指令以坐標的形式發(fā)散出去,得到的目標函數在通過重復的驗算,再次得到神經網絡技術中所要求的優(yōu)化方案。
3 遺傳算法在煤礦突水預測中的應用
基于遺傳算法技術的煤礦突水預測設計是在以往傳統(tǒng)的機械設計理念上加上了更多的計算機數據編程,是一種更加科學的現代化手段。為在煤礦生產效率中也得到了很好的優(yōu)化,也能使煤礦生產安全達到更好、更高的要求。接下來,我們將著重介紹在煤礦突水預測中使用安全技術優(yōu)化方案中的遺傳算法。
遺傳算法,是20世紀70年代初期由美國密執(zhí)根大學霍蘭教授提出的一種為煤礦突水事故提供預測方法的一種提前預案。GA是一種在人為施工條件下非確定性的擬自然算法,這種算法是根據自然界仿照生物的固有進化規(guī)律,對一個大的群體進行隨機抽樣,觀測其繁衍變化以及淘汰機制。其中就會有適者生存,不適者就會被淘汰,按照這樣的規(guī)律不斷重復,使整個群體在繁衍的素質上和種群的數量上都會有很大的提高,時間變長,這樣的趨勢會顯現的更加明顯,最終會以一種優(yōu)化平衡的態(tài)勢趨于平衡,并且保持最優(yōu)配合比。遺傳算法具有魯棒性、自適應性、全局優(yōu)化性和隱含并行性。
主要應用領域有:函數優(yōu)化方面、機械的組合優(yōu)化、機器概念學習、設備的控制方面、三維圖型顯示、機械設備故障診斷、人工生命、神經網絡等最近幾年中遺傳算法在機械工程領域也開展了多方面的應用。本文中提到的煤礦突水預測技術下的設計優(yōu)化就是選取這樣的設計理念,在優(yōu)勢上有了很大的突顯,主要表現在:
(1)煤礦整體結構優(yōu)化設計:在煤礦生產中,多考慮到安全方面的因素,遺產法在結合突水施工行為后,針對多樣的遺傳算法中的彈性改變量、固定動態(tài)與波段概率等是不能夠改變機械設備的運行模式,也就不能對煤礦施工安全有任何的優(yōu)化過程。在提出了交叉適應變于線替改變的方法后,彈性改變量就會維持在一個平穩(wěn)的狀態(tài),遺傳算法中的頻率會體現在設備的轉動上,這種遺傳算法為解決煤礦突水在工程使用中結構優(yōu)化設計、多峰值函數求極值等問題提供了參考。
(2)可行性分析:在安全的整個框架系統(tǒng)中,模擬了固定模式中的運行,加上基于數據可視化技術下的運轉方式,把整個系統(tǒng)的優(yōu)化性再次提升,能夠在加工材料和零件上的加工都有很好的保護作用,避免了很多機械設備在使用中對于不明施工環(huán)境變化導致的機械損壞,提出框架結構系統(tǒng)可靠性優(yōu)化的遺傳算法在安全設備升級優(yōu)化都有積極的幫助。
(3)故障診斷:以網絡權重和偏差的實數形式作為基因構成染色體向量,采用基因多點交叉和動態(tài)變異進行種群最優(yōu)選擇,提出了一種新的基于數據可視化技術的遺傳算法,并在此基礎上設計出一種基于遺傳算法和有毒性氣體分析的技術,使得煤礦機械設備會在滿負荷工作時自動的對整個電路系統(tǒng)起到測試的作用。
盡管遺傳算法在突水預測技術指導下已解決煤礦生產中了許多難題,但還存在許多不足之處,如算法本身的參數優(yōu)化問題、如何避免過早收斂、如何改進計算機有效的工作時間和工作方法來提高算法的效率、遺傳算法與其它優(yōu)化算法的結合問題等。用遺傳算法求解約線性和非線性優(yōu)化問題時,一般采用共軛發(fā)散函數法,如何合理的選擇共軛因子是算法的難點之所在。共軛因子取得過小時,可能造成整個發(fā)散函數的極小解不是原目標函數的極小解;共軛因子取得過大時,搜索過程增加困難,所以對煤礦突水預測技術中遺傳算法中的一系列問題還有待于進一步研究、討論。
4 結束語
遺傳算法和神經網絡在煤礦突水預測中的應用設計作為一項革命性的技術,在許多行業(yè)中都有著巨大的發(fā)展空間及應用價值。在煤礦企業(yè)安全化進程中引入遺傳算法和神經網絡技術有著明顯的優(yōu)勢,它在簡化管理,加強安全監(jiān)控等方面具有不可比擬的優(yōu)勢,十分適合我國煤礦企業(yè)的發(fā)展。利用安全設備的優(yōu)化方能能實現對煤礦突水事件的規(guī)避,使得煤礦行業(yè)能可持續(xù)發(fā)展。
[參考文獻]
[1] 濮良貴. 機械零件[M]. 北京高等教育出版社,1982,5(13):23-26.
[2] 蒲 俊,吉家鋒. 數據可視化技術數學手冊[M]. 上海浦東電子出版社,2002,9(11):100-108.
論文摘要: 從現有安全設施來看,TDCS網絡系統(tǒng)安全體系初步形成。但是,隨著計算機網絡的日益普及,各種安全威脅和計算機病毒也隨之而來?,F有的網絡安全系統(tǒng)雖然起到一定的防護作用,但并不能完全解決整個骨干網絡的系統(tǒng)安全問題。因此,擬采用基于遺傳算法和神經網絡的入侵檢測技術,結合遺傳算法和神經網絡各自的優(yōu)點,加強對TDCS網絡的監(jiān)視和防護。
1 TDCS網絡安全狀況
1.1 TDCS網絡安全現狀
TDCS(TrainOperation Dispatching Command System)是覆蓋全路的列車調度指揮管理系統(tǒng),分為鐵道部、鐵路局和車站三級建設,能及時、準確地為全路各級調度指揮管理人員提供現代化的調度指揮手段和平臺,是鐵路運輸調度指揮現代化建設的標志。但是,隨著計算機網絡的日益普及,各種安全威脅和計算機病毒也隨之而來,這就導致TDCS網絡存在著安全隱患。
1.2 TDCS網絡安全存在的問題
在TDCS網絡中主要存在著以下幾方面安全問題:1)間接來自于互聯(lián)網的病毒威脅;2)操作系統(tǒng)的安全威脅;3)應用軟件的安全威脅;4)計算機設置的安全隱患;5)實時監(jiān)控能力弱。
2 TDCS網絡安全防護
2.1 TDCS網絡目前采取的安全防護措施
針對TDCS網絡存在的安全問題,結合各種技術和方法,目前全路系統(tǒng)信息安全防護體系采取的措施有:
1)防火墻系統(tǒng)。防火墻技術是實現子網邊界安全的重要技術。首先路由器將對網絡層安全進行初步保證,但路由器的訪問控制列表只能作為防火墻系統(tǒng)的一個重要補充,只能通過防火墻系統(tǒng)來實現復雜的安全控制。
2)身份認證系統(tǒng)。由于TDCS人員結構復雜,用戶眾多,安全意識參差不齊,所以用戶的工作內容也不盡相同,對于如此重要的系統(tǒng),目前采用的以靜態(tài)密碼為主的身份認證系統(tǒng)帶來的安全威脅是非常嚴重的,會造成比較大的安全風險。為了解決此類安全隱患,實用動態(tài)口令對TDCS用戶進行身份認證是非常必要的。
3)網絡防病毒系統(tǒng)。根據對病毒來源的分析,TDCS網絡防病毒系統(tǒng)主要體現在以下三個方面:第一,防病毒集中統(tǒng)一管理,就是在鐵路局內部安裝防病毒軟件管理系統(tǒng),對所有客戶端防病毒軟件進行統(tǒng)一管理;第二,服務器病毒防護,就是對各種服務器進行病毒掃描和清除;第三,桌面防毒防護,就是對各項桌面系統(tǒng)軟件進行病毒掃描和清楚。
4)入侵檢測系統(tǒng)。入侵檢測的主要功能是控制對網絡的非法控制,通過監(jiān)視、限制通過網絡的數據流,防止外對內、內對外的非法訪問,隔離內部網和外部網,為監(jiān)視TDCS局域網安全提供便利。
5)安全漏洞評估系統(tǒng)。
2.2 TDCS網絡采用入侵檢測進行防護的好處
通過以上介紹,我們不難發(fā)現,在TDCS網絡安全體系中,入侵檢測系統(tǒng)是唯一一個通過數據和行為模式判斷其是否有效的系統(tǒng)。
形象地說,入侵檢測系統(tǒng)就是網絡攝像機,能夠捕獲并記錄網絡上的所有數據,同時它也是智能攝像機,能夠分析網絡數據并提煉出可疑的、異常的網絡數據,它還是X光攝像機,能夠穿透一些巧妙的偽裝,抓住實際的內容。此外,它還是保安員的攝像機,能夠對入侵行為自動地進行反擊,如阻斷連接。
在TDCS網絡中引入入侵檢測技術,主要是實現對網絡的非法控制,通過監(jiān)視、限制通過網絡的數據流,給網絡系統(tǒng)提供對外部攻擊、內部攻擊和誤操作的安全保護,為監(jiān)視TDCS局域網安全提供更多便利。
3 基于遺傳算法和神經網絡的入侵檢測系統(tǒng)
3.1 傳統(tǒng)的IDS存在的問題
1)準確性差。傳統(tǒng)的統(tǒng)計方法需要依賴于一些假設,如審計數據(或用戶行為)的分布符合高斯分布,實際上用戶行為具有隨機性,這些假設有時可能無效,從而導致較高的錯誤率。
2)靈活性差。傳統(tǒng)的IDS對攻擊特征的刻畫只能是某些固定的序列,但現實中的入侵者利用的手段往往是有變化的,而要在入侵模式庫中反映出所有可能的變化是不可能的。
3)適應性差。入侵者的攻擊方法是在不斷發(fā)展的,但傳統(tǒng)的入侵檢測系統(tǒng)無法有效地預測和識別新的攻擊方法,使系統(tǒng)的適應性受到限制。
3.2 采用基于遺傳算法的神經網絡IDS的好處
將遺傳算法全局搜索最優(yōu)和傳統(tǒng)神經網絡局部尋優(yōu)結合起來,取長補短,既可以減小遺傳算法的搜索空間、提高搜索效率,又可以較容易地收斂到最優(yōu)解,為求解多目標優(yōu)化問題提供了新的策略。
4 結束語
目前在TDCS網絡安全系統(tǒng)中采用的IDS一般都是基于神經網絡技術的,由于神經網絡的設計主要依據設計者的經驗在大樣本空間反復實驗來進行選取,尚無理論上的指導,因此在神經網絡的初始連接權以及網絡結構的選擇上具有很大的隨機性,很難選取具有全局性的初始點,因而網絡求得全局最優(yōu)的可能性小。本文提出的技術很好的克服了這些缺點,較好地解決了問題。
參考文獻:
[1]鐵道部運輸局,鐵路列車調度指揮系統(tǒng),北京:中國鐵道出版社,2006.10.
[2]高麗,鐵路站段計算機網絡故障解決方法[J].鐵路計算機應用,2006,13(9):13-16.
[3]周明孫、樹棟,遺傳算法原理及應用,北京:國防工業(yè)出版社,1999.
旅游市場趨勢預測是旅游業(yè)發(fā)展戰(zhàn)略和旅游規(guī)劃與開發(fā)工作的重要基礎依據,一直是旅游市場研究中最重要的內容之一。根據市場趨勢預測的結果,旅游相關部門才可以制定合理的旅游規(guī)劃,進行旅游資源的優(yōu)化配置。旅游市場趨勢預測是在對影響市場的諸因素進行系統(tǒng)調查和研究的基礎上,運用科學的方法,對未來旅游市場的發(fā)展趨勢以及有關的各種因素的變化,進行分析、預見、估計和判斷。
近年來,旅游研究者對旅游市場趨勢預測的方法進行了探索。目前主要有時間序列法、回歸分析法、指數預測法、人工神經網絡法。由于旅游市場的變化受到諸多因素的影響,導致旅游市場的趨勢預測難度較大,但我們對預測精度的要求卻越來越高。
本文是基于人工神經網絡方法,提出使用遺傳算法對人工神經網絡進行優(yōu)化,探索更精確、更適用于旅游市場預測現實狀況的預測方法。
1 方法概述
人工神經網絡是近年來的熱點研究領域,是人類智能研究的重要組成部分,已經成為神經科學、計算機科學、認知科學、數學和物理學等多學科關注的熱點。其應用領域包括:分類、預測、模式識別、信號處理和圖像處理等,并繼續(xù)向其他領域延伸。
1.1 BP神經網絡
BP神經網絡是一種多層前饋神經網絡,該網絡的主要特點是信號前向傳遞,誤差反向傳播。在前向傳遞中,輸入信號從輸入層經隱含層逐層處理,直至輸出層。每一層的神經狀態(tài)只影響下一層神經元狀態(tài)。如果輸出層得不到期望輸出,則轉入反向傳播,根據預測誤差調整網絡權值和閾值,從而使BP神經網絡預測輸出不斷逼近期望輸出。
圖中,X1,X2,…,Xn是BP神經網絡的輸入值,Y1,Y2,…,Ym是BP神經網絡的預測值,wij和wjk為BP神經網絡權值。從圖可以看出,BP神經網絡可以看成一個非線性函數,網絡輸入值和預測值分別為該函數的自變量和因變量。當輸入節(jié)點數為n,輸出節(jié)點數為m時,BP神經網絡就表達了從n個自變量到m個因變量的函數映射關系。
1.2 遺傳算法
遺傳算法(Genetic Algorithms)是1962年由美國Michigan大學Holland教授提出的模擬自然界遺傳機制和重托進貨論而成的一種并行隨機搜索最優(yōu)化方法。它把自然界“優(yōu)勝劣汰,適者生存”的生物進化原理引入優(yōu)化參數形成的編碼串聯(lián)群體中,按照所選擇的適應度函數并通過遺傳中的選擇、交叉和變異對個體進行篩選,使適應度值好的個體被保留,適應度差的個體被淘汰,新的群體既繼承了上一代的信息,又優(yōu)于上一代。這樣反復循環(huán),直至滿足條件。
1.3 遺傳算法優(yōu)化BP神經網絡的流程
遺傳算法優(yōu)化BP神經網絡分為BP神經網絡結構確定、遺傳算法優(yōu)化和BP神經網絡預測3個部分。其中,BP神經網絡結構確定部分根據按擬合函數輸入輸出參數個數確定BP神經網絡結構,進而確定遺傳算法個體的長度。遺傳算法優(yōu)化使用遺傳算法優(yōu)化BP神經網絡的權值和閾值,種群中的每個個體都包含了一個網絡所有權值和閾值,個體通過適應度函數計算個體適應度。遺傳算法通過選擇、交叉和變異操作找到最優(yōu)適應度值對應個體。BP神經網絡預測用遺傳算法得到最優(yōu)個體對網絡初始權值和閾值賦值,網絡經訓練后預測函數輸出。
遺傳算法優(yōu)化BP神經網絡是用遺傳算法來優(yōu)化BP神經網絡的初始權值和閾值,使優(yōu)化后的BP神經網絡能夠更好地預測函數輸出。遺傳算法優(yōu)化BP神經網絡的要素包括種群初始化、適應度函數、選擇操作、交叉操作和變異操作。
1)種群初始化
個體編碼方法為實數編碼,每個個體均為一個實數串,由輸入層與隱含層連接權值、隱含層閾值、隱含層與輸出層連接權值以及輸出層閾值4部分組成。個體包含了神經網絡全部權值和閾值,在網絡結構已知的情況下,就可以構成一個結構、權值、閾值確定的神經網絡。
2)適應度函數
2 實證分析
旅游客流量與當地旅游硬件及軟件設施建設、各種交通設備的完善程度有著密切的關系。一個旅游地的交通設施完善程度決定了該景區(qū)的可進入性以及客源地到旅游地的時間距離,直接影響該景區(qū)游客量。此外,景區(qū)建設情況及旅游接待設施的建設情況決定著景區(qū)的吸引力。需要指出的是,由于信息傳達的特性,游客數量對景區(qū)旅游相關條件改善的反應具有延遲性的特點。本文中,采用2000 年以來北京旅客周轉量、人均GDP、全國交通、A級及以上景區(qū)個數、北京公共交通運營線路長度、北京市基礎投資,預測北京市旅游人數。
通過查詢中國國家統(tǒng)計局及北京市統(tǒng)計局相關資料,得到全國人均GDP、全國交通、北京市旅客周轉量、北京市A級及以上景區(qū)個數、北京市公共交通運營線路長度、北京市基礎投資數據,如表1所示。
根據遺傳算法和BP 神經網絡理論,在MATLAB 軟件中編程實現基于遺傳算法優(yōu)化的BP神經網絡進行預測。預測誤差及真實值與預測值對比如圖2、圖3所示。
3 模型的評價
[關鍵詞]模糊?;?;小波神經網絡;股指區(qū)間預測
[DOI]101.3939/jcnkizgsc20162.71.1.3
1引言
隨著股票市場的逐漸完善和發(fā)展,投資金融理財產品成為越來越多的家庭和個人的選擇,股票就是其中重要的一種理財產品。近年來,人工神經網絡是人工智能領域興起的研究熱點,并且憑借其優(yōu)秀的非線性逼近和泛化能力在金融市場得到了廣泛的應用。王文波等人進行了基于EMD 與神經網絡的中國股票市場預測[1],任崇嶺等人進行了基于小波神經網絡的短時客流量預測研究[2],以上研究表明神經網絡在股票市場上有較好的實際預測效果并獲得了廣泛的應用。潘曉明等人通過采用遺傳算法的神經網絡集成建立了一種股票市場預測模型。[3]劉沛漢等基于遺傳算法優(yōu)化進行了神經網絡的光伏電站短期功率預測[4]等,上述研究結果表明遺傳算法在優(yōu)化神經網絡進行預測,降低誤差方面有顯著作用。
傳統(tǒng)神經網絡預測多得到股指點的預測,但是股票市場隨機性較大,投資者往往更希望得到股指在未來一段時間的波動區(qū)間作為投資參考。因此,文章通過將股指開盤數據模糊粒化,然后在小波神經網絡基礎上建立一種新型的股指區(qū)間預測模型,并使用遺傳算法優(yōu)化模型參數,獲得更高的精度,預測未來一段時間內股指波動范圍,為股市投資者提供投資參考。
2模型的建立
2.1信息?;?/p>
1979年,LAzadeh教授提出了“信息?;保↖nformation Granulation)的概念。信息?;褪峭ㄟ^一定的劃分準則,將原始數據中難以辨別,或者具有特定功能相似的數據聚集成多個集合,構成一個個信息粒,這種信息處理的方式稱之為信息粒化。一般形式如下:
2.2基于遺傳算法和BP學習的小波神經網絡預測
2.2.1遺傳算法的使用
遺傳算法(Genetic Algorithm)是一種模擬生物進化機制的算法,具有較好的收斂性、極高魯棒性和廣泛適用性,可有效提高模型預測精度。因此,文章采用全局搜索能力較好的遺傳算法優(yōu)化網絡參數,步驟如下。
2.2.2小波神經網絡的建立
小波神經網絡是在BP神經網絡基礎上,以小波基函數作為隱含層節(jié)點傳遞函數,信號前向傳播的同時誤差反向傳播的神經網絡。文章選取Morlet母小波基函數作為隱含層小波基函數:
采用梯度修正算法高模型的預測精度、使預測輸出更接近期望輸出,修正過程如下:
3實證分析
文章選擇我國股票市場中的上證指數作為研究數據。文章選取201.4 年1.2月2.2 日至2016 年3 月16 日的300 個交易日的上證指數開盤數據進行預測,數據源于新浪財經。將300個開盤數據每4 天劃分成一個數據粒,劃分成75個數據塊,隸屬函數的參數即對應模糊上界,模糊中值和模糊下界。文章使用模糊下界和模糊上界作為股票指數所在的區(qū)間。
以股指分塊數據的上界為例,選取前72個數據作為神經網絡的訓練集,后3個數據作為測試集。文章選取前6個數據作為小波神經網絡的輸入。隱含層節(jié)點的數目可根據經驗公式[KF(]m+n[KF)]+α 計算,其中α 是取值0~10之間的常數,經過多次嘗試隱含層節(jié)點為1.3時效果最好,輸出層節(jié)點個數為1,文章的小波神經網絡結構為6-1.3-1。
用遺傳算法計算小波神經網絡測初始狀態(tài),這里文章基于Matlab的Gatbx遺傳算法工具箱進行編寫。具體的參數設置為:①個體數目:50;②最大遺傳代數:20;③變異概率:005;④交叉概率:08;⑤代溝:09。
采用梯度下降法訓練小波神經網絡,梯度下降訓練具體參數如下:(1)小波神經網絡權值學習速率η1=002;(2)小波基函數伸縮、平移因子學習速率η1=001;(3)小波神經網絡最大迭代次數為600次。訓練結果和訓練誤差如下。
利用訓練好的小波神經網絡得到2016年3月1日~3月16日的模糊上界的預測值。類似地,對上證指數模糊中間值以及模糊下界進行相同的處理方式,可以得到具體的股指預測區(qū)間為[2.73.6,2.889]、 [2.705,2.877]和[2.74.3,2.960]。2016年3月1日~2016年3月16日股指區(qū)間預測結果和實際股指圖如下所示。
由上圖可以看出,2016年3月1日―2016年3月16日一共1.2個交易日的數據幾乎全部屬于小波神經網絡預測區(qū)間,并且模型預測區(qū)間波動較小,預測較為精確。模型可以較好地預測股票指數在沒有重大政策影響的情況下的波動情況。
對于模型預測誤差,本文采取均方根誤差(RMSE),平均絕對百分比誤差(MAPE),最大絕對誤差百分比(MaxAPE)這三項指標來進行衡量。按照如下計算公式計算得到預測結果誤差并得到計算結果:
4結語
文章提出了一種基于模糊?;瓦z傳算法優(yōu)化的小波神經網絡股票指數區(qū)間預測模型。該模型通過對上證指數開盤數據進行模糊?;?,建立一個基于遺傳算法優(yōu)化的小波神經網絡,并對未來幾日的上證指數進行預測。實際結果表明,這一預測模型可以較好地預測未來4日上證指數的波動區(qū)間,并且具有較高的預測精度,可以作為股票投資者的一種投資參考,有效地規(guī)避風險,從而獲取更大的收益。
參考文獻:
[1]王文波,等基于EMD與神經網絡的中國股票市場預測[J].系統(tǒng)工程理論與實踐,2010,30(6):102.7-103.3.
[2]任崇嶺,等基于小波神經網絡的短時客流量預測研究[J].科學技術與工程,201.1,1.1(2.1):5099-5.103.
[3]潘曉明,等基于遺傳算法神經網絡集成股票市場預測研究[J].廣西師范學院學報,2007,2.4(1):77-83.
[4]劉沛漢,等基于遺傳算法優(yōu)化神經網絡的光伏電站短期功率預測[J].水電能源科學,2016,3.4(1):2.1.1-2.1.4.
為降低神經網絡的冗余連接及不必要的計算代價,將量子免疫克隆算法應用于神經網絡的優(yōu)化過程,通過產生具有稀疏度的權值來優(yōu)化神經網絡結構。算法能夠有效刪除神經網絡中的冗余連接和隱層節(jié)點,并同時提高神經網絡的學習效率、函數逼近精度和泛化能力。該算法已應用于秦始皇帝陵博物院野外文物安防系統(tǒng)。經實際檢驗,算法提高了目標分類概率,降低了誤報率。
關鍵詞:神經網絡;量子免疫克隆算法;目標分類;冗余連接;網絡優(yōu)化
中圖分類號: TP273
文獻標志碼:A
Quantum-inspired clonal algorithm based method for optimizing neural networks
Abstract:
In order to reduce the redundant connections and unnecessary computing cost, quantum-inspired clonal algorithm was applied to optimize neural networks. By generating neural network weights which have certain sparse ratio, the algorithm not only effectively removed redundant neural network connections and hidden layer nodes, but also improved the learning efficiency of neural network, the approximation of function accuracy and generalization ability. This method had been applied to wild relics security system of Emperor Qinshihuangs mausoleum site museum, and the results show that the method can raise the probability of target classification and reduce the false alarm rate.
Key words:
neural network; quantum-inspired clonal algorithm; target classification; redundant connection; network optimization
0 引言
神經網絡已經被廣泛地應用于模式分類、函數逼近、信號預測等各種領域,是近年來的研究熱點之一[1-2]。在應用過程中,研究人員發(fā)現,當神經網絡的規(guī)模過大會產生連接數量冗余大、計算代價過高的問題,降低了大規(guī)模神經網絡的實用性。針對此問題,研究人員提出了多種方法在保持神經網絡的前提下優(yōu)化神經網絡的結構和參數權值。Leung等[3-4]改進了傳統(tǒng)的遺傳算法(Genetic Algorithm, GA)并將其應用于神經網絡的結構和權值優(yōu)化過程,利用遺傳算法的快速收斂性來提高神經網絡的學習速度,其缺點在于當目標函數維數過大時容易陷入局部最優(yōu)。Xiao等[5]使用混合優(yōu)點(Hybrid Good Point, HGP)優(yōu)化前向神經網絡的參數和結構,避免權值陷入局部最優(yōu),但其對網絡結構的優(yōu)化沒有達到最優(yōu)。Shu等[6]提出正交模擬褪火(Orthogonal Simulated Annealing, OSA)算法, 使用褪火算法和正交算法的優(yōu)點來同時優(yōu)化神經網絡結構和參數,其算法收斂速度快、魯棒性好,缺點則在于計算代價較大。杜文莉等[7]提出了使用量子差分進化(Cooperative Quantum Differential Evolution, CQGADE)算法來優(yōu)化神經網絡權值,使用量子遺傳算法優(yōu)化網絡結構和隱層節(jié)點數,算法綜合了量子遺傳算法和量子差分算法的優(yōu)點,收斂速度快,但其缺點在于需要同時協(xié)同兩種算法的優(yōu)化結果,算法復雜度較高,且容易陷入局部最優(yōu)。Tsai等[8]提出混合田口遺傳算法(Hybrid Taguchi Genetic Algorithm, HTGA),將傳統(tǒng)的GA與Taguchi方法結合起來,使得算法具有魯棒性好、收斂性快等優(yōu)點,但其缺點在于獲得最優(yōu)解的計算代價較大。
量子免疫克隆算法[9-12](Quantum-inspired Immune Clonal Algorithm, QICA)也稱為量子遺傳算法(Quantum Genetic Algorithm, QGA),其將量子搜索機制和免疫算法克隆選擇原理相結合,利用量子編碼的疊加性和隨機性構造抗體,利用遺傳算法的克隆操作產生原始種群和克隆子群實現種群擴張,使搜索空間擴大,提高了局部搜索能力;同時借助全干擾交叉操作避免陷入局部最優(yōu)。QICA采用了多狀態(tài)量子比特編碼方式和通用的量子旋轉門操作, 引入動態(tài)調整旋轉角機制和量子交叉[11]。QICA在組合優(yōu)化問題中具有良好的表現。
針對上述問題,提出了使用量子克隆免疫算法對神經網絡的結構和連接權值同時進行優(yōu)化,通過產生具有一定稀疏度的連接權值對網絡隱層數量和連接權值進行優(yōu)化,提高了算法的效率和收斂速度,避免了算法陷入局部最優(yōu)。
1 帶開關權值的神經網絡模型
在經典的神經網絡理論中,網絡結構在初始化后便不再變動,僅通過權值的變化來計算產生結果,這種算法增加了神經網絡的結構復雜性,在實際應用中增加了計算結果的代價。Leung等[3-4]提出了帶開關權值的神經網絡,通過調整開關的通斷就能調整神經網絡的結構和連接數量,從而減少計算代價。帶開關權值的神經網絡模型如圖1所示[7]。
2.2 權值計算及優(yōu)化方法
根據量子克隆免疫理論,將神經網絡權值計算及優(yōu)化過程分為以下四個過程。
2.2.1 權值抗體初始化
量子克隆免疫算法是基于量子計算和遺傳算法組成的,其抗體的編碼方式采用量子比特編碼。一個抗體中的量子位的狀態(tài)是不確定的,可以為0或1,其狀態(tài)表示為式(5):
3.1 算法復雜度分析
量子克隆免疫算法的實質是通過量子理論的隨機特性提供豐富的種群數量,并通過使用遺傳算法對種群進行淘汰和進化,因此其算法的復雜度等于種群生成算法的復雜度:假設神經網絡有x個輸入,其隱層節(jié)點數量為N,輸出為y,則網絡中的輸入與隱層節(jié)點間的連接權值ω的數量為:x*N,隱層節(jié)點與輸出層的連接權值v的數量為:N*y。種群生成需要對所有節(jié)點進行權值初始化,并將隨機位置的n(nN)個節(jié)點的權值設置為0, 其算法復雜度為O(n2)。而克隆免疫算法在種群克隆及抗體選擇過程中使用遺傳算法,因此其算法的復雜度與傳統(tǒng)遺傳算法相同,其算法復雜度也為O(n2)。因此,使用量子免疫克隆的神經網絡優(yōu)化算法的復雜度為O(n2)。
3.2 非線性函數逼近
選取復雜交互非線性函數(Complicated Interaction Function,CIF):
其中0
選取樣本700組,其中500組用于訓練,其余200組用于檢測性能。神經網絡的初始隱層神經元設置為20個,初始網絡結構為:2-20-1,初始連接權值為隨機值。在此條件下驗證不同稀疏度條件下對CIF的二維逼近效果如圖3所示。
圖3顯示隨著稀疏度的不斷降低,神經網絡的逼近能力有所減弱,逼近誤差則逐漸增大。這主要是因為神經網絡中的連接權值數量降低,造成神經網絡的適應性差。具體逼近效果見表2。
從表2中可以看出,隱層節(jié)點數量直接影響著神經網絡的性能。高稀疏度條件下的計算量大,但逼近精度高;低稀疏度條件下的計算量小,但逼近精度較差。實驗表明當稀疏度大于0.6時,算法的逼近精度高于90%,優(yōu)化后的網絡具有較好的非線性逼近能力。當神經網絡隱層節(jié)點數量低于12時逼近精度大幅下降,說明此時神經網絡處理信息的能力也隨之大幅減弱,隱層節(jié)點的最合適的數量為12~14個,這也符合文獻[14]的實驗結果。
圖4為不同稀疏度下,算法適應度的收斂情況。可以看出量子克隆免疫算法具有很好的收斂特性,算法收斂速度很快,能夠在很短的進化次數內收斂至極值,且稀疏度越低,神經網絡的連接權值數量越少,算法收斂速度越低,最優(yōu)適應度越差。
表3為相同條件下,不同算法的最優(yōu)計算結果,包括目標分類的準確度、隱藏層節(jié)點數量等??梢钥闯?,當稀疏度高于0.8時,本文算法收斂性和適應度均優(yōu)于混沌粒子群(Chaotic Particle Swarm Optimization,CPSO)[15]、粒子群優(yōu)化算法(Particle Swarm Optimization,PSO)[16]、混合田口遺傳算法[Hybrid Taguchi-Genetic Algorithm,HTGA][8]等其他算法,說明算法具有很好的收斂速度、尋優(yōu)精度和魯棒性。
3.3 微地震信號目標分類
實驗場地選擇在秦始皇兵馬俑博物館內K9901號坑旁。所有傳感器節(jié)點沿公路一側直線部署,距離公路1m左右??赡墚a生地震波的活動物體包括人員行走、機動車和挖掘活動。將采集到的微地震信號進行濾波、分幀、特征提取等處理后輸入至神經網絡進行模式識別。
系統(tǒng)對傳感器采集到的數據進行分幀,并使用功率譜二次分析[17]算法對其進行處理,最后將經過預處理的數據輸入至神經網絡對其進行分類。根據其活動特點,將輸出目標分為三類:人員活動、挖掘活動以及機動車輛活動。傳感器采集到的三類活動的經典波形如圖5所示。
表6中給出了算法的最優(yōu)計算結果,包括不同稀疏度條件下神經網絡的隱藏層節(jié)點數量、最優(yōu)適應度以及分類準確率等??梢钥闯?,算法能夠有效減少冗余的隱藏層節(jié)點數量,并降低節(jié)點連接數量。算法的稀疏度越高,其適應度越好,其分類的準確性越好,但稀疏度高帶來的則是計算代價增大、計算復雜度增加。當稀疏度低于0.7時,算法的適應度變差,目標的識別率為90%,在實際應用過程中帶來了誤判率較高的問題,降低了實用性。因此在秦始皇帝陵博物院野外文物安防系統(tǒng)中使用了稀疏度為0.7的算法對模式識別的神經網絡進行優(yōu)化。
4 結語
本文提出了基于量子免疫克隆算法的神經網絡優(yōu)化算法,該算法在訓練神經網絡優(yōu)化權值的同時刪除了冗余連接和多余的隱層節(jié)點,實現了神經網絡結構和網絡權值的優(yōu)化。通過經典非線性函數逼近和目標識別檢驗,算法能夠有效地優(yōu)化神經網絡,提高神經網絡的優(yōu)化效率,減少計算復雜度。使用優(yōu)化后的神經網絡已經用于秦始皇帝陵博物院野外文物安防系統(tǒng)中。
參考文獻:
[1] QIAO H, ZHOU Y,SHAO N, et al. Software reliability prediction based on learning vector quantization neutral network[J]. Journal of Computer Applications, 2012,32(05):1436-1438.)(喬輝,周雁舟,邵楠,等.基于學習向量量化神經網絡的軟件可靠性預測[J].計算機應用,2012,32(5):1436-1438.)
[2] PAN Y, DENG Y, ZHANG Q, et al. Deterministic prediction of wavelet neural network model and its application[J]. Journal of Computer Applications,2013, 33(4):1001-1005.(潘玉民,鄧永紅,張全柱,等.小波神經網絡模型的確定性預測及應用[J].計算機應用,2013,33(4):1001-1005.)
[3] LEUNG H F,LAM H F, LING S F, et al. Tuning of the structure and parameters of neural network using an improved genetic algorithm[C]// Proceedings of the 27th Annual Conference of IEEE Industrial Electronics Society. Piscataway: IEEE,2001:25-30.
[4] LEUNG H F, LAM H F, LING S H, et al. Tuning of the structure and parameters of a neural network using an improved genetic algorithm[J]. IEEE Transactions on Neural Network,2003,14(1):79-88.
[5] XIAO C, CAI Z, WANG Y, et al. Tuning of the structure and parameters of a neural network using a good points set evolutionary strategy[C]// Proceedings of the 9th International Conference for Young Computer Scientists. Piscataway: IEEE, 2008:1749-1754.
[6] SHU L, HO S Y, HO S J. Tuning the structure and parameters of a neural network using an orthogonal simulated annealing algorithm[C]// Proceedings of the 2009 Joint Conferences on Pervasive Computing. Piscataway: IEEE,2009:789-792.
[7] DU W, ZHOU R, ZHOU L, et al. Cooperative quantum differential evolution algorithm based method for optimizing neural networks[J].Journal of Tsinghua University: Science and Technology, 2012,52(3):331-335.(杜文莉,周仁,趙亮,等. 基于量子差分進化算法的神經網絡優(yōu)化方法[J].清華大學學報:自然科學版,2012,52(3):331-335.)
[8] TSAI J, CHOU J, LIU T. Tuning the structure and parameters of a neural network by using hybrid Taguchi-genetic algorithm[J]. IEEE Transactions on Neural Network, 2006,17(1):69-80.
[9] LI Y, JIAO L. Quantum-inspired immune clonal algorithm and its application[C]// Proceedings of the 2007 International Symposium on Intelligent Signal Processing and Communication Systems. Piscataway: IEEE, 2007:670-673.
[10] JIAO L, LI Y, GONG M,et al. Quantum-inspired immune clonal algorithm for global optimization[J]. IEEE Transactions on Systems, Man and Cybernetics, Part B: Cybernetics, 2008,38(5):1234-1253.
[11] ZHOU C, QIAN F. Improvement of quantum genetic algorithm and its application[J]. Journal of Computer Applications, 2008,28(2):286-288.(周傳華,錢峰.改進量子遺傳算法及其應用[J].計算機應用, 2008,28(2):286-288)
[12] ZHOU Q, JIANG S, ZHAO X, et al. Improved quantum genetic algorithm and its application in test data generation[J]. Journal of Computer Applications,2012,32(2):557-560.(周綺,姜淑娟,趙雪峰,等.改進的量子遺傳算法及其在測試數據生成中的應用[J].計算機應用,2012,32(2):557-560.)
[13] QIAO J,LEE Y G, SCOTT D S, et al. Self-organizing radial basis function network for real-time approximation of continuous-time dynamical systems[J]. IEEE Transactions on Neural Networks,2008,19(3):460-474.
[14] HAN H, QIAO J, BO Y, et al. On structure design for RBF neural network based on information strength[J]. Acta Automatica Sinica, 2012,38(7):1083-1090.(韓紅桂,喬俊飛,薄迎春,等.基于信息強度的RBF神經網絡結構設計研究[J].自動化學報, 2012,38(7):1083-1090.)
[15] ZHAO L. Fuzzy identification and neural networks learning based on cooperative PSO algorithm[D]. Shanghai: Shanghai Jiao Tong University,2008.(趙亮.基于協(xié)同PSO算法的模糊辨識與神經網絡學習[D].上海:上海交通大學,2008.)
關鍵詞:微地震;震源探測;遺傳算法;BP人工神經網絡法
中圖分類號:P315 文獻標識碼:A
微地震屬于一種小型地震,經常發(fā)生在地下礦井深部開采過程中的一種不可避免的現象。在20世紀80年代中期發(fā)展起來的微震探測技術源于聲發(fā)射學和地震學,是區(qū)別于常規(guī)地震的地球物理勘探技術,根據聲發(fā)射檢測技術演化發(fā)展起來,主要應用于油氣工業(yè)中。而探測可以導致微地震的地質活動,有著重大的現實意義和指導意義。
1 物探技術研究進展
20世紀70年代初期,為了確認開發(fā)井的目標和敘述輔助的斷裂層,水力壓裂微震探測技術始于地熱領域。70年代末,美國Los Alamos國家實驗室在Fenten山熱干巖進行了3年的井下微震觀測研究的現場實驗,驗證了水力裂縫的方位可以通過水力壓裂時產生的水平微震來確定。90年代以后,荷蘭飛利浦、加拿大金斯敦ESG組織、英國KEELE大學、日本JAPEX研究生中心等機構對于微震檢測技術在油氣工業(yè)中的應用提供了較多的理論與實驗支撐。國內關于微震探測技術的研發(fā)相對較晚,但近年來,從基礎理論研究和自主研發(fā)方面都取得了很大的成果。在基礎理論研究方面,相繼提出了瑞雷波頻散曲線的正反演、遺傳算法和局域搜索算法的聯(lián)合反演、射線追蹤法以及濾波技術等研究方法。在自主研發(fā)方面,主要有微震探測系統(tǒng)、基于三分量檢波器的探測系統(tǒng)、遙測地震儀和基于Labview的微震探測系統(tǒng)等。
2 探測技術研究方法
2.1 射線追蹤正演算法
本文主要通過基于射線法進行正演研究。射線法,可以利用不斷更新的射線路徑,對各種復雜的地質結構選擇地震波在介質中的最佳運動軌跡。同時,迭代法可以通過結點的增減,來完成地震波傳播路徑的探測工作。綜合微變網格法,經過設計得到復雜模型微震射線路徑追蹤法。
2.2 非線性反演算法
在探測過程中,非線性最優(yōu)算法發(fā)展最為迅速,需要通過微震資料的反演來定位震源和了解速度場變化。非線性反演方法中應用最廣泛的主要有遺傳算法(GA,Genetic Algorithm)和人工神經網絡法(ANN,Artificial Neural Network)方法中的BP神經網絡。本文將GA算法和BP算法結合,通過聯(lián)合反演方法討論微震震源的定位反演。
2.2.1 遺傳算法反演
遺傳算法,是一種全局最優(yōu)算法,可以結合定向和隨機搜索方法,是模擬達爾文生物進化論的自然選擇與遺傳學機理的生物進化過程和機制的計算模型。1975年,J. Holland教授提出了遺傳算法。目前,遺傳算法發(fā)展完善,有著搜索過程多維化、簡單化、適應性強以及全局性的特點。通過對遺傳算法、加速收斂和正演參數的確定,明確介質模型參數的搜索范圍,最后對遺傳算法獲取的反演數據進行處理。
2.2.2 BP神經網絡算法反演
二十世紀80年代,人工神經網絡的研究進入了一個新。它易于處理復雜非線性問題,具有持久性和適時預報性的特點,被廣泛應用于多個領域。其中,BP人工神經網絡(BP,Back Propagation),是目前應用最為廣泛的人工神經網絡模型之一,是一種按誤差逆?zhèn)鞑ニ惴ㄓ柧毜亩鄬忧梆伨W絡,是可以計算單個權值變化引起網絡性能變化值的較為簡單的方法,在地球物理勘測方面發(fā)揮了重大作用。BP神經網絡反演方法的主要步驟分為兩部分,分別為學習訓練和迭代反演。
2.2.3 GA-BP聯(lián)合反演方法
GA算法與BP算法的混合,可以結合全局最優(yōu)算法和局部最優(yōu)算法的優(yōu)點,彌補對方的缺點,使其交叉變異率具備自學習、自適應等特征,并且能夠快捷、有效的獲取最優(yōu)解,提供神經網絡的預測能力。進行GA算法和BP算法的聯(lián)合反演,二者需持續(xù)運行,并且按照一定的比例進行。圖1為基于混合算法的微地震震源定位反演算法流程。
3 研究展望
發(fā)展基于遺傳算法的全局混合優(yōu)化算法已成為新的發(fā)展趨勢。而對于非線性反演,尤其是面對地球物理資料聯(lián)合反演,通過算法指揮由不同反演方法和迭代過程組織成系統(tǒng),使之輸出分辨率最優(yōu)而方差最小的地球物理介質模型,是其非常重要的研究方向。
參考文獻
[1]李瓊,李勇,李正文,吳朝容.基于GA-BP理論的儲層視裂縫密度地震非線性反演方法[J].地球物理學進展,2006,21(02):465-471.
種趨勢。為了幫助用戶動態(tài)擇出最能滿足用戶需求的Web服務,本文提出一個基于Web Service 服務質量的預測建模,通過動態(tài)的預測Web服務下一階段服務質量來幫助用戶選擇最優(yōu)服務。
關鍵詞 Web服務;QoS預測;建模
中圖分類號TP39 文獻標識碼A 文章編號 1674-6708(2012)78-0193-02
1 背景
隨著Web服務的發(fā)展,Web服務技術已從最初的理論實驗階段逐步走向了大規(guī)模的商業(yè)應用階段(如亞馬遜,微軟等公司),這樣的結果就是網絡上出現了大量功能相同或相似的Web服務。而這些類似的Web服務,往往具有不同的諸如穩(wěn)定性、響應時間、可靠性等非功能性屬性。這也使得我們在選擇這些Web服務時,就必須考慮他們的非功能性屬性,即服務質量(QoS,Quality of Service)。用戶在面對網絡上海量的Web服務,特別是面對這些功能上相同或相似的候選服務時,如何動態(tài)地選擇出最能滿足用戶需求的服務已經成為Web服務發(fā)現與選擇以及組合領域中的一個核心問題。面對動態(tài)最優(yōu)服務選擇問題,在功能匹配前提上,考慮Web服務的服務質量是一個行之有效的解決途徑。
我們根據Web服務質量來動態(tài)選擇服務時,就必須對Web服務的服務質量進行準確的評估預測。我們知道,互聯(lián)網具有不穩(wěn)定性、網絡延時,抖動等特性,因而Web服務的服務質量是動態(tài)變化的?,F提出的一些Web服務質量評估方法在服務質量評估過程中沒有充分考慮服務質量的動態(tài)變化,沒有建立一個比較合適合對服務質量進行動態(tài)評估的評估機制,不能達到對服務的表現進行準確預測的效果。為了克服這一局限性,本文提出了一種利用遺傳算法優(yōu)化的BP神經網絡對服務質量進行動態(tài)預測的評估方法。在此強調一下,本文中提出的預測評估是對服務質量中反映服務表現的動態(tài)客觀屬性(如響應時間,可靠性,可用性等)進行預測。
2 Web Service 服務質量預測模型
2.1 服務質量預測模型介紹
BP(Back Propagation)網絡是由Rumelhart和McCelland為首的科學家小組于1986年提出的一種神經網絡算法,具有信號向前傳遞,誤差反向傳播的特性。利用該特性結合使用大量的訓練數據訓練網絡,即得到一個具有最優(yōu)權值和閾值的神經網絡。遺傳算法是由J.Holland教授于1975年首先提出來的一種神經網絡算法。它的最大特征就是模擬達爾文進化論的自然選擇和遺傳學機理,實現“優(yōu)勝劣汰,適者生存”,從而得到優(yōu)解。遺傳算法的核心就是把“優(yōu)勝劣汰,適者生存”的進化論理論應用到算法里面的具體參數當中。它將初始的群體進行編碼,個體之間進行交叉和變異操作,然后按照適應度函數對群體中的個體進行篩選,實現優(yōu)勝劣汰。
本文提出的預測模型就是遺傳算法優(yōu)化BP神經網絡的預測模型。遺傳算法優(yōu)化的BP神經網絡總體可以分為三步:第一步,利用BP神經網絡來確定網絡結構,確切來說是根據擬合函數的輸入輸出參數個數來確定BP神經網絡結構,從而確定遺傳算法中個體的編碼長度;第二步,利用遺傳算法來優(yōu)化神經網絡,即使用遺傳算法來不斷優(yōu)化BP神經網絡的權值和閾值,我們在編碼時設置種群中的每個個體都包含了一個網絡中所有的權值和閾值,個體通過適應度函數計算個體適應度值,遺傳算法通過選擇,交叉和編譯操作找到最優(yōu)適應度值的個體;最后是用前面得到的最優(yōu)BP神經網絡來做Web服務服務質量預測,以Web服務的歷史QoS數據作為神經網絡的輸入,經過網絡的計算得到我們所需的QoS預測值,為Web服務的選擇提供依據。遺傳算法優(yōu)化BP神經網絡算法流程如圖1所示。
2.2 仿真實驗
為了驗證本文提出的Web Service服務質量預測算法,我們將采用由Zibin Zheng 和Michael R. Lyu提供的WS-DREAM dataset,這些數據是由他們以調研大量現實Web Service為基礎采集而得,在Web服務QoS領域具有很大的說服力與權威性。我們將采用數據集中的響應時間(response time)來做本次仿真實驗。在實驗中,我們取dataset中id為1992的Web Service的響應時間實驗數據,BP神經網絡結構為:輸入層2個節(jié)點,隱含層5個節(jié)點,輸出層1個節(jié)點,共有2×5+5×1=15個權值,5+1=6個閾值,因此我們可以確定遺傳算法中個體的編碼長度為15+6=21.取id為1992的Web Service響應時間的前200個數據為訓練數據,剩余作為測試數據。我們把訓練數據預測誤差絕對值和作為個體適應度值,個體適應度值越小,該個體越優(yōu)。截取實驗測試結果示圖如圖2。
3 結論
互聯(lián)網具有不穩(wěn)定性、網絡延時,抖動等特性,因而Web服務的服務質量是動態(tài)變化的。這在一定程度上影響了我們基于服務質量來發(fā)現服務,選擇服務和組合服務。本文正是在這種背景下,結合BP神經網絡與遺傳算法提出了一種基于服務質量預測的Web服務動態(tài)選擇方法,并詳細介紹了基于QoS預測服務質量預測模型,最后利用鄭子彬提供的真實Web服務QoS數據做實驗驗證前面提出的算法。下一步工作將繼續(xù)完善服務質量預測模型,并將該預測模型應用于我們973項目組自己開發(fā)一個Web服務平臺之中。
參考文獻
[1]Zibin Zheng, Hao Ma, Michael R.Lyu, Irwin King, "WSRec: A Collaborative Filtering based Web Service Recommender System", in Proceedings of the 7th IEEE International Conference on Web Services (ICWS2009), Los Angeles, CA, USA, July 6-10, 2009.
關鍵詞:期貨價格預測BP神經網絡遺傳算法
引言及文獻綜述
20世紀以來,我國期貨市場得到了長足發(fā)展,但相對而言,由于我國期貨市場仍處于低級階段,市場操縱嚴重,投資者投資理念不科學等問題使市場風險事件不斷發(fā)生,直接阻礙了中國期貨市場走向成熟。諸多風險事件歸根結蒂,就是期貨價格的波動問題,故分析與預測期貨價格變化趨勢自然成為期貨市場風險控制研究的重中之重,與此同時,了解期貨價格走勢也有助于幫助投資者降低風險、提高收益,實現金融市場的整體穩(wěn)定與協(xié)調。
國外期貨市場起步較早,在期貨市場預測的研究和實踐方面開展了大量有價值的工作,Shaikh A.Hamid,Zahid Iqba(2004)用神經網絡預測標普500指數期貨價格的波動;Shahriar Yousefi,Ilna Weinreich等(2005)提出一種基于小波變換的預測程序并用來對原油期貨進行預測。在我國,學者們也試圖通過計量模型對期貨價格進行預測:張方杰、胡燕京(2005)的ARMA模型,王習濤(2005)的ARIMA模型,劉軼芳、遲國泰(2006)的GARCH―EWMA的期貨價格預測模型、楊熙亮、朱東華、劉怡菲(2006)的BP神經網絡模型等都在期貨價格預測中得到應用。
總結國內外對期貨價格的預測研究,可以發(fā)現對期貨的預測存在一系列問題,比如:期貨數據具有高噪聲;各因素之間的相關性錯綜復雜;期貨價格具有非線性特征等等。在這種情況下,人工神經網絡方法就顯示出其特有的優(yōu)勢,因此本文選擇了BP網絡模型作為期貨短期預測的基本因果模型,并根據實際應用的需要做了創(chuàng)造性的改進。
實證分析
1.變量的選取及數據來源
本文選擇大連商品交易所的大豆期貨合約為研究對象,作為比較穩(wěn)定的交易品種,它的走勢一定程度上可以反映所在交易所的交易狀況,對它的預測情況在一定程度上也可以反映對其交易所其他期貨預測的可行性。綜合考慮數據可得性、完整性等因素,本文選取2009年1月5日~10月29日的大豆期貨主力A1001合約共200個交易數據作為訓練數據,10月30日~11月12日的10個數據為測試數據。數據來源于大連商品交易所。
由于期貨價格變化受許多因素的影響,為了盡可能提高預測的準確性,輸入變量選擇為當日開盤價、當日最高價、當天最低價、當日收盤價、結算價、當日成交量、成交金額以及當日持倉量,總共8個輸入量。
2. BP神經網絡模型的建立及實現
誤差反傳模型(BP神經網絡模型)可任意逼近非線性函數,其運行過程分為信號的正向傳播和誤差的反向傳播兩階段:第一階段,將樣本從輸入層傳入,經各隱層處理后,傳向輸出層。若輸出層的實際輸出與期望的輸出不符,則轉入第二階段,將輸出誤差以某種形式通過隱層向輸入層逐層反傳,并將誤差分攤給各層的所有單元,從而獲得各層單元的誤差信號,并以此來修正各單元權值。
根據kolmogorov定理,一個三層的BP神經網絡足以完成任意的n維到m維的映射,即一般只需要采用一個隱層就足夠。隱層節(jié)點個數本文采用試湊法確定為20個。為使提高訓練精度,本文將初始學習率定為0.05,并采用自適應調節(jié)學習率功能,在以后的訓練過程中根據訓練誤差來自動調節(jié)學習率。同時,本文選取連續(xù)可微的S型正切函數即tansig函數作為傳導函數,該函數的可微分性與飽和非線性特性,增強了網絡的非線性映射能力。
依據以上模型與參數設定,在matlab中予以實現,結果圖1所示,從圖中可以看出,對大豆期貨價格預測的走勢是大致相同的,但是整體誤差較大。雖然利用自適應調節(jié)學習率來改善收斂情況,但梯度下降的BP算法仍存在較大的局限性。為了改善神經網絡的權值調整,所以用遺傳算法對BP神經網絡進行優(yōu)化。
3.模型的改進及實現
遺傳算法是一種全局優(yōu)化搜索算法,其基本思想是首先將問題求解表示成基因型,通過選擇,交叉,變異從中選取適應環(huán)境的個體,求得問題最優(yōu)解,有較好的全局搜索性能。將遺傳算法運用到神經網絡模型,實現了兩者的優(yōu)勢互補,發(fā)揮了神經網絡的廣泛映射能力和遺傳算法的全局搜索能力,也加快了網絡的學習速度,綜合提高了整個學習過程中模型的逼近能力和泛化能力。
在MATLAB中運行結果如圖2所示,從中可以看出,加入遺傳算法對權值和閾值進行優(yōu)化以后的GA-BP模型結果能更好的貼近真實值,更準確的擬合。在本例中GA-BP模型的優(yōu)勢突出的表現在收斂速度快,周期短上面。相對于傳統(tǒng)的BP算法減少了權值閾值初始化的隨機性,GA-BP就可以大大縮短收斂時間。收斂情況如表1所示:
表中以前200次迭代為例,遺傳算法可以將mse縮減到e-5數量級,而簡單的BP神經網絡卻只能達到e-3,并且迭代的后期下降的幅度越來越不明顯。
結論
基于BP神經網絡模型進行實證分析,從預測的結果來看,預測值和實際值的走勢是一致的,但預測值和實際值具有較大的偏差,這是由于BP神經網絡自身存在的問題所導致的。
為解決BP神經網絡模型不能精確預測的價格的問題,考慮到是由于BP算法調整權值的局限性,本文用遺傳算法進行優(yōu)化模型。利用遺傳算法可以對權值進行全局搜索,避免了BP算法的局限性。從結果來看,預測值和實際值誤差較小,能夠精確的預測期貨價格。