神經(jīng)網(wǎng)絡(luò)在模式識別中的簡單分析及應(yīng)用畢業(yè)論文

1、畢業(yè)論文 神經(jīng)網(wǎng)絡(luò)在模式識別中的簡單分析及應(yīng)用 - 2 - 摘 要 模式識別就是機(jī)器識別、計(jì)算機(jī)識別或者機(jī)器自動化識別，目的在于讓機(jī)器自動 識別事物，使機(jī)器能做以前只能由人類才能做的事，具備人所具有的對各種事物與現(xiàn) 象進(jìn)行分析、描述與判斷的部分能力。它研究的目的就是利用計(jì)算機(jī)對物理對象進(jìn)行 分類，在錯(cuò)誤概率最小的條件下，使識別的結(jié)果盡量與客觀事物相符合。 隨著人們對人工神經(jīng)網(wǎng)絡(luò)的不斷地認(rèn)識，神經(jīng)網(wǎng)絡(luò)是指用大量的簡單計(jì)算單元構(gòu) 成的非線性系統(tǒng),它在一定程度和層次上模仿了人腦神經(jīng)系統(tǒng)的信息處理、存儲及檢索 功能，因而具有學(xué)習(xí)、記憶和計(jì)算等智能處理功能。這樣人們利用人工神經(jīng)網(wǎng)絡(luò)具有 高度的并行性，高

2、度的非線性全局作用以及良好的容錯(cuò)性與聯(lián)想記憶功能，并且具有 良好的自適應(yīng)、自學(xué)習(xí)功能等突出特點(diǎn)，可運(yùn)用 MATLAB 神經(jīng)網(wǎng)絡(luò)工具箱中的神經(jīng)網(wǎng) 絡(luò)模型，對經(jīng)過訓(xùn)練的神經(jīng)網(wǎng)絡(luò)可以有效地提取信號、語音、圖像等感知模式的特征， 并能解決現(xiàn)有啟發(fā)式模式識別系統(tǒng)不能很好解決的不變量探測、抽象和概括等問題。 這樣神經(jīng)網(wǎng)絡(luò)可應(yīng)用于模式識別的特征提取、聚類分析、邊緣檢測、信號增強(qiáng)以及噪 聲抑制、數(shù)據(jù)壓縮等各個(gè)環(huán)節(jié)。使用機(jī)器來進(jìn)行模式的識別是一項(xiàng)非常有用的工作， 能夠辨別符號等系列的機(jī)器是很有價(jià)值的。目前，模式識別技術(shù)可以應(yīng)用指紋識別、 IC 卡技術(shù)應(yīng)用、字符識別等實(shí)例。模式識別成為人工神經(jīng)網(wǎng)絡(luò)特別適宜求解的一

3、類問 題。因此，神經(jīng)網(wǎng)絡(luò)技術(shù)在模式識別中也得到廣泛應(yīng)用與發(fā)展。 關(guān)鍵詞：模式識別；人工神經(jīng)網(wǎng)絡(luò)；神經(jīng)網(wǎng)絡(luò)模型；神經(jīng)網(wǎng)絡(luò)技術(shù) Abstract Pattern Recognition is the machine identification, computer identification or identification of machine automation, machine aimed at automatic identification of things to do before the machine can only be made by man can do, with

4、 people with all kinds of things and on an analysis of the phenomenon, described with the ability to determine the part. It is the purpose of the study of the physical object to use the computer for classification, the probability of the smallest in the wrong conditions, so that the results of recog

5、nition as far as possible in line with objective things. As artificial neural network to recognize the continuing, neural network refers to a large number of simple calculation unit consisting of non-linear system, which to some extent and level system to imitate the human brains information process

6、ing, storage and retrieval functions, which has learning, memory and computing functions such as intelligent processing. Such people to use artificial neural network with a high degree of parallelism, the overall role of a high degree of non-linear and good fault tolerance and associative memory fun

7、ction, and have good self-adaptive, self-learning function, such as prominent features, the availability of MATLAB neural network toolbox The neural network model trained neural network can effectively extract the signal, voice, video and other features of perceptual patterns and heuristics to solve

8、 the existing pattern recognition systems are not well resolved invariant detection, such as abstract and summary issues. This neural network pattern recognition can be applied to feature extraction, clustering analysis, edge detection, signal enhancement and noise suppression, data compression, suc

9、h as various links. The use of machines for pattern recognition is a very useful work, such as series of symbols to identify the machines are of great value. At present, the pattern recognition technology can be applied to fingerprint identification, IC card technology applications, such as examples

10、 of character recognition. Artificial neural network pattern recognition has become especially suitable for solving a class of problem. Therefore, the neural network pattern recognition technology is also widely used and development. Key words：pattern recognition；artificial neural network；neural net

11、work model；neural network technology 畢業(yè)設(shè)計(jì)（論文）原創(chuàng)性聲明和使用授權(quán)說明畢業(yè)設(shè)計(jì)（論文）原創(chuàng)性聲明和使用授權(quán)說明 原創(chuàng)性聲明原創(chuàng)性聲明 本人鄭重承諾：所呈交的畢業(yè)設(shè)計(jì)（論文） ，是我個(gè)人在指導(dǎo)教 師的指導(dǎo)下進(jìn)行的研究工作及取得的成果。盡我所知，除文中特別 加以標(biāo)注和致謝的地方外，不包含其他人或組織已經(jīng)發(fā)表或公布過 的研究成果，也不包含我為獲得 及其它教育機(jī)構(gòu)的學(xué)位 或?qū)W歷而使用過的材料。對本研究提供過幫助和做出過貢獻(xiàn)的個(gè)人 或集體，均已在文中作了明確的說明并表示了謝意。 作 者 簽 名： 日 期： 指導(dǎo)教師簽名： 日期： 使用授權(quán)說明使用授權(quán)說明 本人

12、完全了解 大學(xué)關(guān)于收集、保存、使用畢業(yè)設(shè)計(jì)（論 文）的規(guī)定，即：按照學(xué)校要求提交畢業(yè)設(shè)計(jì)（論文）的印刷本和 電子版本；學(xué)校有權(quán)保存畢業(yè)設(shè)計(jì)（論文）的印刷本和電子版，并 提供目錄檢索與閱覽服務(wù)；學(xué)?？梢圆捎糜坝?、縮印、數(shù)字化或其 它復(fù)制手段保存論文；在不以贏利為目的前提下，學(xué)?？梢怨颊?文的部分或全部內(nèi)容。 作者簽名： 日 期： 學(xué)位論文原創(chuàng)性聲明學(xué)位論文原創(chuàng)性聲明 本人鄭重聲明：所呈交的論文是本人在導(dǎo)師的指導(dǎo)下獨(dú)立進(jìn)行 研究所取得的研究成果。除了文中特別加以標(biāo)注引用的內(nèi)容外，本 論文不包含任何其他個(gè)人或集體已經(jīng)發(fā)表或撰寫的成果作品。對本 文的研究做出重要貢獻(xiàn)的個(gè)人和集體，均已在文中以明確方式

13、標(biāo)明。 本人完全意識到本聲明的法律后果由本人承擔(dān)。 作者簽名： 日期： 年 月 日 學(xué)位論文版權(quán)使用授權(quán)書學(xué)位論文版權(quán)使用授權(quán)書 本學(xué)位論文作者完全了解學(xué)校有關(guān)保留、使用學(xué)位論文的規(guī)定， 同意學(xué)校保留并向國家有關(guān)部門或機(jī)構(gòu)送交論文的復(fù)印件和電子版， 允許論文被查閱和借閱。本人授權(quán) 大學(xué)可以將本學(xué)位 論文的全部或部分內(nèi)容編入有關(guān)數(shù)據(jù)庫進(jìn)行檢索，可以采用影印、 縮印或掃描等復(fù)制手段保存和匯編本學(xué)位論文。 涉密論文按學(xué)校規(guī)定處理。 作者簽名：日期： 年 月 日 導(dǎo)師簽名： 日期： 年 月 日 指導(dǎo)教師評閱書指導(dǎo)教師評閱書 指導(dǎo)教師評價(jià)：指導(dǎo)教師評價(jià)： 一、撰寫（設(shè)計(jì)）過程 1、學(xué)生在論文（設(shè)計(jì)）過程

14、中的治學(xué)態(tài)度、工作精神 優(yōu) 良 中 及格 不及格 2、學(xué)生掌握專業(yè)知識、技能的扎實(shí)程度 優(yōu) 良 中 及格 不及格 3、學(xué)生綜合運(yùn)用所學(xué)知識和專業(yè)技能分析和解決問題的能力 優(yōu) 良 中 及格 不及格 4、研究方法的科學(xué)性；技術(shù)線路的可行性；設(shè)計(jì)方案的合理性 優(yōu) 良 中 及格 不及格 5、完成畢業(yè)論文（設(shè)計(jì)）期間的出勤情況 優(yōu) 良 中 及格 不及格 二、論文（設(shè)計(jì)）質(zhì)量 1、論文（設(shè)計(jì)）的整體結(jié)構(gòu)是否符合撰寫規(guī)范？ 優(yōu) 良 中 及格 不及格 2、是否完成指定的論文（設(shè)計(jì)）任務(wù)（包括裝訂及附件）？ 優(yōu) 良 中 及格 不及格 三、論文（設(shè)計(jì)）水平 1、論文（設(shè)計(jì)）的理論意義或?qū)鉀Q實(shí)際問題的指導(dǎo)意義 優(yōu)

15、 良 中 及格 不及格 2、論文的觀念是否有新意？設(shè)計(jì)是否有創(chuàng)意？ 優(yōu) 良 中 及格 不及格 3、論文（設(shè)計(jì)說明書）所體現(xiàn)的整體水平 優(yōu) 良 中 及格 不及格 建議成績：建議成績： 優(yōu)優(yōu) 良良 中中 及格及格 不及格不及格 （在所選等級前的內(nèi)畫“”） 指導(dǎo)教師：指導(dǎo)教師： （簽名） 單位：單位： （蓋章） 年年 月月 日日 評閱教師評閱書評閱教師評閱書 評閱教師評價(jià)：評閱教師評價(jià)： 一、論文（設(shè)計(jì)）質(zhì)量一、論文（設(shè)計(jì)）質(zhì)量 1、論文（設(shè)計(jì)）的整體結(jié)構(gòu)是否符合撰寫規(guī)范？ 優(yōu) 良 中 及格 不及格 2、是否完成指定的論文（設(shè)計(jì)）任務(wù)（包括裝訂及附件）？ 優(yōu) 良 中 及格 不及格 二、論文（設(shè)計(jì)）水

16、平二、論文（設(shè)計(jì)）水平 1、論文（設(shè)計(jì)）的理論意義或?qū)鉀Q實(shí)際問題的指導(dǎo)意義 優(yōu) 良 中 及格 不及格 2、論文的觀念是否有新意？設(shè)計(jì)是否有創(chuàng)意？ 優(yōu) 良 中 及格 不及格 3、論文（設(shè)計(jì)說明書）所體現(xiàn)的整體水平 優(yōu) 良 中 及格 不及格 建議成績：建議成績： 優(yōu)優(yōu) 良良 中中 及格及格 不及格不及格 （在所選等級前的內(nèi)畫“”） 評閱教師：評閱教師： （簽名） 單位：單位： （蓋章） 年年 月月 日日 教研室（或答辯小組）及教學(xué)系意見教研室（或答辯小組）及教學(xué)系意見 教研室（或答辯小組）評價(jià)：教研室（或答辯小組）評價(jià)： 一、答辯過程一、答辯過程 1、畢業(yè)論文（設(shè)計(jì)）的基本要點(diǎn)和見解的敘述情況

17、優(yōu) 良 中 及格 不及格 2、對答辯問題的反應(yīng)、理解、表達(dá)情況 優(yōu) 良 中 及格 不及格 3、學(xué)生答辯過程中的精神狀態(tài) 優(yōu) 良 中 及格 不及格 二、論文（設(shè)計(jì)）質(zhì)量二、論文（設(shè)計(jì)）質(zhì)量 1、論文（設(shè)計(jì)）的整體結(jié)構(gòu)是否符合撰寫規(guī)范？ 優(yōu) 良 中 及格 不及格 2、是否完成指定的論文（設(shè)計(jì)）任務(wù)（包括裝訂及附件）？ 優(yōu) 良 中 及格 不及格 三、論文（設(shè)計(jì)）水平三、論文（設(shè)計(jì)）水平 1、論文（設(shè)計(jì)）的理論意義或?qū)鉀Q實(shí)際問題的指導(dǎo)意義 優(yōu) 良 中 及格 不及格 2、論文的觀念是否有新意？設(shè)計(jì)是否有創(chuàng)意？ 優(yōu) 良 中 及格 不及格 3、論文（設(shè)計(jì)說明書）所體現(xiàn)的整體水平 優(yōu) 良 中 及格 不及格

18、評定成績：評定成績： 優(yōu)優(yōu) 良良 中中 及格及格 不及格不及格 （在所選等級前的內(nèi)畫“”） 教研室主任（或答辯小組組長）：教研室主任（或答辯小組組長）： （簽名） 年年 月月 日日 教學(xué)系意見：教學(xué)系意見： 系主任：系主任： （簽名） 年年 月月 日日 目 錄 引言.- 1 - 1 模式識別概述.- 1 - 1.1 模式識別基本概念.- 1 - 1.2 模式識別系統(tǒng).- 2 - 1.3 模式識別的主要方法.- 2 - 1.4 模式識別應(yīng)用.- 3 - 2 人工神經(jīng)網(wǎng)絡(luò)概述.- 4 - 2.1 人工神經(jīng)元模型.- 4 - 2.1.1 閥值函數(shù)、Sigmoid 函數(shù)和分線段性函數(shù).- 5 - 2.

19、2 人工神經(jīng)網(wǎng)絡(luò)模型.- 5 - 2.3 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)特點(diǎn).- 6 - 2.4 人工神經(jīng)網(wǎng)絡(luò)在模式識別問題中應(yīng)用優(yōu)勢.- 6 - 3 神經(jīng)網(wǎng)絡(luò)模式識別.- 7 - 3.1 基于 BP 神經(jīng)網(wǎng)絡(luò)的模式識別.- 7 - 3.1.1BP 神經(jīng)網(wǎng)絡(luò)模型簡述.- 7 - 3.1.2BP 學(xué)習(xí)算法.- 8 - 3.1.3BP 神經(jīng)網(wǎng)絡(luò)應(yīng)用于字符識別.- 9 - 3.2 基于徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的模式識別.- 16 - 3.2.1 徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)模型簡述.- 17 - 3.2.2 徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)應(yīng)用特征模式的分類.- 18 - 3.3 基于自組織競爭神經(jīng)網(wǎng)絡(luò)的模式識別.- 19 - 3.3.1 自組織

20、競爭神經(jīng)網(wǎng)絡(luò)基本思想.- 20 - 3.3.2 自組織競爭神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)模式分類器的應(yīng)用.- 20 - 3.4 基于反饋型神經(jīng)網(wǎng)絡(luò)的模式識別.- 24 - 3.4.1 反饋型神經(jīng)網(wǎng)絡(luò)模型簡述.- 24 - 3.4.2 反饋型神經(jīng)網(wǎng)絡(luò)在工程領(lǐng)域的應(yīng)用.- 24 - 4 實(shí)驗(yàn)分析與總結(jié).- 31 - 參考文獻(xiàn).- 32 - 附 錄.- 33 - 引言 模式識別的具體過程大致是對研究對象進(jìn)行數(shù)據(jù)采集，數(shù)據(jù)預(yù)處理，特征提取和 選擇以及模式分類四步驟。在此，運(yùn)用 MATLAB 神經(jīng)網(wǎng)絡(luò)工具箱中的神經(jīng)網(wǎng)絡(luò)模型， 利用人工神經(jīng)網(wǎng)絡(luò)技術(shù)解決有關(guān)模式識別的簡單問題。 1 模式識別概述 1.1 模式識別基本概念 模

21、式識別就是機(jī)器識別、計(jì)算機(jī)識別或者機(jī)器自動化識別，目的在于讓機(jī)器自動 識別事物，使機(jī)器能做以前只能由人類才能做的事，具備人所具有的對各種事物與現(xiàn) 象進(jìn)行分析、描述與判斷的部分能力。它研究的目的就是利用計(jì)算機(jī)對物理對象進(jìn)行 分類，在錯(cuò)誤概率最小的條件下，使識別的結(jié)果盡量與客觀事物相符合。機(jī)器辨別事 物最基本的方法是計(jì)算，原則上說是對計(jì)算機(jī)要分析的事物與標(biāo)準(zhǔn)模板的相似程度進(jìn) 行比較計(jì)算。 對于一些比較簡單的模式識別問題，可以認(rèn)為模式識別就是模式分類。如對于識 別“0”到“9”這 10 個(gè)阿拉伯?dāng)?shù)字的課題研究，可以將其轉(zhuǎn)化為把待識別的字符分為 從“0”到“9”這十類中某一類的問題。但是，對于比較復(fù)雜

22、的識別問題，僅用簡單 的模式分類就很難實(shí)現(xiàn)模式識別，因此還需要對待識別模式進(jìn)行有關(guān)特征描述。 在模式識別技術(shù)中，被待觀測的每個(gè)對象稱為樣品。對于一個(gè)樣品來說，必須確 定一些與識別有關(guān)的因素作為研究的依據(jù)，每一個(gè)因素稱為一個(gè)特征。模式就是樣品 所具有特征的描述。模式特征集又可用處于同一個(gè)特征空間的特征向量表示。如果一 個(gè)樣品有個(gè)特征，則可以把看作一個(gè)維列向量，該向量稱為特征向量。XnXnX 這樣，模式識別問題就是根據(jù)的個(gè)特征來判斷模式屬于哪一類。待識別的XnX 不同模式都在同一特征空間中考察，不同模式類由于性質(zhì)上的不同，它們在各特征取 值范圍內(nèi)有所不同，因而會在不同的特征空間的不同區(qū)域中出現(xiàn)，因

23、此，模式識別系 統(tǒng)的目標(biāo)是在特征空間和解釋空間之間找到一種映射關(guān)系。特征空間由從模式得到的 對分類有用的度量、屬性以及基元構(gòu)成的空間。解釋空間是由所有不同所屬類別的集 合構(gòu)成。正因如此，在模式識別過程中，要對許多具體對象進(jìn)行觀測，以獲得許多觀 測，其中有均值、方差、協(xié)方差和協(xié)方差矩陣等。 1.2 模式識別系統(tǒng) 對于一個(gè)具體的模式識別問題，一般要進(jìn)行數(shù)據(jù)采集、數(shù)據(jù)預(yù)處理、特征提取與 選擇以及模式分類四步驟。研究模式識別過程實(shí)際上就是實(shí)現(xiàn)由數(shù)據(jù)空間經(jīng)特征空間 到類別空間的映射。在模式識別中，通常將經(jīng)數(shù)據(jù)預(yù)處理后的原始數(shù)據(jù)所在的空間稱 為測量空間，把分類進(jìn)行的空間叫做特征空間。 一個(gè)模式識別系統(tǒng)是由

24、學(xué)習(xí)模塊和測試模塊兩個(gè)模塊組成，如圖 1-2 所示。 圖 1-2模式識別系統(tǒng)示意 在兩個(gè)模塊中都需要數(shù)據(jù)的預(yù)處理，而數(shù)據(jù)預(yù)處理功能是多方面的，如除去噪聲 信號的邊緣影響；將研究有關(guān)的模式分離；對模式樣品標(biāo)準(zhǔn)化等。訓(xùn)練模式樣本的特 征數(shù)據(jù)輸入過程，就是將已知的模式樣品進(jìn)行數(shù)值化后載入計(jì)算機(jī)。這樣對于輸入樣 品進(jìn)行分析，除去對分類無用或者易造成混淆的特征，盡量保留對分類判別有效的數(shù) 值特征，于是完成模式識別的特征選擇。接下來就是按照設(shè)定的分類判別模型對給定 的訓(xùn)練樣品進(jìn)行訓(xùn)練，得到分類的判別規(guī)則，有了判別規(guī)則就可以進(jìn)行模式識別過程， 最后得到輸出識別結(jié)果。 1.3 模式識別的主要方法 模板匹配方法

25、、結(jié)構(gòu)模式識別和統(tǒng)計(jì)模式識別是目前常用的模式識別方法。模板 匹配模式識別是通過比較待識別模式和已有模式的相似程度來達(dá)到識別模式的目的， 也是應(yīng)用最早最簡單的模式識別形式。隨著科學(xué)技術(shù)的發(fā)展和研究對象的深入，模式 識別問題也變得非常復(fù)雜多變，這就要求人們對于事物的識別不僅局限于簡單的模式 分類，還需要應(yīng)對模式結(jié)構(gòu)作全面完善的描述，從而需要運(yùn)用結(jié)構(gòu)模式識別方法。但 未知模式 數(shù)據(jù)獲取 數(shù)據(jù)預(yù)處理 未知模式特征 提取和選擇 模式分 類決策 訓(xùn)練樣品特 征數(shù)據(jù)輸入 訓(xùn)練樣本特征 提取和選擇 確定判 別規(guī)則 調(diào)整特征提 取與選擇 改進(jìn)判別規(guī)則 數(shù)據(jù)預(yù)處理 誤差檢測 識別結(jié)果 是目前，研究最多也較為深入的

26、模式識別方法是統(tǒng)計(jì)模式識別，神經(jīng)網(wǎng)絡(luò)模式識別技 術(shù)也可以歸為到這類方法中。在統(tǒng)計(jì)模式識別中，每一個(gè)模式采用多維特征或測量值 來表示，最終的目的是由這些特征構(gòu)成的空間能將各模式類有效的分離。 統(tǒng)計(jì)模式識別主要研究對象的因素包括特征的提取和優(yōu)化、分類判別和聚類判別。 如何確定合適的特征空間是設(shè)計(jì)模式識別系統(tǒng)一個(gè)非常重要的問題，對特征空間進(jìn)行 優(yōu)化可以采用特征選擇和特征組合優(yōu)化兩種基本方法。對于已知若干個(gè)樣品的類別以 及特征，我們需要對分類問題建立一個(gè)樣品庫。根據(jù)這些樣品庫建立判別分類函數(shù)， 這就讓機(jī)器學(xué)習(xí)來實(shí)現(xiàn)，然后對某些未知的新對象分析它們的特征以至決定它們屬于 哪一類，就需要有監(jiān)督學(xué)習(xí)的方法。

27、有時(shí)候，已知若干對象和它們的特征，但不知道 每個(gè)對象屬于哪一類，而且事先也并不知道究竟分為幾類。這樣就可能需要考慮用某 種相似性度量的方法，即運(yùn)用“物以類聚，人以群分”的思想，把特征相似或相同的 歸為同一類，這樣就采用了無監(jiān)督的學(xué)習(xí)方法。 1.4 模式識別應(yīng)用 模式識別技術(shù)已廣泛應(yīng)用于文字識別、語音識別、圖像識別、指紋識別、身份識 別、醫(yī)學(xué)診斷、工業(yè)產(chǎn)品檢測等眾多科學(xué)領(lǐng)域。模式識別技術(shù)同時(shí)也是人工智能的基 礎(chǔ)技術(shù)。隨著科學(xué)技術(shù)的不斷發(fā)展，模式識別不斷發(fā)展和完善，模糊理論、神經(jīng)網(wǎng)絡(luò)、 遺傳算法和支持向量機(jī)等研究成果也滲透進(jìn)來，融合形成了解決復(fù)雜問題的一種有效 機(jī)制。 在運(yùn)用模式識別技術(shù)中，我們需

28、要根據(jù)具體問題與模式識別方法結(jié)合起來，同時(shí) 把人工神經(jīng)網(wǎng)絡(luò)、智能計(jì)算結(jié)合起來，逐步通過模式分類、網(wǎng)絡(luò)訓(xùn)練、確定優(yōu)化區(qū)域， 找到優(yōu)化準(zhǔn)則，從而實(shí)現(xiàn)優(yōu)化、應(yīng)用和發(fā)展。 經(jīng)過多年的科學(xué)發(fā)展，文字識別是模式識別領(lǐng)域發(fā)展最為成熟并應(yīng)用最為廣泛的 方面。如手寫體阿拉伯?dāng)?shù)字的識別在郵政信函自動分揀上起到重要的作用。語音識別 的難度和復(fù)雜度都很高，因?yàn)橐崛≌Z音的特征，不僅要分析語音的結(jié)構(gòu)和語音的物 理過程，還要涉及聽覺的物理和生理過程。但是，語音識別課題已在不同領(lǐng)域中運(yùn)用， 尤其在身份鑒別中起到很大作用。同樣地，模式識別在醫(yī)學(xué)上應(yīng)用也很多，如醫(yī)學(xué)圖 片分析、染色體的自動分類、癌細(xì)胞的分類等領(lǐng)域。應(yīng)該可以這樣

29、說，模式識別技術(shù) 在科學(xué)不斷發(fā)展的推動下，已逐漸被人們所認(rèn)知和認(rèn)同，并能結(jié)合新的有關(guān)科學(xué)研究 技術(shù)，可以有效的解決復(fù)雜多變的識別問題，提供了一種分析解決問題的重要工具。 2 人工神經(jīng)網(wǎng)絡(luò)概述 2.1 人工神經(jīng)元模型 神經(jīng)網(wǎng)絡(luò)是指用大量的簡單計(jì)算單元(神經(jīng)元)構(gòu)成的非線性系統(tǒng),它在一定程度和 層次上模仿了人腦神經(jīng)系統(tǒng)的信息處理、存儲及檢索功能，因而具有學(xué)習(xí)、記憶和計(jì) 算等智能處理功能。人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和工作原理基本上是結(jié)合人腦的組織結(jié)構(gòu)和活 動規(guī)律，來反映人腦的某些基本特征，但并不是對人腦部分的真實(shí)再現(xiàn)。 人工神經(jīng)元模型是生物神經(jīng)元的模擬和抽象。根據(jù)生物神經(jīng)元的結(jié)構(gòu)和工作原理， 構(gòu)造一個(gè)神經(jīng)元如

30、圖 2-1 所示。 人工神經(jīng)元是人工神經(jīng)網(wǎng)絡(luò)的基本單元，從圖中可以看出，它相當(dāng)于一個(gè)多輸入 單輸出的非線性閥值器件。這里的表示個(gè)神經(jīng)元的輸入； 123 , n p pppn 表示與該相連的個(gè)突觸的連接強(qiáng)度其值成為權(quán)值，其每個(gè)元素的值可 123 , n w w wwn 以為正負(fù)，正值的表示為興奮型突觸，負(fù)值的表示為抑制型突觸；表示人工神 1 n ii i w p 經(jīng)元的輸入總和，也就是激活值，對應(yīng)于生物神經(jīng)細(xì)胞的膜電位；表示該神經(jīng)元的a 輸出；表示該人工神經(jīng)元的閥值；表示神經(jīng)元的輸入輸出關(guān)系函數(shù)，亦即激活函f 數(shù)或傳輸函數(shù)。如果神經(jīng)元輸入的加權(quán)和大于，則該神經(jīng)元被激活。這樣可 1 n ii i

31、w p 以表示神經(jīng)元的激活函數(shù)為.閥值一般不是一個(gè)常數(shù)，是隨著神經(jīng) 1 n ii i afw p 元的興奮程度而發(fā)生變化的。激活函數(shù)常用的三種類型是：閥值函數(shù)、Sigmoid 函數(shù)a 和分線段性函數(shù)。 2.1.1 閥值函數(shù)、Sigmoid 函數(shù)和分線段性函數(shù) 激活函數(shù)常用的三種類型是：閥值函數(shù)、Sigmoid 函數(shù)和分線段性函數(shù)?，F(xiàn)簡述這 三種類型函數(shù)。 (1)閥值函數(shù) 閥值函數(shù)定義為： 1,0 . 0,0 t f t t 該閥值函數(shù)通常稱為階躍函數(shù)，若激活函數(shù)采用階躍函數(shù)，則該人工神經(jīng)元模型 即為著名的 MP 模型。這時(shí)神經(jīng)元的輸出取 1 或 0，反映了神經(jīng)元的興奮或抑制。此外， 符號函數(shù)也

32、常作為神經(jīng)元的激活函數(shù)，即表示為： sgn t 1,0 sgn. 1,0 t t t (2)Sigmoid 函數(shù) Sigmoid 函數(shù)也稱為型函數(shù)，是人工神經(jīng)網(wǎng)絡(luò)中最常用的激活函數(shù)。型函數(shù)定SS 義為：其中是型函數(shù)的斜率參數(shù)。通過調(diào)整參數(shù)，可以獲取不同 1 , 1 at f t e aSa 斜率的型函數(shù)。S (3)分線段性函數(shù) 分段性函數(shù)定義為： 1,1 , 11. 1,1 t f ttt t 該函數(shù)在線性區(qū)間內(nèi)的放大系數(shù)是一致的。這種形式的激活函數(shù)可看作是非1,1 線性放大器的近似。 2.2 人工神經(jīng)網(wǎng)絡(luò)模型 根據(jù)神經(jīng)元之間連接的拓?fù)浣Y(jié)構(gòu)上的不同，大致可以將神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)分為兩種形 式，即分層

33、型和相互連接型神經(jīng)網(wǎng)絡(luò)。 分層型網(wǎng)絡(luò)是將一個(gè)神經(jīng)網(wǎng)絡(luò)中的所有神經(jīng)元按功能分為若干層，一般有輸入層、 隱含層和輸出層，各層順序連接。按網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)的不同，可以將分層神經(jīng)網(wǎng)絡(luò)細(xì) 分為簡單的前饋型網(wǎng)絡(luò)、具有反饋型的前饋網(wǎng)絡(luò)以及層內(nèi)的互連前饋型網(wǎng)絡(luò)。相互連 接型的神經(jīng)網(wǎng)絡(luò)則是網(wǎng)絡(luò)中任意兩個(gè)神經(jīng)元之間相互連接。 隨著人工神經(jīng)網(wǎng)絡(luò)技術(shù)的發(fā)展，人們對神經(jīng)網(wǎng)絡(luò)的認(rèn)識已不斷進(jìn)步和完善，提出 了許多神經(jīng)網(wǎng)絡(luò)模型，其研究應(yīng)用廣泛的神經(jīng)網(wǎng)絡(luò)模型是 BP 神經(jīng)網(wǎng)絡(luò)、徑向基函數(shù)神 經(jīng)網(wǎng)絡(luò)、自組織競爭神經(jīng)網(wǎng)絡(luò)、反饋型神經(jīng)網(wǎng)絡(luò)和概率神經(jīng)網(wǎng)絡(luò)等。 2.3 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)特點(diǎn) 人工神經(jīng)網(wǎng)絡(luò)與生物神經(jīng)網(wǎng)絡(luò)一樣，必須要經(jīng)過學(xué)習(xí)才具有

34、智能功能。神經(jīng)網(wǎng)絡(luò) 學(xué)習(xí)過程實(shí)際是調(diào)節(jié)權(quán)值和閥值的過程。模仿人的學(xué)習(xí)過程，人們提出了多種神經(jīng)網(wǎng) 絡(luò)的學(xué)習(xí)方式，其中主要有三種形式：有監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí)。學(xué)習(xí)往 往是一個(gè)相對持久的變化過程，也是一個(gè)推理的過程。 有監(jiān)督學(xué)習(xí)是指在有“導(dǎo)師”指導(dǎo)和考察的情況下進(jìn)行學(xué)習(xí)的方式，所圖 2-2 所 示。神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)系統(tǒng)根據(jù)一定的學(xué)習(xí)規(guī)則進(jìn)行學(xué)習(xí)，每次學(xué)習(xí)過程完成后?！皩?dǎo)師” 都要考察學(xué)習(xí)的結(jié)果是否達(dá)到所需的要求，并以此來決定網(wǎng)絡(luò)是否需要繼續(xù)學(xué)習(xí)。無 監(jiān)督學(xué)習(xí)是不存在“導(dǎo)師”的指導(dǎo)和考察，是靠學(xué)習(xí)者或神經(jīng)網(wǎng)絡(luò)系統(tǒng)自身完成的， 如圖 2-3 所示。其實(shí)這是一種自我學(xué)習(xí)、自我組織過程。強(qiáng)化學(xué)習(xí)就介于

35、有監(jiān)督學(xué)習(xí) 和無監(jiān)督學(xué)習(xí)兩種方式之間，如圖 2-4 所示。 輸入 p實(shí)際輸出輸入 p實(shí)際輸出 輸入 p實(shí)際輸出 誤差條件評價(jià)標(biāo)準(zhǔn) 期望輸出 圖 2-2 有監(jiān)督學(xué)習(xí)方式 圖 2-3 無監(jiān)督學(xué)習(xí)方式 圖 2-4 強(qiáng)化學(xué)習(xí)方式 2.4 人工神經(jīng)網(wǎng)絡(luò)在模式識別問題中應(yīng)用優(yōu)勢 人工神經(jīng)網(wǎng)絡(luò)，簡稱神經(jīng)網(wǎng)絡(luò)，是對人腦或自然神經(jīng)網(wǎng)絡(luò)若干基本特性的抽象和 模擬，是一種基于連接學(xué)說構(gòu)造的智能仿生模型，是由大量神經(jīng)元組成的非線性動力 系統(tǒng)。 以生物神經(jīng)網(wǎng)絡(luò)為模擬基礎(chǔ)的人工神經(jīng)網(wǎng)絡(luò)試圖在模擬推理和自動學(xué)習(xí)等方面發(fā) 展，使得人工智能更接近人腦的自組織和并行處理功能，它在信息處理、模式識別、 聚類分析和智能控制等領(lǐng)域應(yīng)用

36、廣泛。神經(jīng)網(wǎng)絡(luò)的主要特點(diǎn)是： (1)并行協(xié)同處理信息。神經(jīng)網(wǎng)絡(luò)中每個(gè)神經(jīng)元都可以根據(jù)接受到的信息進(jìn)行獨(dú)立 的運(yùn)算和處理，并輸出計(jì)算結(jié)果，同一層的各個(gè)神經(jīng)元的輸出結(jié)果可以被同時(shí)計(jì)算出 來，然后傳輸給下一層做進(jìn)一步處理，體現(xiàn)了神經(jīng)網(wǎng)絡(luò)并行處理運(yùn)算的特點(diǎn)，這使得 它具有很強(qiáng)的實(shí)時(shí)性。 (2)知識的分布存儲能力。在神經(jīng)網(wǎng)絡(luò)中，知識不是存儲在特定的存儲單元中，而 是分布在整個(gè)系統(tǒng)中，要存儲多個(gè)知識就需要更多鏈接。在計(jì)算機(jī)中，只要給定一個(gè) 神經(jīng)網(wǎng)絡(luò) 學(xué)習(xí)系統(tǒng) 誤差分析 神經(jīng)網(wǎng)絡(luò) 學(xué)習(xí)系統(tǒng) 神經(jīng)網(wǎng)絡(luò) 學(xué)習(xí)系統(tǒng) 外部環(huán)境 地址就可以得到一個(gè)或一組數(shù)據(jù)。人根據(jù)聯(lián)想記憶可以正確識別圖形，人工神經(jīng)網(wǎng)絡(luò) 就采用聯(lián)想記

37、憶的辦法來獲得存儲的知識，保證網(wǎng)絡(luò)的正確性，提高了網(wǎng)絡(luò)的容錯(cuò)性 和魯棒性。 (3)對信息的處理具有自組織、自學(xué)習(xí)特點(diǎn)，便于聯(lián)想、綜合和推廣。神經(jīng)網(wǎng)絡(luò)的 神經(jīng)元之間的連接強(qiáng)度用權(quán)值大小來表示，這種權(quán)值可以通過對訓(xùn)練樣本的學(xué)習(xí)而不 斷變化，而且隨著訓(xùn)練樣本量的增加和反復(fù)學(xué)習(xí)，這些神經(jīng)元之間的連接強(qiáng)度會不斷 增加，從而提高神經(jīng)元對這些樣本特征的反映靈敏度。 (4)模式識別能力。目前有很多神經(jīng)網(wǎng)絡(luò)模型可以善于模式識別。模式識別也是人 工神經(jīng)網(wǎng)絡(luò)最重要的特征之一。它不但可以能識別靜態(tài)信息，對實(shí)時(shí)處理復(fù)雜的動態(tài) 信息也顯示強(qiáng)大的作用。雖然模式識別往往是非常復(fù)雜的，里面的各個(gè)因素相互影響， 呈現(xiàn)出復(fù)雜多變的

38、非線性關(guān)系，但是人工神經(jīng)網(wǎng)絡(luò)技術(shù)為解決這類非線性問題提供了 強(qiáng)有力的方法。 縱觀人工神經(jīng)網(wǎng)絡(luò)特點(diǎn)，神經(jīng)網(wǎng)絡(luò)處理模式識別問題上，相比其他傳統(tǒng)方法，具 有以下優(yōu)點(diǎn)：首先對所處理的問題的了解要求不是很多；其次就是可以對特征空間進(jìn) 行更為復(fù)雜的劃分；再次它適用于高速并行處理系統(tǒng)的實(shí)現(xiàn)。事物發(fā)展總是有兩面的。 人工神經(jīng)網(wǎng)絡(luò)也存在自身固有的弱點(diǎn)，如網(wǎng)絡(luò)需要更多的訓(xùn)練數(shù)據(jù)，無法獲取特征空 間中的決策面，以及在非并行處理系統(tǒng)中的模擬運(yùn)行速度慢等缺點(diǎn)。 3 神經(jīng)網(wǎng)絡(luò)模式識別 3.1 基于 BP 神經(jīng)網(wǎng)絡(luò)的模式識別 單層神經(jīng)網(wǎng)絡(luò)只能解決線性可分的問題，對于非線性分類問題就需要運(yùn)用多層神 經(jīng)網(wǎng)絡(luò)，還需要尋找訓(xùn)練多層

39、神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法。目前，最著名的多層神經(jīng)網(wǎng)絡(luò)學(xué) 習(xí)算法應(yīng)該是 BP 算法。BP 算法訓(xùn)練的神經(jīng)網(wǎng)絡(luò)就是 BP 神經(jīng)網(wǎng)絡(luò)。在眾多人工神經(jīng) 網(wǎng)絡(luò)模型中，大部分采用 BP 網(wǎng)絡(luò)或是它的變化形式，可以說 BP 神經(jīng)網(wǎng)絡(luò)是前饋型網(wǎng) 絡(luò)的核心部分，體現(xiàn)了人工神經(jīng)網(wǎng)絡(luò)最精華的部分。BP 神經(jīng)網(wǎng)絡(luò)采用的是有監(jiān)督學(xué)習(xí) 方式。 3.1.1BP 神經(jīng)網(wǎng)絡(luò)模型簡述 前饋型神經(jīng)網(wǎng)絡(luò)通常含有一個(gè)或多個(gè)隱層，隱層中的神經(jīng)元基本均采用型傳遞S 函數(shù)，輸出層的神經(jīng)元采用線性傳遞函數(shù)。BP 神經(jīng)網(wǎng)絡(luò)屬于前饋型神經(jīng)網(wǎng)絡(luò)，它具有 前饋型神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)。一個(gè)典型的 BP 神經(jīng)網(wǎng)絡(luò)如圖 3-1 所示，有一個(gè)隱層，隱 層神經(jīng)元數(shù)目為

40、 S,隱層采用型神經(jīng)元函數(shù) logsig( )，具有個(gè)輸入。隱層的非線性SR 傳遞函數(shù)神經(jīng)元可以學(xué)習(xí)輸入輸出之間的線性和非線性關(guān)系，線性的輸出層是為了拓 寬網(wǎng)絡(luò)輸出。 輸入向量 神經(jīng)元 圖 3-1 BP 神經(jīng)網(wǎng)絡(luò)簡單模型 1 () n ii i afw p 3.1.2BP 學(xué)習(xí)算法 BP 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法解決了多層感知器的學(xué)習(xí)問題，促進(jìn)了神經(jīng)網(wǎng)絡(luò)的發(fā)展。在 BP 網(wǎng)絡(luò)學(xué)習(xí)過程主要在兩個(gè)方面： (1)工作信號正向傳播：指的是輸入信號從輸入層經(jīng)隱層神經(jīng)元，傳向輸出層，在 輸出端產(chǎn)生輸出信號。在信號的向前傳遞過程中的權(quán)值是固定不變的，每一層神經(jīng)元 的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)。如果在輸出層不能得到

41、期望的輸出，則轉(zhuǎn)入誤差 信號反向傳播。 (2)誤差信號反向傳播：指的是網(wǎng)絡(luò)的實(shí)際輸出與期望輸出之間差值即為誤差信號， 誤差信號由輸出端開始逐層向前傳播。在此過程中，網(wǎng)絡(luò)的權(quán)值由誤差信號反饋進(jìn)行 相應(yīng)地調(diào)節(jié)。通過權(quán)值的不斷修正使網(wǎng)絡(luò)的實(shí)際輸出更接近期望輸出。 但是 BP 算法的存在以下主要缺點(diǎn)：收斂速度慢、局部極限、難以確定隱層和隱層 節(jié)點(diǎn)個(gè)數(shù)。針對 BP 算法這些缺點(diǎn)，出現(xiàn)了許多改進(jìn)算法。BP 算法的改進(jìn)主要有兩種 途徑：一種采用啟發(fā)式學(xué)習(xí)算法，另一種則是采用更有效的優(yōu)化算法。 所謂啟發(fā)式算法就是對于表現(xiàn)函數(shù)梯度加以分析，從而改進(jìn)算法，其中包括：有 動量的梯度下降法(traingdm)、有自適

42、應(yīng) lr 的下降法(traingda)、有動量和自適應(yīng) lr 的 梯度下降法(traingdx)和彈性梯度下降法法(trainrp)等。 另一種優(yōu)化算法則是基于數(shù)值最優(yōu)化理論的訓(xùn)練算法，有共軛梯度法 (traincgbtraincgftraingcgptrainscg)、高斯牛頓法(trainbfgtrainoss)和 Levenberg- Marquardt 算法(trainlm)。 有動量的梯度下降法 在神經(jīng)網(wǎng)絡(luò)工具箱中，traindm 函數(shù)采用了有動量的梯度下降法。動量法降低了網(wǎng) 絡(luò)對于誤差曲面局部細(xì)節(jié)的敏感性，所加入的動量項(xiàng)實(shí)際上相當(dāng)于阻尼項(xiàng)，它減少了 學(xué)習(xí)過程的振蕩趨勢，從而改善了收

43、斂性，提高了學(xué)習(xí)速度并增加了算法的可靠性。 其訓(xùn)練函數(shù)調(diào)整參數(shù)，詳見附錄三。 有自適應(yīng) lr 的梯度下降法 在梯度下降法中，學(xué)習(xí)速率對于整個(gè)網(wǎng)絡(luò)訓(xùn)練過程有很大的影響，訓(xùn)練成功與否 跟學(xué)習(xí)速率的選取關(guān)系很大。要是在訓(xùn)練過程中合理地修改學(xué)習(xí)速率，可能會避開一 些缺陷，從而增加穩(wěn)定性，提高學(xué)習(xí)速度和精度。其訓(xùn)練函數(shù)調(diào)整參數(shù)詳見附錄三。 無論是函數(shù)逼近還是模式識別，都必須對神經(jīng)網(wǎng)絡(luò)訓(xùn)練。訓(xùn)練之前首先需要樣本， 樣本中包含輸入向量以及相應(yīng)的期望輸出向量，訓(xùn)練過程中應(yīng)不斷調(diào)整權(quán)值和閥PT 值，使得神經(jīng)網(wǎng)絡(luò)的表現(xiàn)函數(shù)達(dá)到最小。前饋型神經(jīng)網(wǎng)絡(luò)的表現(xiàn)函數(shù)缺省為網(wǎng)絡(luò)輸出 和期望輸出向量的均方差 mse。aT 這樣

44、，在訓(xùn)練神經(jīng)網(wǎng)絡(luò)之前需要構(gòu)造一個(gè)網(wǎng)絡(luò)構(gòu)架，函數(shù) newff( )就是構(gòu)造神經(jīng)網(wǎng) 絡(luò)的，其指令格式： net=newff net=newff(PR,S1 S2SN,TF1 TF2TFN,BTF,BLF,PF) 其中參數(shù)意義： 輸入向量的取值范圍；PR 第 層的神經(jīng)元個(gè)數(shù)，共層；SiiN 第 層的傳遞函數(shù)，缺省值為tansig；TFii 網(wǎng)絡(luò)訓(xùn)練函數(shù)，缺省值為trainlm；BTFBP 網(wǎng)絡(luò)權(quán)值和閥值的學(xué)習(xí)函數(shù)，缺省值為learngdm；BLFBP 性能函數(shù)，缺省值為mse。PF 執(zhí)行結(jié)果是創(chuàng)建一個(gè)層的 BP 神經(jīng)網(wǎng)絡(luò)。然后需要調(diào)整參數(shù)方式和參數(shù)值，當(dāng)神N 經(jīng)網(wǎng)絡(luò)的權(quán)值和閥值初始化以后，我們就可以

45、對網(wǎng)絡(luò)進(jìn)行訓(xùn)練并仿真。 3.1.3BP 神經(jīng)網(wǎng)絡(luò)應(yīng)用于字符識別 (1)問題描述 設(shè)計(jì)一個(gè) BP 網(wǎng)絡(luò)并訓(xùn)練它來識別字母表中的 26 個(gè)字母，最后結(jié)果是對應(yīng)每個(gè)字 母有一個(gè) 57 的布爾量網(wǎng)格，但是實(shí)際得到的字母網(wǎng)絡(luò)圖存在一些非線性因素或者噪 聲干擾，因此設(shè)計(jì)出來的網(wǎng)絡(luò)不僅要能夠?qū)硐氲妮斎胂蛄窟M(jìn)行很好的分類，也要對 誤差的輸入向量具有合理的準(zhǔn)確度量。不妨假設(shè)，26 個(gè)字母含 35 個(gè)元素的輸入向量被 定義成一個(gè)輸入向量矩陣 alphabet(字母表)。目標(biāo)向量也可以被定義成一個(gè)變量 targets(目標(biāo)集)。其中每個(gè)目標(biāo)向量含有 26 個(gè)元素。向量代表某個(gè)字母，則對應(yīng)位置 的元素值為 1，而其

46、他位置對應(yīng)的值為 0。同時(shí)網(wǎng)絡(luò)還應(yīng)具有容錯(cuò)能力，對輸入向量， 若其噪聲均值為 0，標(biāo)準(zhǔn)差不大于 0.2，則能夠分辨出來。 (2)設(shè)計(jì) BP 網(wǎng)絡(luò)，初始化并訓(xùn)練網(wǎng)絡(luò) 建立一個(gè)有兩層結(jié)構(gòu)的 logsig 網(wǎng)絡(luò)，它的輸出范圍在 01 間，同時(shí)需要 35 個(gè)輸 入，在輸出層需要 26 個(gè)神經(jīng)元?？紤]到神經(jīng)元數(shù)目的選擇，隱含層設(shè)計(jì) 10 個(gè)神經(jīng)元。 那么設(shè)計(jì)好訓(xùn)練網(wǎng)絡(luò)后，就是要使其輸出向量中正確的位置值為 1，其余為 0，但是有 非線性因素和噪聲信號的干擾，網(wǎng)絡(luò)可能就不是那么精確輸出值為 1 或 0，這就需要在 訓(xùn)練之后，引入有噪聲的字母信號輸入網(wǎng)絡(luò)，就可以實(shí)現(xiàn)我們的目標(biāo)值。 接下來就初始化，使用 ne

47、wff 創(chuàng)建一個(gè)兩層 BP 網(wǎng)絡(luò) %網(wǎng)絡(luò)初始化 alphabet,targets=prprob; R,Q=size(alphabet); S2,Q=size(targets); S1=10; P=alphabet; net= newff(minmax(P),S1 S2,logsig logsig,traingdx); net.LW2,1=net.LW2,1*0.01; net.b2=net.b2*0.01; T=targets; 其中在 matlab 神經(jīng)網(wǎng)絡(luò)工具箱中有 prprob 函數(shù)為： help prprob PRPROB Character recognition problem d

48、efinition ALHABET,TARGETS = PRPROB() Returns: ALPHABET - 35x26 matrix of 5x7 bit maps for each letter. TARGETS - 26x26 target vectors. 接下來，為了使得產(chǎn)生的網(wǎng)絡(luò)對輸入向量有一定的容錯(cuò)能力，可以通過使用理想 的信號和帶有噪聲的信號對網(wǎng)絡(luò)進(jìn)行訓(xùn)練，這樣使用 20 組理想信號和帶有噪聲的信號 對網(wǎng)絡(luò)訓(xùn)練，開始使用無噪聲的信號訓(xùn)練，當(dāng)訓(xùn)練時(shí)間達(dá)到 5000 個(gè)時(shí)間單位或者網(wǎng)絡(luò) 的平方和誤差小于 0.1 時(shí)停止網(wǎng)絡(luò)的訓(xùn)練。 %網(wǎng)絡(luò)訓(xùn)練參數(shù)設(shè)置 net.performFc

49、n=sse; net.trainParam.goal=0.1; net.trainParam.show=20; net.trainParam.epochs=5000; net.trainParam.mc=0.9; %開始對無誤差輸入向量進(jìn)行訓(xùn)練 net,tr=train(net,P,T); 結(jié)果訓(xùn)練誤差變化情況如圖 3-2 所示，得到其曲線能在比較快的時(shí)間內(nèi)達(dá)到網(wǎng)絡(luò)訓(xùn) 練指標(biāo)性能。 圖 3-2 無噪聲訓(xùn)練過程誤差變化曲線情況 其訓(xùn)練過程變化情況： TRAINGDX, Epoch 0/5000, SSE 168.447/0.1, Gradient 46.0382/1e-006 TRAINGDX,

50、 Epoch 20/5000, SSE 25.9424/0.1, Gradient 2.1607/1e-006 TRAINGDX, Epoch 40/5000, SSE 24.7933/0.1, Gradient 0.468514/1e-006 TRAINGDX, Epoch 60/5000, SSE 24.419/0.1, Gradient 0.58441/1e-006 TRAINGDX, Epoch 80/5000, SSE 22.4912/0.1, Gradient 0.833666/1e-006 TRAINGDX, Epoch 100/5000, SSE 14.8143/0.1, Gr

51、adient 0.921702/1e-006 TRAINGDX, Epoch 120/5000, SSE 3.27575/0.1, Gradient 0.387826/1e-006 TRAINGDX, Epoch 140/5000, SSE 0.282525/0.1, Gradient 0.0507834/1e-006 TRAINGDX, Epoch 154/5000, SSE 0.0943065/0.1, Gradient 0.0158945/1e-006 TRAINGDX, Performance goal met. 同時(shí)，為了保證設(shè)計(jì)的網(wǎng)絡(luò)正確的識別，對加了噪聲的字母表進(jìn)行訓(xùn)練，還有設(shè)

52、置向字母表向量加入噪聲信號平均值分別為 0.1 和 0.2，與此同時(shí)，設(shè)置網(wǎng)絡(luò)訓(xùn)練最大 時(shí)間為 300 個(gè)單位時(shí)間，并且誤差參數(shù)設(shè)為 0.6。 %網(wǎng)絡(luò)訓(xùn)練參數(shù)設(shè)置,并對有誤差輸入向量進(jìn)行訓(xùn)練 netnew=net; netnew.trainParam.goal=0.6; netnew.trainParam.epochs=300; T=targets targets targets targets; pause for pass=1:20 P=alphabet,alphabet,. (alphabet+randn(R,Q)*0.1),. (alphabet+randn(R,Q)*0.2); ne

53、tnew,tr=train(netnew,P,T); end 最后為了保證網(wǎng)絡(luò)總是能夠正確的對理想輸入信號進(jìn)行分類，需要再次對無噪聲 信號進(jìn)行訓(xùn)練。 %網(wǎng)絡(luò)再次對無誤差輸入向量進(jìn)行訓(xùn)練 P=alphabet; T=targets; net.performFcn=sse; net.trainParam.goal=0.1; net.trainParam.show=50; net.trainParam.epochs=5000; net.trainParam.mc=0.9; net,tr=train(net,P,T); 為了測試設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)模式識別系統(tǒng)的可靠性，用數(shù)百個(gè)加入不同數(shù)量噪聲的 字母表向量

54、作為輸入，來觀察其輸出結(jié)果，并對系統(tǒng)性能做出合理地評估。我們可以 得到網(wǎng)絡(luò)輸出誤差與噪聲信號的指標(biāo)的比較曲線，最后測試系統(tǒng)，實(shí)驗(yàn)中驗(yàn)證、A 、，對它們加入誤差信號，然后把CEGIKMOQSUWY 它們輸入到網(wǎng)絡(luò)中，觀察其得到的輸出。 %測試網(wǎng)絡(luò)的容錯(cuò)性 noise_range=0:0.05:0.5; max_test=100; T=targets; for i=1:11 noiselevel(i)=noise_range(i); errors1(i)=0; errors2(i)=0; for j=1:max_test P=alphabet+randn(35,26)*noiselevel(i);

55、 A=sim(net,P); % 測試未經(jīng)誤差訓(xùn)練的網(wǎng)絡(luò) AA=compet(A); errors1(i)=errors1(i)+sum(sum(abs(AA-T)/2; % 測試經(jīng)過誤差訓(xùn)練的網(wǎng)絡(luò) Anew=sim(netnew,P); AAnew=compet(Anew); errors2(i)=errors2(i)+sum(sum(abs(AAnew-T)/2; end end figure plot(noise_range,errors1*100,-,noise_range,errors2*100); title(識別錯(cuò)誤率); xlabel(噪聲指標(biāo)); ylabel(未經(jīng)誤差訓(xùn)練的

56、網(wǎng)絡(luò) - - 經(jīng)過誤差訓(xùn)練的網(wǎng)絡(luò)-); %對實(shí)際含噪聲的字母進(jìn)行識別 for index=1:2:26 noisyJ=alphabet(:,index)+randn(35,1)*0.2; figure; plotchar(noisyJ); A2=sim(net,noisyJ); A2=compet(A2); answer=find(compet(A2)=1); figure; plotchar(alphabet(:,answer); end 由于使用不同級別的誤差信號，繪制網(wǎng)絡(luò)輸出錯(cuò)誤與噪聲信號的比較的曲線，如 圖 3-3 所示。 圖 3-3 識別結(jié)果錯(cuò)誤率模擬曲線 由圖 3-3 曲線顯示，實(shí)

57、線是經(jīng)過噪聲信號和非噪聲信號訓(xùn)練后的網(wǎng)絡(luò)，具有很高 的可靠性性能。虛線是同網(wǎng)絡(luò)只經(jīng)過非噪聲信號沒有經(jīng)過噪聲信號訓(xùn)練的網(wǎng)絡(luò)的可靠 性能情況。 結(jié)果得到含噪聲的輸入字母和網(wǎng)絡(luò)識別后的輸出字母圖，可以看出設(shè)計(jì)的網(wǎng)絡(luò)能 正確識別出相應(yīng)的字母。 測試實(shí)驗(yàn)的幾個(gè)含噪聲的輸入字母和識別結(jié)果效果圖對比，如圖 3-43-13 所示 圖 3-4 含噪聲信號輸入字母 A 圖 3-5 對應(yīng)識別效果字母 A 圖 3-6 含噪聲信號輸入字母 E 圖 3-7 對應(yīng)識別效果字母 E 圖 3-8 含噪聲信號輸入字母 G 圖 3-9 對應(yīng)識別效果字母 G 圖 3-10 含噪聲信號輸入字母 S 圖 3-11 對應(yīng)識別效果字母 S

58、圖 3-12 含噪聲信號輸入字母 W 圖 3-13 對應(yīng)識別效果字母 W (3)實(shí)驗(yàn)分析和總結(jié) 由實(shí)驗(yàn)分析得出，對一個(gè)簡單的模式識別系統(tǒng)來說，在該問題中，使用了不同的 噪聲向量作為輸入來訓(xùn)練網(wǎng)絡(luò)，使得網(wǎng)絡(luò)具有很強(qiáng)的容錯(cuò)能力，這樣的實(shí)驗(yàn)更適合現(xiàn) 實(shí)環(huán)境的使用，表明運(yùn)用 matlab 神經(jīng)網(wǎng)絡(luò)來建模，經(jīng)過有效的網(wǎng)絡(luò)訓(xùn)練，可以得到正 確的識別分類。實(shí)驗(yàn)具體代碼見附錄四 1。 3.2 基于徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的模式識別 徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)是具有單隱層的三層前饋型網(wǎng)絡(luò)，能夠以任意精度逼近任意 連續(xù)函數(shù)，具有最佳逼近，克服局部極小值問題的性能。它對于每個(gè)訓(xùn)練樣品，只要 對少量的權(quán)值和閥值進(jìn)行修正，這樣就提高

59、了訓(xùn)練速度。徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)方 式分第一步是無監(jiān)督的學(xué)習(xí)方式，第二步是有監(jiān)督學(xué)習(xí)方式。 3.2.1 徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)模型簡述 徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)是一種前饋反向傳播網(wǎng)絡(luò)，輸入層由信號源結(jié)點(diǎn)構(gòu)成，起到 數(shù)據(jù)信息的傳遞作用。隱含層，即徑向基層，對輸入信息進(jìn)行空間映射變換，節(jié)點(diǎn)數(shù) 視情況而定。輸出層，即線性網(wǎng)絡(luò)層，對隱層神經(jīng)元輸出的信息進(jìn)行線性加權(quán)后輸出， 得到整個(gè)神經(jīng)網(wǎng)絡(luò)的輸出結(jié)果，如圖 3-14 所示。 輸入 神經(jīng)元 圖 3-14 徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)模型 在創(chuàng)建徑向基函數(shù)網(wǎng)絡(luò)的過程中，徑向基網(wǎng)絡(luò)設(shè)計(jì)函數(shù) newrbe 和 newrb 是以不同 方式選取和修正網(wǎng)絡(luò)的權(quán)值和閥值，這樣就沒有專門

60、的訓(xùn)練和學(xué)習(xí)函數(shù)。下面主要說 明 newrb 創(chuàng)建徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的過程。 用 newrb 創(chuàng)建徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)，一般需要以下幾個(gè)步驟： (1)以所有的輸入樣本對網(wǎng)絡(luò)仿真。 (2)找到誤差最大的一個(gè)輸入樣本。 (3)增加一個(gè)徑向基神經(jīng)元，其權(quán)值等于該樣本輸入向量的轉(zhuǎn)置；閥值的選擇為： 12 log .5 .b spread (4)以徑向基神經(jīng)元輸出的點(diǎn)作為線性網(wǎng)絡(luò)層神經(jīng)元的輸入，重新設(shè)計(jì)線性網(wǎng)絡(luò)層 使其誤差最小。 (5)當(dāng)均方誤差未達(dá)到規(guī)定的誤差性能指標(biāo)，且神經(jīng)元的數(shù)目未達(dá)到規(guī)定的上限時(shí)， 重復(fù)以上步驟，直到網(wǎng)絡(luò)的均方誤差或神經(jīng)元數(shù)目達(dá)到目標(biāo)值為止。 概率神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)也是一種徑向基神經(jīng)網(wǎng)絡(luò)