《人工智能概論》 課件 第四章 人工神經(jīng)網(wǎng)絡(luò)基礎(chǔ)

《人工智能概論》第四章人工神經(jīng)網(wǎng)絡(luò)基礎(chǔ)目

錄CONTENT01人工神經(jīng)元02感知機(jī)多層感知機(jī)0304Hopfield神經(jīng)網(wǎng)絡(luò)05卷積神經(jīng)網(wǎng)絡(luò)人工神經(jīng)網(wǎng)絡(luò)的思想是通過(guò)仿真生物神經(jīng)系統(tǒng)的微結(jié)構(gòu)——人工神經(jīng)元，在此基礎(chǔ)上構(gòu)建更加復(fù)雜的網(wǎng)絡(luò)系統(tǒng)，以達(dá)到仿真生物神經(jīng)系統(tǒng)的目的，最終使機(jī)器擁有類似人類的智能。本章將介紹人工神經(jīng)網(wǎng)絡(luò)的基本原理及應(yīng)用。PART01生物神經(jīng)元的構(gòu)造生物神經(jīng)元的構(gòu)造如圖所示。樹(shù)突及其突觸。上級(jí)神經(jīng)元傳來(lái)的沖動(dòng)信號(hào)由樹(shù)突上的突觸負(fù)責(zé)接收，再經(jīng)由樹(shù)突傳入細(xì)胞體。細(xì)胞體。由樹(shù)突傳入的沖動(dòng)信號(hào)由細(xì)胞體處理，處理方式大致為：如果傳入的沖動(dòng)信號(hào)達(dá)到或超過(guò)一定的閾值，則神經(jīng)元處于興奮狀態(tài)，否則神經(jīng)元處于抑制狀態(tài)。軸突及其突觸。細(xì)胞體產(chǎn)生的沖動(dòng)信號(hào)經(jīng)由軸突傳到軸突的突觸，再經(jīng)由各突觸傳到下級(jí)神經(jīng)元。010203正常人約有1011個(gè)神經(jīng)元，每個(gè)神經(jīng)元通過(guò)其軸突與其他神經(jīng)元有10～104個(gè)（平均103個(gè)）鏈接，整個(gè)大腦約共有1014個(gè)連接，從而構(gòu)成極其復(fù)雜的神經(jīng)網(wǎng)絡(luò)。生物神經(jīng)元主要由三部分構(gòu)成，三個(gè)部分的功能如下：人工神經(jīng)元模型1.

人工神經(jīng)元的結(jié)構(gòu)為了模擬生物神經(jīng)元的信息處理機(jī)制，麥克洛奇（Warren

McCulloch）和皮茲（Walter

Pitts）于1943年提出了人工神經(jīng)元模型（M-P模型），該模型可以看作是對(duì)生物神經(jīng)元的簡(jiǎn)化和抽象。他們將樹(shù)突及其突觸簡(jiǎn)化并抽象為一組輸入變量，將細(xì)胞體抽象為一個(gè)激活函數(shù)（也稱為傳遞函數(shù)），軸突及其突觸簡(jiǎn)化并抽象為一個(gè)輸出變量y。結(jié)構(gòu)上，該模型可用圖表示。圖中為輸入變量的權(quán)重，b為偏置。人工神經(jīng)元的結(jié)構(gòu)示意圖02人工神經(jīng)元模型2.

人工神經(jīng)元的推理功能上，該模型可以用式（4.1）表示：（4.1）為了簡(jiǎn)化書寫，式（4.1）也可以寫成向量形式：（4.2）式中， ， 。注意，此處偏置 已融合到權(quán)重向量 中，因此輸入向量 的第一個(gè)元素恒為1。同時(shí)，為了簡(jiǎn)化敘述，如不特別說(shuō)明，后面提到的權(quán)重都是指包含偏置的權(quán)重。這里還要特別介紹一下人工神經(jīng)元的激活函數(shù)，或稱為傳遞函數(shù)（Transfer

Function）。激活函數(shù)模擬了生物神經(jīng)元的決策機(jī)制，即負(fù)責(zé)決定人工神經(jīng)元處于興奮還是處于抑制狀態(tài)，是人工神經(jīng)元最為關(guān)鍵的部分。激活函數(shù)有多種形式，這里我們先介紹最為簡(jiǎn)單、最為直接的一種——階躍函數(shù)。02人工神經(jīng)元模型如果用0代表抑制，1代表興奮，則激活函數(shù)可以簡(jiǎn)單地設(shè)計(jì)為（4.3）該函數(shù)也稱為單極型階躍函數(shù)，或者稱為二值硬限器（Binary

Hard

Limiter）。如果用-1代表抑制，1代表興奮，則激活函數(shù)可以簡(jiǎn)單地設(shè)計(jì)為（4.4）02人工神經(jīng)元模型該函數(shù)也稱為對(duì)稱型階躍函數(shù)，或者稱為雙極硬限器（Symmetric

Hard

Limiter）。下圖就是這兩類函數(shù)的圖像。（a）單極型階躍函數(shù)圖像（b）對(duì)稱型階躍函數(shù)圖像階躍函數(shù)的函數(shù)圖像02人工神經(jīng)元模型請(qǐng)你驗(yàn)證右圖所示的人工神經(jīng)元與“與”邏輯等價(jià)。其中，激活函數(shù)為式（4.3）所示的單極型階躍函數(shù)。階躍函數(shù)的函數(shù)圖上圖人工神經(jīng)元的真值人工神經(jīng)元的知識(shí)就包含在它的權(quán)值和偏置中。只要給人工神經(jīng)元設(shè)置適當(dāng)?shù)臋?quán)值和偏置，就可以讓