第四章突觸動力學(xué)非監(jiān)督學(xué)習(xí)

第四章突觸動力學(xué)非監(jiān)督學(xué)習(xí)復(fù)習(xí)

1Heb學(xué)習(xí)法則簡化后可得2023/1/121第四章突觸動力學(xué)非監(jiān)督學(xué)習(xí)復(fù)習(xí)

2競爭學(xué)習(xí)法則

其中含有一個陡峭邏輯響應(yīng)函數(shù)2023/1/122第四章突觸動力學(xué)非監(jiān)督學(xué)習(xí)復(fù)習(xí)

3微分Heb學(xué)習(xí)法則2023/1/123第四章突觸動力學(xué)非監(jiān)督學(xué)習(xí)復(fù)習(xí)

4微分競爭學(xué)習(xí)法則2023/1/124第四章突觸動力學(xué)非監(jiān)督學(xué)習(xí)信號的Heb學(xué)習(xí)競爭學(xué)習(xí)微分Heb學(xué)習(xí)微分競爭學(xué)習(xí)2023/1/125一信號的Heb學(xué)習(xí)通過求解Heb學(xué)習(xí)法則的公式

(132)可獲得如下積分方程(133)2023/1/126一信號的Heb學(xué)習(xí)近期的影響與遺忘漸進相關(guān)編碼Heb相關(guān)解碼2023/1/127近期的影響與遺忘Heb學(xué)習(xí)遵循的是指數(shù)加權(quán)平均的樣本模式。式中的遺忘項為。上述遺忘項產(chǎn)生了積分方程中先前突觸的指數(shù)系數(shù)。說明學(xué)習(xí)的同時也在遺忘，而且是呈指數(shù)衰減。

（132）中的遺忘項產(chǎn)生了（133）中對先前知識的指數(shù)權(quán)。2023/1/128近期的影響與遺忘實際上遺忘定律提供的最簡單的局部非監(jiān)督學(xué)習(xí)定律為：

（134）說明了兩個關(guān)鍵特征：

1僅依賴于局部信息，即現(xiàn)在的突觸強度。

2呈指數(shù)律達到平衡，可實時操作。2023/1/129漸進相關(guān)編碼

(135)X和Y：雙極信號和。，=1，-1

兩種極端情況：

1

2

實際中必須使用一個對角衰減記憶指數(shù)矩陣

來補償固有的信息指數(shù)衰減。

2023/1/1210漸進相關(guān)編碼

（142）

X和Y表示二極信號矢量矩陣。簡單說，用對角衰減矩陣W的目的就是對過去的聯(lián)想模式取一段學(xué)習(xí)時間，而給最近的m個聯(lián)想模式取更短一些的學(xué)習(xí)時間。達到補償指數(shù)衰減的目的。2023/1/1211Heb相關(guān)解碼考慮m個二極矢量聯(lián)想對的二極相關(guān)編碼。表示n維二極空間中的一個點，表示p維二極空間中的一個點。二極聯(lián)想對對應(yīng)于二值矢量聯(lián)想對。表示n維布爾空間中的一個點，代表p維空間中的一個點。2023/1/1212Heb相關(guān)解碼

可以看出，把0換成-1，就會變成。這樣，若加權(quán)矩陣W為單位陣I，二極聯(lián)想對的Heb編碼就對應(yīng)于（142）的加權(quán)Heb編碼方案：

（143）2023/1/1213Heb相關(guān)解碼可用Heb突觸矩陣M對和神經(jīng)元信號進行雙向處理?？砂焉窠?jīng)元信號前向通過M，后向通過。這里僅考察前向的情況。二極矢量提供給神經(jīng)元系統(tǒng)。有若干，越接近，解碼精度越高。2023/1/1214Heb相關(guān)解碼信噪分解

（144）

（145）

（146）2023/1/1215Heb相關(guān)解碼其中這里為信號矢量而為噪聲矢量。為校正系數(shù)，使每個盡可能從符號上接近于。把或其它靠近的矢量Y通過，校正性質(zhì)依然成立。用神經(jīng)元網(wǎng)絡(luò)從有代表性的訓(xùn)練樣本中估計連續(xù)函數(shù)f時，有一個連續(xù)的假設(shè)。2023/1/1216Heb相關(guān)解碼假定異聯(lián)想樣本從連續(xù)函數(shù)f上取樣，那么輸入的微小變化必然引起輸出的微小變化。

相同的比特數(shù)-不同的比特數(shù)（154）2023/1/1217Heb相關(guān)解碼?若兩個二值矢量和靠近，相同的比特數(shù)大于不同的比特數(shù)，那么。極端情況下，。?時，，校正系數(shù)將度量上含糊不清的矢量丟棄掉，不參與求和。?與相差較遠，。極端情況下，則。2023/1/1218Heb相關(guān)解碼Heb編碼步驟：

1把二值矢量變?yōu)殡p極矢量；

2對鄰接的相關(guān)編碼聯(lián)想求和

若TAM假設(shè)成立

則對同步的TAM輸入，把激勵同步閾值化為信號，就產(chǎn)生了：2023/1/1219Heb相關(guān)解碼Heb編碼步驟（例證）：一個三步極限環(huán)位矢量：

將位矢量轉(zhuǎn)換成二極矢量2023/1/1220Heb相關(guān)解碼

產(chǎn)生TAM矩陣2023/1/1221Heb相關(guān)解碼位矢量通過T產(chǎn)生：因此產(chǎn)生前向極限環(huán)

后向情況類似。2023/1/1222二競爭學(xué)習(xí)確定性競爭學(xué)習(xí)定律：

（165）

也可寫為

這里用的是非線性遺忘項，而Heb學(xué)習(xí)定律用的是線性遺忘項。

因此兩種學(xué)習(xí)方法的區(qū)別在于它們?nèi)绾芜z忘而不是如何學(xué)習(xí)。2023/1/1223二競爭學(xué)習(xí)兩種情況下都有當(dāng)?shù)趈個競爭神經(jīng)元獲勝時，突觸以指數(shù)率迅速編碼信號。與Heb突觸不同的是，競爭突觸當(dāng)突觸后神經(jīng)元失敗時，并不遺忘，此時。因此（165）就簡化為不改變的形式。而Heb學(xué)習(xí)則簡化為（134）的形式。2023/1/1224二競爭學(xué)習(xí)Heb學(xué)習(xí)是分布式的，對每個樣本模式進行編碼，因此學(xué)習(xí)新模式后，會遺忘每個所學(xué)模式的部分。而競爭學(xué)習(xí)不是分布式的，如果樣本模式或堅持足夠長的學(xué)習(xí)，競爭突觸就會成為“grandmother”突觸，突觸值很快等于模式或，其它突觸不會編碼這種模式。?2023/1/1225二競爭學(xué)習(xí)競爭作為指示器競爭作為相關(guān)檢測器漸進質(zhì)心估計競爭協(xié)方差估計2023/1/1226競爭作為指示器質(zhì)心估計需要競爭信號近似于局部樣本模式的指示函數(shù)

（168）

這樣如果樣本x來自于區(qū)域，則第j個競爭元獲勝，其它神經(jīng)元失敗。

（169）

2023/1/1227競爭作為指示器上式是的神經(jīng)元激勵，使用的是隨機線性競爭學(xué)習(xí)和簡單的加模型。與是隨機行矢量，是競爭神經(jīng)元向第j個神經(jīng)元發(fā)出的阻性反饋。

（170）2023/1/1228競爭作為指示器其中是阻性反饋值，它等于突觸加權(quán)信號的和式。式（170）中為二值閾值化函數(shù)，因此該式可簡化為：當(dāng)?shù)趈個神經(jīng)元獲勝時，如果第k個神經(jīng)元獲勝，則?競爭神經(jīng)元激勵自己（或鄰近區(qū)域），同時禁止其它（或較遠的區(qū)域）。2023/1/1229競爭作為相關(guān)檢測器度量指示函數(shù)：

（171）于是競爭學(xué)習(xí)就簡化為信號相關(guān)檢測。這里要用到等范數(shù)的特性。那么如何將度量競爭學(xué)習(xí)簡化為相關(guān)檢測，設(shè)在每個時刻的突觸矢量具有相等的正的有限的范數(shù)值：2023/1/1230競爭作為相關(guān)檢測器（173）從（4-171）知：第j個競爭神經(jīng)元獲勝當(dāng)且僅當(dāng)：

（174—177）

2023/1/1231競爭作為相關(guān)檢測器利用等范數(shù)特性并進一步簡化可得：

（179）

可看出當(dāng)且僅當(dāng)輸入信號模式x與最大相關(guān)時，第j個競爭元才競爭獲勝。余弦定律：度量競爭學(xué)習(xí)的幾何解釋：第j個神經(jīng)元當(dāng)且僅當(dāng)輸入模式更平行于突觸矢量時才獲勝。2023/1/1232漸進的質(zhì)心估計簡化的競爭學(xué)習(xí)定律：

（181）

突觸矢量傾向于等于區(qū)域的質(zhì)心，至少也是平均意義上的質(zhì)心。具體的細節(jié)將在第六章討論。結(jié)論是平均突觸矢量以指數(shù)規(guī)律迅速收斂到質(zhì)心。應(yīng)用此特性可以把訓(xùn)練樣本只通過一次或少數(shù)的幾次即可。

2023/1/1233競爭協(xié)方差估計質(zhì)心估計提供概率密度函數(shù)的一階估計，而局部的協(xié)方差估計提供二階描述。先將競爭學(xué)習(xí)規(guī)律擴展到漸進估計條件協(xié)方差矩陣。

（189）

這里表示的質(zhì)心。每個確定類都有一個質(zhì)心。2023/1/1234競爭協(xié)方差估計

Borel測度隨機矢量y的均方誤差優(yōu)化估計是誤差估計理論的一個重要定理：

（190）

其中為Borel測度隨機矢量函數(shù)。2023/1/1235競爭協(xié)方差估計每一步迭代中估計未知的質(zhì)心作為當(dāng)前突觸矢量。這樣就成為一個誤差條件協(xié)方差矩陣。對于獲勝突觸矢量有下列隨機微分方程算法（191-192）2023/1/1236競爭協(xié)方差估計如果第i個神經(jīng)元在度量競爭中失敗，則（193）

（194）

2023/1/1237三微分Heb學(xué)習(xí)確定的微分Heb學(xué)習(xí)定律：

（204）及其簡化形式（205）

從樣本數(shù)據(jù)的模糊認知映射的動態(tài)估計中提出。直覺上講，Heb相關(guān)促進同時激勵單元中偽因果聯(lián)想。而微分相關(guān)則可以估計激勵單元中同時的，假定為因果的變化。2023/1/1238三微分Heb學(xué)習(xí)模糊認知映射自適應(yīng)因果推理Klopf的驅(qū)動增強模型伴隨變化作為統(tǒng)計協(xié)方差脈沖編碼微分Heb學(xué)習(xí)2023/1/1239模糊認知映射模糊認知映射（FCMS）是帶有反饋的模糊正負號的有向圖。有向邊從因果概念到概念表示對因果程度的測度。邊取值于模糊因果空間，表示沒有因果關(guān)系。表示因果增加，隨的增加而增加，隨其減小而減小。表示因果減小，即隨的增加而減小。2023/1/1240模糊認知映射

圖4.2外國投資礦業(yè)雇用黑人白人種族激進主義工作保留法律黑人種族聯(lián)合種族隔離政府管理力度民族政黨支持者2023/1/1241模糊認知映射FCM的因果連接矩陣：2023/1/1242模糊認知映射上圖的TAM記憶過程：

從外國投資政策開始，即這樣：箭頭后為閾值化操作，1/2作為門限值。2023/1/1243模糊認知映射零因果輸入產(chǎn)生零因果輸出。由于此處測試外國投資，因此保持為1。下一步

下一步

因此是FCM動態(tài)系統(tǒng)的固定點。2023/1/1244自適應(yīng)因果推理當(dāng)我們觀察兩個變量之間的伴隨變化或滯后變化，要推出其間的因果關(guān)系，若A改變時B也改變，則猜想它們之間有因果關(guān)系，相關(guān)改變越大，因果關(guān)系越準(zhǔn)確。時間導(dǎo)數(shù)測值變化，導(dǎo)數(shù)的乘積將這些變化關(guān)聯(lián)起來。這就導(dǎo)出了簡單的微分Heb學(xué)習(xí)規(guī)則

2023/1/1245自適應(yīng)因果推理其中為被動衰減項，它強制不改變的概念為零因果。伴隨變化項表明因果性隨鄰接概念的變化增加或減少，導(dǎo)數(shù)可正可負，若，都增加或都減少，導(dǎo)數(shù)乘積為正，否則為負，該項提供了一個簡單的因果時間方向。2023/1/1246Klopf的驅(qū)動增強模型HarryKlopf單獨提出如下微分Heb學(xué)習(xí)的離散變量：增強驅(qū)動模型中，強行加入幾個限制。神經(jīng)元膜電勢和必須遵循加性激勵規(guī)則：2023/1/1247Klopf的驅(qū)動增強模型微分形式的驅(qū)動增強模型為：突觸幅度增強突觸的可塑性，假定第ij個突觸被激勵時，則上式可改寫為：。一般項很小，用以阻止快速遺忘，因此上式就變?yōu)椋?023/1/1248伴隨變化作為統(tǒng)計協(xié)方差伴隨變化類似于協(xié)方差。微分Heb學(xué)習(xí)中將變化解釋為時間的改變，伴隨的是耦合或乘積。另外還可以從空間的角度將變化解釋為統(tǒng)計方差或協(xié)方差。協(xié)方差學(xué)習(xí)規(guī)則的形式如下：加入遺忘項一方面保持突觸有限，另一方面建立遺忘的模型。2023/1/1249伴隨變化作為統(tǒng)計協(xié)方差上式描述突觸隨機過程的時間進化。進一步將上式寫為：可以用實際觀察值來代替未知平均值。如何在每個時刻估計未知的均值？可以用稍微滯后的隨機近似估計，martingale假設(shè)用現(xiàn)在估計將來，或者用過去估計現(xiàn)在。2023/1/1250伴隨變化作為統(tǒng)計協(xié)方差

上述分形接線假設(shè)的精度隨著s靠近t而提高。該式表示了一種合理的期望，前提是信號過程具有良好的行為。該假設(shè)的離散形式如下:

2023/1/1251伴隨變化作為統(tǒng)計協(xié)方差這樣方差項就可以簡化為時間上的伴隨變化項。學(xué)習(xí)規(guī)則也就成了典型的Heb差分學(xué)習(xí)：從開始遞歸上式可得到：

2023/1/1252脈沖編碼的微分Heb學(xué)習(xí)脈沖編碼信號函數(shù)：

（239）

（240）其中和都是脈沖函數(shù)，在t時刻

為1，其余地方為0。

速度微分特性（脈沖編碼信號）：2023/1/1253脈沖編碼的微分Heb學(xué)習(xí)利用速度微分特性，可得到脈沖編碼微分Heb學(xué)習(xí)規(guī)則：當(dāng)沒有脈沖出現(xiàn)，即時，簡化為隨機信號學(xué)習(xí)規(guī)則。2023/1/1254脈沖編碼的微分Heb學(xué)習(xí)用雙極信號代替二值信號，接著假定脈沖及其期望頻率分別相互獨立，將上式的平均行為簡化為：

即隨機信號Heb學(xué)習(xí)規(guī)則的總體平均等價于典型的確知信號Heb學(xué)習(xí)規(guī)則。2023/1/1255四微分競爭學(xué)習(xí)微分競爭學(xué)習(xí)規(guī)則為：用速度微分特性代替上式中的