根植于統(tǒng)計力學(xué)的隨機方法

組員根植于統(tǒng)計力學(xué)的隨機方法組員組員

目錄12345基礎(chǔ)介紹隨機模擬/優(yōu)化方法小結(jié)確定退火和最大期望算法基于統(tǒng)計力學(xué)的隨機機器21基礎(chǔ)介紹(第一節(jié)：引言)統(tǒng)計力學(xué)的主要目標(biāo)：從微觀元素推導(dǎo)出宏觀物體的熱力學(xué)性質(zhì)。系統(tǒng)越有序或者它的概率分布越集中，則熵越小。Boltzman機是第一個由統(tǒng)計力學(xué)導(dǎo)出的多層學(xué)習(xí)機，可以對給定數(shù)據(jù)的固有概率分布進行建模31基礎(chǔ)介紹(第二節(jié)：統(tǒng)計力學(xué))考慮具有許多自由度的物理系統(tǒng)，他可以駐留在大量可能狀態(tài)中的任何一個。我們pi用表示一個隨機系統(tǒng)中狀態(tài)i發(fā)生的概率，則：41基礎(chǔ)介紹當(dāng)系統(tǒng)和它周圍環(huán)境處于熱平衡時，狀態(tài)發(fā)生的概率為：由概率規(guī)范化條件可以得到剖分函數(shù)：它的概率分布稱為典型分布或Gibbs分布。51基礎(chǔ)介紹對Gibbs分布以下兩點值得注意：1.能量低的狀態(tài)比能量高的狀態(tài)發(fā)生的概率高。2.隨著溫度T降低，概率集中在低能狀態(tài)的一個更小的子集上。溫度T被視為一種偽溫度，它控制表示神經(jīng)元“突觸噪聲”的熱波動。同時，置常數(shù)為1，重新定義概率和剖分函數(shù)：61基礎(chǔ)介紹自由能量和熵的關(guān)系式如下其中最小自由能量原則：隨機系統(tǒng)變元的自由能量的最小值可在熱平衡時達到，此時系統(tǒng)服從Gibbs分布。自然偏愛具有最小自由能量的物理系統(tǒng)。71基礎(chǔ)介紹（第三節(jié)：馬爾科夫鏈）隨機過程滿足稱這個過程為馬爾科夫鏈。在馬爾科夫鏈中，從一個狀態(tài)到另一個狀態(tài)的轉(zhuǎn)移是隨機的，但輸出符號確實確定的。令表示在時刻狀態(tài)轉(zhuǎn)移到時刻狀態(tài)的轉(zhuǎn)移概率。81基礎(chǔ)介紹既然pij是條件概率，所有轉(zhuǎn)移概率必須滿足兩個條件：假設(shè)轉(zhuǎn)移概率是固定的，不隨時間改變。且對所有時間n成立。在這種情況下，馬爾科夫鏈關(guān)于時間是其次的，構(gòu)成一個K×K矩陣（隨機矩陣）：91基礎(chǔ)介紹前面定義的一步轉(zhuǎn)移概率推廣至固定步數(shù)的狀態(tài)轉(zhuǎn)移。則從狀態(tài)i到狀態(tài)j的m步轉(zhuǎn)移概率：馬爾科夫鏈所具有的性質(zhì)：常返性假設(shè)一個馬爾科夫鏈從狀態(tài)i開始，他以概率1返回狀態(tài)i，則稱狀態(tài)i為常返的，若pi<1，稱i為瞬態(tài)。101基礎(chǔ)介紹周期性常返的馬爾科夫鏈具有周期性是指所有狀態(tài)能被編入d個各不相交的子集S1，S2...Sd，其中d>1,任意兩個子集的轉(zhuǎn)移都有這種方式。并且滿足以下條件：111基礎(chǔ)介紹不可約馬爾科夫鏈如果從狀態(tài)i到狀態(tài)j存在有限步的正概率的轉(zhuǎn)移，則i到j(luò)是可達的。如果i與j互為可達，則狀態(tài)i月狀態(tài)j相通。如果馬爾科夫鏈的兩個狀態(tài)相通，則其屬于同一類。如果所有狀態(tài)組成一個類，則稱該馬爾科夫鏈?zhǔn)遣豢煞值?。遍歷馬爾科夫鏈遍歷意味著我們用時間的平均代替總體平均。馬爾科夫鏈?zhǔn)潜闅v的一個充分不必要條件：他為不可約且是非周期的。121基礎(chǔ)介紹收斂于平衡分布令πn-1是第j個向量在時刻n-1時鏈處于狀態(tài)xj的概率。n時刻狀態(tài)分布向量可以定義為：迭代以后：最終：131基礎(chǔ)介紹假設(shè)時間n趨于無窮大，pij(n)趨于與i無關(guān)的πj，pn可以表示為：因為定義，初始分布的獨立向量滿足這個條件。141基礎(chǔ)介紹所以根據(jù)遍歷定理：從任意初始分布開始，一個馬爾科夫鏈的轉(zhuǎn)移概率將收斂于一個平穩(wěn)分布，只要這個平穩(wěn)分布存在。遍歷的馬爾科夫鏈的平穩(wěn)分布獨立于他的初始分布。狀態(tài)分類151基礎(chǔ)介紹細節(jié)平衡原則在熱平衡中任何轉(zhuǎn)移的發(fā)生率等于對應(yīng)的逆轉(zhuǎn)移的發(fā)生率。一個馬爾科夫鏈滿足細節(jié)平衡原則稱為可逆的。162隨機模擬/優(yōu)化方法模擬方法優(yōu)化方法Metropolis算法Gibbs采樣模擬退火172隨機模擬/優(yōu)化方法Metropolis算法是MonteCarlo方法的一種修改。MonteCarlo方法是對大量原子在給定溫度下的平衡態(tài)的隨機模擬。MCMC方法定義：對于模擬一個未知分布的MCMC方法是指產(chǎn)生一個遍歷的馬爾科夫鏈而它的平穩(wěn)分布是未知的。MCMC方法基本原理：利用細節(jié)平衡條件構(gòu)建一個概率轉(zhuǎn)移矩陣，使得目標(biāo)概率就是概率轉(zhuǎn)移矩陣的平穩(wěn)分布。隨機模擬方法182隨機模擬/優(yōu)化方法表示系統(tǒng)從狀態(tài)到狀態(tài)所產(chǎn)生的能量差。統(tǒng)計分析假設(shè)：192隨機模擬/優(yōu)化方法轉(zhuǎn)移概率的選擇：對于任意的馬爾科夫鏈，設(shè)有先驗概率，記為，滿足歸一性，非負性和對稱性。用先驗概率和概率分布比構(gòu)成期望的轉(zhuǎn)移概率：202隨機模擬/優(yōu)化方法根據(jù)構(gòu)造，轉(zhuǎn)移概率的非負的且規(guī)整化為單位1。滿足細節(jié)平衡原則。212隨機模擬/優(yōu)化方法Gibbs抽樣器的轉(zhuǎn)移概率是非平穩(wěn)的。222隨機模擬/優(yōu)化方法1.收斂定理。2.收斂速度定理。隨機變量的聯(lián)合概率以n的幾何級數(shù)速度收斂于的聯(lián)合分布函數(shù)。（自然順序訪問）3.遍歷定理。Gibbs抽樣滿足以下三個定理：232隨機模擬/優(yōu)化方法模擬退火決定溫度下降速度的調(diào)度表一個算法迭代求解每個調(diào)度表給出的新的溫度下的平衡分布模擬退火解決非凸優(yōu)化問題的有力工具。隨機優(yōu)化方法242隨機模擬/優(yōu)化方法基本思想：當(dāng)優(yōu)化一個非常復(fù)雜的大系統(tǒng)（即具有許多自由度的系統(tǒng)）時不要求總是下降而是試圖要求大部分時間在下降。與傳統(tǒng)的迭代優(yōu)化算法不同：1.不會陷入局部最小；2.模擬退火是自適應(yīng)的。252隨機模擬/優(yōu)化方法模擬退火過程以Metropolis算法為基礎(chǔ)。設(shè)溫度下降沒有對數(shù)快，這樣可以保證全局最優(yōu)，但速度慢。退火進度表參數(shù)：1.溫度初始值。足夠高，所有提出的轉(zhuǎn)移都被接受。2.溫度的下降。指數(shù)形式。下降函數(shù)定義：3.溫度的最后值。262隨機模擬/優(yōu)化方法模擬退火算法流程圖27隨機生成初始解計算目標(biāo)函數(shù)擾動產(chǎn)生新解計算目標(biāo)函數(shù)接受新解按Metropolis準(zhǔn)則接受新解是否是否達到迭代次數(shù)是否達到迭代次數(shù)是否緩慢降低溫度重置迭代次數(shù)否運算結(jié)束返回最優(yōu)解2隨機模擬/優(yōu)化方法模擬退火特別適用于解組合優(yōu)化問題。組合優(yōu)化的目標(biāo)是針對有很多可能解的有限離散化系統(tǒng)，最小化它的代價函數(shù)。283確定退火和最大期望算法確定退火時，隨機性以某種形式結(jié)合到能量或代價函數(shù)中，因此在一系列下降溫度情況下進行確定性最優(yōu)化。聚類中需要一個畸變度量，滿足的性質(zhì)為：1.對任何x它是y的凸函數(shù)。2.當(dāng)變元x,y有限時，它是有限的。期望畸變：確定退火算法293確定退火和最大期望算法隨機水平的主要度量為香農(nóng)熵：尋找服從特定隨機水平概率分布，使期望畸變最小化。拉格朗日函數(shù)：303聚類的確定退火算法：1.固定碼向量，利用給定的畸變度量的Gibbs分布計算聯(lián)想概率。2.固定聯(lián)想，對碼向量y最優(yōu)化畸變度量。確定退火和最大期望算法313確定退火和最大期望算法案例研究：混合高斯分布323在確定退火中混合高斯分布樣本的相位圖確定退火和最大期望算法333確定退火和最大期望算法EM算法E步驟：計算期望，即利用對未知參數(shù)的現(xiàn)有估計值，通過計算當(dāng)前的最大似然期望值，得到潛在變量的后驗概率；即計算：

M步驟：最大化，即重新估計未知參數(shù)，使得在E步驟求得的數(shù)據(jù)的似然性最大，給出未知參數(shù)的期望估計。即：

343確定退火和最大期望算法353確定退火和最大期望算法36樣本EM計算過程3確定退火和最大期望算法37最終分類結(jié)果3確定退火和最大期望算法確定性退火與EM算法類比：確定性退火比EM算法更一般，因為確定性退火不對數(shù)據(jù)固有概率做假設(shè)。384基于統(tǒng)計力學(xué)的隨機機器目錄Boltzmann機01Logistic信度網(wǎng)絡(luò)02深度信度網(wǎng)絡(luò)0339Boltzmann機01Logistic信度網(wǎng)絡(luò)02深度信度網(wǎng)絡(luò)034基于統(tǒng)計力學(xué)的隨機機器目錄404.1Boltzmann機BM是由隨機神經(jīng)元組成的二值隨機機器，其中的神經(jīng)元都是以概率方式二值存在，只有激活和不激活兩種狀態(tài)，兩種狀態(tài)取-1和1（或0和1）；BM的隨機神經(jīng)元分為兩個部分——可見層和隱層，學(xué)習(xí)的主要目的是產(chǎn)生一個神經(jīng)網(wǎng)絡(luò)，對輸入模式進行正確的建模，是無監(jiān)督學(xué)習(xí)。414.1Boltzmann機令x表示BM的狀態(tài)向量，它的分量xi表示神經(jīng)元i

的狀態(tài)，狀態(tài)x代表隨機向量X的一次實現(xiàn)。從神經(jīng)元i到神經(jīng)元j的突出連接記為Wij，滿足wji=wij

對所有i，jwii=0對于所有I用一個輸出恒為+1的虛節(jié)點到所有神經(jīng)元的連接權(quán)值wj0表示偏置。

424.1Boltzmann機

434.1Boltzmann機為簡化表示，定義單個事件A及聯(lián)合事件B和C如下：實際上，聯(lián)合事件B排斥A，而聯(lián)合事件C包括A和B。B的概率是C關(guān)于A的邊緣概率。因此，444.1Boltzmann機將指數(shù)部分按是否包含xj表示成兩項之和，其中包含xj的項為：相應(yīng)地，給定B，置xj=xi=±1，我們可以給出A的條件概率也就是可寫成：454.1Boltzmann機其中φ(·)為logistic函數(shù)，表示為雖然x在-1和+1間變化，但當(dāng)v充分大時，整個變量可在-∞到+∞之間變化464.1Boltzmann機利用Gibbs抽樣表示聯(lián)合分布P(A,B)。基本上，如11.6節(jié)所解釋的那樣，這個隨機模擬開始時給網(wǎng)絡(luò)賦予任一狀態(tài)，神經(jīng)元以它們的自然順序依次重復(fù)訪問，每次訪問，選擇一個神經(jīng)元，根據(jù)其他神經(jīng)元的值確定該神經(jīng)元狀態(tài)新值的選擇概率。假定這個隨機模擬進行足夠長的時間，則網(wǎng)絡(luò)將達到在溫度T下的平衡。但是這一熱平衡過程可能非常長。為了克服這個困難，如同在11.5節(jié)所解釋的那樣，對有限溫度序列使用模擬退火，可以更快到達它們的邊緣分布。474.1Boltzmann機

Boltzmann機是一種隨機機器，它自然依賴于用概率論評價其性能。這種標(biāo)準(zhǔn)之一是似然函數(shù)。在此基礎(chǔ)上，根據(jù)最大似然原則，Boltzmann學(xué)習(xí)的目標(biāo)是最大化似然函數(shù)或等價的對數(shù)似然函數(shù)。令狀態(tài)向量x的子集xα。表示可見神經(jīng)元狀態(tài)。向量x的剩余部分xβ表示隱藏神經(jīng)元的狀態(tài)。狀態(tài)向量x，xα和xβ分別表示隨機向量X,Xα和Xβ的實現(xiàn)。Boltzmann機的運行分成兩個階段:正向階段，在訓(xùn)練集的影響下運行；反向階段，網(wǎng)絡(luò)自由運行。484.1Boltzmann機對整個網(wǎng)絡(luò)給定突觸間權(quán)值w，可見神經(jīng)元狀態(tài)為xα的概率是P(Xα=xα)。訓(xùn)練集中包含許