計算機視覺應用開發(fā)課件：LSTM（上）

LSTMRNN概述01任務LSTM概述02任務學習目標了解RNN的網(wǎng)絡結(jié)構(gòu)了解LSTM的基本概念1RNN概述1RNN概述之前講神經(jīng)網(wǎng)絡的時候，只能一次單獨處理一個圖像的輸入，并且前一個輸入和后一個輸入是完全沒有關(guān)系的。但是在某些任務中需要能夠更好地處理序列的信息，即前面的輸入和后面的輸入是有關(guān)系的。比如，當理解一句話的時候，需要把組成這句話的所有詞關(guān)聯(lián)起來，而不能去單獨地理解每個詞的意思。以自然語言處理的詞性標注任務來講，一個句子中，前一個單詞其實對于當前單詞的詞性預測是有很大影響的。比如“小明跳舞”，“關(guān)公舞大刀”，同樣是“舞”字，詞性卻不相同，前者是名詞，后者是動詞。但是由于“小明跳舞”中“舞”子的前面“跳”是一個動詞，那么很顯然“舞”作為名詞的概率就會遠大于動詞的概率。因為動詞后面接名詞很常見，而動詞后面接動詞很少見。所以為了解決一些這樣類似的問題，能夠更好的處理序列的信息，RNN就誕生了。1RNN概述RNN（RecurrentNeuralNetwork）循環(huán)神經(jīng)網(wǎng)絡，是一類以序列數(shù)據(jù)為輸入，在序列的演進方向進行遞歸且所有節(jié)點（循環(huán)單元）按鏈式連接的遞歸神經(jīng)網(wǎng)絡。RNN是一種特殊的神經(jīng)網(wǎng)絡結(jié)構(gòu),它是根據(jù)“人的認知是基于過往的經(jīng)驗和記憶”這一觀點提出的。它與DNN，CNN不同的是：它不僅考慮前一時刻的輸入，而且賦予了網(wǎng)絡對前面的內(nèi)容的一種‘記憶’功能。1RNN概述圖中展示的是一個簡單的循環(huán)神經(jīng)網(wǎng)絡結(jié)構(gòu)圖：可以看到，如果把上面的“W”去掉，它就變成了前面講的神經(jīng)網(wǎng)絡。X代表輸入層的值，S代表隱藏層的值，O代表輸入層的值，U和V分別代表層到層之間的權(quán)重。那W是什么呢？循環(huán)神經(jīng)網(wǎng)絡的隱藏層的值S不僅僅取決于當前這次的輸入X，還取決于上一次隱藏層的值S，

W就是隱藏層上一次的值作為這一次的輸入的權(quán)重。1RNN概述可以把W按照時間線展開，循環(huán)神經(jīng)網(wǎng)絡就變成如圖右側(cè)一樣：現(xiàn)在看上去就比較清楚了，這個網(wǎng)絡在t時刻接收到輸入

之后，隱藏層的值是

，輸出值是。關(guān)鍵一點是，

的值不僅僅取決于

，還取決于

。1RNN概述在t=1時刻，一般初始化輸入

=0，隨機初始化W，U，V，進行下面的公式計算：其中，f和g均為激活函數(shù)。其中f可以是tanh，ReLu，sigmoid等激活函數(shù)，g通常是softmax也可以是其他激活函數(shù)。1RNN概述時間就向前推進，此時的狀態(tài)

作為時刻1的記憶狀態(tài)將參與下一個時刻的預測活動，也就是：以此類推,可以得到最終的輸出值為:2LSTM概述2LSTM概述RNN的關(guān)鍵點之一就是它們可以用來連接先前的信息到當前的任務上。但是當相關(guān)信息和當前預測位置之間的間隔變得非常大，RNN會喪失學習到連接如此遠的信息的能力。LSTM就是專門設(shè)計出來解決這個問題的。LSTM（LongShort-TermMemory），長短期記憶網(wǎng)絡，是一種特殊的RNN，是為了解決RNN長期依賴問題而專門設(shè)計出來的。所有的RNN都具有一種重復神經(jīng)網(wǎng)絡模塊的鏈式形式。在標準RNN中，這個重復的結(jié)構(gòu)模塊只有一個非常簡單的結(jié)構(gòu)，例如一個tanh層，如圖所示。2LSTM概述LSTM也擁有這種鏈狀結(jié)構(gòu)，但是重復模塊則擁有不同的結(jié)構(gòu)。與神經(jīng)網(wǎng)絡的簡單的一層相比，LSTM擁有四層，這四層以特殊的方式進行交互。如圖所示。