長短期記憶網(wǎng)絡(luò)（Long Short-Term Memory，LSTM）是遞歸神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Network，RNN）的一個變種，專門設(shè)計用來解決標準 RNN 在處理長序列數(shù)據(jù)時遇到的梯度消失或梯度爆炸問題。標準 RNN 在反向傳播過程中，由于鏈式法則的應(yīng)用，梯度可能會在多層傳播中指數(shù)級地減?。ㄌ荻认В┗蛟龃螅ㄌ荻缺ǎ?，這使得網(wǎng)絡(luò)難以學習和記住長時間步的依賴關(guān)系。

1.遞歸神經(jīng)網(wǎng)絡(luò)（RNN）

RNN 的核心是其循環(huán)結(jié)構(gòu)。在每個時間步，RNN 不僅接收當前輸入數(shù)據(jù)，還接收前一時間步的隱藏狀態(tài)，正是隱藏狀態(tài)的設(shè)計，使得網(wǎng)絡(luò)能夠記住和利用之前的信息。

圖 1 RNN 單元結(jié)構(gòu)

圖1顯示了標準 RNN 的單元結(jié)構(gòu)，其中輸入向量xt，輸出向量ot，隱藏狀態(tài)向量ht-1。當前隱藏狀態(tài)向量ht的計算如下，其輸入當前時間步向量xt和前一時間段步的隱藏狀態(tài)向量ht-1：

其中 σ 表示激活函數(shù)，Wh 和 Wx 是隱藏狀態(tài)變換參數(shù)和輸入變換參數(shù)，隱藏狀態(tài)負責記憶之前時間步上的信息。RNN 的輸出向量ot是對隱藏狀態(tài)做線性變換：

其中 σ 表示激活函數(shù)，Wo?輸出變換。Wh 、Wx 和 Wo 是 RNN 要學習的參數(shù)。標準的 RNN 結(jié)構(gòu)存在兩個主要問題：梯度消失（或增大）；長期信息丟失。

梯度消失（或增大）在長時間序列中，梯度是消失還是增大，與選擇的激活函數(shù)有關(guān)，這里我們解釋梯度消失問題。假設(shè)損失函數(shù)為 L，在反向傳播過程中，針對參數(shù) Wh的梯度計算為：

而?h1/?wh是通過激活函數(shù)做梯度計算，激活函數(shù)的取值范圍是[-1,1]（tanh函數(shù)）或[0,1]（sigmod函數(shù)），因此，連續(xù)相乘會產(chǎn)生梯度消失，

長期信息丟失對當前隱藏狀態(tài)向量產(chǎn)生影響的是當前時間步的輸入向量和前一個時間步的隱藏狀態(tài)向量。當前輸入數(shù)據(jù)往往是會攜帶大量信息，而隱藏狀態(tài)變量是遞歸生成的，隨著遞歸次數(shù)的增加其變化量也會較少，因此 Wx × xt 的值會大于 Wh × ht-1。

▼

2.長短期記憶（LSTM）

LSTM 是一種新的 RNN 結(jié)構(gòu)，能夠有效地保留長期信息并緩解梯度消失問題。LSTM 引入了一個記憶單元（也是單元狀態(tài)向量），用于存儲長期信息。記憶單元通過直接的線性連接在時間步之間傳遞信息，避免了梯度消失問題。LSTM 通過三個門（遺忘門、輸入門和輸出門）來控制信息在時間步間的流動量。

遺忘門: 決定記憶單元中哪些信息需要丟棄。

輸入門: 決定哪些新的信息會被加入記憶單元。

輸出門: 控制記憶單元的輸出部分如何影響最終的輸出。

LSTM 的單元結(jié)構(gòu)如圖2所示。其中，f、i、o分別是遺忘門、輸入門和輸出門，g表示候選進入單元狀態(tài)的信息；σg 和σc表示激活函數(shù)，?表示向量對應(yīng)元素相乘。

圖 2 LSTM 單元結(jié)構(gòu) 每個門對輸入數(shù)據(jù)和前一時刻的隱藏狀態(tài)向量的轉(zhuǎn)換過程可以表示為：

遺忘門：

輸入門：

輸出門：

候選狀態(tài)單元：

進一步，單元狀態(tài)（cellstate）表示為：

隱藏狀態(tài)（hidden state）表示為：

一般情況下，激活函數(shù)σg 和σc分別采用tanh函數(shù)和sigmod函數(shù)。正如公式（5）所示，t時刻的單元狀態(tài)ct，是對前一時刻的單元狀態(tài)做部分遺忘，遺忘的比例由遺忘門ft 決定；并增加部分輸入數(shù)據(jù)，增加的比例由輸入門決定it。而公式（6）表明，每個時間步的隱藏狀態(tài)是部分單元狀態(tài)，比例部分由輸出門ot 決定。

正是由于單元狀態(tài)的引入，可以通過一條直接的路徑記住每個時間步的輸入數(shù)據(jù)，也就是長期依賴關(guān)系；而輸入數(shù)據(jù)通過加法（類似于殘差）引入單元狀態(tài)中，使得反向傳播過程的梯度消失得到緩解。 ▼

3.MATLAB 對 LSTM的支持

在 MATLAB 中，lstmLayer 層實現(xiàn)了 LSTM，其提供了多個屬性用于設(shè)置和初始化 LSTM 的相關(guān)參數(shù)。

MATLAB 中的 lstmLayer 及其屬性

例如NumHiddenUnits用于設(shè)置隱藏狀態(tài)向量的維度，隱藏狀態(tài)包含來自所有先前時間步的信息，其大小也決定了 LSTM 要學習的參數(shù)的規(guī)模；stateActivateFunction設(shè)置單元狀態(tài)和隱藏狀態(tài)的激活函數(shù)；gateActivateFunction用于設(shè)置門操作的激活函數(shù)；還有一個很重要的屬性outputMode，其有兩個值：sequence和last。LSTM 單元按時間步順序處理輸入數(shù)據(jù)，輸出是當前時間步的隱藏狀態(tài)，如圖 3 所示。如果outputMode的屬性值為 sequence，每個時間步的隱藏狀態(tài)向量都會輸出，最終 lstmLayer 輸出一個隱藏狀態(tài)序列，序列長度等于輸入序列的長度；如果outputMode的屬性值為 last，那么 lstmLayer 只輸出最后一個時間步的隱藏狀態(tài)向量。由于 LSTM 是對輸入序列遞歸處理，所以最后一個時間的輸出隱藏狀態(tài)向量已經(jīng)包含其與之前所有時間步的依賴關(guān)系。

圖3（a）LSTM單元的每個時間步的輸入數(shù)據(jù)和輸出數(shù)據(jù)；

圖3(b) LSTM遞歸處理輸入序列，并生成相應(yīng)的輸出序列

MATLAB 還同時支持 BiLSTM（BiderectionalLong Short-Term Memory），也就是雙向 LSTM。BiLSTM 是對 LSTM 的擴展，通過引入雙向信息流來增強模型的上下文捕獲能力。在 BiLSTM 中，輸入序列不僅從前向后處理（正向 LSTM），還從后向前處理（反向 LSTM）。這種雙向處理方式允許模型在每個時間步上同時考慮前后文信息，從而提高預測的準確性。

類似于 lstmLayer，MATLAB 中的 bilstmLayer 實現(xiàn)了 BiLSTM。屬性NumHiddenUnits用于設(shè)置隱藏狀態(tài)向量的維度，其包含先前時間步和后續(xù)時間步的信息，而實際輸出的隱藏狀態(tài)向量維度為 2*NumHiddenUnits，即將前向和后向兩個處理過程的隱藏狀態(tài)進行連接。 ▼

4.LSTM 在基于信號數(shù)據(jù)的故障診斷中的應(yīng)用

基于 LSTM，可以構(gòu)建分類網(wǎng)絡(luò)對設(shè)備或器件做故障診斷。LSTM 可以捕獲傳感器數(shù)據(jù)在時間上的依賴關(guān)系，進而可以識別設(shè)備的動態(tài)特性實現(xiàn)診斷或預測。使用 Deep Network Designer App 構(gòu)建分類網(wǎng)絡(luò)，如圖 4 所示。

圖4 LSTM分類網(wǎng)絡(luò)

lstmLayer 的隱藏單元向量維度設(shè)置為 128，outputMode設(shè)置為sequence，因此，lstmLayer 層的輸出是一個隱藏狀態(tài)向量序列，并且序列中的每個向量的維度為 128。在 lstmLayer 之后使用 globalMaxPooling1dLayer 層對輸出結(jié)果在時間方向上做最大值池化（這類似在傳感器數(shù)據(jù)的深度學習模型應(yīng)用（一） – Transformer中使用的方法），進而其輸出結(jié)果為一個128維的向量，最后我們使用兩個全連接層做線性變化，最終輸出為 3 維的向量對應(yīng)于故障種類。

使用在傳感器數(shù)據(jù)的深度學習模型應(yīng)用（一） – Transformer提到的數(shù)據(jù)集，該數(shù)據(jù)集是對原始信號數(shù)據(jù)做了時域、頻域、以及時頻域的特征提取，進而將具有 146484 采樣點一維數(shù)據(jù)，轉(zhuǎn)換為 1464×30 的二維矩陣（因此，在 LSTM 分類網(wǎng)絡(luò)中輸入層的維度為 30）。數(shù)據(jù)集進步劃分為訓練集和測試集，如下所示：

訓練集(上)

測試集(下)

模型訓練過程，MATLAB 提供了超參數(shù)選項實現(xiàn)模型的進一步調(diào)優(yōu)，而超參數(shù)選項是通過 trainingOptions 函數(shù)設(shè)置的，包括初始學習速率、學習速率衰減策略、minibatch 大小、訓練執(zhí)行環(huán)境（GPU、CPU）、訓練周期等等。經(jīng)過 100 個 Epoch 訓練，模型在測試集上的測試結(jié)果如圖 5 所示：

圖 5 模型訓練過程（上）

圖 5測試集精度（heatmap）(下)

▼

5. 總結(jié)

本文的目的主要是介紹 Long-shortterm memory(LSTM)，以及 MATLAB 對 LSTM 支持和如何在 MATLAB 中構(gòu)建基于 LSTM 的分類網(wǎng)絡(luò)。當然基于 LSTM 還可以構(gòu)建回歸網(wǎng)絡(luò)，實現(xiàn)序列到一個值和序列到序列的預測。本文目的是給讀者在序列數(shù)據(jù)分析提供一種思路，文中的模型設(shè)計和訓練還有可以優(yōu)化地方，僅為讀者提供參考，也歡迎大家做進一步模型結(jié)構(gòu)調(diào)整和精度提升。