基于SDAE-Transformer-ECA網(wǎng)絡(luò)的鋰電池剩余使用壽命預(yù)測(cè)

摘要

鋰離子電池剩余使用壽命(remainingusefullife，RUL)的準(zhǔn)確預(yù)測(cè)對(duì)于提高電池使用壽命、降低異常事故的概率，起著至關(guān)重要的作用。本文結(jié)合堆疊噪聲自編碼器(stackeddenoisingautoencoder，SDAE)和變壓器(transformer)的優(yōu)勢(shì)，提出了一種結(jié)合高效通道注意力(efficientchannelattention，ECA)的SDAE-Transformer-ECA的鋰離子電池RUL預(yù)測(cè)網(wǎng)絡(luò)。首先，針對(duì)電池在使用過(guò)程中存在的容量再生現(xiàn)象和數(shù)據(jù)集采集誤差等噪聲污染，利用SDAE對(duì)輸入數(shù)據(jù)進(jìn)行重構(gòu)去噪、提取特征。然后，通過(guò)Transformer網(wǎng)絡(luò)對(duì)重構(gòu)數(shù)據(jù)進(jìn)行序列信息的捕獲。最后，結(jié)合ECA網(wǎng)絡(luò)對(duì)捕獲信息進(jìn)行跨通道整合和交互，從而實(shí)現(xiàn)鋰離子電池的RUL的預(yù)測(cè)。本文先基于美國(guó)馬里蘭大學(xué)先進(jìn)生命周期工程中心(CenterforAdvancedLifeCycleEngineering，CALCE)提供的電池容量數(shù)據(jù)集進(jìn)行實(shí)驗(yàn)驗(yàn)證，實(shí)驗(yàn)證明本文模型的各項(xiàng)誤差都較低，具有較高的準(zhǔn)確性，且與次優(yōu)算法Bi-LSTM相比，平均RE相對(duì)降低了62.67%，平均MAE相對(duì)降低了40.68%，平均RMSE相對(duì)降低了34.33%。再使用美國(guó)航空航天局(NationalAeronauticsandSpaceAdministration，NASA)提供的B0007號(hào)電池容量數(shù)據(jù)集進(jìn)行泛化性驗(yàn)證，實(shí)驗(yàn)得到的RE、MAE和RMSE結(jié)果分別是1.98%、3.12%和4.16%，與RNN、LSTM、GRU和Bi-LSTM等現(xiàn)有算法相比，本文模型預(yù)測(cè)準(zhǔn)確性更高，證明了該模型的泛化性。關(guān)鍵詞

鋰離子電池；SDAE；Transformer；注意力機(jī)制；剩余使用壽命預(yù)測(cè)鋰離子電池(簡(jiǎn)稱(chēng)鋰電池)以其能量密度高、功率大和自放電率低等優(yōu)勢(shì)而廣泛應(yīng)用于儲(chǔ)能領(lǐng)域。然而，鋰離子電池在長(zhǎng)時(shí)間使用中會(huì)發(fā)生性能和壽命的衰減，且成組電池中個(gè)別電芯性能的衰減極易導(dǎo)致嚴(yán)重安全隱患，這已成為鋰電池安全性與可靠性的持續(xù)挑戰(zhàn)。因此，準(zhǔn)確預(yù)測(cè)鋰電池剩余使用壽命(remainingusefullife，RUL)對(duì)完善電池管理策略，降低電池運(yùn)行風(fēng)險(xiǎn)、提高電池運(yùn)行穩(wěn)定性具有重要的意義。在過(guò)去的幾十年中，眾多研究人員已經(jīng)開(kāi)發(fā)了許多方法和技術(shù)來(lái)預(yù)測(cè)鋰電池的RUL，這些方法大致可分為基于模型的方法和基于數(shù)據(jù)驅(qū)動(dòng)的方法?；谀Ｐ偷姆椒ㄊ峭高^(guò)電池的內(nèi)部機(jī)理，來(lái)搭建鋰電池退化模型，然后進(jìn)行優(yōu)化求解的一類(lèi)算法。如提出了一種基于可在線(xiàn)實(shí)現(xiàn)的分?jǐn)?shù)階等效電路模型(fractionalequivalentcircuitmodel，F(xiàn)OECM)的RUL預(yù)測(cè)算法，但是這類(lèi)等效電路算法模型復(fù)雜，且是基于特定的測(cè)試條件和電池構(gòu)造的模型，因此適應(yīng)性較差。通過(guò)電化學(xué)模型研究鋰電池的退化規(guī)律，來(lái)實(shí)現(xiàn)RUL的預(yù)測(cè)，但電化學(xué)模型參數(shù)難以估計(jì)，且模型受到多種因素的影響，例如電池狀態(tài)和外部環(huán)境等。構(gòu)建了基于模型的無(wú)跡粒子濾波和最優(yōu)組合策略結(jié)合的RUL預(yù)測(cè)方法，此類(lèi)改進(jìn)粒子濾波的算法一定程度上克服了粒子退化和粒子多樣性匱乏等問(wèn)題，但模型的建立和求解過(guò)程存在大量的運(yùn)算增加了模型的復(fù)雜度?？偟膩?lái)說(shuō)，基于模型的算法存在參數(shù)難以估計(jì)、受多種因素影響以及模型過(guò)于復(fù)雜等問(wèn)題，因此在實(shí)際工程應(yīng)用中難以實(shí)現(xiàn)。相比之下，基于數(shù)據(jù)驅(qū)動(dòng)的方法不需要考慮鋰電池內(nèi)部特性，它通過(guò)分析鋰電池歷史運(yùn)行數(shù)據(jù)探究電池老化的內(nèi)在規(guī)律，從而實(shí)現(xiàn)鋰電池RUL預(yù)測(cè)，因此更多學(xué)者用此類(lèi)算法做研究。如提出了一種以支持向量機(jī)(supportvectormachine，SVM)算法進(jìn)行在線(xiàn)估計(jì)的RUL方法。文獻(xiàn)[12]采用高斯過(guò)程回歸(Gaussianprocessregression，GPR)和主成分分析(principalcomponentanalysis，PCA)結(jié)合的方法實(shí)現(xiàn)了鋰電池RUL預(yù)測(cè)。針對(duì)核函數(shù)難以確定的問(wèn)題，提出采用平方指數(shù)協(xié)方差函數(shù)和周期協(xié)方差函數(shù)的和作為GPR模型的協(xié)方差函數(shù)，進(jìn)行了RUL預(yù)測(cè)。針對(duì)網(wǎng)絡(luò)訓(xùn)練時(shí)間長(zhǎng)、模型調(diào)參困難以及預(yù)測(cè)結(jié)果不穩(wěn)定等問(wèn)題，利用相關(guān)向量機(jī)(relevancevectormachine，RVM)實(shí)現(xiàn)了RUL預(yù)測(cè)，并通過(guò)量子粒子群對(duì)RVM進(jìn)行了優(yōu)化，保證了預(yù)測(cè)輸出結(jié)果的穩(wěn)定性。然而，這些傳統(tǒng)的方法往往存在特征設(shè)計(jì)困難和泛化性不足等問(wèn)題。隨著軟硬件設(shè)施的快速發(fā)展，深度學(xué)習(xí)算法靠著其處理復(fù)雜非線(xiàn)性關(guān)系的強(qiáng)大能力，受到了各大領(lǐng)域的廣泛關(guān)注。目前也有很多研究者采用此類(lèi)算法進(jìn)行電池RUL預(yù)測(cè)研究，主要關(guān)注網(wǎng)絡(luò)構(gòu)建、數(shù)據(jù)去噪和數(shù)據(jù)增強(qiáng)3個(gè)方面。網(wǎng)絡(luò)構(gòu)建方面，利用循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrentneuralnetwork，RNN)，以容量老化數(shù)據(jù)作為輸入，較好地對(duì)電池老化狀態(tài)做出了預(yù)測(cè)，但是RNN本身存在過(guò)度擬合和梯度消失的劣勢(shì)。文獻(xiàn)[16]設(shè)計(jì)了長(zhǎng)短期記憶遞歸神經(jīng)網(wǎng)絡(luò)(longshorttermmemoryrecurrentneuralnetwork，LSTM-RNN)來(lái)構(gòu)造明確面向容量的RUL預(yù)測(cè)器，該方法減小了RNN的梯度消失，缺點(diǎn)是該網(wǎng)絡(luò)結(jié)構(gòu)復(fù)雜且訓(xùn)練參數(shù)較多。以門(mén)控卷積單元(gaterecurrentunit，GRU)作為RUL預(yù)測(cè)的主干網(wǎng)絡(luò)，使得模型在訓(xùn)練時(shí)間較短的情況下，仍能保持不錯(cuò)的精度，但此類(lèi)網(wǎng)絡(luò)能夠儲(chǔ)存的長(zhǎng)期依賴(lài)性和記憶能力更弱。設(shè)計(jì)了一種堆疊雙向長(zhǎng)短期記憶(bi-directionallongshort-termmemory，Bi-LSTM)網(wǎng)絡(luò)的SOH估計(jì)方法，該方法能夠有效地適用于快速充電器，但由于Bi-LSTM需要在每個(gè)時(shí)刻保留原始序列和反向序列的全部信息，導(dǎo)致其計(jì)算量和存儲(chǔ)復(fù)雜度大幅增加，不利于工程應(yīng)用。數(shù)據(jù)降噪方面，一方面電池容量因其與電池壽命的強(qiáng)相關(guān)性，常常作為電池RUL預(yù)測(cè)中非常重要的一個(gè)特征，另一方面，電池在充放電過(guò)程中大多存在容量恢復(fù)現(xiàn)象，該現(xiàn)象的直接影響是給容量數(shù)據(jù)的長(zhǎng)周期下降趨勢(shì)疊加了短周期上升的噪聲，將嚴(yán)重影響將容量作為直接特征的電池RUL預(yù)測(cè)效果。考慮到該問(wèn)題，目前已有一些文獻(xiàn)通過(guò)分離、去除的特征選擇方法進(jìn)行了研究。如通過(guò)小波分解將序列分解成波動(dòng)部分和平滑下降部分來(lái)分別預(yù)測(cè)，取得了不錯(cuò)的RUL預(yù)測(cè)結(jié)果，但小波分解對(duì)數(shù)據(jù)信號(hào)的平滑性要求很高且參數(shù)選擇敏感。分別用經(jīng)驗(yàn)?zāi)B(tài)分解(empiricalmodedecomposition，EMD)和集合經(jīng)驗(yàn)?zāi)B(tài)分解(ensembleempiricalmodedecomposition，EEMD)對(duì)電池?cái)?shù)據(jù)去噪處理，這兩種方法比小波分解適應(yīng)性更強(qiáng)，但容易出現(xiàn)模態(tài)混疊現(xiàn)象。使用變分模態(tài)分解(variationalmodaldecomposition，VMD)對(duì)RUL進(jìn)行預(yù)測(cè)能夠有效避免模態(tài)混疊現(xiàn)象，并且對(duì)噪聲的魯棒性強(qiáng)，其缺點(diǎn)在于需要人工確定模態(tài)個(gè)數(shù)，尋優(yōu)過(guò)程比較困難。數(shù)據(jù)增強(qiáng)方面，注意力機(jī)制可以通過(guò)加權(quán)考慮序列中的每個(gè)元素，從而使得序列中有用信息在訓(xùn)練過(guò)程不會(huì)丟失。該方法一定程度上緩解了序列長(zhǎng)距離依賴(lài)性，因此一些文獻(xiàn)也采用此類(lèi)算法進(jìn)行電池RUL預(yù)測(cè)研究。如提出了一種具有注意力機(jī)制的Bi-LSTM模型，實(shí)現(xiàn)了RUL的在線(xiàn)預(yù)測(cè)。提出了一種深度神經(jīng)網(wǎng)絡(luò)和雙重注意力機(jī)制的混合模型，通過(guò)注意力捕獲電池容量再生現(xiàn)象，從而實(shí)現(xiàn)了RUL的預(yù)測(cè)。綜上所述，找到一種匹配的注意力機(jī)制能夠減少噪聲對(duì)模型的影響，提升模型的效率和準(zhǔn)確性。綜上所述，盡管大多數(shù)現(xiàn)有的深度學(xué)習(xí)算法在鋰電池RUL預(yù)測(cè)研究中都表現(xiàn)出了良好的性能，但它們?nèi)源嬖谝韵聝蓚€(gè)主要問(wèn)題。（1）因?yàn)閿?shù)據(jù)的長(zhǎng)期依賴(lài)性，導(dǎo)致網(wǎng)絡(luò)容易出現(xiàn)梯度消失和梯度爆炸等問(wèn)題，而且計(jì)算量和存儲(chǔ)復(fù)雜度也會(huì)增加。（2）電池容量原始數(shù)據(jù)一般存在容量恢復(fù)現(xiàn)象和數(shù)據(jù)采集誤差等噪聲污染，這些噪聲會(huì)嚴(yán)重影響數(shù)據(jù)驅(qū)動(dòng)方法的性能。因此，本文提出了一種基于SDAE-Transformer-ECA的鋰電池RUL預(yù)測(cè)網(wǎng)絡(luò)，以實(shí)現(xiàn)提高鋰電池RUL預(yù)測(cè)的準(zhǔn)確性。該工作的主要貢獻(xiàn)如下：（1）采用變形器(Transformer)網(wǎng)絡(luò)來(lái)捕獲序列數(shù)據(jù)之間的長(zhǎng)期依賴(lài)性。Transformer利用自注意力機(jī)制使輸入序列中的所有元素進(jìn)行信息聚合，從而捕獲數(shù)據(jù)的全局特征。它與RNN、GRU和LSTM算法相比，在處理長(zhǎng)序列數(shù)據(jù)、建模全局信息需求和計(jì)算效率等方面更具優(yōu)勢(shì)。（2）針對(duì)容量數(shù)據(jù)存在的噪聲干擾，利用堆疊去噪自編碼器(stackeddenoisingautoencoder，SDAE)對(duì)容量數(shù)據(jù)進(jìn)行重構(gòu)，使其在去噪的同時(shí)豐富數(shù)據(jù)的特征。SDAE是使用去噪準(zhǔn)則來(lái)處理無(wú)監(jiān)督目標(biāo)，指導(dǎo)學(xué)習(xí)更高級(jí)表示特征的一種方法，其在特征提取、噪聲處理、自適應(yīng)性及運(yùn)算速度等方面均優(yōu)于VMD。（3）在Transformer模型中嵌入高效通道注意力(efficientchannelattention，ECA)，使模型可以更好地捕捉輸入數(shù)據(jù)中的通道間關(guān)系，從而提高了模型的表示能力。本文采用美國(guó)馬里蘭大學(xué)先進(jìn)生命周期工程中心(CenterforAdvancedLifeCycleEngineering，CALCE)和美國(guó)航空航天局(NationalAeronauticsandSpaceAdministration，NASA)公開(kāi)的兩個(gè)公共電池容量數(shù)據(jù)集對(duì)所提模型的準(zhǔn)確性和泛化性進(jìn)行了驗(yàn)證，驗(yàn)證結(jié)果表明本文模型的準(zhǔn)確性和泛化性均優(yōu)于RNN、LSTM、GRU和Bi-LSTM四種現(xiàn)有算法。1基本理論1.1SDAE網(wǎng)絡(luò)SDAE是堆疊自編碼器的一種改進(jìn)版本，在機(jī)器學(xué)習(xí)領(lǐng)域具有廣泛的應(yīng)用價(jià)值。它通過(guò)加入噪聲的訓(xùn)練方式提高模型魯棒性，從而有效避免了過(guò)擬合現(xiàn)象。同時(shí)，其本身是一個(gè)深層次的特征提取器，能夠使模型更準(zhǔn)確地學(xué)習(xí)到數(shù)據(jù)的抽象表示，從而提高模型的泛化性。因此本文使用SDAE網(wǎng)絡(luò)對(duì)鋰電池容量數(shù)據(jù)進(jìn)行去噪和豐富特征。SDAE網(wǎng)絡(luò)的具體結(jié)構(gòu)如圖1所示。圖1

SDAE網(wǎng)絡(luò)結(jié)構(gòu)該網(wǎng)絡(luò)訓(xùn)練過(guò)程如下：第1步：根據(jù)式(1)對(duì)給定的原始的容量信號(hào)進(jìn)行噪聲分布為的加噪處理，得到加噪后的損壞信號(hào)：～(1)第2步：根據(jù)式(2)對(duì)信號(hào)進(jìn)行編碼，得到第一個(gè)隱層特征h1：(2)式中，σE為編碼部分的激活函數(shù)；W1為連接輸入層到第1個(gè)隱藏層的權(quán)重矩陣；b1為編碼過(guò)程的偏差。第3步：根據(jù)式(3)對(duì)隱層特征h1進(jìn)行解碼重構(gòu)，得到重構(gòu)后的輸出：(3)式中，σD為解碼部分的激活函數(shù)；W2為隱藏層到輸出層的權(quán)重矩陣；b2為解碼過(guò)程的偏差，本文中采用的激活函數(shù)均為ReLU函數(shù)。第4步：采用最小均方差式(4)作為優(yōu)化代價(jià)函數(shù)，然后采用梯度下降方法更新權(quán)重和偏置。(4)式中，為重構(gòu)誤差；n為樣本數(shù)量。依次重復(fù)前面第2～4步進(jìn)行迭代，直到更新出最后一層DAE模型的最優(yōu)權(quán)重Wk和偏置bk以及隱藏特征hk。1.2Transformer網(wǎng)絡(luò)Transformer是一個(gè)利用注意力機(jī)制來(lái)提高模型訓(xùn)練速度的網(wǎng)絡(luò)，其編碼器部分類(lèi)似一個(gè)大型的多層感知機(jī)(multilayerperceptron，MLP)，數(shù)據(jù)可以同時(shí)輸入，并行運(yùn)算。它在處理長(zhǎng)序列數(shù)據(jù)上的能力相當(dāng)出色，并且能夠有效解決梯度爆炸的問(wèn)題，因此可用于鋰電池的RUL預(yù)測(cè)。Transformer網(wǎng)絡(luò)的編碼結(jié)構(gòu)如圖2所示。圖2

Transformer網(wǎng)絡(luò)編碼結(jié)構(gòu)Transformer的算法步驟如下：（1）通過(guò)位置編碼為輸入向量嵌入位置信息，使模型能夠捕捉容量輸入序列的順序；（2）通過(guò)多頭自注意力計(jì)算每個(gè)輸入向量與所有輸入向量的相似度，然后加權(quán)求和得到每個(gè)輸入向量的新表示；（3）由前饋網(wǎng)絡(luò)對(duì)自注意力處理后的向量進(jìn)行非線(xiàn)性變換，使學(xué)習(xí)到的特征更為抽象；（4）最后由線(xiàn)性層進(jìn)行特征映射得到預(yù)測(cè)序列結(jié)果。在網(wǎng)絡(luò)中層間采取的殘差連接和歸一化操作，目的是解決梯度爆炸和保證輸出規(guī)范化。在本文中，使用不同頻率的正弦和余弦函數(shù)進(jìn)行位置編碼，具體如下：(5)(6)式中，PE表示位置編碼矩陣；s表示Transformer模型中每個(gè)位置向量的維度；t表示位置編碼的位置；k是0～(s/2-1)之間的整數(shù)值，表示編碼向量的維度索引。多頭自注意力旨在使模型能夠同時(shí)關(guān)注多個(gè)重點(diǎn)區(qū)域，忽略序列之間的距離。多頭自注意力的數(shù)學(xué)表達(dá)式如下：(7)(8)式(7)中，Q(query)、K(key)、V(value)是輸入序列由3個(gè)線(xiàn)性映射層映射得到的3個(gè)向量，其維度分別是dq、dk、dv；Concat表示拼接函數(shù)，作用將所有head的輸出結(jié)果拼接起來(lái)。式(8)中，、、、分別表示第i個(gè)head的Q、K、V向量對(duì)應(yīng)的權(quán)重矩陣和降維得到最終輸出的權(quán)重矩陣。一般地，自注意力頭數(shù)設(shè)置為8，即h=8，而dk=dv=s/h。Scaleddot-product注意力定義如下：(9)式中，dh=s/h；softmax為激活函數(shù)；KT為K的轉(zhuǎn)置，該注意力的定義避免了梯度消失。Transformer的前饋網(wǎng)絡(luò)由兩個(gè)線(xiàn)性變換層和一個(gè)激活函數(shù)組成，其中第一個(gè)全連接層的激活函數(shù)為ReLU激活函數(shù)?？梢员硎緸椋?10)式中，W3、W4為分別為兩個(gè)線(xiàn)性層的權(quán)重；b3、b4為兩個(gè)線(xiàn)性層的偏置。1.3ECA網(wǎng)絡(luò)為防止在捕獲鋰離子電池?cái)?shù)據(jù)信息時(shí)，因輸入特征的長(zhǎng)期相關(guān)性導(dǎo)致的信息冗余和局部丟失等問(wèn)題，本模型引入了與Transformer內(nèi)部的注意力不同的注意力機(jī)制——ECA。ECA是通過(guò)分析壓縮和激勵(lì)網(wǎng)絡(luò)(squeeze-and-excitationnetworks，SE-Net)并對(duì)SE模塊改進(jìn)得到的一種模型，是一種高效的通道注意力模塊。它考慮到降維操作會(huì)對(duì)通道注意力的預(yù)測(cè)產(chǎn)生負(fù)面的影響，且獲取的通道依賴(lài)性效率低，因此通過(guò)一維卷積避免降維的同時(shí)可以捕獲通道之間的相關(guān)性，得到具有通道注意力的特征。如式(11)所示：(11)式中，σ為激活函數(shù)；C1D代表一維卷積；k為卷積核大??；X

*為多通道的特征。2SDAE-Transformer-ECA模型構(gòu)建2.1SOH和RUL定義SOH指的是電池的健康狀態(tài)，一般以百分比的形式表示電池從壽命開(kāi)始到壽命結(jié)束期間所處的狀態(tài)，這是定量描述當(dāng)前電池的性能狀態(tài)，基于容量的定義如式(12)所示：(12)式中，LBCt為鋰電池當(dāng)前最大允許放電容量；LBC0為鋰電池標(biāo)稱(chēng)容量。一般地，電池的失效閾值為額定容量的70%～80%。鋰電池的RUL是電池在當(dāng)前條件下的最大可用容量衰減到失效閾值所經(jīng)歷的充電/放電循環(huán)的次數(shù)。如式(13)定義：(13)式中，NEOL為SOH值首次失效閾值時(shí)經(jīng)歷的總循環(huán)次數(shù)；n為電池當(dāng)前充放電循環(huán)次數(shù)，本文設(shè)定的失效閾值是額定容量的70%。2.2SDAE-Transformer-ECA模型架構(gòu)本工作將SDAE、Transformer和ECA三個(gè)網(wǎng)絡(luò)進(jìn)行組合搭建構(gòu)成SDAE-Transformer-ECA網(wǎng)絡(luò)模型，三個(gè)網(wǎng)絡(luò)分別進(jìn)行去噪并特征豐富、捕獲序列時(shí)序特征和特征整合，利用該網(wǎng)絡(luò)對(duì)電池容量序列數(shù)據(jù)進(jìn)行合理預(yù)測(cè)，具體的預(yù)測(cè)流程如圖3所示。圖3

SDAE-Transformer-ECA網(wǎng)絡(luò)整體流程SDAE-Transformer-ECA模型的訓(xùn)練流程如下：Step1：選擇電池容量作為表征電池老化的健康特征；Step2：取訓(xùn)練集中t個(gè)循環(huán)的容量序列X=(xj+1,

xj+2,…,

xj+t)作為輸入，預(yù)測(cè)下一個(gè)循環(huán)的容量，其中j=0,1,2…。為減小輸入數(shù)據(jù)分布對(duì)網(wǎng)絡(luò)的影響，首先需要對(duì)數(shù)據(jù)進(jìn)行歸一化處理，歸一化的方法如下：(14)Step3：將Step2歸一化后的輸入加入高斯噪聲，得到含噪聲的輸入，然后利用SDAE進(jìn)行重構(gòu)得到去噪后的特征向量；Step4：將特征向量輸入到Transformer模型，然后Transformer對(duì)進(jìn)行逐層處理和編碼，得到包含長(zhǎng)時(shí)間信息的新特征；Step5：利用ECA注意力對(duì)捕獲的時(shí)序特征進(jìn)行自注意力通道間的交互、整合，從而實(shí)現(xiàn)權(quán)重的重新調(diào)配得到；Step6：由線(xiàn)性層線(xiàn)性映射得到下一循環(huán)的容量值，將該值與真實(shí)容量值計(jì)算均方根誤差，然后再用梯度反傳的方式訓(xùn)練模型。SDAE-Transformer-ECA模型的預(yù)測(cè)流程如下：Step1：將測(cè)試集的前i～t+i個(gè)循環(huán)的容量作為模型輸入，預(yù)測(cè)t+i+1個(gè)循環(huán)的容量，其中i=0,1,2…Step2：將預(yù)測(cè)t+i+1的容量結(jié)果與失效閾值進(jìn)行對(duì)比，若低于失效閾值則RUL值為i，否則將t+i+1的容量預(yù)測(cè)值回填至原輸入序列，輸入序列向前滑窗1個(gè)循環(huán)，即i+1～t+i+1個(gè)循環(huán)的容量序列作為模型輸入，進(jìn)行迭代循環(huán)預(yù)測(cè)。Step3：對(duì)預(yù)測(cè)容量和RUL值進(jìn)行評(píng)價(jià)指標(biāo)的計(jì)算，作為預(yù)測(cè)模型性能的評(píng)價(jià)標(biāo)準(zhǔn)。3實(shí)驗(yàn)驗(yàn)證與結(jié)果分析3.1數(shù)據(jù)集和評(píng)價(jià)指標(biāo)本文使用CALCE公共數(shù)據(jù)集的電池容量數(shù)據(jù)，來(lái)對(duì)SDAE-Transformer-ECA模型進(jìn)行實(shí)驗(yàn)驗(yàn)證。該數(shù)據(jù)集沒(méi)有采取人為清洗的數(shù)據(jù)，目的是使搭建的網(wǎng)絡(luò)能夠適用于實(shí)際工程應(yīng)用。其中，CACLE選取的4個(gè)電池分別是CS2_35、CS2_36、CS2_37、CS2_38，它們的充電截至電壓為4.2V，放電截至電壓為2.7V，額定容量為1.1Ah。最后本工作采取留一評(píng)估法來(lái)評(píng)估本文模型，選取其中一個(gè)電池作為測(cè)試集，其余電池作為訓(xùn)練集，所有電池在經(jīng)歷10次迭代之后取平均得分。為定量評(píng)估本文模型的有效性，本文選取領(lǐng)域內(nèi)3個(gè)常見(jiàn)指標(biāo)對(duì)所提預(yù)測(cè)模型進(jìn)行評(píng)估。電池RUL預(yù)測(cè)的相對(duì)誤差(relativeerror，RE)計(jì)算公式如式(15)所示：(15)式中，RULpr、RULtr分別是電池容量衰退至失效閾值時(shí)對(duì)應(yīng)放電循環(huán)次數(shù)的預(yù)測(cè)值和真實(shí)值。電池剩余容量預(yù)測(cè)的平均絕對(duì)誤差(meanabsoluteerror，MAE)計(jì)算公式如式(16)所示：(16)式中，為容量的預(yù)測(cè)值；yl為容量的真實(shí)值；n為樣本的總長(zhǎng)度；L為從用于訓(xùn)練的序列的樣本長(zhǎng)度。電池剩余容量預(yù)測(cè)的均方根誤差(rootmeansquareerror，RMSE)響應(yīng)誤差分布計(jì)算公式如式(17)所示：(17)以上3個(gè)指標(biāo)中，RE與電池的RUL結(jié)果呈高度相關(guān)，因此本文將其作為最主要的評(píng)價(jià)指標(biāo)。3.2參數(shù)設(shè)置本文所有實(shí)驗(yàn)結(jié)果均在具有12thGenIntel(R)Core(TM)i5-12490F@2.50GHzCPU，16GBRAM和NVIDIAGeForceRTX3070GPU(8GB緩存)、python3.7、pytorch1.8.0軟硬件設(shè)施上實(shí)驗(yàn)得到。本文模型的函數(shù)及訓(xùn)練得到的關(guān)鍵參數(shù)見(jiàn)表1。表1

SDAE-Transformer-ECA模型參數(shù)采樣窗口(s)可以設(shè)置為序列長(zhǎng)度的5%～10%。在本文的實(shí)驗(yàn)中，對(duì)于CALCE和NASA，s分別固定在64和16。3.3對(duì)比分析為了驗(yàn)證本文所提算法的預(yù)測(cè)能力及有效性，本文基于CACLE四種電池與RNN、LSTM、GRU和Bi-LSTM等4種現(xiàn)有算法進(jìn)行對(duì)比分析，對(duì)比結(jié)果見(jiàn)表2，其中最優(yōu)值由粗體進(jìn)行顯示。表2

CACLE性能評(píng)價(jià)對(duì)于RE、MAE和RMSE而言，其值越小，代表模型的預(yù)測(cè)準(zhǔn)確性越高。表2給出了不同算法下4種電池預(yù)測(cè)結(jié)果誤差的平均值，結(jié)果顯示本文所提模型的誤差均低于4種現(xiàn)有算法，具有較高準(zhǔn)確性。本文所提的SDAE-Transformer-ECA模型的平均RE、平均MAE和平均RMSE分別為1.15%、2.45%和3.29%，與次優(yōu)算法Bi-LSTM相比，平均RE相對(duì)降低了62.67%，平均MAE相對(duì)降低了40.68%，平均RMSE相對(duì)降低了34.33%。另外本文進(jìn)行了模型消融實(shí)驗(yàn)，從表2后3行結(jié)果可以看出Transformer本身不能直接用于電池的RUL預(yù)測(cè)，這是因?yàn)樵陔姵厝萘孔兓臅r(shí)間序列中，存在一些噪聲和不規(guī)律性，如果直接將電池容量序列作為模型的輸入，會(huì)使得模型學(xué)到這些噪聲和不規(guī)律性，并且不能很好地區(qū)分這些變化是由于電池健康狀態(tài)的衰減造成，還是由于其他原因?qū)е碌?。而?dāng)SDAE對(duì)輸入容量序列進(jìn)行特征提取和去噪之后，Transformer網(wǎng)絡(luò)就可以完成電池RUL的預(yù)測(cè)任務(wù)且精度超過(guò)了RNN，預(yù)測(cè)結(jié)果也較為穩(wěn)定?？紤]到Transformer的自注意力是按照位置計(jì)算的，它會(huì)將所有的通道考慮在內(nèi)，忽略通道之間的相關(guān)性。因此利用ECA注意力機(jī)制來(lái)捕獲和利用通道之間的相關(guān)性，幫助Transformer更好地表達(dá)輸入序列的特征和減少計(jì)算量，表2中后兩行的結(jié)果驗(yàn)證了加入ECA的有效性。圖4是基于CS2_35、CS2_36、CS2_37和CS2_384種電池不同算法下的容量預(yù)測(cè)結(jié)果，從圖中可以看出本文模型的預(yù)測(cè)結(jié)果更接近于真實(shí)的電池容量退化曲線(xiàn)，預(yù)測(cè)的結(jié)果更穩(wěn)定。圖4

不同算法的4組電池容量預(yù)測(cè)結(jié)果對(duì)比圖5是本文模型