一種電力設(shè)備狀態(tài)監(jiān)控分析方法與系統(tǒng)
1.本發(fā)明屬于深度學(xué)習(xí)領(lǐng)域，更具體的，涉及一種電力設(shè)備狀態(tài)監(jiān)控分析方法與系統(tǒng)。
背景技術(shù)：
2.深度學(xué)習(xí)作為機(jī)器學(xué)習(xí)的主流分支之一，在電力設(shè)備狀態(tài)監(jiān)控領(lǐng)域得到了廣泛引用。目前，變電站電力設(shè)備的巡檢主要靠人工完成，傳統(tǒng)的人工巡檢方式存在工作模式艱苦、勞動(dòng)強(qiáng)度大、安全性低、巡檢效率低、缺陷發(fā)現(xiàn)不及時(shí)不全面等問(wèn)題。基于電力設(shè)備如無(wú)人機(jī)、機(jī)器人、監(jiān)控等手段的半人工巡檢方式，大部分只是止步于變電站設(shè)備圖像的采集功能，設(shè)備的故障診斷大多依賴后期人工識(shí)別。同時(shí)，采集的數(shù)據(jù)需要經(jīng)過(guò)篩選，最終可用數(shù)據(jù)少之又少。這種做法不但需要投入大量的人力物力，而且診斷效率也相對(duì)較低。這些缺陷都極大限制了基于電力設(shè)備的變電站電力設(shè)備巡檢平臺(tái)的推廣使用。
3.使用遷移學(xué)習(xí)算法對(duì)電力設(shè)備狀態(tài)進(jìn)行監(jiān)控分析，針對(duì)未知設(shè)備缺陷樣本容量不足的問(wèn)題，由于未知設(shè)備缺陷的監(jiān)控?cái)?shù)據(jù)和已知設(shè)備缺陷的監(jiān)控?cái)?shù)據(jù)之間存在一些相似性，這種相似性可以通過(guò)相關(guān)算法所提取的特征體現(xiàn)出來(lái)，因此未知設(shè)備的缺陷特征在算法中得以正確分類(lèi)。一個(gè)完備的基于遷移學(xué)習(xí)的檢測(cè)算法在取得良好性能的同時(shí)，需要的硬件資源也越來(lái)越高，可能無(wú)法在移動(dòng)端或嵌入式設(shè)備上運(yùn)行。通過(guò)知識(shí)蒸餾訓(xùn)練出與復(fù)雜的遷移學(xué)習(xí)檢測(cè)模型性能相同或更優(yōu)的輕量化學(xué)生網(wǎng)絡(luò)，可以方便的搭載至現(xiàn)有的電力設(shè)備。
4.因此，在需要使用遷移學(xué)習(xí)算法進(jìn)行電力設(shè)備缺陷檢測(cè)的同時(shí)，也需要針對(duì)電力設(shè)備的有限算力和實(shí)時(shí)性的要求，對(duì)復(fù)雜神經(jīng)網(wǎng)絡(luò)模型進(jìn)行輕量化設(shè)計(jì)。
技術(shù)實(shí)現(xiàn)要素：
5.為解決現(xiàn)有技術(shù)中存在的不足，本發(fā)明的目的在于，為開(kāi)展電力設(shè)備缺陷分析相關(guān)工作，針對(duì)電力設(shè)備存在的問(wèn)題，提出了一種電力設(shè)備狀態(tài)監(jiān)控分析方法與系統(tǒng)。在電力設(shè)備狀態(tài)監(jiān)控分析場(chǎng)景中，采用遷移學(xué)習(xí)技術(shù)，實(shí)現(xiàn)對(duì)未知電力設(shè)備缺陷的分類(lèi)。采用知識(shí)蒸餾技術(shù)，將得到的基于遷移學(xué)習(xí)的復(fù)雜電力設(shè)備缺陷檢測(cè)模型進(jìn)行輕量化設(shè)計(jì)，運(yùn)用在各種不同的電力設(shè)備上。
6.本發(fā)明采用如下的技術(shù)方案。
7.一種電力設(shè)備狀態(tài)監(jiān)控分析方法，包括如下步驟：
8.步驟s1，獲取具有標(biāo)簽的源域缺陷數(shù)據(jù)集、不具有標(biāo)簽的目標(biāo)域缺陷數(shù)據(jù)集。
9.步驟s2，構(gòu)建訓(xùn)練集和測(cè)試集。
10.步驟s3，將訓(xùn)練集輸入到遷移學(xué)習(xí)算法中，經(jīng)過(guò)迭代訓(xùn)練獲得電力設(shè)備狀態(tài)監(jiān)控分析的教師模型；
11.步驟s4，將教師模型輸入到知識(shí)蒸餾算法中，得到學(xué)生模型；
12.步驟s5，將學(xué)生模型部署在電力設(shè)備上以監(jiān)控電力設(shè)備。
13.進(jìn)一步的，缺陷數(shù)據(jù)集通過(guò)互聯(lián)網(wǎng)獲得。
14.進(jìn)一步的，步驟s1還包括：
15.對(duì)缺陷數(shù)據(jù)集中的樣本采用平移、旋轉(zhuǎn)、鏡像、高斯噪聲的方式，以擴(kuò)展缺陷數(shù)據(jù)集。
16.進(jìn)一步的，步驟s2具體包括：
17.所述訓(xùn)練集包括具有標(biāo)簽的源域圖像數(shù)據(jù)和不具有標(biāo)簽的目標(biāo)域圖像數(shù)據(jù)，利用訓(xùn)練集對(duì)所述電力設(shè)備監(jiān)控分析的教師模型進(jìn)行迭代訓(xùn)練獲得教師模型。源域圖像數(shù)據(jù)集為之前任務(wù)場(chǎng)景的圖像集合，目標(biāo)域圖像數(shù)據(jù)集為當(dāng)前任務(wù)場(chǎng)景(需要進(jìn)行電力設(shè)備狀態(tài)監(jiān)控分析的任務(wù)場(chǎng)景)的圖像集合。
18.進(jìn)一步的，缺陷數(shù)據(jù)集是圖片，并且步驟s3具體包括：
19.步驟s31，獲取缺陷數(shù)據(jù)集的rgb三維矩陣；
20.步驟s32，將rgb三維矩陣代入到遷移學(xué)習(xí)算法中，得到教師模型。
21.將源域圖像和目標(biāo)域圖像均作為所述訓(xùn)練集樣本，直接借用基于源域圖像數(shù)據(jù)集訓(xùn)練獲得的缺陷檢測(cè)模型進(jìn)行訓(xùn)練，實(shí)現(xiàn)源域到目標(biāo)域的知識(shí)遷移，經(jīng)過(guò)訓(xùn)練后獲得的教師模型能夠自適應(yīng)對(duì)目標(biāo)域圖像進(jìn)行電力設(shè)備狀態(tài)監(jiān)控，在目標(biāo)域獲得良好的缺陷檢測(cè)精度，無(wú)需為目標(biāo)域圖像打標(biāo)簽來(lái)構(gòu)建訓(xùn)練集，也無(wú)需重新構(gòu)建深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，節(jié)省了訓(xùn)練時(shí)間。
22.進(jìn)一步的，步驟s3還包括：
23.遷移學(xué)習(xí)算法為樣本權(quán)重遷移法、特征變換遷移法或模型預(yù)訓(xùn)練遷移法。所述電力設(shè)備狀態(tài)監(jiān)控分析的網(wǎng)絡(luò)結(jié)構(gòu)為faster r-cnn，迭代訓(xùn)練中的目標(biāo)損失函數(shù)包括對(duì)抗域適應(yīng)損失和/或分布差異損失；
24.所述對(duì)抗域適應(yīng)損失用于表征教師模型的特征提取器提取的源域圖像的特征圖和目標(biāo)域圖像的特征圖的域類(lèi)別明顯性；
25.所述分布差異損失用于表征教師模型的roi池化網(wǎng)絡(luò)輸出的源域圖像的候選區(qū)域特征和目標(biāo)域圖像的候選區(qū)域特征的分布差異。
26.進(jìn)一步的，對(duì)抗域適應(yīng)損失的獲取方法包括：構(gòu)建域判別器網(wǎng)絡(luò)，所述域判別器網(wǎng)絡(luò)用于判斷特征提取器輸出的特征圖來(lái)源于源域還是目標(biāo)域；根據(jù)域判別器網(wǎng)絡(luò)的輸出結(jié)果按照如下公式計(jì)算對(duì)抗域適應(yīng)損失l
ad
為：
[0027][0028]
其中，di表示訓(xùn)練集中第i個(gè)樣本對(duì)應(yīng)的域判別器網(wǎng)絡(luò)d的輸出結(jié)果；domaini表示訓(xùn)練集中第i個(gè)樣本的域標(biāo)簽，若domaini＝0，則第i個(gè)樣本為源域圖像，若domaini＝1，則第i個(gè)樣本為目標(biāo)域圖像。
[0029]
進(jìn)一步的，所述分布差異損失l
mmd
為：
[0030][0031]
其中，ns表示源域圖像數(shù)據(jù)集的圖像數(shù)量，j和j
′
均表示目標(biāo)域圖像數(shù)據(jù)集中圖像
的索引，j≠j
′
，表示第j個(gè)源域圖像，表示第j
′
個(gè)源域圖像；n
t
表示目標(biāo)域圖像數(shù)據(jù)集的圖像數(shù)量，k和k
′
均表示源域圖像數(shù)據(jù)集中圖像的索引，k≠k
′
，表示第k個(gè)目標(biāo)域圖像，表示第k
′
個(gè)目標(biāo)域圖像；表示roi池化網(wǎng)絡(luò)輸出的第j個(gè)源域圖像的候選區(qū)域特征；表示roi池化網(wǎng)絡(luò)輸出的第j
′
個(gè)源域圖像的候選區(qū)域特征；表示roi池化網(wǎng)絡(luò)輸出的第k個(gè)目標(biāo)域圖像的候選區(qū)域特征；表示roi池化網(wǎng)絡(luò)輸出的第k
′
個(gè)目標(biāo)域圖像的候選區(qū)域特征；k(a，b)表示求取候選區(qū)域特征a和候選區(qū)域特征b的特征核。
[0032]
進(jìn)一步的，迭代訓(xùn)練中以目標(biāo)損失函數(shù)函數(shù)值最小為優(yōu)化目標(biāo)不斷調(diào)整faster rcnn的網(wǎng)絡(luò)參數(shù)，所述目標(biāo)損失函數(shù)為：
[0033]
l＝l
rpn
+l
roi
+λ(l
ad
+l
mmd
)
[0034]
其中，表示l
rpn
網(wǎng)絡(luò)損失；表示l
roi
池化網(wǎng)絡(luò)損失；λ表示第一權(quán)值，λ∈[0，3]；l
ad
表示對(duì)抗域適應(yīng)損失；l
mmd
表示分布差異損失。
[0035]
進(jìn)一步的，缺陷數(shù)據(jù)集是圖片，并且步驟s4具體包括：
[0036]
教師模型是resnet50的網(wǎng)絡(luò)結(jié)構(gòu)，學(xué)生模型是resnet18的網(wǎng)絡(luò)結(jié)構(gòu)；resnet50的網(wǎng)絡(luò)結(jié)構(gòu)或resnet50的網(wǎng)絡(luò)結(jié)構(gòu)公式為：
[0037]
x
l+1
＝x1+f(x
l
，w1)
[0038]
其中，x代表殘差網(wǎng)絡(luò)中的一個(gè)殘差塊，l代表的是層數(shù)。
[0039]
進(jìn)一步的，缺陷數(shù)據(jù)集是圖片，并且步驟s4具體包括：
[0040]
步驟s51，實(shí)時(shí)監(jiān)測(cè)電力設(shè)備，提取電力設(shè)備的數(shù)據(jù)；
[0041]
步驟s52，將電力設(shè)備的數(shù)據(jù)傳入學(xué)生模型，學(xué)生模型對(duì)電力設(shè)備的數(shù)據(jù)進(jìn)行特征提取、置信度計(jì)算，取置信度最大值作為當(dāng)前數(shù)據(jù)的缺陷類(lèi)別。
[0042]
一種電力設(shè)備狀態(tài)監(jiān)控分析系統(tǒng)，包括：搜索模塊、算法模型模塊與監(jiān)控模塊；
[0043]
搜索模塊用于獲取缺陷數(shù)據(jù)集；
[0044]
算法模型模塊用于得到教師模型與學(xué)生模塊；
[0045]
監(jiān)控模塊用于監(jiān)控電力設(shè)備。、
[0046]
進(jìn)一步的，系統(tǒng)還包括：數(shù)據(jù)增強(qiáng)模塊，用于擴(kuò)展缺陷數(shù)據(jù)集。
[0047]
進(jìn)一步的，算法模型模塊包括：遷移學(xué)習(xí)算法模塊與知識(shí)蒸餾算法模塊；
[0048]
遷移學(xué)習(xí)算法模塊用于得到教師模型；
[0049]
知識(shí)蒸餾算法模塊用于得到學(xué)生模塊。
[0050]
進(jìn)一步的，監(jiān)控模塊包括：特征提取模塊與計(jì)算模塊；
[0051]
特征提取模塊用于對(duì)電力設(shè)備的數(shù)據(jù)進(jìn)行特征提取；
[0052]
計(jì)算模塊用于置信度計(jì)算。
[0053]
本發(fā)明的有益效果在于，與現(xiàn)有技術(shù)相比，本發(fā)明具有以下優(yōu)點(diǎn)：
[0054]
(1)在電力設(shè)備狀態(tài)監(jiān)控分析場(chǎng)景中，由于電力設(shè)備的缺陷場(chǎng)景照片數(shù)量太少，以及保密性的原則。本技術(shù)創(chuàng)造性的將其他場(chǎng)景下的缺陷照片與遷移學(xué)習(xí)算法相結(jié)合，實(shí)現(xiàn)對(duì)電力設(shè)備場(chǎng)景下缺陷檢測(cè)，解決了傳統(tǒng)的人工巡檢方式存在勞動(dòng)強(qiáng)度大、安全性低、巡檢效率低、缺陷發(fā)現(xiàn)不及時(shí)不全面等問(wèn)題。
[0055]
(2)采用知識(shí)蒸餾技術(shù)，將得到的基于遷移學(xué)習(xí)的復(fù)雜電力設(shè)備缺陷檢測(cè)模型進(jìn)
行輕量化設(shè)計(jì)，可以優(yōu)化出與遷移學(xué)習(xí)檢測(cè)模型性能差距不大的學(xué)生模型，用時(shí)短，性能好，適合部署和預(yù)測(cè)。
附圖說(shuō)明
[0056]
圖1為本發(fā)明實(shí)施例提供的電力設(shè)備狀態(tài)監(jiān)控分析方法的流程圖。
具體實(shí)施方式
[0057]
下面結(jié)合附圖對(duì)本技術(shù)作進(jìn)一步描述。以下實(shí)施例僅用于更加清楚地說(shuō)明本發(fā)明的技術(shù)方案，而不能以此來(lái)限制本技術(shù)的保護(hù)范圍。
[0058]
圖1為本發(fā)明實(shí)施例提供的電力設(shè)備狀態(tài)監(jiān)控分析方法的流程圖。針對(duì)電力設(shè)備存在的問(wèn)題，本發(fā)明實(shí)施例在電力設(shè)備狀態(tài)監(jiān)控分析場(chǎng)景中，采用遷移學(xué)習(xí)與知識(shí)蒸餾相結(jié)合的技術(shù)，將得到的基于遷移學(xué)習(xí)的復(fù)雜電力設(shè)備缺陷檢測(cè)模型進(jìn)行輕量化設(shè)計(jì)，進(jìn)而實(shí)現(xiàn)缺陷分類(lèi)。
[0059]
如圖1所示，該流程包括如下步驟：
[0060]
步驟s1，對(duì)電力設(shè)備缺陷數(shù)據(jù)集
[0061]
進(jìn)一步的，可以對(duì)缺陷數(shù)據(jù)集進(jìn)行數(shù)據(jù)增強(qiáng)：對(duì)缺陷數(shù)據(jù)集中的樣本采用平移、旋轉(zhuǎn)、鏡像、高斯噪聲的方式，以擴(kuò)展缺陷數(shù)據(jù)集的樣本數(shù)量。
[0062]
其中，缺陷數(shù)據(jù)集指的是有缺陷的電力設(shè)備的圖片集合，有缺陷的電力設(shè)備的圖片可以是一張銹蝕的變壓器圖片，也可以是某些電力設(shè)備金屬銹蝕、某些電力設(shè)備滲漏油、某些電力設(shè)備上的表記破損或表記讀數(shù)錯(cuò)誤圖片等。缺陷數(shù)據(jù)集可以從互聯(lián)網(wǎng)搜索獲取，也可以從電力局內(nèi)部獲取這些缺陷數(shù)據(jù)。其次，上述數(shù)據(jù)增強(qiáng)可以指：將一張銹蝕的變壓器圖片，然后將其經(jīng)過(guò)旋轉(zhuǎn)，鏡像，加噪等變換，以得到更多的圖片。因此，上述數(shù)據(jù)增強(qiáng)的目的是人工擴(kuò)展樣本，提高模型魯棒性，降低過(guò)擬合風(fēng)險(xiǎn)。具體的，對(duì)該數(shù)據(jù)集采用平移、旋轉(zhuǎn)、鏡像、高斯噪聲的方式進(jìn)行數(shù)據(jù)增強(qiáng)。在一些實(shí)施例中，擴(kuò)展樣本可以是將一張圖片經(jīng)過(guò)旋轉(zhuǎn)不同角度、鏡像、加噪、亮度變化等方式變成多張圖片。比如將一張圖片旋轉(zhuǎn)90
°
、180
°
、鏡像，則這張圖片就擴(kuò)展出了3張圖片，這樣數(shù)據(jù)的數(shù)量據(jù)增大了。
[0063]
步驟s2，構(gòu)建訓(xùn)練集。訓(xùn)練集包括具有標(biāo)簽的源域圖像數(shù)據(jù)和不具有標(biāo)簽的目標(biāo)域圖像數(shù)據(jù)，利用訓(xùn)練集對(duì)所述電力設(shè)備監(jiān)控分析的教師模型進(jìn)行迭代訓(xùn)練獲得教師模型。源域圖像數(shù)據(jù)集為之前任務(wù)場(chǎng)景的圖像集合，目標(biāo)域圖像數(shù)據(jù)集為當(dāng)前任務(wù)場(chǎng)景(需要進(jìn)行電力設(shè)備狀態(tài)監(jiān)控分析的任務(wù)場(chǎng)景)的圖像集合。
[0064]
步驟s3，訓(xùn)練增強(qiáng)后的缺陷數(shù)據(jù)集，獲得遷移學(xué)習(xí)電力設(shè)備缺陷檢測(cè)模型。
[0065]
需要說(shuō)明的是，例如，一個(gè)缺陷數(shù)據(jù)集包括若干張缺陷圖片，這些圖片是無(wú)標(biāo)簽的，也就是說(shuō)，除非我們一張張人工點(diǎn)開(kāi)確認(rèn)，否則并不知道這些圖片中是哪種設(shè)備缺陷。遷移學(xué)習(xí)電力設(shè)備缺陷檢測(cè)模型完成以下目的：將每種缺陷放入它們各自對(duì)應(yīng)的缺陷文件夾中。例如：自動(dòng)將所有表記破損的圖片放入標(biāo)記破損類(lèi)別的文件夾中，變壓器金屬銹蝕的圖片被分到金屬銹蝕類(lèi)別的文件夾中。
[0066]
進(jìn)一步的，對(duì)抗域適應(yīng)損失的獲取方法包括：構(gòu)建域判別器網(wǎng)絡(luò)，域判別器網(wǎng)絡(luò)用于判斷特征提取器輸出的特征圖來(lái)源于源域還是目標(biāo)域；根據(jù)域判別器網(wǎng)絡(luò)的輸出結(jié)果按照如下公式計(jì)算對(duì)抗域適應(yīng)損失l
ad
為：
[0067][0068]
其中，di表示訓(xùn)練集中第i個(gè)樣本對(duì)應(yīng)的域判別器網(wǎng)絡(luò)d的輸出結(jié)果；domaini表示訓(xùn)練集中第i個(gè)樣本的域標(biāo)簽，若domaini＝0，則第i個(gè)樣本為源域圖像，若domaini＝1，則第i個(gè)樣本為目標(biāo)域圖像。
[0069]
在本實(shí)施例中，域判別器網(wǎng)絡(luò)d優(yōu)選但不限于為一個(gè)二分類(lèi)神經(jīng)網(wǎng)絡(luò)。在訓(xùn)練集訓(xùn)練過(guò)程中，利用前部分訓(xùn)練樣本訓(xùn)練原油泄露檢測(cè)模型的網(wǎng)絡(luò)結(jié)構(gòu)的同時(shí)，同步對(duì)域判別器網(wǎng)絡(luò)d進(jìn)行訓(xùn)練，使得域判別器網(wǎng)絡(luò)d能夠識(shí)別出特征提取器輸出的特征圖來(lái)源于源域圖像還是目標(biāo)域圖像，在后部分訓(xùn)練樣本訓(xùn)練過(guò)程中，計(jì)算對(duì)抗域適應(yīng)損失，利用對(duì)抗域適應(yīng)損失去調(diào)整特征提取器的網(wǎng)絡(luò)參數(shù)，使得特征提取器輸出的特征圖的域類(lèi)別不明顯，域判別器網(wǎng)絡(luò)d無(wú)法再有效區(qū)分源域圖像和目標(biāo)域圖像。
[0070]
在本實(shí)施例中，進(jìn)一步的，分布差異損失l
mmd
為：
[0071][0072]
其中，ns表示源域圖像數(shù)據(jù)集的圖像數(shù)量，j和j
′
均表示目標(biāo)域圖像數(shù)據(jù)集中圖像的索引，j≠j
′
，表示第j個(gè)源域圖像，表示第j
′
個(gè)源域圖像；n
t
表示目標(biāo)域圖像數(shù)據(jù)集的圖像數(shù)量，k和k
′
均表示源域圖像數(shù)據(jù)集中圖像的索引，k≠k
′
，表示第k個(gè)目標(biāo)域圖像，表示第k
′
個(gè)目標(biāo)域圖像；表示roi池化網(wǎng)絡(luò)輸出的第j個(gè)源域圖像的候選區(qū)域特征；表示roi池化網(wǎng)絡(luò)輸出的第j
′
個(gè)源域圖像的候選區(qū)域特征；表示roi池化網(wǎng)絡(luò)輸出的第k個(gè)目標(biāo)域圖像的候選區(qū)域特征；表示roi池化網(wǎng)絡(luò)輸出的第k
′
個(gè)目標(biāo)域圖像的候選區(qū)域特征；k(a，b)表示求取候選區(qū)域特征a和候選區(qū)域特征b的特征核。
[0073]
具體地，在迭代訓(xùn)練中，以電力設(shè)備缺陷檢測(cè)模型提取的源域圖像特征和目標(biāo)域圖像特征區(qū)別最小為優(yōu)化目標(biāo)不斷優(yōu)化電力設(shè)備缺陷檢測(cè)模型的網(wǎng)絡(luò)參數(shù)，進(jìn)而實(shí)現(xiàn)源域到目標(biāo)域的知識(shí)遷移。迭代訓(xùn)練的停止條件優(yōu)選但不限于為預(yù)先設(shè)置最大迭代次數(shù)，當(dāng)?shù)螖?shù)達(dá)到最大迭代次數(shù)時(shí)，停止迭代。
[0074]
進(jìn)一步的，可以利用遷移學(xué)習(xí)算法對(duì)步驟s2的數(shù)據(jù)進(jìn)行分類(lèi)，得到訓(xùn)練成功的遷移學(xué)習(xí)電力設(shè)備缺陷檢測(cè)模型。在一些實(shí)施例中，例如，缺陷數(shù)據(jù)集可以是圖片，而圖片的本質(zhì)就是一個(gè)rgb三維矩陣，將該rgb三維矩陣通過(guò)遷移學(xué)習(xí)算法可以得到一個(gè)一維矩陣，也就是遷移學(xué)習(xí)電力設(shè)備缺陷檢測(cè)模型，矩陣中的值就是分類(lèi)結(jié)果的置信度。在后續(xù)步驟中，取矩陣中最高的置信度作為輸出，即該圖片對(duì)應(yīng)的類(lèi)別。
[0075]
需要說(shuō)明的是，遷移學(xué)習(xí)算法并不是本技術(shù)的發(fā)明點(diǎn)，能夠分類(lèi)的遷移學(xué)習(xí)算法均可應(yīng)用于本方案，具體使用何種遷移學(xué)習(xí)算法是本領(lǐng)域技術(shù)人員根據(jù)需要所進(jìn)行的常規(guī)選擇。因?yàn)檫w移學(xué)習(xí)算法可以是樣本權(quán)重遷移法、特征變換遷移法、模型預(yù)訓(xùn)練遷移法中的任意一種。遷移學(xué)習(xí)就是把已訓(xùn)練好的模型參數(shù)遷移到新的模型來(lái)幫助新模型的訓(xùn)練。考慮到大部分?jǐn)?shù)據(jù)是存在相關(guān)性的，所以通過(guò)遷移學(xué)習(xí)我們可以將已學(xué)到的模型參數(shù)(也可理解為模型學(xué)到的知識(shí))分享給新模型，從而加快并優(yōu)化模型的學(xué)習(xí)效率，不用像大多數(shù)網(wǎng)
絡(luò)那樣從零學(xué)習(xí)。
[0076]
綜上，遷移學(xué)習(xí)算法包括兩個(gè)域，其中，我們把已有知識(shí)的域叫做源域，要進(jìn)行學(xué)習(xí)的域叫做目標(biāo)域。在本專(zhuān)利中，我們就是要將從互聯(lián)網(wǎng)上到的缺陷數(shù)據(jù)進(jìn)行訓(xùn)練得到的模型參數(shù)，遷移到電力局內(nèi)部獲取的缺陷數(shù)據(jù)上，從而實(shí)現(xiàn)對(duì)電力局內(nèi)部的缺陷數(shù)據(jù)分類(lèi)。也就是說(shuō)，互聯(lián)網(wǎng)獲取的數(shù)據(jù)為源域，電力設(shè)備缺陷數(shù)據(jù)為目標(biāo)域。這樣做的原因是，從互聯(lián)網(wǎng)上很容易獲取公開(kāi)的數(shù)據(jù)集(這些數(shù)據(jù)集也并非全都是設(shè)備缺陷，只是在盡可能與缺陷數(shù)據(jù)相似的數(shù)據(jù))，但是真正的電力設(shè)備缺陷數(shù)據(jù)由于場(chǎng)地或需要保密的原因，難以獲取。所以就用容易獲取的數(shù)據(jù)訓(xùn)練出的模型參數(shù)遷移到難以獲取的數(shù)據(jù)上。當(dāng)然也是由于電力設(shè)備缺陷數(shù)據(jù)難以獲取，數(shù)量較少，所以才進(jìn)行增廣，以得到更多的數(shù)據(jù)來(lái)進(jìn)行模型訓(xùn)練。
[0077]
步驟s4，將所述遷移學(xué)習(xí)電力設(shè)備缺陷檢測(cè)模型作為教師模型訓(xùn)練學(xué)生模型，得到優(yōu)化好的學(xué)生模型；說(shuō)明：知識(shí)蒸餾可以選擇對(duì)抗蒸餾算法、多教師知識(shí)蒸餾算法、基于響應(yīng)的知識(shí)蒸餾算法等算法中的任意一種。
[0078]
具體的，由于缺陷檢測(cè)模型部署在算力較小的巡檢設(shè)備上，所以要利用知識(shí)蒸餾技術(shù)對(duì)生成的模型(教師模型)進(jìn)行壓縮，得到網(wǎng)絡(luò)結(jié)構(gòu)相對(duì)簡(jiǎn)單、對(duì)設(shè)備算力要求低一些的小模型(學(xué)生模型)。具體操作為：將經(jīng)過(guò)遷移學(xué)習(xí)預(yù)訓(xùn)練后的模型作為教師模型，未經(jīng)過(guò)預(yù)訓(xùn)練的小模型(也就是步驟s2中的訓(xùn)練集)作為學(xué)生模型一同放入知識(shí)蒸餾算法中進(jìn)行重新訓(xùn)練學(xué)習(xí)。教師模型采用resnet50的網(wǎng)絡(luò)結(jié)構(gòu)，學(xué)生模型采用相對(duì)較簡(jiǎn)單的resnet18的網(wǎng)絡(luò)結(jié)構(gòu)，其區(qū)別在于學(xué)生模型所擁有的卷積層和全連接層等要比教師模型少，所以對(duì)算力要求低，得到的學(xué)生模型可視為新生成的缺陷檢測(cè)模型。
[0079]
殘差網(wǎng)絡(luò)結(jié)構(gòu)(例如，resnet50的網(wǎng)絡(luò)結(jié)構(gòu)或resnet18的網(wǎng)絡(luò)結(jié)構(gòu))的公式表達(dá)：x
l+1
＝x
l
+f(x
l
，w
l
)，其中，殘差網(wǎng)絡(luò)結(jié)構(gòu)是由一系列殘差塊組成的，x代表殘差網(wǎng)絡(luò)中的一個(gè)殘差塊，l代表的是層數(shù)。通過(guò)遞歸，可以得到任意深層單元l特征的表達(dá)：對(duì)于任意深的單元l的特征x
l
，可以表達(dá)為淺層單元l的特征x
l
加上一個(gè)形如的殘差函數(shù)，表明了任何單元l和l之間都具有殘差特性。
[0080]
需要說(shuō)明的是，優(yōu)化好的學(xué)生模型是一個(gè)可以搭載到算力稍弱設(shè)備上的模型，其神經(jīng)網(wǎng)絡(luò)層數(shù)小于等于教師模型，它將教師網(wǎng)絡(luò)模型中不必要的參數(shù)進(jìn)行摒棄，只從教師那里學(xué)到一些必要的參數(shù)來(lái)識(shí)別檢測(cè)到的物體。學(xué)生模型使用softmax(軟標(biāo)簽)得到更多的信息，相較于教師模型有較好的泛化能力，雖然網(wǎng)絡(luò)層數(shù)少，但原始數(shù)據(jù)的ground truth和教師模型的識(shí)別相結(jié)合，可以讓學(xué)生模型識(shí)別準(zhǔn)確率不遜于教師模型(原始的大模型)。學(xué)生模型的具體網(wǎng)絡(luò)結(jié)構(gòu)還是要根據(jù)教師模型來(lái)看。
[0081]
步驟s5，將學(xué)生模型部署在電力設(shè)備上以監(jiān)控電力設(shè)備。具體包括：
[0082]
步驟s51，實(shí)時(shí)監(jiān)測(cè)電力設(shè)備，提取電力設(shè)備的數(shù)據(jù)；
[0083]
步驟s52，將電力設(shè)備的數(shù)據(jù)傳入所述缺陷檢測(cè)模型，缺陷檢測(cè)模型對(duì)電力設(shè)備的數(shù)據(jù)進(jìn)行特征提取、置信度計(jì)算，取置信度最大值作為當(dāng)前數(shù)據(jù)的缺陷類(lèi)別；需要說(shuō)明的是，該缺陷檢測(cè)模型就是學(xué)生模型。
[0084]
對(duì)遷移學(xué)習(xí)的部分解釋放在了專(zhuān)利最末端。
[0085]
綜上，可以理解的是，在步驟s2中，同時(shí)輸入多種缺陷類(lèi)型的大量照片，經(jīng)過(guò)步驟s3，步驟s4的學(xué)習(xí)，得到了一個(gè)缺陷檢測(cè)模型，這個(gè)模型可以識(shí)別出全部的缺陷。通過(guò)當(dāng)前
缺陷檢測(cè)模型，計(jì)算缺陷檢測(cè)設(shè)備的數(shù)據(jù)，設(shè)置缺陷置信度的閾值為z0，若計(jì)算出的某一類(lèi)缺陷的置信度大于z0，則認(rèn)為當(dāng)前數(shù)據(jù)的分類(lèi)結(jié)果為該類(lèi)。例如計(jì)算得到當(dāng)前圖片人員跌倒、人員抽煙、設(shè)備冒煙的置信度分別為z1，z2，z3，且根據(jù)模型的定義，z1+z2+z3+無(wú)缺陷置信度＝1。比較他們與z0的大小，假設(shè)z1超過(guò)z0，則認(rèn)為當(dāng)前的缺陷為z1代表的人員跌倒。因此，可以理解的是，步驟s52中的缺陷類(lèi)別包括了無(wú)缺陷的類(lèi)別。
[0086]
相應(yīng)的，本技術(shù)還公開(kāi)了一種電力設(shè)備狀態(tài)監(jiān)控分析系統(tǒng)，包括：搜索模塊、算法模型模塊與監(jiān)控模塊；
[0087]
搜索模塊用于獲取缺陷數(shù)據(jù)集；
[0088]
算法模型模塊用于得到教師模型與學(xué)生模塊；
[0089]
監(jiān)控模塊用于監(jiān)控電力設(shè)備。
[0090]
進(jìn)一步的，系統(tǒng)還包括：數(shù)據(jù)增強(qiáng)模塊，用于擴(kuò)展缺陷數(shù)據(jù)集。
[0091]
進(jìn)一步的，算法模型模塊包括：遷移學(xué)習(xí)算法模塊與知識(shí)蒸餾算法模塊；
[0092]
遷移學(xué)習(xí)算法模塊用于得到教師模型；
[0093]
知識(shí)蒸餾算法模塊用于得到學(xué)生模塊。
[0094]
進(jìn)一步的，監(jiān)控模塊包括：特征提取模塊與計(jì)算模塊；
[0095]
特征提取模塊用于對(duì)電力設(shè)備的數(shù)據(jù)進(jìn)行特征提取；
[0096]
計(jì)算模塊用于置信度計(jì)算。
[0097]
綜上所述，本發(fā)明實(shí)施例提供了一種電力設(shè)備狀態(tài)監(jiān)控分析方法，本采用遷移學(xué)習(xí)技術(shù)實(shí)現(xiàn)對(duì)未知電力設(shè)備缺陷的分類(lèi)，解決了傳統(tǒng)的人工巡檢方式存在勞動(dòng)強(qiáng)度大、安全性低、巡檢效率低、缺陷發(fā)現(xiàn)不及時(shí)不全面等問(wèn)題。采用知識(shí)蒸餾技術(shù)，將得到的基于遷移學(xué)習(xí)的復(fù)雜電力設(shè)備缺陷檢測(cè)模型進(jìn)行輕量化設(shè)計(jì)，可以優(yōu)化出與遷移學(xué)習(xí)缺陷檢測(cè)模型性能差距不大的學(xué)生模型，用時(shí)短，性能好，適合部署和預(yù)測(cè)。
[0098]
需要說(shuō)明的是：上述本發(fā)明實(shí)施例先后順序僅僅為了描述，不代表實(shí)施例的優(yōu)劣。且上述對(duì)本說(shuō)明書(shū)特定實(shí)施例進(jìn)行了描述。其它實(shí)施例在所附權(quán)利要求書(shū)的范圍內(nèi)。在一些情況下，在權(quán)利要求書(shū)中記載的步驟可以按照不同于實(shí)施例中的順序來(lái)執(zhí)行并且仍然可以實(shí)現(xiàn)期望的結(jié)果。另外，在附圖中描繪的過(guò)程不一定要求示出的特定順序或者連續(xù)順序才能實(shí)現(xiàn)期望的結(jié)果。在某些實(shí)施方式中，多任務(wù)處理和并行處理也是可以的或者可能是有利的。
[0099]
本發(fā)明申請(qǐng)人結(jié)合說(shuō)明書(shū)附圖對(duì)本發(fā)明的實(shí)施示例做了詳細(xì)的說(shuō)明與描述，但是本領(lǐng)域技術(shù)人員應(yīng)該理解，以上實(shí)施示例僅為本發(fā)明的優(yōu)選實(shí)施方案，詳盡的說(shuō)明只是為了幫助讀者更好地理解本發(fā)明精神，而并非對(duì)本發(fā)明保護(hù)范圍的限制，相反，任何基于本發(fā)明的發(fā)明精神所作的任何改進(jìn)或修飾都應(yīng)當(dāng)落在本發(fā)明的保護(hù)范圍之內(nèi)。
技術(shù)特征：
1.一種電力設(shè)備狀態(tài)監(jiān)控分析方法，其特征在于，包括如下步驟：步驟s1，獲取具有標(biāo)簽的源域缺陷數(shù)據(jù)集、不具有標(biāo)簽的目標(biāo)域缺陷數(shù)據(jù)集。步驟s2，構(gòu)建訓(xùn)練集和測(cè)試集。步驟s3，將訓(xùn)練集輸入到遷移學(xué)習(xí)算法中，經(jīng)過(guò)迭代訓(xùn)練獲得電力設(shè)備狀態(tài)監(jiān)控分析的教師模型；步驟s4，將教師模型輸入到知識(shí)蒸餾算法中，得到學(xué)生模型；步驟s5，將學(xué)生模型部署在電力設(shè)備上以監(jiān)控電力設(shè)備。2.根據(jù)權(quán)利要求1所述的一種電力設(shè)備狀態(tài)監(jiān)控分析方法，其特征在于，步驟s1還包括：對(duì)缺陷數(shù)據(jù)集中的樣本采用平移、旋轉(zhuǎn)、鏡像、高斯噪聲的方式，以擴(kuò)展缺陷數(shù)據(jù)集。3.根據(jù)權(quán)利要求1所述的一種電力設(shè)備狀態(tài)監(jiān)控分析方法，其特征在于，步驟s2還包括：將缺陷數(shù)據(jù)集分為訓(xùn)練集和測(cè)試集。訓(xùn)練集包括具有標(biāo)簽的源域圖像數(shù)據(jù)和不具有標(biāo)簽的目標(biāo)域圖像數(shù)據(jù)。測(cè)試集包括不具有標(biāo)簽的目標(biāo)域圖像數(shù)據(jù)。4.根據(jù)權(quán)利要求1所述的一種電力設(shè)備狀態(tài)監(jiān)控分析方法，其特征在于，缺陷數(shù)據(jù)集是圖片，步驟s3具體包括：步驟s31，獲取缺陷數(shù)據(jù)集的rgb三維矩陣；步驟s32，將rgb三維矩陣代入到遷移學(xué)習(xí)算法中，得到教師模型。5.根據(jù)權(quán)利要求1所述的一種電力設(shè)備狀態(tài)監(jiān)控分析方法，其特征在于，遷移學(xué)習(xí)算法為樣本權(quán)重遷移法、特征變換遷移法或模型預(yù)訓(xùn)練遷移法。所述電力設(shè)備狀態(tài)監(jiān)控分析的網(wǎng)絡(luò)結(jié)構(gòu)為faster r-cnn，迭代訓(xùn)練中的目標(biāo)損失函數(shù)包括對(duì)抗域適應(yīng)損失和/或分布差異損失；所述對(duì)抗域適應(yīng)損失用于表征教師模型的特征提取器提取的源域圖像的特征圖和目標(biāo)域圖像的特征圖的域類(lèi)別明顯性；所述分布差異損失用于表征教師模型的roi池化網(wǎng)絡(luò)輸出的源域圖像的候選區(qū)域特征和目標(biāo)域圖像的候選區(qū)域特征的分布差異。6.根據(jù)權(quán)利要求5所述的所述的一種電力設(shè)備狀態(tài)監(jiān)控分析方法，其特征在于，對(duì)抗域適應(yīng)損失的獲取方法包括：構(gòu)建域判別器網(wǎng)絡(luò)，所述域判別器網(wǎng)絡(luò)用于判斷特征提取器輸出的特征圖來(lái)源于源域還是目標(biāo)域；根據(jù)域判別器網(wǎng)絡(luò)的輸出結(jié)果按照如下公式計(jì)算對(duì)抗域適應(yīng)損失l
ad
為：其中，d
i
表示訓(xùn)練集中第i個(gè)樣本對(duì)應(yīng)的域判別器網(wǎng)絡(luò)d的輸出結(jié)果；domain
i
表示訓(xùn)練集中第i個(gè)樣本的域標(biāo)簽，若domain
i
＝0，則第i個(gè)樣本為源域圖像，若domain
i
＝1，則第i個(gè)樣本為目標(biāo)域圖像。7.根據(jù)權(quán)利要求2或3所述的一種電力設(shè)備狀態(tài)監(jiān)控分析方法，其特征在于，所述分布差異損失l
mmd
為：
其中，n
s
表示源域圖像數(shù)據(jù)集的圖像數(shù)量，j和j
′
均表示目標(biāo)域圖像數(shù)據(jù)集中圖像的索引，j≠j
′
，表示第j個(gè)源域圖像，表示第j
′
個(gè)源域圖像；n
t
表示目標(biāo)域圖像數(shù)據(jù)集的圖像數(shù)量，k和k
′
均表示源域圖像數(shù)據(jù)集中圖像的索引，k≠k
′
，表示第k個(gè)目標(biāo)域圖像，表示第k
′
個(gè)目標(biāo)域圖像；表示roi池化網(wǎng)絡(luò)輸出的第j個(gè)源域圖像的候選區(qū)域特征；表示roi池化網(wǎng)絡(luò)輸出的第j
′
個(gè)源域圖像的候選區(qū)域特征；表示roi池化網(wǎng)絡(luò)輸出的第k個(gè)目標(biāo)域圖像的候選區(qū)域特征；表示roi池化網(wǎng)絡(luò)輸出的第k
′
個(gè)目標(biāo)域圖像的候選區(qū)域特征；k(a，b)表示求取候選區(qū)域特征a和候選區(qū)域特征b的特征核。8.根據(jù)權(quán)利要求2或3所述的一種電力設(shè)備狀態(tài)監(jiān)控分析方法，其特征在于，迭代訓(xùn)練中以目標(biāo)損失函數(shù)函數(shù)值最小為優(yōu)化目標(biāo)不斷調(diào)整faster rcnn的網(wǎng)絡(luò)參數(shù)，所述目標(biāo)損失函數(shù)為：l＝l
rpn
+l
roi
+λ(l
ad
+l
mmd
)其中，表示l
rpn
網(wǎng)絡(luò)損失；表示l
roi
池化網(wǎng)絡(luò)損失；λ表示第一權(quán)值，λ∈[0，3]；l
ad
表示對(duì)抗域適應(yīng)損失；l
mmd
表示分布差異損失。9.根據(jù)權(quán)利要求1所述的一種電力設(shè)備狀態(tài)監(jiān)控分析方法，其特征在于，知識(shí)蒸餾算法為對(duì)抗蒸餾算法、多教師知識(shí)蒸餾算法或基于響應(yīng)的知識(shí)蒸餾算法等算法。10.根據(jù)權(quán)利要求1所述的一種電力設(shè)備狀態(tài)監(jiān)控分析方法，其特征在于，缺陷數(shù)據(jù)集是圖片，并且步驟s4具體包括：教師模型是resnet50的網(wǎng)絡(luò)結(jié)構(gòu)，學(xué)生模型是resnet18的網(wǎng)絡(luò)結(jié)構(gòu)；resnet50的網(wǎng)絡(luò)結(jié)構(gòu)或resnet50的網(wǎng)絡(luò)結(jié)構(gòu)公式為：x
l+1
＝x
l
+f(x
l
,w
l
)其中，x代表殘差網(wǎng)絡(luò)中的一個(gè)殘差塊，l代表的是層數(shù)。11.根據(jù)權(quán)利要求1所述的一種電力設(shè)備狀態(tài)監(jiān)控分析方法，其特征在于，缺陷數(shù)據(jù)集是圖片，并且步驟s5具體包括：步驟s51，實(shí)時(shí)監(jiān)測(cè)電力設(shè)備，提取電力設(shè)備的數(shù)據(jù)；步驟s52，將電力設(shè)備的數(shù)據(jù)傳入學(xué)生模型，學(xué)生模型對(duì)電力設(shè)備的數(shù)據(jù)進(jìn)行特征提取、置信度計(jì)算，取置信度最大值作為當(dāng)前數(shù)據(jù)的缺陷類(lèi)別。12.一種電力設(shè)備狀態(tài)監(jiān)控分析系統(tǒng)，用于執(zhí)行如權(quán)利要求1-11所述的方法，其特征在于，系統(tǒng)包括：搜索模塊、算法模型模塊與監(jiān)控模塊；搜索模塊用于獲取缺陷數(shù)據(jù)集；算法模型模塊用于得到教師模型與學(xué)生模型；監(jiān)控模塊用于監(jiān)控電力設(shè)備。13.根據(jù)權(quán)利要求11所述的一種電力設(shè)備狀態(tài)監(jiān)控分析系統(tǒng)，其特征在于，系統(tǒng)還包括：數(shù)據(jù)增強(qiáng)模塊，用于擴(kuò)展缺陷數(shù)據(jù)集。
14.根據(jù)權(quán)利要求11所述的一種電力設(shè)備狀態(tài)監(jiān)控分析系統(tǒng)，其特征在于，算法模型模塊包括：遷移學(xué)習(xí)算法模塊與知識(shí)蒸餾算法模塊；遷移學(xué)習(xí)算法模塊用于得到教師模型；知識(shí)蒸餾算法模塊用于得到學(xué)生模塊。監(jiān)控模塊包括：特征提取模塊與計(jì)算模塊；特征提取模塊用于對(duì)電力設(shè)備的數(shù)據(jù)進(jìn)行特征提取；計(jì)算模塊用于置信度計(jì)算。
技術(shù)總結(jié)
一種電力設(shè)備狀態(tài)監(jiān)控分析方法，包括如下步驟：獲取缺陷數(shù)據(jù)集；將缺陷數(shù)據(jù)集輸入到遷移學(xué)習(xí)算法中，經(jīng)過(guò)學(xué)習(xí)獲得教師模型；將教師模型輸入到知識(shí)蒸餾算法中，得到學(xué)生模型；將學(xué)生模型部署在電力設(shè)備上以監(jiān)控電力設(shè)備。本申請(qǐng)創(chuàng)造性的將其他場(chǎng)景下的缺陷照片與遷移學(xué)習(xí)算法相結(jié)合，實(shí)現(xiàn)對(duì)電力設(shè)備場(chǎng)景下缺陷的分類(lèi)，解決了傳統(tǒng)的人工巡檢方式存在勞動(dòng)強(qiáng)度大、安全性低、巡檢效率低、缺陷發(fā)現(xiàn)不及時(shí)不全面等問(wèn)題。面等問(wèn)題。面等問(wèn)題。
