本發(fā)明涉及時(shí)間序列分析和深度學(xué)習(xí)技術(shù)，特別是涉及一種基于多重可見性圖與transformer融合的多元時(shí)間序列分析方法。
背景技術(shù)：
1、在復(fù)雜系統(tǒng)中，與單變量分析相比，多元時(shí)間序列（mts）提供了更豐富、更全面的視角，有助于更好地理解系統(tǒng)行為。多元時(shí)間序列分析在眾多實(shí)際場(chǎng)景中得到了廣泛應(yīng)用和深入研究，例如用于醫(yī)學(xué)診斷的生理信號(hào)分類、用于天氣預(yù)報(bào)的氣象因子預(yù)測(cè)，以及工業(yè)維護(hù)監(jiān)測(cè)數(shù)據(jù)中的異常檢測(cè)。近年來(lái)，基于?transformer?的方法在時(shí)間序列分析中表現(xiàn)出色。這一成功得益于語(yǔ)言依賴關(guān)系和時(shí)間依賴關(guān)系從根本上都是探索數(shù)據(jù)點(diǎn)（單詞或時(shí)間點(diǎn)）之間的?“關(guān)系”。然而，兩者之間存在一個(gè)關(guān)鍵區(qū)別：語(yǔ)言依賴關(guān)系主要關(guān)注句子中單詞之間的順序和語(yǔ)法結(jié)構(gòu)，例如主謂一致或句法規(guī)則。而時(shí)間序列中的時(shí)間依賴關(guān)系則大不相同，它強(qiáng)調(diào)隨時(shí)間變化的序列模式，如周期性、趨勢(shì)性和季節(jié)性。例如，一個(gè)時(shí)間序列可能呈現(xiàn)出規(guī)律的峰谷模式（周期性），或者數(shù)據(jù)點(diǎn)可能隨時(shí)間逐漸上升或下降（趨勢(shì)性）。這兩種依賴關(guān)系雖然都涉及數(shù)據(jù)點(diǎn)之間的聯(lián)系，但在結(jié)構(gòu)和演變方式上存在顯著差異。因此，像全注意力（full-attention）或其變體這類依賴成對(duì)關(guān)聯(lián)的方法，難以直接從分散的時(shí)間點(diǎn)中捕捉有意義的時(shí)間結(jié)構(gòu)，甚至在應(yīng)用于時(shí)間序列數(shù)據(jù)時(shí)可能引入噪聲和潛在的注意力分散問題。這種噪聲會(huì)阻礙對(duì)時(shí)間結(jié)構(gòu)的準(zhǔn)確理解，導(dǎo)致對(duì)時(shí)間模式的分析不完整或不準(zhǔn)確，尤其是當(dāng)時(shí)間依賴關(guān)系深深隱藏在復(fù)雜模式中時(shí)。最終，這可能會(huì)產(chǎn)生無(wú)意義的注意力圖并導(dǎo)致信息丟失。
2、近年來(lái)，各種深度學(xué)習(xí)模型被提出用于時(shí)間建模，如基于?mlp、cnn?和transformer?的模型。其中許多方法是為特定的下游任務(wù)設(shè)計(jì)的。例如，在預(yù)測(cè)任務(wù)中，像rlinear?和?dlinear?這樣的模型使用單層全連接神經(jīng)網(wǎng)絡(luò)來(lái)建模過去和未來(lái)數(shù)據(jù)點(diǎn)之間的關(guān)系，以進(jìn)行多步預(yù)測(cè)。在分類任務(wù)中，像?inceptiontime、rocket?和?todynet?這樣的方法將一維時(shí)間序列視為?1×n?像素矩陣，并利用復(fù)雜的卷積架構(gòu)生成豐富的特征用于時(shí)間序列分類。其他模型，如?anomaly?transformer，則是專門為異常檢測(cè)設(shè)計(jì)的。
3、可見性圖于?2008?年首次在《美國(guó)國(guó)家科學(xué)院院刊》（pans）上提出，此后在時(shí)間序列分析中得到了有效應(yīng)用，特別是在生理學(xué)、經(jīng)濟(jì)學(xué)和氣候研究等領(lǐng)域?？梢娦詧D的核心思想是將時(shí)間序列數(shù)據(jù)轉(zhuǎn)換為一個(gè)圖，其中每個(gè)數(shù)據(jù)點(diǎn)表示為一個(gè)節(jié)點(diǎn)，邊根據(jù)幾何可見性準(zhǔn)則形成，即兩個(gè)點(diǎn)如果能?“看到”?彼此且中間沒有其他點(diǎn)阻擋視線，就會(huì)連接起來(lái)。事實(shí)證明，這種技術(shù)能夠捕捉時(shí)間序列數(shù)據(jù)的內(nèi)在結(jié)構(gòu)，并已在多個(gè)領(lǐng)域用于分析潛在動(dòng)態(tài)。近年來(lái)，研究人員致力于將可見性圖與其他先進(jìn)技術(shù)相結(jié)合，以克服其局限性并提高其適用性。例如，avgnet?將可見性圖與圖神經(jīng)網(wǎng)絡(luò)（gnns）集成，為信號(hào)分類任務(wù)創(chuàng)建了更具適應(yīng)性的圖結(jié)構(gòu)。此外，magnn?將多尺度圖學(xué)習(xí)技術(shù)與可見性圖相結(jié)合，用于多元時(shí)間序列預(yù)測(cè)，保留了不同尺度的時(shí)間依賴性。這些方法旨在提高可見性圖的靈活性和可擴(kuò)展性，同時(shí)保持其可解釋性和簡(jiǎn)潔性。然而，可見性圖仍然面臨挑戰(zhàn)，特別是其計(jì)算復(fù)雜度較高，限制了其在大規(guī)模時(shí)間序列數(shù)據(jù)中的應(yīng)用。
4、需要說(shuō)明的是，在上述背景技術(shù)部分公開的信息僅用于對(duì)本申請(qǐng)的背景的理解，因此可以包括不構(gòu)成對(duì)本領(lǐng)域普通技術(shù)人員已知的現(xiàn)有技術(shù)的信息。
技術(shù)實(shí)現(xiàn)思路
1、本發(fā)明的主要目的在于克服上述背景技術(shù)中存在的缺陷，提供一種基于多重可見性圖與transformer融合的多元時(shí)間序列分析方法。
2、為實(shí)現(xiàn)上述目的，本發(fā)明采用以下技術(shù)方案：
3、一種基于多重可見性圖與transformer融合的多元時(shí)間序列分析方法，包括以下步驟：
4、s1、多重可見性圖構(gòu)建：采用滑動(dòng)窗口機(jī)制將多元時(shí)間序列中各通道的時(shí)間序列分別轉(zhuǎn)換為單層可見性圖，并組合形成多重可見性圖；
5、s2、通道共識(shí)信息提取：基于所述多重可見性圖，通過and聚合機(jī)制提取跨通道的共識(shí)連接關(guān)系，生成整合全局依賴的共識(shí)可見性圖；
6、s3、可見性圖transformer編碼：將共識(shí)可見性圖的鄰接關(guān)系作為結(jié)構(gòu)化約束，采用可見性圖注意力機(jī)制vg-attention迭代更新節(jié)點(diǎn)嵌入表示；
7、s4、任務(wù)適配輸出：將最終節(jié)點(diǎn)嵌入表示輸入至下游任務(wù)模塊，執(zhí)行預(yù)測(cè)、分類、填補(bǔ)或異常檢測(cè)任務(wù)。
8、一種計(jì)算機(jī)程序產(chǎn)品，包括計(jì)算機(jī)程序，所述計(jì)算機(jī)程序由處理器執(zhí)行時(shí)實(shí)現(xiàn)所述的基于多重可見性圖與transformer融合的多元時(shí)間序列分析方法。
9、本發(fā)明具有如下有益效果：
10、本發(fā)明提出一種基于多重可見性圖與transformer融合的多元時(shí)間序列分析方法，設(shè)計(jì)了mvgformer，其是一種由可見性圖引導(dǎo)的transformer框架，能夠更好地捕捉多元時(shí)間序列的結(jié)構(gòu)特性和時(shí)間變化。本發(fā)明中，通過滑動(dòng)窗口機(jī)制將多元時(shí)間序列高效轉(zhuǎn)換為多重可見性圖，顯著降低計(jì)算復(fù)雜度；利用and聚合機(jī)制提取跨通道共識(shí)連接，強(qiáng)化全局依賴關(guān)系并過濾噪聲；基于共識(shí)圖的鄰接關(guān)系約束vg-attention計(jì)算范圍，實(shí)現(xiàn)稀疏化注意力機(jī)制，在保留時(shí)序結(jié)構(gòu)特征（如周期性、趨勢(shì)性和突變點(diǎn)）的同時(shí)，有效抑制注意力分散并減少內(nèi)存消耗；結(jié)合批歸一化與反歸一化操作解決多通道量綱差異問題，使同一框架在預(yù)測(cè)、分類、填補(bǔ)及異常檢測(cè)四大任務(wù)中均實(shí)現(xiàn)性能提升，其中跨通道共識(shí)提取使預(yù)測(cè)誤差降低、分類精度提升，最終形成兼顧高效性、魯棒性與多任務(wù)泛化性的統(tǒng)一解決方案。本發(fā)明的方法能有效捕捉全局依賴，提升多元時(shí)間序列分析性能，可廣泛應(yīng)用于醫(yī)學(xué)診斷中的生理信號(hào)分類、氣象數(shù)據(jù)預(yù)測(cè)、工業(yè)過程監(jiān)控的異常檢測(cè)等多元時(shí)間序列分析場(chǎng)景。
11、本發(fā)明實(shí)施例中的其他有益效果將在下文中進(jìn)一步述及。
1.一種基于多重可見性圖與transformer融合的多元時(shí)間序列分析方法，其特征在于，包括以下步驟：
2.如權(quán)利要求1所述的方法，其特征在于，步驟s1中所述滑動(dòng)窗口機(jī)制包括：
3.如權(quán)利要求1或2所述的方法，其特征在于，步驟s2中所述and聚合機(jī)制包括：
4.如權(quán)利要求3所述的方法，其特征在于，所述and聚合機(jī)制被配置為：
5.如權(quán)利要求1至2任一項(xiàng)所述的方法，其特征在于，步驟s3中所述vg-attention機(jī)制包括：
6.如權(quán)利要求5所述的方法，其特征在于，所述vg-attention機(jī)制通過以下方式控制復(fù)雜度：
7.如權(quán)利要求1至2任一項(xiàng)所述的方法，其特征在于，步驟s3中節(jié)點(diǎn)嵌入預(yù)處理包括：
8.如權(quán)利要求1至2任一項(xiàng)所述的方法，其特征在于，步驟s3的迭代學(xué)習(xí)層由以下順序操作構(gòu)成：
9.如權(quán)利要求1至2任一項(xiàng)所述的方法，其特征在于，步驟s3的最終輸出層包括：
10.一種計(jì)算機(jī)程序產(chǎn)品，包括計(jì)算機(jī)程序，其特征在于，所述計(jì)算機(jī)程序由處理器執(zhí)行時(shí)實(shí)現(xiàn)如權(quán)利要求1至9任一項(xiàng)所述的基于多重可見性圖與transformer融合的多元時(shí)間序列分析方法。