時序數據的表徵學習方法（三）——signal2vec，基於連續數據的word2vec嵌入

  • 2020 年 12 月 16 日
  • AI

連續數據的word2vec

在時間序列問題中，模型的性能會受到數據表示的嚴重影響。 表示的類別可分為

1、數據自適應；

2、非數據自適應；

3、基於模型

4、數據表示。

第一種方法包括自適應分段常數逼近[13]、奇異值分解[15]、符號自然語言[23]、符號聚合逼近模擬[16]（？？？我都沒了解過）

第二種方法包括：離散小波變換[5]，譜DFT[9]，分段聚合逼近[14]和可指數分段線性逼近[6]；

第三種方法，基於模型的表示包括了基於馬爾可夫模型、隱馬爾可夫模型[19]和自回歸移動平均[7]等統計數據。

最流行的數據表示方法是裁剪[24]。

考慮到這裡的翻譯可能不是很準確，還是貼一下原文吧：

In time series problems, regardless the approach, the performance of the solution is heavily affffected by the representation of the data. The categories of representations can be classifified into data adaptive, non-data adaptive, model-based and data dictated. The fifirst one includes techniques such as Adaptive Piecewise Constant Approximation [13], Singular Value Decomposition [15], Symbolic Natural Language [23], Symbolic Aggregate ApproXimation [16]. Approaches, which belong to the second representation, are: Discrete Wavelet Transform [5], spectral DFT [9], Piecewise Aggregate Approximation [14] and Indexable Piecewise Linear Approximation [6]. Model based representations are based on statistics such as Markov Models and Hidden Markov Model [19] and Auto-Regressive Moving Average [7]. Finally, the most popular data dictated approach is Clipped [24]

signal2vec借鑒了word2vec的思想，是word2vec的第一次向連續型的數據進行embedding的嘗試。

signal2vec的思想如上，就是：

1、對連續數據進行離散化；

2、離散化之後做skip-gram的word2vec。

離散化的方法，使用kmeans進行時間序列數據的聚類，kmeans的聚類數根據輪廓係數（silhouette score），在一定的k的範圍內尋找最優值，

原論文寫的不是很清楚，程式碼也沒開源。。真的服了。

下面是看了兩遍之後的理解，我們以原論文中的基於時間序列的多分類問題為例來闡述：

我們的任務是識別了12種不同的器具：烤箱、微波爐、洗碗機、冰箱冰箱、水壺、洗衣機烘乾機、烤麵包機、鍋爐、電視、吹風機、吸塵器和燈，數據是這些家用電器的電訊號，作者上面說過，將訊號進行離散化之後大致複合zipf's law,

齊夫定律可以表述為：在自然語言的語料庫里，一個單詞出現的頻率與它在頻率表裡的排名成反比。所以，頻率最高的單詞出現的頻率大約是出現頻率第二位的單詞的2倍，而出現頻率第二位的單詞則是 出現頻率第四位的單詞的2倍。這個定律被作為任何與power lawprobability distributions有關的事物的參考。 這個「定律」是哈佛大學的語言學家George Kingsley Zipf（IPA[zɪf]）發表的。

這個和word2vec的基本假設是比較吻合的，大部分的電訊號都是在一個較小正常的頻率範圍內波動，離散化之後其分布遵循zipf' law。

看到這邊，發現這個問題涉及到另外一個比較複雜的領域，即——時間序列聚類，我們要先通過一些合理的方法對時間序列進行聚類，從而實現離散化，離散化之後，就和word2vec的場景一樣了，一段序列數據被離散化之後就變成了一個句子，然後剩下的過程就和文本分類基本一樣了。


關鍵是時間序列的聚類，我沒怎麼研究過，所以，pass。

理解signal2vec的思想就行，先離散化，然後剩下的就交給nlp吧。。。。

Tags:

VirMach 便宜 VPS