Pytorch實作系列 — Temporal convolutional network

mz bai
Dec 14, 2020

--

時序卷積網路是由 Lea et al.(2017, 約翰霍普金斯大學)在 Temporal Convolutional Networks for Action Segmentation and Detection 提出,成為卷積神經網路在序列資料的代表模型之一。設計概念是經由卷積的滑窗特性達到序列建模的性質,同時藉由遮掩未來訊息達到因果(causal)性質,也就是未來不影響現在。

資料

使用 pandas datareader 取得yahoo的蘋果2018至今的股價。

網路

損失函數

採用 Mean Square Error loss。

訓練

時間序列的 forecasting 任務。

評估

橘色是真實資料,藍色是預測值

筆記

  1. 模型大小只有1MB左右。
  2. 使用CPU即可,相較LSTM在資源缺乏的情形下是個不錯的選擇。
  3. dilated convolution 要注意dilation size, padding size, slice。

結語

代碼可參考以下連結

參考

--

--

mz bai

Present data engineer, former data analyst, Kaggle player, loves data modeling.