2015年11月5日 星期四

Time Series Analysis - 穩態時間序列簡介 Introduction to Stationary Time Series

 

時間序列資料與我們的生活息息相關,廣泛的應用在訊號處理領和統計學領域。雖然說現實生活中的訊號大多非穩態訊號,但是穩態訊號是學好時間序列資料分析的必經途徑。

Experience with real-world data, however, soon convinces one that both stationarity and Gaussianity are fairy tales invented for the amusement of undergraduates.
(Thomson 1994)




ㄧ、平穩過程 (Stationary process)



1. 平穩過程的定義


平穩過程又稱嚴格平穩過程,是一種隨機過程,在其中任取一段期間 $(t=t_1-t_k)$ 裡的聯合機率分布,與將這段期間任意平移後的新期間 $(t=t_1+\tau-t_k+\tau)$ 聯合機率分布相等。這樣,數學期望和變異數這些參數也不隨時間或位置變化。

[用心去感覺]  這是一個限制很強的定義,因為這代表無論在哪個時間區間內,所有的degree的moment(像是期望值 expectations, 變異數 variances, third order and higher)都相同


在時間序列分析中穩態作為一個工具使用,在這裡原始數據經常轉換為平穩態,例如經濟學數據經常隨著季節或者價格水平變化。如果這些過程是平穩過程與一個或者多個呈現一定趨勢的過程的線性組合,那麼這些過程就可以表述為趨勢平穩。將這些數據進行轉換保留平穩數據用於分析的過程稱為解趨勢 (de-trending)。

例如,白雜訊就是平穩過程,鐃鈸的敲擊聲是非平穩的。儘管鐃鈸的敲擊聲基本上是白雜訊,但是這個雜訊隨著時間變化:在敲擊前是安靜的,在敲擊後聲音逐漸減弱。



2. 平穩過程的例子:白雜訊


白雜訊,是一種功率譜密度為常數的隨機訊號或隨機過程,有無限大的功率,且它的平均值函數與自相關函數滿足以下條件:

  • 數學期望為0:$\mu_n =  \mathbb{E} \{ n(t) \} = 0$
  • 其自相關函數為狄拉克δ函數 (單位脈衝函數) :$r_{nn} = \mathbb{E} \{ n(t) n(t-\tau) \} = \delta ( \tau )$

要注意的是,相關性和機率分布是兩個不相關的概念。「白色」僅意味著訊號是不相關的,白雜訊的定義除了要求均值為零外並沒有對訊號應當服從哪種機率分布作出任何假設。因此,如果某白雜訊過程服從高斯分布,則它是「高斯白雜訊」。類似的,還有泊松白雜訊、柯西白雜訊等。

理想的白雜訊具有無限頻寬,因而其能量是無限大,這在現實世界是不可能存在的。實際上,我們常常將有限頻寬的平整訊號視為白雜訊,以方便進行數學分析。







二、廣義平穩 (弱平穩)


訊號處理中常用的弱平穩也被稱為廣義平穩(Wide-sense stationary,WSS)或者共變異數平穩。WSS隨機過程僅僅要求一階和二階矩(moment)不隨時間變化。

這樣,一個 WSS 的連續時間隨機過程 x(t) 有下述數學期望函數與相關函數

  • 數學期望函數 $ mx(t) $ 必須是常數:$ \mathbb{E}\{x(t)\} = m_x(t) = m_x(t + \tau) \,\, \forall \, \tau \in \mathbb{R} $
  • 相關函數 (autocorrelation function) 僅僅與 $ t_1 $ 和 $ t_2 $ 之間的差值相關:$ \mathbb{E}\{x(t_1)x(t_2)\} = R_x(t_1, t_2) = R_x(t_1 + \tau, t_2 + \tau) = R_x(t_1 - t_2, 0) \,\, \forall \, \tau \in \mathbb{R} $.





[補記] 矩(moment)


我覺得學穩態從矩的觀念切入比較直覺,一般教科書較少談論到這塊,關於動差與動差生成函數,詳見另一篇:

Mr. Opengate:動差(矩) 與 動差生成函數 moment and moment generating function
http://mropengate.blogspot.tw/2015/04/moment-and-moment-generating-function.html


矩是用於物體形狀識別的重要參數指標。定義在實數域上的實函數相對於值c的n階矩為

 $ \mu'_n=\int_{-\infty}^\infty (x - c)^n\,f(x)\,dx $ 

如果f(x)是機率密度函數,則容易看出相對於值0的1階矩是連續隨機變量的數學期望。總的來說,在數學中,矩的概念是用來度量一組具有一定形態特點的點陣。舉個常用的例子,一個「二階矩」,我們在一維上可以測量它的「寬度」

期望 (Expectation) : 隨機變量 (統計量) 的期望定義為其1階原點矩,在方差等定義中,期望也稱為隨機變量的「中心」。顯然,任何隨機變量的1階中心矩為0。

     $ E(x) = \int_{-\infty}^\infty x\,f(x)\,dx $ 

方差(Variance) : 隨機變量的方差定義為其2階中心矩

     $ var (x) = \int_{-\infty}^\infty \left[x - E(x)\right]^2 \,f(x)\,dx $ 






Reference



時間序列分析 –總體經濟與財務金融之應用– 定態時間序列 II: ARMA 模型 陳旭昇
http://homepage.ntu.edu.tw/~sschen/Book/Slides/Ch4Arma.pdf

財務筆記: 常用的Econometrics II (part 39)
http://tomatokafka.pixnet.net/blog/post/56940242-%E8%B2%A1%E5%8B%99%E7%AD%86%E8%A8%98%3A-%E5%B8%B8%E7%94%A8%E7%9A%84econometrics-ii-(part-39)

G. P. Nasion, chapter 11 stationary and non-stationary time series
http://www.cas.usf.edu/~cconnor/geolsoc/html/chapter11.pdf

wikipedia
http://www.wikipedia.org/

investopedia
http://www.investopedia.com/articles/trading/07/stationary.asp





技術提供:Blogger.