univariate/multivariate Zeitreihenanalyse

Transkript

1 univariate/multivariate Zeitreihenanalyse lineare Verfahren - statistische Momente - Fourier Transformation - Hilbert Transformation - Wavelet Transformation - Auto- / Kreuzkorrelationsfunktion - ARMA-Modelle -... nichtlineare Verfahren - Phasenraumrekonstruktion - Dimensionen - Lyapunov-Exponenten - Entropien - Determinismus - instabile periodische Orbits - Interdependenzen nichtlineare ARMA-Modelle

2 lineare Verfahren heißen linear, weil Dynamik eines Systems (und damit Zeitreihe) als linear angenommen wird Sei H die Dynamik eines Systems und ( x, x ) zwei Zustandsvektoren H ist linear, wenn (Superpositionsprinzip) 2 H( c x + c x ) = c H( x ) + c H( x ) Zerlegung gilt bei nichtlinearen Systemen nicht!!

3 statistische Datenanalyse modell-unabhängig - Momente von Verteilungen - Gleichheit/Ungleichheit von Verteilungen - lineare Korrelation -... modell-abhängig - Datenanpassung an Modelle - Parameterschätzung - least-squares fit - robuste Schätzung -... deskriptive Statistik

4 statistische Datenanalyse - basiert meist auf Analyse von Verteilungen / Häufigkeiten - keine Information über Dynamik - notwendig für verschiedene Definitionen und Diskriminanz-Tests

5 Momente einer Verteilung. Moment: Mittelwert v = v = v j j= Zentralwert einer Verteilung

6 Momente einer Verteilung 2. Moment: Varianz / Standardabweichung Var( v,..., v ) = ( v j v) j= σ( v,..., v ) = Var( v,..., v ) Breite/Variabilität/Dispersion einer Verteilung um den Zentralwert 2

7 Momente einer Verteilung 3. Moment: Skewness Skew( v,..., v ) = j= v Grad der Asymmetrie einer Verteilung um den Zentralwert (relativ zur ormalverteilung) < 0 Skew= 0 > 0 asymmetrisch, negativere Verteilungsenden j σ symmetrisch, ormalverteilung asymmetrisch, positivere Verteilungsenden v 3

8 Momente einer Verteilung 4. Moment: Kurtosis Kurt( v,..., v ) = j= v j σ v 4 Grad der Flachheit/Steilheit einer Verteilung (relativ zur ormalverteilung) < 0 Kurt = 0 > 0 platokurtisch, flache Verteilung mesokurtisch (ormalverteilung) leptokurtisch, spitze Verteilung 3

9 3. und 4. Moment einer Verteilung

10 Hinweise für ichtlinearität betrachte 3. und 4. Moment und deren Standardabweichungen: σ( Skew) σ( Kurt) = = 6 24 für ormalverteilung Skew( v ) >> σ( Skew) i Kurt( v ) >> σ( Kurt) i

11 Gleichheit/Ungleichheit von Verteilungen Kolmogorov-Smirnov-Test: Abstand von kumulativen Verteilungsfunktionen S D = max S ( v) S ( w) KS < v, w< v w Signifikanz für - Tabellen v + w Freiheitsgrade

12 Gleichheit/Ungleichheit von Verteilungen Kolmogorov-Smirnov-Test: Abstand von kumulativen Verteilungsfunktionen S

13 Gleichheit/Ungleichheit von Verteilungen gleiche Mittelwerte? Student's t-test 2 Zeitreihen über gepoolte Varianzen: s D = v w i= = v( i) i =,..., v w( i) i =,..., w ( vi v ) ( wi w) i v w v w Standardfehler der Mittelwertdifferenzen v w

14 Gleichheit/Ungleichheit von Verteilungen gleiche Mittelwerte? Student's t-test t v = s D w Signifikanz für v + w 2 Freiheitsgrade - Tabellen - unvollständige beta-funktion

15 Gleichheit/Ungleichheit von Verteilungen gleiche Varianzen? F-Test 2 Zeitreihen v( i) i =,..., w( i) i =,..., v w F = Var ( v ) Var( w ) Signifikanz für v + w Freiheitsgrade - Tabellen - unvollständige beta-funktion i i

16 lineare Korrelationen: parametrische Tests - linearer Korrelationskoeffizient (Pearson's r) nichtparametrische Tests - Spearman Rangordnungs Korrelationskoeffizient - Kendall's τ

17 lineare Korrelationen: Pearson's r 2 Zeitreihen v( i) i =,..., v w( i) i =,..., w v w r = i i ( v v)( w w) i ( v v) ( w w) i i 2 2 i i r = 0 + vollständig antikorreliert unkorreliert vollständig korreliert

18 lineare Korrelationen: Pearson's r

19 physikalisches Phänomen Zeitreihe deterministisch stochastisch periodisch nicht-periodisch stationär nichtstationär - Sinusoidal - fast-periodisch (eine Frequenz) - komplexperiodisch (inkommensurable Frequenzen) - Transienten (kommensurable Frequenzen)

20 Auffinden verborgener periodischer Anteile physikalischer Prozeß (Zeitreihe) Zeitbereich v(t) v = Auslenkung, Spannung, etc. Frequenzbereich V(f) V= Amplitude komplexe Zahl (Phase) < f <

21 Autokorrelationsfunktion gibt Hinweise darauf, wie Werte einer Zeitreihe in bestimmten Zeitabständen τ zusammenhängen C vv T ( τ) = lim T v ( t ) v ( t + τ) dt T 0 C C vv vv ( τ) = C ( τ) vv ( 0) C ( τ) vv τ τ = lag

22 Autokorrelationsfunktion periodisches Signal stochastisches Signal Signal mit Gedächtnis

23 Kreuzkorrelationsfunktion gibt Hinweise darauf, wie Werte einer Zeitreihe mit Werten einer anderen Zeitreihe in bestimmten Zeitabständen τ zusammenhängen C vw T ( τ) = lim T v ( t ) w ( t + τ) dt T 0 C vw ( τ ) = C ( τ ) wv

24 Fourieranalysen Approximation einer Funktion durch Summe von Sinusund Kosinustermen (Fourierreihendarstellung). Eindeutig für deterministische Signale. periodischer Prozeß v( t) = k = V e nicht-periodischer Prozeß k ikωt V k T T v t e ik t = ω ( ) dt i t v( t) = V ( ω) e ω dω V v t e iωt ( ω) = ( ) dt 2π ω = 2πf 0

25 Fourieranalysen Approximation einer Funktion durch Summe von Sinusund Kosinustermen (Fourierreihendarstellung). Eindeutig für deterministische Signale. v( t) = a cos( ω t) + b sin( ω t) ω = a b k k 2 = cos( ω kt) k =, 2,..., 2 = 2 2 k= 0 t= t= k v( t)sin( ω t) k k k k 2 iω t k v( t) = cke ck = v( t) e k= 2 k t= iω k t 2πk Bedingung: t = v( t) 2 <

26 Fourieranalysen Problem: üblicherweise nur endlich viele Meßwerte () aus endlichem Zeitintervall (Zeitfenster). Lösung: diskrete Fouriertransformation V k : = v( n t) e n= 0 v( n t) = k = 0 2πink V e k 2πink

27 Fourieranalysen Problem: FT und DFT sind 2 -Algorithmen Lösung: Schnelle Fouriertransformation (FFT) log ()-Algorithmus 2 verschiedene Realisationsmöglichkeiten: vgl. E.O. Brigham: The Fast Fourier Transform. Prentice Hall, Englewood Cliffs, ew Jersey, 974

28 einige nützliche Theoreme: Faltungs-Theorem v( t) * w( t) V ( f ) W( f ) Korrelations-Theorem Cvw V ( f ) W *( f ) Wiener-Khinchin-Theorem C vv V ( f ) 2 Parseval' sches Theorem Gesamtleistung v( t) dt = V ( f ) df 2 2

29 Schätzung des Leistungsspektrum P(f) Probleme: - Varianz der Schätzung ist so groß wie die Schätzung selbst Zeitbereichs- oder Frequenzbereichsmittelung - leakage diskreter Fall: Schätzung des Leistungsspektrum bei diskreten Frequenzen. Einfluß benachbarter Frequenzen? Windowing

30 Schätzung des Leistungsspektrum P(f) Fensterfunktionen

31 Stationarität - wesentliche Voraussetzung für Beschreibung eines Systems - gewährleistet Reproduzierbarkeit eines Meßergebnisses - starke Stationarität / schwache Stationarität

32 Stationarität Definition: starke Stationarität Ein Prozeß wird stationär im strengen oder engeren Sinne genannt, wenn Ψ( Z,..., Z ) Ψ( Z,..., Z ) t t = t + τ t + τ n n mit beliebigen t,..., t, τ, n n. Ψ( Z ) Ψ( Z,..., Z ) = t t t n Verbundverteilungsfunktion (statistischen Momente) Eine Verschiebung des Zeitbeginns um τ hat keinen Einfluß auf die statistischen Momente und Verbundmomente.

33 Stationarität Definition: schwache Stationarität Ein Prozeß heißt schwach stationär, wenn seine Verbundmomente bis zur Ordnung 2 zeitunabhängig, also konstant sind. z( t) = z( t) = z = konstant σ ( z( t)) = σ = konstant (mittelwertstationär) (varianzstationär)

34 stochastische Prozesse - geordnete Menge von Zufallsvariablen { Z t T} t, {T} Menge der Zeitpunkte, bei denen der Prozeß definiert ist - Zeitreihe zt Zt ist Realisation eines stochastischen Prozesses

35 stochastische Prozesse Grundmodell: weißes Rauschen - identisch verteilt - v(t) unabhängig ---> unkorreliert - Autokorrelationsfunktion: t C = σ 2 = 0 vv 0 t 0 Im Leistungsspektrum sind alle Frequenzen gleichwertig vertreten (Analogie: weißes Licht)

36 -0,4-0,2 0 0,2 0,4 0,6 0,8, time lag AKF 0 0, 0,2 0,3 0,4 0,5 0,6 0,7 0,8 0, data points Amplitude [a.u] weißes Rauschen Zeitreihe Autokorrelationsfunktion

37 stochastische Prozesse Autoregressive (AR) Prozesse p-ter Ordnung p l= v( t) = a v( t l) + ε( t) l ε(t) ist reiner Zufallsprozess mit Mittelwert 0 und Varianz σ ist der Antrieb des Systems v(t) hängt von seiner Vergangenheit bis zur Ordnung p ab (autoregressiv) 2

38 stochastische Prozesse Autoregressive (AR) Prozesse -ter Ordnung (Markov-Prozeß) v( t) = av( t ) + ε( t) - bei AR()-Prozessen nimmt die Autokorrelationsfunktion Cvv exponentiell ab - Korrelationszeit ist die Zeit, nach der Cvv auf ihren e-ten Teil abgefallen ist - für AR() Prozesse gilt: - Prozeß identifizierbar τ corr = lna

39 AR()-Prozess: v(t) = 0,8 v(t-) + ε(t) 4,5 4 3,5 3 2,5 2,5 0,5 0 AKF,2 0,8 0,6 0,4 0,2 0-0, Zeitreihe Amplitude [a.u.] data points Autokorrelationsfunktion ,4 time lag

40 stochastische Prozesse Autoregressive (AR) Prozesse 2-ter Ordnung v( t) = a v( t ) + a v( t 2) + ε( t) 2 - bei AR-Prozessen höherer Ordnung kann die Autokorrelationsfunktion Cvv eine Mischung von gedämpfter Exponential- und sinusförmigen Funktionen sein. - Prozeß schwer zu identifizieren - rekursive Schätzung der Prozeßparameter a und p

41 AR(2)-Prozess: v(t) = 0,85 v(t-)-0,2 v(t-2) + ε(t) 3 2,5 2,5 0, Zeitreihe Amplitude [a.u.] 507 data points Autokorrelationsfunktion AKF,2 0,8 0,6 0,4 0,2 0-0, ,4 time lag

42 stochastische Prozesse Erweiterung: Autoregressive (AR) Moving Average (MA) Prozesse p,q-ter Ordnung p q l l= k = v( t) = a v( t l) + b ε( t k) Leistungsspektrum von ARMA-Prozessen wird durch 2πif rationale Funktionen von e beschrieben: V ( f ) = const. ARMA --> Anwendung als Schätzer k 2πif b( e ) 2πif a( e ) 2