Signalanalyse mit Wavelets

Transkript

1 Signalanalyse mit Wavelets Ausführung basieren auf Wavelet Methods for Time Series Analysis (WMTSA) Donald B. Percival and Andrew T. Walden, Cambridge University Press,

2 Orthonormale Transformation (1) Erlaubt Varianzanalyse und additive Zerlegung von Zeitreihen X = (X 0,., X N-1 ) t Zeitreihe als Spaltenvektor Ω orthonormale Transformation, N x N Matrix O = Ω X, X = Ω t O Energieerhaltung: ℵ O = O ² = X ² = ℵ X. Projektionstheorem: Die im Sinne des quadratischen Fehlers beste Approximation der Zeitreihe X ist durch die folgende Linearkombination orthonormaler Zeilenvektoren gegebene Reihe N 1 X * = mit X X * O j j= 0 2 = N 1 j= 0 Ω j O 2 j = ε 2 X* ist die Projektion von X auf den von Ω j aufgespannten Vektorraum. 2

3 Orthonormale Transformation (2) Beispiel: 0 Ω = Finde brauchbare Orthonormal-Transformation Ω, die interessante Information über die Zeitreihe ableiten und die sich für große N leicht berechnen lassen. Orthonormale diskrete Fourier Transformation (ODFT) 0 k, j N-1, benötigt N log(n) Rechenschritte (fast Fourier Transform) Wird zur Spektralanalyse und Varianzzerlegung eingesetzt. F = [ ] f kj f kj = exp{ i 2 π j k /N} σˆ X = {F N/ F N 2 k } 1 k N/ 2 3

4 Einführung in Wavelets (1) Wavelets sind Analysetools für Zeitreihen und Bilder. Wavelets sind 1983 eingeführt worden und eine Verschmelzung alter und neuer Ideen. Seit 1989 sind dazu mehr als Artikel und Buchbeiträge erschienen. Es hat zwei große Entwicklungen zu den Wavelets gegeben: Stetige Wavelet Transformation - CWT - ab 1983 Diskrete Wavelet Transformation - DWT - ab 1988 Wavelets sind kleine Wellen, co-/ sinusartige Schwingungen sind große Wellen. Reelwertige Wavelets ψ auf R haben folgende Eigenschaften (CWT): (1) Das Integral von ψ über R ist 0; (2) Das Integral von ψ² über R ist 1. Die Welle ist klein, weil es zu jedem kleinen ε > 0 ein T gibt, so daß über dem Intervall [-T, T] das Integral von ψ² fast die gesamte Masse trägt: [-T,T] ψ² > 1-ε. Die Länge des Intervalls [-T,T] ist klein im Vergleich zu R. Aus (2) ergibt sich, dass das Wavelet ψ irgendwo von 0 verschieden ist. Aus (1) ergibt sich ein ausbalanciertes Verhältnis zwischen positiven und negativen Werten. 4

5 Drei Wavelets Haar Funktion Erste Ableitung der Gaussdichte Mexikanischer Hut Des gibt auch komplex-wertige Wavelet Funktionen. 5

6 Einführung in Wavelets (2) Wavelets quantifizieren Variationen lokaler Mittelwerte x( ) Signal (reell-wertige Funktion von t auf R, t wird Zeit genannt) Mittelwert von x über [a,b]: 1 b b a a x(s)ds = α(a,b) Eng verbunden mit der Idee des Stichprobenmittelwertes, Sprungfunktion auf Intervallen der Länge (b-a)/n. b 1 x(s)ds = b a a 1 N N 1 j= 0 x j Gestrichelte Linie ist Mittelwert 6

7 Clock 571 Average daily fractional frequency deviates for cesium beam atomic clock 571. The fractional frequency deviates are recorded in parts in 1013 (a deviation of 15 parts in 1013 days means that clock 571 lost about billionths of a second in one day with respect to the US Naval Observatory master clock to which it was being compared). 7

8 Einführung in Wavelets (3) Reparametrisiere α(a,b): A(λ,t) = α(t-λ/2, t+λ/2) λ = b-a Skalierung t = (a+b)/2 Intervallmitte A(λ,t) ist der Mittelwert von x( ) mit Skalierung λ an t Mittelwerte von Signalen sind aus verschiedenen Gründen von Interesse: - globale Klimaveränderung - Tagesmittel an Pollenwerten Variabilität in der Frequenz der Atomuhr clock 571 A(λ,t) für verschiedene stetige λ dargestellt A(1,t) = 0: mittlere Übereinstimmung der Standardzeit mit der clock 571 A(1,t) < 0 clock 571 verliert Zeit. Qualität der Uhr kann an den Veränderungen von A(1,t) erkannt werden Zeit kann leicht korrigiert werden, wenn A(1,t) konstant ist. 8

9 Einführung in Wavelets (4) Änderungen in A(1,t) lassen sich durch D(1,t) quantifizieren: D(1,t) = A(1,t + 1/ 2) A(1,t 1/ 2) = Allgemeiner gilt für beliebige Skalen λ: t+ 1 x(u)du t t x(u)du t 1 1 D( λ,t) = A( λ,t + λ / 2) A( λ,t λ / 2) = λ D(λ,t) ist oft informativer als A(λ,t) D(λ,t) kann mit dem Haar-Wavelet in Verbindung gebracht werden: D( λ,t) = x(u)du x(u)du Haar-Wavelets können Variabilität an verschiedenen Zeitpunkten auf verschiedenen Skalen entdecken. t+λ t 1 λ t t λ ψ λ, t(u) x(u) du ψ λ,t(u) 1/ λ t λ< u t = 1/ λ t< u t+λ 0 sonst 9

10 Einführung in Wavelets (5) Haar CWT : W H (λ,t) = 2-1/2 D H (λ,t) Die analoge Transformation kann mit verschiedenen Wavelets gemacht werden. Unterschiede werden damit gewichtet bewertet. Man kann die Orginalfunktion aus der CWT zurückgewinnen: 1 x(t) = C ψ 0 W( λ,u) 1 t ψ( λ u 1 )du λ 2 λ Die Orginalfunktion x(t) und ihre CWT W(λ,t) sind äquivalent. Energie von x kann in Energien bezüglich λ und t zerlegt werden: dλ x 2 1 (t)dt = W C ψ 0 2 ( λ,u) 1 λ 2 dλ 10

11 Haar Wavelets Translatiert und reskaliert 11

12 Clock 571 W(λ,t) Darstellung gewichteter Mittelwerte: Als Wavelet wurde der Mexikanische Hut verwendet. Hell - hohe Werte 12

13 Die diskrete Wavelet-Transformation (DWT) Ein Signal wurde in ein Bild verwandelt. Teile aus dem Bild besitzen schon alle Information über die diskrete Funktion x Die DWT wird durch Ausschnitte der CWT repräsentiert. Da die meisten Zeitreihen diskret erhoben wurden, sollte man sie mit diskreten Verfahren bearbeiten (Es gibt keine eindeutige Strategie sie in eine stetige Funktion zu verwandeln). DWT kann als orthonormale Transformation formuliert werden DWT führt zu einer Dekorrelation der Beobachtung DWT ist zur dyadischen Skalierung standardisiert Kann noch schneller als FFT (fast Fourier Transform) berechnet werden mittels Pyramidenalgorithmus. 13

14 DWT (1) ist orthonormale Transformation: ANOVA, Wavelet Varianz, diskretes Wavelet Power Spektrum, additive Zerlegung, multiresolution analysis Basisvektoren sind mit Zeit und Skalierung (λ,t) assoziiert W = W X W ist der N x 1 Vektor der DWT Koeffizienten W ist eine N x N orthonormale Transformation Haar DWT: Skalierung 1 mit N/2 Koeffizienten: W 0, W 1,, W N/2-1 Skalierung 2 mit N/4 Koeffizinten Skalierung 2 k mit N/2 k Koeffizienten etc. N muss dabei von der Form 2 M sein. 14

15 Haar - DWT (2) Schematische Darstellung der 16 x 16 Matrix W für die DWT einer Zeitreihe mit 16 Zeitpunkten 15

16 Haar - DWT (clock 571) Residual Haar DWT Koeffizienten Autokorrelation Test auf weißes Rauschen Energieanalyse basierend auf den Haar DWT Koeffizienten 16

17 D(4) - DWT Daubechies-Wavelet der Ordnung 4: D(4) Hat nach dem Haar-Wavelet die zweit einfachste Struktur Mache einen 2-Punkte Filter gefolgt von einer zweiten Differenz: {X t } [a,b] [1,-2,1] {Y t } Hieraus ergibt sich der Filter {X t } [h 0, h 1, h 2, h 3 ] {Y t } Bestimme a und b so, dass die Wavelet-Bedingungen (1) und (2) (siehe Folie 4) erfüllt sind. 17

18 D(4) - DWT 18

19 Definition der DWT Die DWT wird durch den Pyramiden Algorithmus berechnet. Dieser definiert orthonormale Matrizen W für nicht-haar Wavelets. Der Algorithmus basiert auf linearen Filtern und Matrizenoperationen Wavelet-Filter {h l, l=0,, L} L muss gerade sein h erfüllt 3 Bedingungen: Summe ist 0, Energie beträgt 1, Orthogonalität für gerade Shift. 19

20 Prozesse mit langer Erinnerung (LMP) {X t } stationär mit Spektrum S X ( ) {X t } ist LMP falls für C S > 0 und -1<α<0 gilt wird auch 1/f Prozess genannt α -1 definiert nicht stationäre LMPs Drei wichtige Beispiele: Fraktionales Gauss sches Rauschen (FGN) Reine power law Prozesse FD Prozesses (fractionally differenced) f FGN hat Autokovarianzfunktion mit Hurst Koeffizienten H ACF lim f 0 stationär falls 0.5 < H < 1, weißes Rauschen falls H = 0.5 C S S X (f) 2 σ X X ( τ) = 2 [ 2H 2H 2H] τ τ + τ 1 α = 1 PPL (pure power law): S X (f) = C S f α stationär falls -1 < α < 0, weißes Rauschen falls α = 0, α -1 nicht-stationär 20

21 FD Prozesse (1) Ein stochastischer Prozess heißt FD(δ) Prozess, falls (1-B) δ X t = ε t. ε t ist weißes Rauschen mit Mittelwert 0 und Varianz σ² X t ist stationär falls -0.5 δ 0.5 Spektrum: S X (f) = σ²/[4 sin²(πf)] δ mit f < 0.5 (Rechnung) Spektrum linear/log und log/log δ= 0.05 (dick durchgezogen) δ = 0.25 (gepunktet) δ = 0.40 (gestrichelt) δ = 0.45 (dünn durchgezogen) 21

22 Backward Shift B (a) a random walk; (b) a modified random walk, formed using a white noise sequence with mean μ ε = 0.2; (c) a random run (second order, difference is RW); (d) a process formed by summing the line given by 0.05t and a simulation of a stationary FD process with δ =

23 FD Prozesse (2) 23

24 FD Prozesse (3) LA(8) DWT Koeffizienten einer simulierten FD(0.4) Zeitreihe mit Stichproben-Autokorrelogramm. Autokorrelation von X ist beständig hoch über längere Zeitspannen. Prozess mit langem Gedächtnis (long term memory process - LMP) Waveletkoeffizineten verhalten sich wie Weißes Rauschen DWT macht aus Reihe weißes Rauschen 24

25 FD Prozesse (4) Spektralschätzung aus den Wavelet- Varianzen für die verschiedenen Skalierungen. Wahres Spektrum versus Schätzung Berechne die Varianz der Koeffizienten in den verschiedenen Skalierungen W1 hat Frequenz 0.5 W2 hat Frequenz 0.5² WK hat Frequenz 0.5 K 25

26 MLE für FD Prozesse Simulation von FD-Prozessen: Wavelet-Zerlegung und die Annahme des WR für Wavelet-Koeffizienten macht die Simulation von FD-Realisierungen leicht. MLE für die Parameter σ² und δ Test auf Trend Least square estimates als Alternative zu LME Homogenität der Varianz: W j sollte sich wie weißes Rauschen verhalten Cov{W jt, W jt* } ~ 0, für t t* Var{W jt } variiert nicht mit t Teststatistiken werden heuristisch motiviert. Verhalten unter der Null-Hypothese kann simuliert werden (Siehe oben Punkt 1). Damit können kritische Werte zu relevanten Signifikanzniveaus berechnet werden. 26

27 MLE für FD Prozesse Qualität der Wavelet-basierten Profile-Likelihood Methode 27

28 Minimale Wasserstände am Nil Wasserstände am Nil Identifikation eines change points in der Variabilität der Reihe (Varianzhomogenität) 28

29 Minimale Wasserstände am Nil Test auf Varianzhomogenität für verschiedene Ebenen der Auflösung. 29

30 Minimale Wasserstände am Nil Wasserstände am Nil Identifikation eines change points 30

31 Minimale Wasserstände am Nil Reduzierte LL für den FD Parameter δ basierend auf den letzten 512 Beobachtungen der Nil Zeitreihe Die dicke Kurve basiert auf der Verwendung eines LA(8) Wavelets: δ MLE = , Die dünne Kurve basiert auf der exakten Lösung: δ MLE =

32 Minimale Wasserstände am Nil Spektrum aus den ML- Schätzern berechnet (Linie) Spektrum aus den Waveletvarianzen geschätzt (Punkte) 32