Hauptkomponentenanalyse für funktionale Daten

Transkript

1 Hauptkomponentenanalyse für funktionale Daten Cesaire J. Kueté F. Hauptkomponentenanalyse (Wintersemester 2014/2015) 24. November 2014 Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

2 Inhaltsverzeichnis 1 Einleitung 2 Klassische Hauptkomponentenanalyse Denition Die Hauptkomponenten 3 Funktionale Hauptkomponentenanalyse Denition Eigenwerte und Eigenfunktionen Multiple funktionale Hauptkomponentenanalyse Anwendung und Interpretation der Hauptkomponenten 4 Schluss 5 Aufgabe Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

3 Einleitung Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

4 Einleitung Hauptkomponentenanalyse: Finden eines minimalen Unterraums zur leichten Interpretation der Beobachtungen mit minimalem Informationsverlust. Ziel 1 Klassische Hauptkomponentenanalyse Suchen nach U R K, so dass die Projektion der Originalbeobachtungen die beste ist. 2 Funktionale Hauptkomponentenanalyse Suchen nach H L 2 K, so dass die beobachteten Funktionen möglichst gut approximiert werden. Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

5 Einleitung Funktionale Hauptkomponentenanalyse Betrachtet werde eine funktionale Zufallsvariable x i (t) nach (Ramsay und Silverman, 1997), dann ist die klassische Hauptkomponentenanalyse nicht mehr anwendbar. Einige Anwendungen: Dynamik von Übertragung der Stimmübertragung, Longitudinalstudie, Variation der Temperatur... Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

6 Funktionale Hauptkomponentenanalyse: Motivation Abbildung: Wetterstation Beispiel Originalfunktionen Temperatur Beobachtung Mittelfkt Tag Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

7 Hauptkomponentenanalyse Wie geht man damit um? Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

8 Klassische Hauptkomponentenanalyse Denition: Betrachte y = (y 1, y 2,..., y n ) T R n R n. und x = (x 1, x 2,..., x n ) T 1 < x, y >= n y i x i ist das Skalarprodukt zwischen y und x. i=1 x 1,1 x 1,2 x 1,k x 2,1 x 2,2 x 2,k 2 X = Rn k x n,1 x n,2 x n,k ist die Matrix der zentrierten Beobachtungen. Die Matrix S X := 1 n 1 X X ist die empirische Kovarianzmatrix. Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

9 Klassische Hauptkomponentenanalyse x 1, x 2,..., x n U ist die beste l-dimensionale Approximation von x 1, x 2,..., x n genau dann, wenn 1 SSE = n x i x i 2,minimal ist. d.h. i=1 n x i x i 2 = min{ n x i xi 2, rg([x1, x 2,..., x n]) l} i=1 i=1 Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

10 Klassische Hauptkomponentenanalyse x 1, x 2,..., x n U ist die beste l-dimensionale Approximation von x 1, x 2,..., x n genau dann, wenn 1 SSE = n x i x i 2,minimal ist. d.h. i=1 n x i x i 2 = min{ n x i xi 2, rg([x1, x 2,..., x n]) l} i=1 2 rg([ x 1, x 2,..., x n ]) l i=1 Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

11 Klassische Hauptkomponentenanalyse x 1, x 2,..., x n U ist die beste l-dimensionale Approximation von x 1, x 2,..., x n genau dann, wenn 1 SSE = n x i x i 2,minimal ist. d.h. i=1 n x i x i 2 = min{ n x i xi 2, rg([x1, x 2,..., x n]) l} i=1 2 rg([ x 1, x 2,..., x n ]) l i=1 Problemstellung: Suche die beste l-dimensionale lineare Approximation von x 1, x 2,..., x n R k. Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

12 Klassische Hauptkomponentenanalyse x 1, x 2,..., x n U ist die beste l-dimensionale Approximation von x 1, x 2,..., x n genau dann, wenn 1 SSE = n x i x i 2,minimal ist. d.h. i=1 n x i x i 2 = min{ n x i xi 2, rg([x1, x 2,..., x n]) l} i=1 2 rg([ x 1, x 2,..., x n ]) l i=1 Problemstellung: Suche die beste l-dimensionale lineare Approximation von x 1, x 2,..., x n R k. Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

13 Klassische Hauptkomponentenanalyse Sei B = {u 1,..., u k } U. Voraussetzungen für die l-dimensionale beste lineare Approximation: 1 u h = k α i X i, h {1,..., k}. i=1 2 Orthogonalität < u g, u h >= 0, h g Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

14 Klassische Hauptkomponentenanalyse Sei B = {u 1,..., u k } U. Voraussetzungen für die l-dimensionale beste lineare Approximation: 1 u h = k α i X i, h {1,..., k}. i=1 2 Orthogonalität < u g, u h >= 0, h g 3 Normalität: h {1,..., k} u h = 1. Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

15 Klassische Hauptkomponentenanalyse Sei B = {u 1,..., u k } U. Voraussetzungen für die l-dimensionale beste lineare Approximation: 1 u h = k α i X i, h {1,..., k}. i=1 2 Orthogonalität < u g, u h >= 0, h g 3 Normalität: h {1,..., k} u h = 1. 4 Minimierung der Fehler: u h = arg max uh!s 2 Xh = u h X Xu h = u h S X u h. Unter u g S X u h = 0 g {1,..., h 1}. Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

16 Klassische Hauptkomponentenanalyse Sei B = {u 1,..., u k } U. Voraussetzungen für die l-dimensionale beste lineare Approximation: 1 u h = k α i X i, h {1,..., k}. i=1 2 Orthogonalität < u g, u h >= 0, h g 3 Normalität: h {1,..., k} u h = 1. 4 Minimierung der Fehler: u h = arg max uh!s 2 Xh = u h X Xu h = u h S X u h. Unter u g S X u h = 0 g {1,..., h 1}. Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

17 Klassische Hauptkomponentenanalyse Eigenproblem: Finden einer Lösung der Eigengleichung ( X ) uh = Xu h = λ h u h Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

18 Klassische Hauptkomponentenanalyse Eigenproblem: Finden einer Lösung der Eigengleichung ( X ) uh = Xu h = λ h u h Der erste Eigenvektor entspricht dem erstgröÿten Eigenwert und trägt die erste Hauptkomponente. Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

19 Klassische Hauptkomponentenanalyse Eigenproblem: Finden einer Lösung der Eigengleichung ( X ) uh = Xu h = λ h u h Der erste Eigenvektor entspricht dem erstgröÿten Eigenwert und trägt die erste Hauptkomponente. Der zweite Eigenvektor entspricht dem zweitgröÿten Eigenwert und trägt die zweite Hauptkomponente. usw... Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

20 Klassische Hauptkomponentenanalyse Eigenproblem: Finden einer Lösung der Eigengleichung ( X ) uh = Xu h = λ h u h Der erste Eigenvektor entspricht dem erstgröÿten Eigenwert und trägt die erste Hauptkomponente. Der zweite Eigenvektor entspricht dem zweitgröÿten Eigenwert und trägt die zweite Hauptkomponente. usw... Sie erklären den gröÿten bzw. zweit-, drittgröÿten,... Teil der durch U erklärten Variabilität. Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

21 Klassische Hauptkomponentenanalyse Eigenproblem: Finden einer Lösung der Eigengleichung ( X ) uh = Xu h = λ h u h Der erste Eigenvektor entspricht dem erstgröÿten Eigenwert und trägt die erste Hauptkomponente. Der zweite Eigenvektor entspricht dem zweitgröÿten Eigenwert und trägt die zweite Hauptkomponente. usw... Sie erklären den gröÿten bzw. zweit-, drittgröÿten,... Teil der durch U erklärten Variabilität. Es gibt maximal r = min{n, k} < Eigenwerte bzw. Eigenvektoren. Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

22 Klassische Hauptkomponentenanalyse Eigenproblem: Finden einer Lösung der Eigengleichung ( X ) uh = Xu h = λ h u h Der erste Eigenvektor entspricht dem erstgröÿten Eigenwert und trägt die erste Hauptkomponente. Der zweite Eigenvektor entspricht dem zweitgröÿten Eigenwert und trägt die zweite Hauptkomponente. usw... Sie erklären den gröÿten bzw. zweit-, drittgröÿten,... Teil der durch U erklärten Variabilität. Es gibt maximal r = min{n, k} < Eigenwerte bzw. Eigenvektoren. Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

23 Funktionale Hauptkomponentenanalyse Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

24 Funktionale Hauptkomponentenanalyse Betrachte eine Funktion x i (t), mit t stetig. Gegeben sei H L 2 ein funktionaler Unterraum. Denition Gegeben sei h H 1 Die Projektion von x i entlang h H ist < h, x i > (t) = x i (t)h(t)dt und <, > ist das Skalarprodukt. < h, x i > 2 die durch h erklärte Variabilität und 1 N N < h, x i > 2 gemeinsame erklärte Variabilität. i=0 N 2 kov(s,t) = 1 N x i (t)x i (s) empirische Kovarianz zwischen s und t. i=0 Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

25 Funktionale Hauptkomponentenanalyse Hauptkomponentenanalyse Die folgenden Voraussetzungen müssen von H erfüllt werden. (i) Sei h i H, dann gilt h i (t) = N α i x(t)dt. i=0 (ii) h i, h j mit i j < h i, h j >= h i (t)h j (t)dt = 0. (iii) h H h 2 (t)dt = 1. (iv) Die h H erfüllen die Eigengleichung kov(s, t)h(t)dt = ρh(s)... (E). Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

26 Funktionale Hauptkomponentenanalyse Eigenwerte und Eigenfunktionen Der so genannte Kovarianzsoperator V entlang h wird so deniert, dass Vh = kov(, t)h(t)dt und die Eigengleichung (E) lässt sich als Vh = ρh umschreiben. Es gilt h(s)ρh(s) = h(s)kov(s, t)h(t)dtds = ρ. ρ bezieht sich auf einen Eigenwert, während h sich auf eine Eigenfunktion bezieht. Frage: Wie löst man die Eigengleichung (E)? Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

27 Funktionale Hauptkomponentenanalyse Eigenwerte und Eigenfunktionen Der so genannte Kovarianzsoperator V entlang h wird so deniert, dass Vh = kov(, t)h(t)dt und die Eigengleichung (E) lässt sich als Vh = ρh umschreiben. Es gilt h(s)ρh(s) = h(s)kov(s, t)h(t)dtds = ρ. ρ bezieht sich auf einen Eigenwert, während h sich auf eine Eigenfunktion bezieht. Frage: Wie löst man die Eigengleichung (E)? Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

28 Funktionale Hauptkomponentenanalyse Berechnung von Eigenwerten und Eigenfunktionen: zwei Grundideen Lösung der Eigengleichung 1 Diskretisieren der Integrale Im Fall der äquidistanten Zeitpunkte lautet die Eigengleichung: V h = λ h, wobei V und h sich auf das Diskretisieren von V bzw. h beziehen. λ ist ein Eigenwert von V, d.h. λ 2 ist ein Eigenwert von V T V. 2 Ausdruck der beobachteten Funktionen in Bezug auf eine Funktionalbasis Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

29 Funktionale Hauptkomponentenanalyse Lösung der Eigengleichung: 2. Idee Fortsetzung Gegeben sei eine bel. Funktionalbasis Φ, mit dim(φ) = K N t Sei x i (t) = K α ij Φ j (t), die Gewichtsmatrix j=1 α 1,1 α 1,2 α 1,K α 2,1 α 2,2 α 2,K A = RN K und Φ 1,, Φ K die Funktionen α N,1 α n,2 α N,K der Basis Φ. Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

30 Funktionale Hauptkomponentenanalyse Lösung der Eigengleichung: 2. Idee Fortsetzung Dann lautet die Eigengleichung (E): 1 N S 1 2A AS 1 2 µ = ρµ, wobei µ = S 1 2 h S =< Φ, Φ > Φ L 2 K und h R K, sodass h = h Φ Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

31 Funktionale Hauptkomponentenanalyse Lösung der Eigengleichung: 2. Idee Fortsetzung Bemerkung: - h Φ Φ h = 1 h = 1. - Falls Φ Orthonormalbasis, wird nur 1 N A A der Eigengleichung betrachtet. - Für N klein, werden die beobachteten Funktionen als die Funktionen der Basis Φ betrachtet und es folgt A A = I N. Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

32 Funktionale Hauptkomponentenanalyse: Verallgemeinerung Multiple funktionale Hauptkomponentenanalyse Gegeben sei F = (f 1,, f K ) L K 2. - < F i, F j >= K fgi f gj ist das Skalarprodukt zwischen F i und F j. g=1 - F = 1 K f 2 i = 1, F ist ein normierter Vektor i=1 kov 11 (s, t) kov 1K (s, t) - K(s, t) =..... kov K1 (s, t) kov KK (s, t) ist die empirische Kovarianzmatrix zwischen zwei beliebigen stetigen Variablen s und t. Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

33 Funktionale Hauptkomponentenanalyse: Verallgemeinerung Multiple funktionale Hauptkomponentenanalyse - Fortsetzung. Die Komponenten von K(s, t) werden so gebildet: kov ii (s, t) = 1 N kov ij (s, t) = 1 N N f i (s)f i (t) i=1 N f i (s)f j (t), i=1 kov ij (s, t) = kov ji (t, s) Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

34 Funktionale Hauptkomponentenanalyse: Verallgemeinerung Multiple funktionale Hauptkomponentenanalyse - Fortsetzung. Die Komponenten von K(s, t) werden so gebildet: Es folgt dann die Eigengleichung K(s, t)h = ρh, wobei h = (h 1,, h K ) und kov11 (s, t)h kov 1K h k = ρh 1 (G):. kovk1 (s, t)h kov KK h k. = ρh K ist das Eigengleichungssystem. Es ist genauso wie die Gleichung der univariaten funktionalen Hauptkomponentenanalyse lösbar. Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

35 Funktionale Hauptkomponentenanalyse Anwendung und Interpretation: Wetterstationen-Beispiel Tabelle: Namen der kanadischen Wetterstationen Arvida, Que. Kapuskasing, Ont. St. John's, nd Beaverlodge, B.C. London, Ont. Sydney, N.S. Calgary, Alta. Montreal, Que. The Pas, Man. Charlottetown, P.E.I Ottawa, Ont. Thunder Bay, Ont. Churchill, Man Prince Albert, Sask. Toronto, Ont. Dawson, Yukon Prince George, B.C. Vancouver, B.C Edmonton, Alta Prince Rupert, B.C. Victoria, B.C Fredericton, N.B. Quebec City, Que. Whitehorse, Yukon Halifax, N.S. Regina, Sask. Winnipeg, Man. Inuvik, N.W.T. Resulte, N.W.T. Yarmouth, N.S. Iqualuit,N.W.T. Scheerville, Que. YellowKnife, N.W.T. Kamloops, B.C. Sherbrooke, Que. Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

36 Funktionale Hauptkomponentenanalyse: Interpretation Abbildung: Darstellung der Originalen Daten Originalfunktionen Temperatur Beobachtung Mittelfkt Tag Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

37 Funktionale Hauptkomponentenanalyse: Interpretation Forts. Abbildung: Die vier ersten Hautkomponenten Temperatur HK1 HK2 HK3 HK Tag Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

38 Funktionale Hauptkomponentenanalyse: Interpretation Forts. Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

39 Funktionale Hauptkomponentenanalyse: Interpretation Fortz. Abbildung: Biplot im Raum der zwei ersten Hauptkomponenten HK Projektion der Stationen solute Pr. Rupert Iqaluit St. Johns Victori Sydney Yarmouth Vancou Churchill Scheffervll Pr. Calgary Charlottvl George Halifax Inuvik Whitehorse Thunderbay Edmonton Sherbrooke Fredericton London Toronto Bagottville Quebec Kamloops Arvida Ottawa Montreal Yellowknife Uranium The Pr. Cty Regina Pas Albert Dawson Winnipeg HK 1 Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

40 Tabelle: Vergleich klassische Analyse funktionale Analyse X 1,, X K R N, wobei f 1 (x),, f K (x) L 2 Variablen X i = (x 1i,, x Ni ) R N, x [t 1, t K ] i 1,, K Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

41 Daten Elemente aus R K Kurven L 2 K ([t1, t K ]) Tabelle: Vergleich klassische Analyse funktionale Analyse X 1,, X K R N, wobei f 1 (x),, f K (x) L 2 Variablen X i = (x 1i,, x Ni ) R N, x [t 1, t K ] i 1,, K Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

42 Daten Elemente aus R K Kurven L 2 K ([t1, t K ]) Tabelle: Vergleich klassische Analyse funktionale Analyse X 1,, X K R N, wobei f 1 (x),, f K (x) L 2 Variablen X i = (x 1i,, x Ni ) R N, x [t 1, t K ] i 1,, K Kovarianzmatrix X X = [kov(x i, X j )] 1 i,j K K(s, t) = [kov ij (s, t)] 1 i,j K, wobei X = [X 1,, X K ] s, t [t 1, t K ] Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

43 Daten Elemente aus R K Kurven L 2 K ([t1, t K ]) Tabelle: Vergleich klassische Analyse funktionale Analyse X 1,, X K R N, wobei f 1 (x),, f K (x) L 2 Variablen X i = (x 1i,, x Ni ) R N, x [t 1, t K ] i 1,, K Kovarianzmatrix X X = [kov(x i, X j )] 1 i,j K K(s, t) = [kov ij (s, t)] 1 i,j K, wobei X = [X 1,, X K ] s, t [t 1, t K ] Eigengleichung Xh = λh K(, t)h = ρh Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

44 Daten Elemente aus R K Kurven L 2 K ([t1, t K ]) Tabelle: Vergleich klassische Analyse funktionale Analyse X 1,, X K R N, wobei f 1 (x),, f K (x) L 2 Variablen X i = (x 1i,, x Ni ) R N, x [t 1, t K ] i 1,, K Kovarianzmatrix X X = [kov(x i, X j )] 1 i,j K K(s, t) = [kov ij (s, t)] 1 i,j K, wobei X = [X 1,, X K ] s, t [t 1, t K ] Eigengleichung Xh = λh K(, t)h = ρh Eigenwerte {λ i } 1 i min{n,k} {ρ i } i min{n,k} K = dim(b) Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

45 Daten Elemente aus R K Kurven L 2 K ([t1, t K ]) Tabelle: Vergleich klassische Analyse funktionale Analyse X 1,, X K R N, wobei f 1 (x),, f K (x) L 2 Variablen X i = (x 1i,, x Ni ) R N, x [t 1, t K ] i 1,, K Kovarianzmatrix X X = [kov(x i, X j )] 1 i,j K K(s, t) = [kov ij (s, t)] 1 i,j K, wobei X = [X 1,, X K ] s, t [t 1, t K ] Eigengleichung Xh = λh K(, t)h = ρh Eigenwerte {λ i } 1 i min{n,k} {ρ i } i min{n,k} K = dim(b) Eigenvektoren-Funktionen {u i } 1 i min{n,k} R K {h i } i {1,2, } L 2 K ([t1, t K ]) Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

46 Daten Elemente aus R K Kurven L 2 K ([t1, t K ]) Tabelle: Vergleich klassische Analyse funktionale Analyse X 1,, X K R N, wobei f 1 (x),, f K (x) L 2 Variablen X i = (x 1i,, x Ni ) R N, x [t 1, t K ] i 1,, K Kovarianzmatrix X X = [kov(x i, X j )] 1 i,j K K(s, t) = [kov ij (s, t)] 1 i,j K, wobei X = [X 1,, X K ] s, t [t 1, t K ] Eigengleichung Xh = λh K(, t)h = ρh Eigenwerte {λ i } 1 i min{n,k} {ρ i } i min{n,k} K = dim(b) Eigenvektoren-Funktionen {u i } 1 i min{n,k} R K {h i } i {1,2, } L 2 K ([t1, t K ]) Hauptkomponenten von Richtungsvektoren R K von Richtungsfunktionen getragen K L 2 ([t1, t K ]) getragen Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

47 Daten Elemente aus R K Kurven L 2 K ([t1, t K ]) Tabelle: Vergleich klassische Analyse funktionale Analyse X 1,, X K R N, wobei f 1 (x),, f K (x) L 2 Variablen X i = (x 1i,, x Ni ) R N, x [t 1, t K ] i 1,, K Kovarianzmatrix X X = [kov(x i, X j )] 1 i,j K K(s, t) = [kov ij (s, t)] 1 i,j K, wobei X = [X 1,, X K ] s, t [t 1, t K ] Eigengleichung Xh = λh K(, t)h = ρh Eigenwerte {λ i } 1 i min{n,k} {ρ i } i min{n,k} K = dim(b) Eigenvektoren-Funktionen {u i } 1 i min{n,k} R K {h i } i {1,2, } L 2 K ([t1, t K ]) Hauptkomponenten von Richtungsvektoren R K von Richtungsfunktionen getragen K L 2 ([t1, t K ]) getragen N = Stichprobenumfang und K = Anzahl der beobachteten Variablen ( für die klassische Analyse) bzw. = Dimension der betrachteten Basis (für die funktionale Analyse) Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

48 Daten Elemente aus R K Kurven L 2 K ([t1, t K ]) Tabelle: Vergleich klassische Analyse funktionale Analyse X 1,, X K R N, wobei f 1 (x),, f K (x) L 2 Variablen X i = (x 1i,, x Ni ) R N, x [t 1, t K ] i 1,, K Kovarianzmatrix X X = [kov(x i, X j )] 1 i,j K K(s, t) = [kov ij (s, t)] 1 i,j K, wobei X = [X 1,, X K ] s, t [t 1, t K ] Eigengleichung Xh = λh K(, t)h = ρh Eigenwerte {λ i } 1 i min{n,k} {ρ i } i min{n,k} K = dim(b) Eigenvektoren-Funktionen {u i } 1 i min{n,k} R K {h i } i {1,2, } L 2 K ([t1, t K ]) Hauptkomponenten von Richtungsvektoren R K von Richtungsfunktionen getragen K L 2 ([t1, t K ]) getragen N = Stichprobenumfang und K = Anzahl der beobachteten Variablen ( für die klassische Analyse) bzw. = Dimension der betrachteten Basis (für die funktionale Analyse) Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

49 Aufgabe Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

50 Aufgabe Teil I Betrachten wir wieder die Eigengleichung (E): kov(s, t)h(t)dt = ρh(s). Diskretisieren der Integrale (Folie 16): Zeigen Sie das Resultat. Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

51 Aufgabe Teil II Betrachten wir wieder das Beispiel der Wetterstationen 1 Laden Sie die Pakete "fda". 2 Schauen Sie sich das Objekt "dailyän. 3 Erstellen Sie mit folgenden Parametervektoren (0, 2π 365 ) 2 und range (0, 365) einen Di. Operator. 4 Erstellen Sie weiter ein funktionales Operator-Objekt mit dem Befehl fdpar. 5 Führen Sie dann die Glättung über den Zeitraum 1 bis 365 durch. 6 Führen Sie mit Hilfe von pca.fd eine funktionale Hauptkomponentenanalyse durch. Berücksichtigen Sie dafür nur die vier ersten Hauptkomponenten. Hinweis: Stellen Sie zunächst die Hauptkomponenten in einer Grak dar und plotten Sie wie in Folie 26 die Hauptkomponenten ± die mittlere Funktion. Ein Biplot wäre auch für die Interpretation Hilfreich. Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32

52 Ramsay, J. und Silverman, B. W. (1997). Functional Data Analysis. Springer, New York. Cesaire J. Kueté F. (TU Dortmund) Hauptkomponentenanalyse 24. November / 32