Die Rücktransformation: Z = A t (Y µ) = Y = AZ + µ

Größe: px

Ab Seite anzeigen:

Download "Die Rücktransformation: Z = A t (Y µ) = Y = AZ + µ"

Rosa Böhme
vor 6 Jahren
Abrufe

1 Die Rücktransformation: Z = A t (Y µ) = Y = AZ + µ Kleine Eigenwerte oder Eigenwerte gleich Null: k Eigenwerte Null = Rang(Σ) = m k Eigenwerte fast Null = Hauptkomponenten beinahe konstant Beschränkung auf p Hauptkomponenten: Gütekriterium: Anteil der erklärten Variation: p i=1 λ i/ m i=1 λ i MV05f01

2 EWU.frame Staat X1 X2 X3 X4 Beitritt 1 B DK D FIN F GR IRL I L NL A P S E GB X1 Inflationsrate 1997 in % X2 langfristiger Zinssatz 1997 in % X3 öffentliche Neuverschuldung 1997 in % des BIP X4 öffentlicher Schuldenstand 1997 in % des BIP MV05f02

3 EWU.eigen<-eigen(cov(EWU.frame[,2:5]))$values round(ewu.eigen,digits=2) round(princomp(ewu.frame[,2:5])$scores,digits=2) Comp.1 Comp.2 Comp.3 Comp

4 Comp.1 Comp.2 Comp.3 Comp Kaum Variation in der 4. Komponente, Standardabweichungen: round(princomp(ewu.frame[,2:5])$sdev,digits=2) Comp.1 Comp.2 Comp.3 Comp Kumulierte Anteile an der Gesamtvariation: round(cumsum(ewu.eigen)*100/sum(ewu.eigen), digits=2) MV05f03

5 Berechnung mit Kovarianzmatrix: round(princomp(ewu.frame[,2:5])$sdev,digits=2) Comp.1 Comp.2 Comp.3 Comp round(cumsum(ewu.eigen)*100/sum(ewu.eigen),digits=2) Berechnung mit Korrelationsmatrix: ei<-eigen(cor(ewu.frame[,2:5]))$values round(ei,digits=4) round(cumsum(ei)/sum(ei)*100,digits=2) MV05f04

6 Kovarianzmatrix: > round(cov(ewu.frame[,2:5]),digits =2) X1 X2 X3 X4 X X X X Korrelationsmatrix: > round(cor(ewu.frame[,2:5]),digits =2) X1 X2 X3 X4 X X X X MV05f04a

7 Orthogonalität: Z = XA ZZ t = XAA t X t = XX t In den Matrizen ZZ t bzw. XX t steht an der Stelle (i,j) das Skalarprodukt der Merkmale für die Merkmalsträger i und j. Skalarprodukte und damit Norm und Metrik bleiben unverändert! MV05f05

8 Komponentenladungen: a t j a j = 1 a j = λ1/2 j a j a t j a j = λ ja t j a j = λ j C = [a 1,a 2,...,a m] C = AΛ 1/2 Σ = AΛA t = Σ = CC t Z = Λ 1/2 Z = Var(Z ) = I Inverse Transformation: Y = AZ = AΛ 1/2 }{{} C Λ 1/2 Z }{{} Z = CZ

9 Inverse Transformation: Faktorenanalyse: Y = AZ = AΛ 1/2 }{{} C Y = Λf + e Λ 1/2 Z }{{} Z = CZ f t = [f 1,f 2,...,f p ] Faktoren Λ m p-matrix der Faktorladungen e t = [e 1,e 2,...,e m ] Fehler Analogie: = C: Komponentenladungen MV05f06

10 Zweite Interpretation von C: Bei Verwendung der Korrelationsmatrix ist: P = CC t Y = AZ cov(z j,y i ) = cov Z j, m k=1 a ikz k = a ij Var(Z j ) = a ij λ j Korr(Z j,y i ) = λ j a ij /λ 1/2 j = a ij λ 1/2 j = a ij Korr(Z,Y ) = AΛ 1/2 = C C enthält Korrelationskoeffizienten zwischen Hauptkomponenten und standardisierten Originalvariablen m (Korr(Z j,y i )) 2 = m i=1 i=1 (a ij) 2 m = λ j i=1 a2 ij = λ j = Var(Z j ) Varianz der j-ten Hauptkomponente ist Summe der quadrierten Korrelationskoeffizienten zwischen dieser HK und allen Originalvariablen. MV05f07

11 Beispiel: Xstand<-(as.matrix(teil01.frame) -eins%*%t(mitte))%*%diag(1/stand) Korrelationsmatrix: round(cor(xstand),digits=4) Diagonalmatrix der Eigenwerte: Lambda<-diag(eigen(cor(Xstand))$values) round(lambda,digits=4)

12 Matrix der Eigenvektoren: A<-eigen(cor(Xstand))$vectors round(a,digits=4) Matrix der Komponentenladungen: CL<-A%*%Lambda^(1/2) round(cl,digits=4) MV05f08

13 Hauptkomponenten: Z<-Xstand%*%A round(z[1:5,],digits=4) Korrelation, Hauptkomponenten und Originalvariablen: round(cor(xstand,z),digits=4) Z1 Z2 Z3 Y Y Y

14 Korrelation, Hauptkomponenten und Originalvariablen: round(cor(xstand,z),digits=4) Z1 Z2 Z3 Y Y Y Matrix der Komponentenladungen: CL<-A%*%Lambda^(1/2) round(cl,digits=4) MV05f09

15 m i=1 (Korr(Z j,y i )) 2 = λ j m i=1 a2 ij = λ j = Var(Z j ) round(sum(cl[,1]^ 2),digits=4) round(sum(cl[,2]^ 2),digits=4) round(sum(cl[,3]^ 2),digits=4) Lambda<-diag(eigen(cor(Xstand))$values) round(lambda,digits=4) MV05f09a

16 Beispiel: Unkorrelierte Variablen Zusätzliche Variable: Woerter Korrelationsmatrix und Kovarianzmatrix: round(cor(fragmet.frame[,c(2,3,4,7)],use= c ),digits=4) Groesse Schuh Gewicht Woerter Groesse Schuh Gewicht Woerter round(cov(fragmet.frame[,c(2,3,4,7)],use= c ),digits=2) Groesse Schuh Gewicht Woerter Groesse Schuh Gewicht Woerter

17 Eigenwerte und Eigenvektoren der Kovarianzmatrix: Groesse Schuh Gewicht Woerter Groesse Schuh Gewicht Woerter print(eigen(cov(fragmet.frame[,c(2,3,4,7)],use="c")),digits=2) $values [1] $vectors [,1] [,2] [,3] [,4] [1,] [2,] [3,] [4,]

18 Y i unkorreliert mit allen Y j und Var(Y i ) = σi 2, dann ist σ2 i ein Eigenwert der Kovarianzmatrix und der entsprechende Eigenvektor hat an der i-ten Stelle eine 1 und sonst Nullen. Y i ist eine der Hauptkomponenten. Wenn alle Variablen untereinander unkorreliert sind, stimmen die Hauptkomponenten mit den Originalvariablen überein. Sie werden nur nach absteigender Varianz geordnet. MV05f10

19 Beispiel: Alle Variablen unkorreliert round(cor(fragmet.frame[,5:8],use="c"),digits=4) UeGewicht GroeBoe Woerter ZuZahl UeGewicht GroeBoe Woerter ZuZahl round(cov(fragmet.frame[,5:8],use="c"),digits=0) UeGewicht GroeBoe Woerter ZuZahl UeGewicht GroeBoe Woerter ZuZahl

20 round(eigen(cov(fragmet.frame$[\mbox{,5:8}]$,use=\dq c\dq ))$values,digits=0) round(eigen(cov(fragmet.frame$[\mbox{,5:8}]$,use=\dq c\dq))\$vectors,digits=2) HK1 HK2 HK3 HK4 UeGewicht GroeBoe Woerter ZuZahl Kovarianzmatrix: UeGewicht GroeBoe Woerter ZuZahl UeGewicht GroeBoe Woerter ZuZahl MV05f11

21 Auswahl der Hauptkomponenten: P j := λ j a j a t j Λ = A t PA und P = AΛA t m = m Var(Y j) > m 1 Var(Z j) j=1 j=1 P = AΛA t = λ 1 a 1 a t λ m a m a t m = m j=1 P j P := m 1 P j P := P P Rest- oder Fehlermatrix j=1?? Wie wählt man m 1?? MV05f12

22 Auswahl der Hauptkomponenten: Λ = A t PA und P = AΛA t = λ 1 a 1 a t λ m a m a t m a j = λ1/2 j a j C = [a 1,a 2,...,a m] = AΛ 1/2 P = CC t = a 1a t a ma t m = (a 11) 2 a 11a a 11a m1 a 21a 11 (a 21) 2... a 21a m a m1a 11 a m1a (a m1) (a 1m) 2 a 1ma 2m... a 1ma mm a 2ma 1m (a 2m) 2... a 2ma mm a mma 1m a mma 2m... (a mm) 2 Diagonale: Varianzen der standardisierten Variablen, d.h. 1 = m j=1 (a ij )2 i = 1, 2,...,m I.a. m 1 j=1 (a ij )2 < 1?? Wie wählt man m 1?? MV05f12a

23 1 = m j=1 (a ij )2 i = 1, 2,...,m Varianz der i-ten standardisierten Variablen ist Summe der quadrierten Korrelationskoeffizienten der i-ten Variablen mit allen HK m i=1 (Korr(Z j,y i )) 2 = m i=1 (a ij) 2 = λ j Varianz der j-ten HK ist Summe der quadrierten Korrelationskoeffizienten dieser j-ten HK mit allen standardisierten Originalvariablen C = a 11 a a 1m a 21 a a 2m a m1 a m2... a mm (a 11)2 (a 12) 2... (a 1m) 2 (a 21) 2 (a 22) 2... (a 2m) (a m1) 2 (a m2) 2... (a mm) 2 Zeilensummen gleich 1 j-te Spaltensumme ist gleich λ j MV05f12b

24 Screetest: EWUcor.eigen<-eigen(cor(EWU.frame[,2:5]))$values plot(ewucor.eigen,type="o",ylab="eigenwerte") title(main="graph zur Durchführung des Scree-Tests") Graph zur Durchführung des Scree Tests Eigenwerte Index pr.aus<-princomp(ewu.frame[,2:5],cor=t) screeplot(pr.aus,type="l ") MV05f13

25 Auswahl der Hauptkomponenten: 1. Scree-Test: Nur bis zum Knick 2. So viele Hauptkomponenten, wie Eigenwerte λ j > 1 3. So viele Hauptkomponenten bis Anteil der kumulierten Varianz m 1 λ j/m > 0.90 j=1 4. Unter der Voraussetzung einer multivariaten Normalverteilung: Test von Bartlett H 0 : λ m1 +1 =... = λ m B := (n 1) ln m j=1 λ j B χ 2 (m m 1 +2)(m m 1 1)/2 + ln m 1 j=1 λ j + (m m 1 ) ln m m 1 λ j j=1 m m 1 MV05f14

26 Beispiel EWU.frame: 1. Scree-Test: = m 1 = 2 2. Eigenwerte: round(ewucor.eigen,digits=2) = m 1 = 1 3. cumsum(round(ewucor.eigen,digits=2))/ Bartlett-Test: m 1 B P-Wert FG = m 1 = 3 = m 1 = 3 MV05f15

27 EWU.frame; Komponentenladungen, Spektralzerlegung: C = AΛ 1/2 round(ewucor.vektor%*%diag(ewucor.eigen)^(1/2),digits=4) HK1 HK2 HK3 HK4 X X X X R = AΛA t = λ 1 a 1 a t λ m a m a t m R = m j=1 R j mit R j := λ j a j a t j MV05f16

28 R: round(cor(ewu.frame[2:5]),digits=4) X1 X2 X3 X4 X X X X lambda1<-ewucor.eigen[1] lambda2<-ewucor.eigen[2] lambda3<-ewucor.eigen[3] lambda4<-ewucor.eigen[4] a1<-ewucor.vektor[,1] a2<-ewucor.vektor[,2] a3<-ewucor.vektor[,3] a4<-ewucor.vektor[,4] MV05f17

29 R1<-round(lambda1*a1%*%t(a1),digits=4) R R2<- round(lambda2*a2%*%t(a2),digits=4) R

30 R3<- round(lambda3*a3%*%t(a3),digits=4) R R4<-round(lambda4*a4%*%t(a4),digits=4) R MV05f18

31 m 1 = 1 = R = R 1 R R = R R 1 = R 2 + R 3 + R 4 R2+R3+R

32 m 1 = 2 = R = R 1 + R 2 R1+R R = R R 1 R 2 = R 3 + R 4 R3+R MV05f19

33 m 1 = 3 = R = R 1 + R 2 + R 3 R1+R2+R R = R R 1 R 2 R 3 = R 4 R MV05f20

34 Grafische Darstellungen der Komponentenladungen EWUCL<-EWUcor.Vektor%*%diag(EWUcor.eigen)^(1/2) EWUnames<-c("Inflationsrate","Zinssatz","Neuverschuldung", "Schuldenstand") LadeHK1<-EWUCL[,1] LadeHK2<-EWUCL[,2] plot(ladehk1,ladehk2,xlim=c(0,1),ylim=c(-1,1),xlab="ladungen der 1. HK", ylab="ladungen der 2. HK") identify(ladehk1,ladehk2,labels=ewunames) Ladungen der 2. HK Neuverschuldung Schuldenstand Inflationsrate Zinssatz Ladungen der 1. HK

35 Ladungen der 2. HK Neuverschuldung Schuldenstand Inflationsrate Zinssatz MV05f Ladungen der 1. HK

Ähnliche Dokumente

Klausur zur Vorlesung Multivariate Verfahren, SS 2006 6 Kreditpunkte, 90 min

Klausur, Multivariate Verfahren, SS 2006, 6 Kreditpunkte, 90 min 1 Prof. Dr. Fred Böker 08.08.2006 Klausur zur Vorlesung Multivariate Verfahren, SS 2006 6 Kreditpunkte, 90 min Gesamtpunkte: 39 Aufgabe