Inhalt. Einführung in die Faktorenanalyse mit SPSS. 1. Faktorenanalyse: Wozu? 1. Faktorenanalyse: Wie?

Transkript

1 Einführung in die Faktorenanalyse mit SPSS Benutzertreffen am URZ Christoph Witzel. Juni 00 Inhalt. Faktorenanalyse: Wozu und wie?. Beispieldaten Metalle. Vorgehensweise. Verfahren zur Berechnung der Faktoren. Image-Analyse. Alpha-Faktorenanalyse. Zusammenfassung. Faktorenanalyse: Wozu? Allgemeiner Zweck: Zusammenhänge zwischen den Variablen durch neue Variablen, die Faktoren, ausdrücken.. Faktorenanalyse: Wozu? Veranschaulichung: Variablen seien: Wie oft Personen Fußball spielen, Rad fahren, fernsehen, schwimmen, spazieren gehen, lesen, Squash spielen, kochen Mögliche Faktoren, durch die die Werte der Variablen zustande kommen könnten: - Motivation, Sport zu treiben - Motivation, im Freien zu sein. Faktorenanalyse: Wie? Die Maßzahlen für die Zusammenhänge der Variablen sind Korrelationen (manchmal auch andere Zusammenhangsmaße vgl. ). Die Variablen werden in eine lineare Verknüpfung der Faktoren zerlegt: Einzelne Ausprägungen einer Variable = faktor + faktor + + einzelne Einflüsse. Faktorenanalyse: Wie?. Mathematisches Grundmodell p beobachtete Merkmale sollen durch k Faktoren und eine Restvariable dargestellt werden. In Matrixschreibweise für alle p Variablen und n Fälle: Y = L F + E Dazu muss L ermittelt werden! Aber wie?

2 . Faktorenanalyse: Wie?. Die Grundprobleme der FA. Faktorenanalyse: Wie?. Die Grundprobleme der FA. Kommunalitätenproblem: Welchen Anteil hat L * F und welchen hat E?. Faktorenanzahlproblem: Wie viele k Faktoren sind nötig?. Rotationsproblem: Nach welchen Kriterien werden die Faktoren festgelegt? Je nachdem wie diese Grundprobleme gelöst werden, gibt es verschiedene Verfahren :. Hauptkomponentenanalyse (Pearson, Hottelling). Maximum-Likelyhood-FA (Lawley & Maxwell). Kanonische Faktorenanalyse (Rao, 9). Zentroidmethode (Thurstone, 97). Und viele mehr. Faktorenanalyse: Wozu?. Beispieldaten Metalle 8 Metalle mit Ordnungszahl, Atommasse, Dichte, Schmelzpunkt und Siedetemperatur und je nach Verfahren, kann man die Analysen zu verschiedenen Zwecken einsetzen. usw Beispieldaten Metalle. Vorgehensweise Ordnungszahl, Atommasse und Dichte hängen linear zusammen. Zur vollständigen Erklärung von Atommasse bzw. Dichte durch Ordnungszahl bräuchte man aber auch die Elektronenzahl bzw. das Volumen. Schmelzpunkt und Siedetemperatur sind nicht-linear abhängig voneinander.. Variablenauswahl. Errechnen der Faktorenladungen L : - Aufteilen in Kommunalitäten und Rest. - Festlegen von Rotationskriterien - Bestimmen der Faktorenanzahl. Rotation der Faktoren. Interpretation der Faktoren. Bestimmen der Faktorenwerte (Vgl. z.b. )

3 . Vorgehensweise:. Variablenauswahl. Variablenauswahl Welche Variablen? Welche Variablen sollen faktorisiert werden? Welches Skalenniveau und Zusammenhangsmaß? Sind die Zusammenhänge hoch genug, damit sich eine FA zu rechnen lohnt? Meist: Merkmale der Fälle sollen durch Faktoren dargestellt werden (= R-Technik nach Cattell,966) Ausgangsdaten können aber auch andere Verknüpfungen von Fällen, Merkmalen und Meßwiederholungen sein. (mehr dazu, S.9 u. 0) Dazu kann es nötig sein, die Daten zu transponieren: Daten Transponieren. Variablenauswahl Welches Zusammenhangsmaß?. Variablenauswahl Welches Zusammenhangsmaß? Intervallskaliert Produkt-Moment- Korrelation (automatisch!) Andere mögliche Korrelationen sind z.b. Phi-Koeffizient Spearmans Rangkorrelation punktbiseriale Korrelationen (vgl. 8) Sind aber nicht unproblematisch!!! Phi-Koeffizient: Analyse Korrelationen Distanzen: Ähnlichkeiten Maße: Phi Spearmans Rangkorrelation Analyse Korrelationen Bivariat: Spearman punktbiseriale Korrelationen = normale Korrel. zw. kontinuierlichem & binärem Merkmal Syntax zur Nutzung dieser Maße: Syntax Über einfügen Syntax aufrufen und ändern. Variablenauswahl Genügen die Zusammenhänge?. Variablenauswahl Genügen die Zusammenhänge? Zur Überprüfung: [ ] Diemensionenreduktion Faktorenanalyse: Deskritptive Statistiken Korrelationenkoeffizienten: Möglichst hohe Korrelationen Signifikanzniveaus: möglichst gering Inversentest und Anti-Image: Nicht-Diagonale Elemente 0 Übersichtliche Beschreibung der Tests auf Eignung der Korrelationsmatrix in ()...

4 . Variablenauswahl Genügen die Zusammenhänge?. Vorgehensweise:. Errechnen der Faktorenladungen Der MSA Wert liegt zwischen 0,6 und 0,7 und die Korrelationsmatrix ist damit mittelmäßig gut geeignet Über: [ ] Dimensionenreduktion Faktorenanalyse: Extraktion KMO- und Bartlett-Test Maß der Stichprobeneignung nach Kaiser-Meyer-Olkin.,68 Die Variablen der Population sind korreliert Bartlett-Test auf Sphärizität Ungefähres Chi-Quadrat df Signifikanz nach Bartlett,0 0,000 Mehr dazu!!!. Vorgehensweise:. Rotation der Faktoren. Vorgehensweise:. Rotation der Faktoren Rechtwinklige Rotationen: Die Faktoren bleiben unkorreliert (trennscharf), z.b. varimax, quartimax Über: [ ] Dimensionenreduktion Faktorenanalyse: Rotation Schiefwinklige Rotationen: Die Faktoren können korrelieren, z.b. promax. Vorgehensweise:. Interpretation der Faktoren. Vorgehensweise:. Interpretation der Faktoren Kriterien zur Interpretation: Einfachstruktur nach Thurstone (vgl. z.b.,, 8) - Variablen sollen möglichst eindeutig auf einem Faktor laden - Faktoren sollen möglichst eindeutig zu möglichst wenigen Variablen gehören Interpretierbarkeit gemäß Guadagnoli u. Velicer: - Faktor interpretierbar, wenn Ladungen >0,60 bei Variablen oder >0,0 bei 0 (siehe, S.09) Graphische Darstellung der Variablen in Bezug zu den Faktoren:

5 . Vorgehensweise:. Interpretation der Faktoren. Vorgehensweise:. Bestimmen der Faktorwerte Ergebnis-Diagramm: Leider nur für rotierte Lösung,0 siede Siede- und Schmelzpunkt können Komponente dichte zugeordnet werden, Über: [ ] Faktorenanalyse: Werte Drei Möglichkeiten der Schätzung der Faktorenwerte Komponente 0,0 -, -,0 amasse ozahl Amasse, Ozahl und Dichte können Komponente zugeordnet werden Die Beschriftungen überdecken sich -,0 -, 0,0,,0 Komponente. Vorgehensweise:. Bestimmen der Faktorwerte Die Ergebnisse finden sich im Datansatz: Regression Bartlett Anderson-Rubin Berechnung ausgehend von der Kovarianzbzw. Korrelationsmatrix R(Y) der Variablen. R(Y)= R(L) + R(E) Zu Anfang werden bei vielen Verfahren die Kommunalitäten (Diagonale von R(L)) geschätzt und im Laufe des Verfahrens angepaßt. (Kommunalitätenproblem) Varianzzerlegung in Kommunalitäten. Keine Aufteilung: Die Kommunalitäten sind gleich der Gesamtvarianz und R(Y)= R(L) nur bei: Extraktion Hauptkomponenten. SPSS schätzt bei allen anderen Verfahren die Kommunalitäten automatisch durch die quadrierten multiplen Korrelationen. Alle anderen Verfahren unter Extraktion. Eine andere Aufteilung geht nur durch Syntax (diagonal) & nur Hauptfaktorenanalyse!!! Sinnvolle Ergebnisse sind nur möglich, wenn R(L) positiv semi-definit, D.h.: Die Diagonale von R(L) ist größer als die nicht diagonalen Elemente D.h. die Eigenwerte sind >0, D.h. ihre Determinante R(L) 0 ist.

6 Bei Hauptkomponenten ist die Determinante von R(L) stets positiv semi-definit, denn dann ist R(Y)= R(L). Problem: Manchmal kann es durch die Vorab- Schätzung der Kommunalitäten oder während der Berechnung dazu führen, daß R(L) eine negative Determinante bekommt. Anzahl der Faktoren SPSS bietet Kriterien: Nur Faktoren, die einen bestimmten Grenzwert an Varianz der Variablen übernehmen (Eigenwert), werden übernommen. Faktorenanzahl kann von vorneherein festgelegt werden Scree-Test: Graphische Bestimmung Anzahl der Faktoren Über: [ ] Dimensionenreduktion Faktorenanalyse: Extraktion Man unterscheidet (Nomenklatur nach 7 bzw. 8):. Hauptachsenrotation: keine Aufteilung in Kommunalitäten, alle Faktoren werden extrahiert.. Hauptkomponentenanalyse, PCA: keine Aufteilung in Kommunalitäten, nur wichtigste Faktoren.. Hauptfaktorenanalyse: Aufteilung in Kommunalitäten und Rest Beispiel : PCA Hauptachsenrotation: Methode: Hauptkomponenten Eigenwerte > 0 Hauptkomponentenanalyse (PCA): Methode: Hauptkomponenten oder eines der Kriterien, z.b: Eigenwerte > Hauptfaktorenanalyse: Methode: Hauptachsen-Faktorenanalyse eines der Kriterien Hauptkomponenten mit Korrelationsmatrix Eigenwert- bzw. Kaiser- Guttman-Kriterium: Der Eigenwert soll größer als sein Graphik für Scree-Test

7 Beispiel : PCA Beispiel : PCA Keine Aufteilung der Varianz AMASSE DICHTE SCHMELZ Kommunalitäten Anfänglich Extraktion,000,990,000,988,000,98,000,966,000,99 Extraktionsmethode: Hauptkomponentenanalyse. Die Varianz einer Variable, die durch beibehaltenen Komponenten aufgeklärt wird (=Kommunalität) Zwei Faktoren erklären Varianz > u. werden daher für die Berechnung der Kommunalitäten (s.o.) weiterverwendet Die Kommunalitäten erfahren KEINE Neuberechnung, lediglich die Anzahl an Faktoren wird gestutzt!!! Erklärte Gesamtvarianz Summen von quadrierten Faktorladungen Anfängliche Eigenwerte für Extraktion Komponente Gesamt % der Varianz Kumulierte % Gesamt % der Varianz Kumulierte %, 70,8 70,8, 70,8 70,8,60,9 96,0,60,9 96,0,7,7 98,76,06,9 99,98,00,06 00,000 Extraktionsmethode: Hauptkomponentenanalyse. Anzahl der Faktoren Beispiel : PCA Screeplot. Scree-Test: Alle Faktoren, die man nicht der Gerade zuordnen kann, behält man; hier: Eigenwert 0 AMASSE DICHTE SCHMELZ Komponentenmatrix a Komponente,89 -,,889 -,,99 -,,66,7,800,8 Extraktionsmethode: Hauptkomponentenanalyse. a. Komponenten extrahiert Jeder Koeffizient ist ein Zusammenhang zwischen Variable und einem der beiden Komponenten Faktor Beispiel : Hauptfaktorenanalyse Beispiel : Hauptfaktorenanalyse SPSS berechnet automatisch eine Iteration auch bei Hauptfaktorenanalysen. SPSS bricht nicht automatisch die Iteration bei Nicht-Konvergenz ab, daher muß eine Maximalanzahl an Iterationen angegeben werden. Kommunalitäten Anfänglich,998 AMASSE,998 DICHTE,87 SCHMELZ,88,87 Extraktionsmethode: Hauptachsen-Faktorenanalyse. Erklärte Gesamtvarianz Anfängliche Eigenwerte Faktor Gesamt % der Varianz Kumulierte %, 70,8 70,8,60,9 96,0,7,7 98,76,06,9 99,98,00,06 00,000 Extraktionsmethode: Hauptachsen-Faktorenanalyse. Schätzung der Kommunalitäten durch den quadrierten multiplen

8 Beispiel : Hauptfaktorenanalyse. Image- Analyse Faktor Erklärte Gesamtvarianz Anfängliche Eigenwerte Gesamt % der Varianz Kumulierte %, 70,8 70,8,60,9 96,0,7,7 98,76,06,9 99,98,00,06 00,000 Extraktionsmethode: Hauptachsen-Faktorenanalyse. Faktorenmatrix a a. Es wurde versucht, Faktoren zu extrahieren. In Iteration überschritt die Kommunalität einer Variable,0. Die Extraktion wurde abgebrochen. SPSS macht stets eine iterierte Hauptkomponentenanalyse und bricht automatisch ab, wenn sich eine nichtinterpretierbare Kommunalität ergibt. Eine Heywood-Korrektur der Kommunalitäten ist nicht vorgesehen. (Nicht so: SAS) Aufteilung in Multiple Korrelationsquadrate und Rest Der Rest ist UNGEFÄHR diagonal und die Image-Analyse daher nur näherungsweise eine Hauptfaktorenanalyse. Vorteil: kein Problem bezüglich der positivsemitdefiniten Matrix.. Image- Analyse. Image- Analyse Um zu sehen ob das Anti-Image (der Rest) ungefähr eine diagonale Matrix ist, betrachte man sich die Anti-Image.Kovarianz-Matrix über [ ] Diemensionenreduktion Faktorenanalyse: Deskritptive Statistiken Anti-Image-Kovarianz Anti-Image-Korrelation AMASSE DICHTE SCHMELZ AMASSE DICHTE SCHMELZ a. Maß der Stichprobeneignung Anti-Image-Matrizen AMASSE DICHTE SCHMELZ,00 -,00 -,00 -,00,00 -,00,00,00,00 -,00 -,00,00,6 -,07,06 -,00,00 -,07, -,,00 -,00,06 -,,,66 a -,99 -,6 -,0,9 -,99,6 a,6,6 -,00 -,6,6,890 a -,9,7 -,0,6 -,9,0 a -,88,9 -,00,7 -,88,669 a Nichtdiagonalen Elements sind in etwa 0 Die Kommunalitäten (Diagonalelemente) selbst sind die gleichen Werte wie bei Hauptfaktorenanalyse (vgl. o.). Aber die nicht Diagonalelemente sind verschieden! AMASSE DICHTE SCHMELZ Kommunalitäten Anfänglich Extraktion,998,998,998,998,87,87,88,8,87,8 Extraktionsmethode: Image-Faktorisierung. Es können (ungefähre) Kommunalitäten berechnet werden. Image- Analyse. Alpha- Faktorenanalyse Es ergeben sich geringere Eigenwerte, u.a. da in der Imageanalyse nicht sämtliche Kovarianzen verwendet werden (= nicht-diagonale Elemente). Versucht die Reliabilität zu maximieren Faktoren sind generalisierbar. Erklärte Gesamtvarianz Summen von quadrierten Faktorladungen Anfängliche Eigenwerte für Extraktion Faktor Gesamt % der Varianz Kumulierte % Gesamt % der Varianz Kumulierte %, 70,8 70,8,06 6, 6,,60,9 96,0,8 8,7 89,996,7,7 98,76,06,9 99,98,00,06 00,000 Extraktionsmethode: Image-Faktorisierung. Durch Iteration (und Mangel an Heywood- Korrektur) kann es zu Kommunalitäten > kommen Das trifft für die Metalldaten zu

9 . Alpha- Faktorenanalyse. Zusammenfassung: Für einen anderen Beispieldatensatz ergeben sich nach Iterationen Faktoren nach dem Eigenwert-Kriterium: Faktor Anfängliche Eigenwerte Erklärte Gesamtvarianz Gesamt % der Varianz Kumulierte % Gesamt % der Varianz Kumulierte % Gesamt % der Varianz Kumulierte %,879,,,0 0,090 0,090,07 9, 9,,89,6 6,979,9 8,69 8,9, 9,0 8,9,8 7,89 6,68,7 6, 7,0,60,66 76,68,8,070 8,77,9,80 86,,,96 90,68,0,67 9,,,9 97,79,99,7 00,000 Extraktionsmethode: Alpha-Faktorisierung. Summen von quadrierten Faktorladungen für Extraktion Nach Rotation Rotierte Summe der quadrierten Ladungen Die Hauptkomponentenmethode (PCA und HFA) und die Imageanalyse können nur Aussagen über die vorliegenden Daten machen, sie sind lediglich datenmanipulierend. Die Alpha- und die ML-Faktorenanalyse (ML) allerdings schätzen hingegen die Faktoren ausgehend von der Stichprobe für die Population. (ML-, kanonische- und Maximum-Determinanten-FA haben gleiche Ergebnisse, vgl. Tabelle). Zusammenfassung Wozu FA?. Zusammenfassung Wozu FA? Je nach Verfahren lassen sich verschiedene Ziele verfolgen: Datenreduktion zum Weiterbearbeiten oder zur Interpretation (mit Faktorenanzahlreduktion). (laut das einzige, S. 8) Die wichtigsten Zusammenhänge voneinander trennen (bei orthogonaler Rotation) Trennung von gemeinsamem Varianzanteil und variablenspezifischem Varianzanteil. (ML, α) Überprüfung der Dimensionalität komplexer Merkmale (ML, α mit orthogonaler Rotation) Modifikation & Erstellung von Hypothesen (ML, α ) Latente Strukturen, kausale Faktoren (heuristisch) ermitteln (ML, α mit schiefwinkliger Rotation) Zuordnung von Items und dann Probanden zu den Faktoren (ML, α mit orthogonaler Rotation). Zusammenfassung Routineanwendung: Little Jiffy. Zusammenfassung Achtung Interpretation. Hauptkomponentenanalyse. Bestimmung der Faktorenzahl durch Eigenwert-Kriterium und Scree-Test. Orthogonale Varimax- oder schiefwinklige Promax-Rotation. Interpretation: Zuweisung der Variablen zu Faktoren bei Ladungen >.0, ev. auch >.0. Berechnung der Faktorenwerte (vgl. S. -) ist mathematisches Modell liefert keine inhaltliche Interpretation (wie im Bsp.: Motivation zum Sport etc.). liefert nur lineare Zusammenhänge liefert kein eindeutiges Ergebnis (Rotation usw.) ist Hypothesen bildend, nicht testend! zum Testen gibt es konfirmatorische FA!

10 . Zusammenfassung Achtung Interpretation: Beispiel Zylinderdatensatz von Thurstone (vgl. ) Sämtliche Variablen wurden aus Höhe und Durchmesser errechnet, aber: Komponentenmatrix a Komponente HOEHE,0,89 DURCHMES,898 -, D_HOCH_,899 -,6 FLAECHE,899 -,6 MANTEL,8, VOLUMEN,97,0 DIAGONAL,97,9 Extraktionsmethode: Hauptkomponentenanalyse. a. Komponenten extrahiert Höhe und Durchmesser haben keine Ladungen von, obwohl alle anderen aus diesen Größen errechnet wurden, sie also quasi die latenten Faktoren sind!!! Die Formeln, z.b. für Volumen, sind nicht linear!!! Literatur:. Backhaus, K., Erichson, B., Plinke, W. & Weiber, R. (000): Multivariate Analysemethoden. (9. Auflage). Berlin: Springer.. Bortz, J. (999): Statistik für Sozialwissenschaftler. (. Auflage). Berlin: Springer.. Fahrmeir, L., Hamerle, A. & Tutz, G. (996): Multivariate statistische Verfahren. (. Auflage) Berlin: De Gruyter.. Hartung, J. & Eppelt, B. (986): Multivariate Statistik. (.Auflage). München: Oldenbourg.. Revenstorf, D. (976): Lehrbuch der Faktrorenanalyse. Stuttgart: Kohlhammer. 6. Schuhbö, W., Uehlinger, H.-M., Perleth, Ch., Schröger, E. & Sierwald, W. Handbuch der Programmversion.0 und SPSS-X.0 (99).Stuutgart: Gustav Fischer Verlag. 7. Überla, K. (97): Faktorenanalyse. Heidelberg: Springer. 8. Weber, E. (97): Einführung in die Faktorenanalyse. Stuttgart: Gustav Fischer Verlag. 9. Bühl, A. & Zöfel P. (000): SPSS Version 0 Einführung in die moderne Datenanalyse unter Windows. München: Addison-Wesley. 0. SPSS Reference Guide (990), Chicago: SPSS.