Leider ist die Terminologie recht uneinheitlich. So ist es recht verbreitet, den Terminus

Transkript

1 FA Faktorenanalyse 31 Modell Bei der Faktorenanalyse geht es um den Versuch einer Erklärung der korrelativen Zusammenhänge zwischen mehreren Variablen, beispielsweise aus dem Bereich der Persönlichkeitspsychologie oder der Intelligenzforschung Leider ist die Terminologie recht uneinheitlich So ist es recht verbreitet, den Terminus Faktorenanalyse als Oberbegriff für Modelle, wie sie hier untersucht werden sollen, einerseits und für die Hauptkomponentenanalyse andererseits zu gebrauchen Es wird klar werden, dass eine solche Terminologie ganz unglücklich ist, da sie fundamentale Unterschiede zwischen zwei grundverschiedenen Ansätzen vernebelt Zunächst ein Beispiel für ein typisches Anwendungsfeld: Ein Persönlichkeitsfragebogen besteht meist aus mehreren Einzelitems, bei denen eine Vp als Antwort eine Zahl auf einer Skala ankreuzen kann: (Item: Ich habe meist gute Laune, Antwort: trifft überhaupt nicht zu ( 3) trifft voll und ganz zu (+3)) Legt man den Fragebogen einer größeren Stichprobe von Versuchspersonen vor und korreliert die Antworten auf die einzelnen Items, so erhält man eine Korrelationsmatrix, die so viele Zeilen und Spalten hat, wie Items vorhanden sind Zum Teil werden die Korrelationen recht hoch sein, was man dadurch zu erklären sucht, dass man hinter den Antworten Persönlichkeitseigenschaften annimmt, die die Antworten auf die Einzelitems beeinflussen Wirkt sich eine solche Persönlichkeitseigenschaft auf mehrere Items aus, so sollte dies zu Korrelationen der Items untereinander führen Allgemein stellt man sich vor, dass hinter den beobachtbaren Variablen (z B den Einzelitems) gewisse latente Variablen oder Faktoren stehen, die diese Variablen beeinflussen, und dadurch die Korrelationen bewirken Allerdings nimmt man keine deterministischen Einflüsse an, sondern lässt zusätzlich noch Fehler, also Abweichungen von dem Resultat der Einflüsse zu Die Präzisierung des Ausdrucks Einfluss im Modell ist die folgende: Der Wert der beeinflussenden Variable wird mit einem festen Koeffizienten multipliziert und das Ergebnis wird dann zur beeinflussten Variable hinzuaddiert Der Wert einer Variable ergibt sich als Summe aller derartiger Einzelanteile und Fehler

2 31 Modell FA13 2 Zu beachten ist, dass die Werte, die die beeinflussenden Variablen annehmen, von Person zu Person unterschiedlich sind, ebenso die Fehler (die vielleicht sogar von Situation zu Situation als variabel angenommen werden), während die Koeffizienten, mit denen multipliziert wird, über die Personen hinweg konstant sind Die beobachtbaren Variablen und die Faktoren werden dabei als standardisiert angenommen; ihr Erwartungswert soll also 0 sein und ihre Varianz 1 Dies kann durch lineare Reskalierung (z-transformation) und Anpassung der Koeffizienten immer leicht erreicht werden, so dass diese Zusatzvoraussetzungen unkritisch sind (Zu der Frage der Anpassung der Koeffizienten sei an die sogenannten b-gewichte und β-gewichte in der multiplen Regression erinnert) Eine Folge dieser Voraussetzungen ist, dass die Kovarianzmatrix der Faktoren mit der entsprechenden Korrelationsmatrix übereinstimmt; das gleiche gilt für die beobachtbaren Variablen Zunächst ein Beispiel: Ein kleiner Persönlichkeitsfragebogen besteht aus 3 Items: 1 Ich fahre gerne Riesenrad 2 Ich liebe laute Musik 3 Ich habe Angst vor Spinnen Ein mögliches faktorenanalytisches Modell könnte annehmen, dass hinter diesen drei Items zwei Faktoren stehen, nämlich Extraversion und Neurotizismus Die Einflusskoeffizienten seien bekannt und in der folgenden Graphik eingetragen: 7 x 1 e 1 f x 2 e 2 f 2 9 x 3 e 3

3 31 Modell FA13 3 Eine Versuchsperson, Silvia Sorglos, möge die folgenden Faktorwerte besitzen: 6 für Extraversion und 4 für Neurotizismus Die Werte in den Items sind dadurch bis auf die Fehler bestimmt, die 2, 1 und 4 betragen mögen Es ergeben sich dann die Werte der beobachtbaren Variablen wie folgt: Die Werte für die Items ergeben sich dabei so: x 1 = (7) (6) + ( 4) ( 4) + 2 = 78 x 2 = (8) (6) + (0) ( 4) + ( 1) = 38 x 3 = ( 2) (6) + (9) ( 4) + 4 = 08 oder kurz x x 2 = 8 0 x ( ) =

4 31 Modell FA13 4 Eine weitere Versuchsperson, Zacharias Zaghaft, besitze dagegen die folgenden Faktorwerte: 3 für Extraversion und 5 für Neurotizismus Die Werte in den Items sind dadurch wieder bis auf die Fehler bestimmt, die 1, 2 und 1 betragen mögen Es ergeben sich dann die Werte der beobachtbaren Variablen wie folgt: Die Werte für die Items ergeben sich dabei so: x 1 = (7) ( 3) + ( 4) (5) + ( 1) = 51 x 2 = (8) ( 3) + (0) (5) + 2 = 04 x 3 = ( 2) ( 3) + (9) (5) + 1 = 61 oder kurz x ( ) 1 51 x 2 = = 04 5 x

5 31 Modell FA13 5 Betrachtet man die beiden Rechnungen, so sieht man, dass die Werte in den Faktoren und den Fehlern (und folglich den Items) bei beiden Personen unterschiedlich sind, während die Koeffizienten, in denen sich die Größe des Einflusses ausdrückt, über die Personen hinweg konstant sind Hat nun eine beliebige Versuchsperson die Werte f 1 und f 2 in den beiden Faktoren und die Werte e 1, e 2 und e 3 als Fehler, so ergibt sich das folgende Bild: 7 x 1 e 1 f x 2 e 2 f 2 9 x 3 e 3 Die Werte für die Items ergeben sich dabei so: x 1 = (7) f 1 + ( 4) f 2 + e 1 x 2 = (8) f 1 + (0) f 2 + e 2 x 3 = ( 2) f 1 + (9) f 2 + e 3 oder kurz Die Matrix x ( ) e 1 x 2 = 8 0 f1 + e 2 f 2 x e heißt Ladungsmatrix Die Zeilen entsprechen den Items und die Spalten den Faktoren In der i-ten Zeile und j-ten Spalte steht der Koeffizient, der den Einfluss

6 31 Modell FA13 6 des j-ten Faktors auf das i-te Item angibt, die Indizierung ist sozusagen der Einflussrichtung entgegengerichtet (hilfreiche Sprechweise: i-tes Item durch j-ten Faktor ) Die Koeffizienten heißen auch Ladungen Als Bezeichnung für die Ladungsmatrix wird meist Λ verwendet, die Ladungen heißen entsprechend λ ij In dieser allgemeinen Schreibweise sieht das Modell so aus: λ 11 x 1 e 1 f 1 λ 21 λ 31 λ 12 λ 22 x 2 e 2 Ladungsmatrix: λ 11 λ 12 λ 21 λ 22 λ 31 λ 32 f 2 λ 32 x 3 e 3 Die Gleichungen sehen so aus: x 1 = λ 11 f 1 + λ 12 f 2 + e 1 x 2 = λ 21 f 1 + λ 22 f 2 + e 2 x 3 = λ 31 f 1 + λ 32 f 2 + e 3 oder kurz oder noch kürzer x 1 λ 11 λ 12 ( ) e 1 x 2 = λ 21 λ 22 f1 + e 2 f 2 x 3 λ 31 λ 32 e 3 x = Λf + e, wenn man die x-, f- und e-variablen jeweils zu einem Vektor zusammenfasst

7 31 Modell FA13 7 Das Modell ist offen gegenüber unterschiedlichen Interpretationen: Eine Interpretation könnte die Gleichungen wörtlich nehmen und behaupten, dass die beobachtbaren Variablen tatsächlich von den Faktoren durch Prozesse erzeugt werden, die sich durch Additionen und Multiplikationen beschreiben lassen (Hirn als primitive Rechenmaschine) Die Faktoren müssen dann womöglich ein physikalisch-physiologisches Korrelat haben Diese Interpretation sei als substantielle Interpretation bezeichnet Eine zurückhaltendere Interpretation wäre die, dass es gewisse Persönlichkeitseigenschaften ( traits ) gibt, mit deren Hilfe man die beobachtbaren Variable im Sinne einer multiplen Regression vorhersagen kann Addition und Multiplikation haben also hier keine inhaltliche Bedeutung, entsprechend unbestimmt kann der Status der Faktoren bleiben Diese Interpretation soll Regressionsinterpretation heißen Während die erste Interpretation reichlich naiv wirkt, hat die zweite den Nachteil, dass ihr das kausale Flair fehlt Gelegentlich werden die Fehler noch weiter in zwei Anteile zerlegt Der Fehler zu einer beobachtbaren Variablen setzt sich dann zusammen aus einem weiteren Faktor, der nur diese Variable und keine andere beeinflusst (spezifischer Faktor, unique factor) und einem eigentlichen Fehler Auf diese Weise versucht man der Möglichkeit Rechnung zu tragen, dass der Teil der Variablen, der nicht durch die gemeinsamen Faktoren bestimmt ist, nicht nur vom Zufall abhängt, sondern vielleicht auch noch von weiteren Einflüssen, die in der Versuchsperson stabil sind Bei einer wiederholten Messung des Merkmals wird dann nur der eigentliche Fehler zufällig schwanken, während der spezifische Faktor sich nicht ändert u 1 f 1 λ 11 λ 21 x 1 e 1 λ 31 λ 12 λ 22 x 2 u 2 e 2 f 2 λ 32 x 3 u 3 e 3

8 32 Annahmen und Konsequenzen FA13 8 In der Modellgleichung werden die Fehler e i durch jeweils eine Summe u i + e i von spezifischem (unique) Faktor u i und (eigentlichem) Fehler e i ersetzt Fasst man auch die spezifischen Faktoren zu einem Vektor u zusammen, so erhält man für das Modell mit spezifischen Faktoren die Modellgleichung x = Λf + u + e Im Folgenden wird auf dieses etwas kompliziertere Modell nur am Rande einzugehen sein Was die hier zu behandelnden Themen angeht, lässt es sich nämlich dem einfacheren Modell als eine Verfeinerung unterordnen, die eben darin besteht, dass über den Fehler genauere Annahmen gemacht werden (der Fehler im einfacheren Modell wird in zwei Teile zerlegt) 32 Annahmen und Konsequenzen Verteilungsannahmen Über die Faktoren und Fehler, also die Variablen, die in dem Modell x = Λf + e die beobachtbaren Variablen bestimmen, werden weitere Verteilungsannahmen gemacht Allgemein sei vorausgesetzt, dass die Anzahl der Variablen gleich p ist und die der Faktoren gleich q Die Matrix Λ ist dann eine (p q)-matrix, die Vektoren x und e sind p-zufallsvektoren, und der Zufallsvektor f ist q-dimensional Die Variablen und die Faktoren werden als standardisiert vorausgesetzt, also mit Erwartungswert 0 und Varianz 1 Es ergibt sich daraus E(e) = E(x Λf) = E(x) ΛE(f) = 0 Λ0 = 0, so dass also auch die Erwartungswerte der Fehler Null sind Generell wird über die Fehler vorausgesetzt, dass sie untereinander und mit den Faktoren unkorreliert sind Bei den Faktoren kann man zwei Modelle unterscheiden: Das orthogonale Modell (UF), bei dem die Faktoren unkorreliert sind (UF: Unkorrelierte Faktoren ), und das allgemeinere schiefwinklige oder oblique Modell (KF), bei dem die Faktoren

9 32 Annahmen und Konsequenzen FA13 9 auch miteinander korrelieren dürfen (KF: Korrelierte Faktoren ) Das orthogonale Modell ist also ein Spezialfall des schiefwinkligen An dieser Stelle können nun die unterschiedlichen Modellannahmen diskutiert werden Hier ist zunächst die Modellgleichung, gemäß der die beobachtbaren Variablen sich in linearer Weise aus den Faktoren ergeben sollen Bei der Regressionsinterpretation gilt dies kraft Konstruktion, bei der substantiellen Interpretation dürfte es hingegen meist nur schwer zu rechtfertigen sein, dass der Einfluss der Faktoren auf die beobachtbaren Variablen in dieser einfachen Form geschrieben werden kann Die Voraussetzung, dass Variablen und Faktoren standardisiert vorliegen, ist unproblematisch, da dies jederzeit durch eine geeignete Reskalierung erreicht werden kann Die Voraussetzung, dass Faktoren und Fehler unkorreliert sind, folgt bei der Regressionsinterpretation wieder aus der Konstruktion Bei der substantiellen Interpretation, bei der die Fehler wohl so etwas sein sollen, wie die Wirkung weiterer, in den Faktoren nicht erfasster Einflussgrößen, zu denen noch Zufallsschwankungen hinzukommen, ist dies nicht unmittelbar einsehbar, selbst dann nicht, wenn man meint, mit den Faktoren alle gemeinsamen Einflüsse erfasst zu haben (Mit gemeinsamen Einflüssen sind Einflüsse auf die beobachtbaren Variablen gemeint, die auf mehr als eine von ihnen oder gar alle wirken) Die Voraussetzung unkorrelierter Fehler ist bei beiden Versionen nicht unmittelbar einleuchtend Wenn man bei der substantiellen Interpretation die Hoffnung hat, mit den Faktoren alle gemeinsamen Einflüsse zu erfassen, so ist die Voraussetzung nicht ganz unplausibel, denn größere Korrelationen zwischen den Fehlern würden darauf hindeuten, dass es doch noch weitere gemeinsame Einflüsse gibt, die mit weiteren Faktoren erfasst werden könnten Bei der Regressionsinterpretation hingegen ist eine solche Argumentation nicht so naheliegend Bei Gegenüberstellung der Modelle KF und UF wird man sich fragen, was eigentlich für unkorrelierte Faktoren spricht Diese Annahme wird bei beiden Interpretationsmöglichkeiten schwer zu rechtfertigen sein Es wird sich allerdings zeigen, dass sie überraschenderweise unkritisch ist, wenn man bei der inhaltlichen Interpretation der Faktoren Abstriche macht

10 32 Annahmen und Konsequenzen FA13 10 Reduzierte Variablen In gewisser Weise werden die beobachtbaren Variablen x i durch die Modellgleichung in zwei Teile zerlegt, nämlich einen Anteil, der durch die gemeinsamen Faktoren f j bestimmt ist und den verbleibenden Fehler Es ist praktisch, für den ersten Anteil eine eigene Bezeichnung einzuführen, was jetzt geschehen soll Die Modellgleichung der Faktorenanalyse, nämlich x = Λf + e, schreibt sich in der i-ten Komponente als x i = q λ ij f j + e i j=1 Der erste Summand in dieser Zerlegung soll auch die reduzierte i-te Variable heißen und mit ˆx i bezeichnet werden Es gilt also ˆx i = q λ ij f j, j=1 und man kann die so definierten ˆx i auch als die durch die gemeinsamen Faktoren bestimmten Anteile der x i oder als die fehlerfrei gemachten x i auffassen Die Bezeichnung ˆx i ist in Anlehnung an die multiple Regression gewählt, wobei es sich um mehr als eine bloße Analogie handelt die ˆx i erweisen sich nämlich tatsächlich als optimale Vorhersagen der x i durch die f j im Sinne der multiplen linearen Regression (genauer: einer Regression auf theoretischer Ebene) Fasst man die ˆx i wieder zu einem Vektor ˆx zusammen, so gilt in Vektorschreibweise ˆx = Λf und man bekommt die Zerlegung x = ˆx + e Der Vektor ˆx ist dabei wieder sozusagen der Anteil von x, der durch die gemeinsamen Faktoren bestimmt ist Aus der Voraussetzung, dass die Faktoren und die Fehler unkorreliert sind, folgt für die Matrix der Kovarianzen C(ˆx, e) von ˆx und e die Gleichung C(ˆx, e) = C(Λf, e) = ΛC(f, e) = Λ0 = 0,

11 32 Annahmen und Konsequenzen FA13 11 die gerade besagt, dass die Komponenten von ˆx und e unkorreliert sind Wegen x i = ˆx i + e i folgt daraus weiter 1 = V(x i ) = V(ˆx i ) + V(e i ) Die Varianz von x i lässt sich also zerlegen in einen Anteil, der durch die gemeinsamen Faktoren aufgeklärt wird, und in einen Fehleranteil Da die Varianz von x i gleich 1 ist, ist V(ˆx i ) gleichzeitig der Anteil der durch die gemeinsamen Faktoren aufgeklärten Varianz an der Gesamtvarianz von x i Man bezeichnet V(ˆx i ) auch als die Kommunalität von x i und führt dafür die Abkürzung h 2 i ein In dieser neuen Terminologie gilt also Kommunalität + Fehlervarianz = 1 An dieser Stelle soll nochmals auf das etwas kompliziertere speziellere Modell mit den spezifischen Faktoren eingegangen werden Die zusätzliche Voraussetzung für die spezifischen Faktoren ist die, dass diese Faktoren sowohl untereinander als auch mit den gemeinsamen Faktoren und mit den Fehlern unkorreliert sind Damit folgt 1 = V(ˆx i ) + V(u i ) + V(e i ) Die Varianz des spezifischen Faktors bezeichnet man auch als Spezifität oder als Uniqueness Man betrachtet meist die Werte der gemeinsamen und spezifischen Faktoren als zeitlich stabil und den Restfehler als reinen Zufallsfehler, der bei Messwiederholungen zufällig neu auftritt, so dass die Korrelation zwischen den Restfehlern bei verschiedenen Messungen gleich 0 ist Daraus folgt, dass man im Sinne der klassischen Testtheorie den wahren Wert t i der Variablen x i als ˆx i + u i erhält Für die wahre Varianz V(t i ) gilt daher V(t i ) = V( ˆx i ) + V(u i ), und da die Varianz von x i gleich 1 ist, ist dies gleich der Reliabiltät Es gilt also Reliabilität = Kommunalität + Spezifität In der Zerlegung der Fehlervarianz in zwei Anteile und der dadurch möglich gemachten Einbeziehung der Reliabilität liegt der einzige Vorteil des komplizierteren Modells mit spezifischen Faktoren

12 32 Annahmen und Konsequenzen FA13 12 Für die weiteren Untersuchungen ist diese Verfeinerung der Betrachtungsweise jedoch irrelevant, und so soll in Zukunft auf die mögliche Ausdifferenzierung des Fehlers in einen spezifischen Anteil und einen eigentlichen Fehleranteil nicht mehr weiter eingegangen werden Zum Schluss sollen noch die Korrelationen bestimmt werden, die die reduzierten Variablen untereinander und mit den Faktoren besitzen Wegen x i = ˆx i +e i, wegen der Unkorreliertheit der Faktoren mit den Fehlern und der Fehler untereinander und wegen der Standardisiertheit der Variablen und der Faktoren errechnet man zunächst die Korrelation ρ(x i, x k ) von zwei beobachtbaren Variablen zu ρ(x i, x k ) = Kov(x i, x k ) = Kov(ˆx i + e i, ˆx k + e k ) = Kov(ˆx i, ˆx k ) = ρ(ˆx i, ˆx k ) σ(ˆx i ) σ(ˆx k ), wobei wie üblich mit σ und ρ wie üblich Streuungen und Korrelationen bezeichnet werden Zur Bestimmung der Korrelationen der ˆx i untereinander braucht man die Formel nur umzustellen und erhält ρ(ˆx i, ˆx k ) = ρ(x i, x k ) σ(ˆx i ) σ(ˆx k ) Dabei ist σ(ˆx i ) gleich der Wurzel aus der Kommunalität von x i, also gleich h i, entsprechend σ(ˆx k ) Da diese beiden Zahlen positiv und höchstens 1 sind, zeigt sich, dass die Korrelationen zwischen zwei reduzierten Variablen betragsmäßig mindestens so groß sind wie die zwischen den zugehörigen Originalvariablen und außerdem immer das gleiche Vorzeichen besitzen Ebenso folgt für die Korrelation ρ(x i, f j ) zwischen der Variable x i und dem Faktor f j die Beziehung ρ(x i, f j ) = Kov(x i, f j ) = Kov(ˆx i + e i, f j ) = Kov(ˆx i, f j ) = ρ(ˆx i, f j ) σ(ˆx i ), was man leicht zu ρ(ˆx i, f j ) = ρ(x i, f j ) σ(ˆx i ) umstellt; auch hier ist also die Korrelation zwischen einer reduzierten Variable und einem Faktor betragsmäßig mindestens so groß wie die zwischen der zugehörigen Originalvariablen und dem Faktor, und dies bei gleichem Vorzeichen

13 32 Annahmen und Konsequenzen FA13 13 Sieht man im Sinne der klassischen Testtheorie noch ˆx i als den wahren Wert von x i an, so ist die Kommunalität gleich der Reliabilität und man erkennt in den Formeln zwei Verdünnungsformeln wieder Grundgleichungen In diesem Abschnitt sollen die zentralen Gleichungen der Faktorenanalyse hergeleitet werden Zunächst müssen dafür noch einige Bezeichnungen eingeführt werden Die Kovarianzmatrix der Faktoren wird mit K f bezeichnet; wegen der Standardisierung ist sie gleichzeitig die Korrelationsmatrix, besitzt also nur Einsen in der Diagonale Im Modell UF gilt K f = I Entsprechend seien K x und D e die Kovarianzmatrizen der beobachtbaren Variablen und der Fehler die besondere Bezeichnung für die Kovarianzmatrix der Fehler soll daran erinnern, dass diese Matrix eine Diagonalmatrix ist, da die Fehler ja als unkorreliert angenommen werden Die Kovarianzmatrix der beobachtbaren Variablen ist ebenso wie die der Faktoren gleich der entsprechenden Korrelationsmatrix, hat also in der Diagonale ebenfalls nur Einsen Die Diagonalelemente von D e sind die Varianzen der Fehler Die Kovarianzmatrix von ˆx soll mit Kˆx bezeichnet werden Man nennt diese Matrix auch die reduzierte Korrelationsmatrix Die reduzierte Korrelationsmatrix ist also die Kovarianzmatrix der reduzierten Variablen Die Terminologie ist dabei sehr unglücklich, da die reduzierte Korrelationsmatrix eben gerade keine Korrelationsmatrix ist, denn in der Diagonalen stehen im Allgemeinen keine Einsen Diese Diagonalelemente sind vielmehr die Varianzen der reduzierten Variablen, also die Kommunalitäten h 2 i Nun soll untersucht werden, wie sich K x und Kˆx aus den Parametern des Modells errechnen Die Parameter des Modells sind dabei die Elemente der Kovarianzmatrizen K f und D e, sowie der Ladungsmatrix Λ Die Untersuchung wird im allgemeinen Fall KF durchgeführt Für die Kovarianzmatrix von ˆx gilt: Kˆx = V(Λf) = ΛK f Λ, daher ergibt sich mit der Unkorreliertheit von ˆx und e K x = V(ˆx + e) = V(ˆx) + V(e) = Kˆx + D e = ΛK f Λ + D e

14 32 Annahmen und Konsequenzen FA13 14 Im Spezialfall UF gilt: Kˆx = ΛΛ Die Gleichung K x = Kˆx + D e zeigt, dass sich die beiden Matrizen K x und Kˆx nur in der Diagonale unterscheiden Die reduzierte Korrelationsmatrix Kˆx entsteht also aus der Korrelationsmatrix K x der beobachteten Variablen dadurch, dass man die Einsen in der Diagonale durch die Kommunalitäten ersetzt, oder gleichwertig, dass man von diesen Einsen die Fehlervarianzen abzieht Die Gleichung K x = ΛK f Λ + D e ist für die Faktorenanalyse von zentraler Bedeutung Sie vereinfacht sich für das Modell UF zu K x = ΛΛ + D e Diese beiden Gleichungen sollen wegen ihrer Wichtigkeit in Zukunft meist als Grundgleichungen bezeichnet werden Ausformulierung der Grundgleichungen Die gerade hergeleiteten Matrizengleichungen sollen nun genauer untersucht und in Einzelgleichungen ausformuliert werden Dabei wird zunächst die allgemeinere Gleichung K x = ΛK f Λ + D e behandelt, die Aussagen für die Gleichung des spezielleren Modells UF ergeben sich dann durch Vereinfachung Es handelt sich bei den beiden Matrizen auf der linken und der rechten Seite des Gleichheitszeichens um (p p)-matrizen; betrachtet man die Gleichung elementweise, so ergeben sich also zunächst p 2 Einzelgleichungen für die p 2 Matrixelemente Da die drei Matrizen K x, ΛK f Λ und D e jedoch symmetrisch sind, stimmen je zwei der Gleichungen außerhalb der Diagonale überein, so dass in Wirklichkeit nur p + ( ) p = 2 p (p + 1) 2

15 32 Annahmen und Konsequenzen FA13 15 verschiedene Einzelgleichungen vorhanden sind Diese Gleichungen sollen nun ausformuliert werden Zu diesem Zweck seien die Korrelationen der Faktoren untereinander mit ρ kl bezeichnet, die der beobachtbaren Variablen untereinander mit ρ ij und die Varianzen der Fehler mit σ 2 i Als erstes sollen die Elemente von Kˆx = ΛK f Λ bestimmt werden Das (i, j)-element dieser Matrix ist nun gerade das Produkt aus der i-ten Zeile von Λ, der Matrix K f und der j-ten Spalte von Λ, die ihrerseits die (transponierte) j-te Zeile von Λ ist Man erhält das (i, j)-element von Kˆx damit als λ ik λ jl ρ kl k,l Aus der Matrix Λ gehen hier also gerade die i-te und die j-te Zeile ein Im Spezialfall UF unkorrelierter Faktoren erhält man λ ik λ jk, k was man auch als Produkt der i-ten und der j-ten Zeile von Λ verstehen kann In der untersuchten Matrixgleichung K x = ΛK f Λ + D e stehen auf der rechten Seite außerhalb der Diagonalen die Korrelationen der beobachtbaren Variablen untereinander, die Diagonalmatrix D e liefert hier nur Nullen Man erhält also für i j die Gleichung ρ ij = λ ik λ jl ρ kl, k,l im Spezialfall UF ρ ij = k λ ik λ jk In der Diagonalen der Matrixgleichung steht an i-ter Stelle die Gleichung 1 = k,l λ ik λ il ρ kl + σ 2 i, im Spezialfall UF 1 = k λ 2 ik + σ 2 i

16 32 Annahmen und Konsequenzen FA13 16 Hier hat man die schon bekannte Varianzzerlegung vor sich; der erste Summand auf der rechten Seite in diesen Gleichungen ist jeweils die Varianz von ˆx i, also die Kommunalität h 2 i Es zeigt sich hier übrigens, dass die Parameter des Modells nicht unabhängig voneinander sind, vielmehr lassen sich auf Grund der Varianzzerlegung die Fehlervarianzen σi 2 aus den Elementen λ ij der Ladungsmatrix und den Interkorrelationen ρ kl der Faktoren errechnen Man könnte auch sagen, dass eigentlich nur die λ ij und ρ kl wirkliche Parameter des Modells sind Die Formeln für die Kommunalitäten, die sich gerade nebenbei ergeben haben, seien noch einmal hervorgehoben: Es gilt h 2 i = k,l λ ik λ il ρ kl bzw im Fall UF h 2 i = k λ 2 ik Der Spezialfall UF soll nun noch etwas genauer betrachtet werden Die Gleichung ρ ij = k λ ik λ jk zeigt, dass man die Korrelation der Variablen x i und x j erhält, indem man entsprechende Ladungen der Variablen miteinander multipliziert und aufaddiert Man multipliziert also sozusagen die zu den beiden Variablen gehörenden Zeilen der Ladungsmatrix miteinander Die Kommunalität h 2 i = k λ 2 ik der Variable x i ergibt sich hingegen als Summe ihrer quadrierten Ladungen Als Beispiel sollen unter der Voraussetzung unkorrelierter Faktoren bei der schon oben verwendeten Ladungsmatrix 7 4 Λ =

17 32 Annahmen und Konsequenzen FA13 17 Kommunalitäten, Interkorrelationen der beobachtbaren Variablen und Fehlervarianzen bestimmt werden Es ergibt sich hier 7 4 ( ) Kˆx = ΛΛ = = Im Ergebnis rechts stehen außerhalb der Diagonalen die Korrelationen der beobachtbaren Variablen und in der Diagonale ihre Kommunalitäten Die Fehlervarianzen σ 2 i sind folglich 35, 36 und 15 Die Korrelation der ersten beiden Variablen ergibt sich als Produkt der ersten beiden Zeilen von Λ: ρ 12 = (7)(8) + ( 4)(0) = 56, während die Kommunalität der ersten Variable die Summe ihrer quadrierten Ladungen ist: h 2 1 = (7) 2 + ( 4) 2 = = 65 Faktormuster und Faktorstruktur Interessant ist auch die Matrix der Korrelationen zwischen den Variablen x i und den Faktoren f j Da sowohl Variablen als auch Faktoren standardisiert sind, ist dies zugleich die Matrix der Kovarianzen Wegen C(e, f) = 0 ergibt sich C(x, f) = C(Λf + e, f) = ΛC(f, f) + C(e, f) = ΛK f Auch diese Matrixgleichung soll für die einzelnen Elemente ausformuliert werden: die Korrelation ρ(x i, f j ) zwischen x i und f j ist ρ(x i, f j ) = k λ ik ρ kj Im speziellen Fall UF ist die Korrelationsmatrix der Faktoren die Einheitsmatrix, so dass sich hier C(x, f) = Λ ergibt, insbesondere also ρ(x i, f j ) = λ ij Was den Zusammenhang zwischen Faktoren und Variablen angeht, so hat man jetzt zur Beschreibung dieses Zusammenhangs zwei Matrizen, nämlich die Ladungsmatrix Λ, die man auch als Faktormuster bezeichnet, und die Matrix ΛK f der Korrelationen zwischen Variablen und Faktoren, die man auch Faktorstruktur nennt

18 32 Annahmen und Konsequenzen FA13 18 Im Spezialfall UF fallen die beiden Matrizen zusammen, hier ist also Faktormuster gleich Faktorstruktur Gesamtkommunalität Zum Abschluss sollen noch weitere Indizes zur Bedeutung der Faktoren im Sinne der Varianzaufklärung angesprochen werden Bildet man in der Grundgleichung K x = Kˆx + D e auf beiden Seiten die Spur, so erhält man Spur(K x ) = Spur(Kˆx ) + Spur(D e ) Da die Spur auch als multivariate Varianz interpretiert werden kann, ist dies eine (multivariate) additive Varianzzerlegung der Varianz von x in die Varianz von ˆx und die Varianz von e Es liegt nahe, die Varianz von ˆx als die von den Faktoren aufgeklärte Varianz zu bezeichnen dies erweist sich auch als korrekt im Sinne der Regression Die (multivariate) Varianz von x lässt sich damit zerlegen in einen durch die Faktoren erklärten Anteil und einen Fehleranteil Die Varianz von ˆx ist dabei als Spur von Kˆx die Summe der Diagonalelemente dieser Matrix, also die Summe der Kommunalitäten h 2 i : p Spur(Kˆx ) = h 2 i Die Spur von Kˆx wird daher auch als Gesamtkommunalität bezeichnet Nun gibt eine einzelne Kommunalität h 2 i gerade an, wieviel Varianz die gemeinsamen Faktoren an der Variablen x i erklären Damit ist die multivariat durch die Faktoren erklärte Varianz die Summe der univariat bei den einzelnen Variablen erklärten Varianzen Die Gesamtkommunalität ist sinnvollerweise mit der Gesamtvarianz von x zu vergleichen, also mit der Spur von K x oder der Summe der Einzelvarianzen, die hier p 1 = p ist Im Falle UF verhalten sich die Faktoren bei der Varianzaufklärung der Einzelvariablen additiv, was sich in der Formel q h 2 i = j=1 ausdrückt Die quadrierte Ladung λ 2 ij gibt dabei den Varianzanteil an, der durch f j bei x i aufgeklärt wird Bei korrelierten Faktoren ist eine derartige verfeinerte i=1 λ 2 ij

19 32 Annahmen und Konsequenzen FA13 19 Varianzzerlegung, bei der die einzelnen Faktoren für ihnen spezifisch zurechenbare Anteile der Varianz der Variablen verantwortlich gemacht werden können, nicht möglich Es liegt jetzt wieder nur im Falle UF nahe, analog nach der Bedeutung eines Faktors nicht nur für eine Variable x i, sondern für alle beobachtbaren Variablen zu fragen Ein naheliegendes Maß für diese Bedeutung des Faktors f j erhält man dadurch, dass man die durch diesen Faktor bei den einzelnen Variablen erklärten Varianzen aufaddiert Man bildet als Maß für die Bedeutung von f j also die Summe p λ 2 ij i=1 Summiert man diese Maße für alle Faktoren auf, so ergibt sich ( q p ) p q p = λ 2 ij = h 2 i j=1 i=1 λ 2 ij i=1 Die Summe dieser Maße ist also die Gesamtkommunalität, weshalb das Maß für die Bedeutung des Faktors f j auch als die durch ihn (multivariat) aufgeklärte Varianz interpretierbar ist Auch im multivariaten Sinn ist es damit möglich, die durch die Faktoren gemeinsam (multivariat) aufgeklärte Varianz additiv in Anteile zu zerlegen, für die die einzelnen Faktoren verantwortlich sind Das Maß i λ2 ij der durch den j-ten Faktor multivariat aufgeklärten Varianz ist mit der Gesamtkommunalität zu vergleichen oder mit der Gesamtvarianz p aller beobachtbaren Variablen, je nachdem, ob man eher die relative Bedeutung des Faktors f j in der Gesamtheit aller Faktoren im Auge hat oder den Teil der Gesamtvarianz, den dieser Faktor aufklärt Als Beispiel sollen die neuen Kennwerte für die schon mehrfach verwendete Ladungsmatrix bestimmt werden, immer natürlich unter der Voraussetzung unkorrelierter Faktoren Es folgt zur Erinnerung zunächst links die Ladungsmatrix In dem Schema rechts daneben sind die quadrierten Ladungen aufgeführt samt Zeilen- und Spaltensummen; rechts stehen also die Kommunalitäten und unten die Maße für die Bedeutung der Faktoren j=1 i=1

20 33 Vorläufiges zu Lösungen FA Λ = λ 2 ij f 1 f 2 h 2 i x x x i λij Die Gesamtkommunalität unten rechts ist die Summe sowohl der zeilenweisen als auch der spaltenweisen Teilsummen, also einerseits die Summe der bei den Einzelvariablen durch alle Faktoren aufgeklärten Varianzen und andererseits die Summe der durch die einzelnen Faktoren multivariat bei allen Variablen aufgeklärten Varianzen Sie ist zur Beurteilung mit der Gesamtvarianz der Variablen zu vergleichen, die hier 3 ist 33 Vorläufiges zu Lösungen Aus einem Promotions-Kolloquium: Primus Doctor Très sçavanti Bacheliero, Quem estimo et honoro, Domandabo causam et rationem quare Opium facit dormire Bachelierus Mihi a docto Doctore Domandatur causam et rationem quare Opium facit dormire: A quoi respondeo, Quia est in eo Virtus dormativa, Cujus est natura Sensus assoupire Chorus Bene, bene, bene, bene respondere Molière, Le Malade imaginaire Empirische Lösungen Bisher wurde die Gültigkeit eines faktorenanalytischen Modells vorausgesetzt Zudem waren die Ladungsmatrix Λ und die Korrelati-

21 33 Vorläufiges zu Lösungen FA13 21 onsmatrix K f der Faktoren gegeben Auf dieser Grundlage wurden dann weitere Eigenschaften und Kenngrößen des Modells hergeleitet, unter anderem die Korrelationsmatrix K x der beobachtbaren Variablen Ganz anders ist die Situation, wenn man in der Praxis eine Faktorenanalyse durchführen will Hier liegt nur eine empirische Korrelationsmatrix R der p beobachtbaren Variablen vor Man macht dann die Annahme, dass hinter den Variablen eine gewisse Anzahl von Faktoren steht, setzt also genauer gesagt das Modell der Faktorenanalyse voraus Die Anzahl q der Faktoren und ihre inhaltlichen Bedeutungen bleiben dabei zunächst unbekannt Je nach Geschmack nimmt man ferner entweder an, dass die Faktoren unkorreliert sind (UF), oder man lässt auch die Möglichkeit korrelierter Faktoren zu (KF) diese Festlegung ist allerdings, wie sich zeigen wird, unkritischer als man meinen könnte Die Frage, die sich nun stellt, ist die nach der Ladungsmatrix Λ (und im Fall KF zusätzlich nach der Korrelationsmatrix K f der Faktoren) Wären diese Matrizen bekannt, so könnte man daraus mit Hilfe der bereits hergeleiteten Formeln die theoretische Korrelationsmatrix K x der beobachtbaren Variablen bestimmen, und diese Matrix sollte der empirischen Korrelationsmatrix R möglichst ähnlich sein Natürlich wird man nicht die Gleichheit von K x und R fordern, da R ja auf einer zufälligen Stichprobe beruht und wegen der Zufallsfehler nicht mit der wahren Korrelationsmatrix der beobachtbaren Variablen übereinstimmen wird; allerdings können Unterschiede nur außerhalb der Diagonale auftreten, da ja sowohl K x als auch R Korrelationsmatrizen sind und daher in den Diagonalen nur Einsen besitzen Sucht man nun nach den Matrizen K f und Λ, so ist es klug, sich zuvor zu vergegenwärtigen, dass diese Matrizen einige einschränkende Bedingungen erfüllen müssen Als Korrelationsmatrix der Faktoren muss K f positiv semidefit sein und außerdem in der Diagonale Einsen besitzen Die reduzierte Korrelationsmatrix Kˆx, die sich ja aus K f und Λ zu ΛK f Λ berechnet, unterscheidet sich von K x nur in der Diagonalen, wobei die Diagonalelemente von ΛK f Λ, also die Kommunalitäten, alle höchstens 1 sein dürfen Die zu erstrebende Ähnlichkeit von K x und R liegt daher dann vor, wenn R und ΛK f Λ außerhalb der Diagonale etwa übereinstimmen Die wahren Matrizen K f und Λ sollten folglich den Bedingungen genügen, die in der folgenden Definition von einer formalen Lösung des Problems gefordert werden:

22 33 Vorläufiges zu Lösungen FA13 22 Unter einer q-faktorlösung zu einer gegebenen empirischen Korrelationsmatrix R unter KF soll ein Paar (K f, Λ) aus einer (q q)-matrix K f und einer (p q)- Matrix Λ verstanden werden, das die folgenden Bedingungen erfüllt: (i) K f ist positiv semidefinit mit Einsen in der Diagonale, (ii) ΛK f Λ hat Diagonalelemente 1 und stimmt außerhalb der Diagonale einigermaßen mit R überein Bei den Matrizen K f und Λ soll es sich natürlich um eine mögliche hypothetische Korrelationsmatrix der Faktoren und um eine mögliche hypothetische Ladungsmatrix handeln, was die Wahl der Bezeichnungen erklärt Die Kennzeichnung dieses Lösungsbegriffs als formal soll darauf hindeuten, dass Matrizen K f und Λ wie in der Definition keineswegs mit den wahren Matrizen gleichen Namens übereinstimmen müssen, sondern nur bestimmte Eigenschaften haben, die diese wahren Matrizen ebenfalls besitzen, weshalb bislang nichts dagegen spricht, dass eine solche Lösung auch richtig sein könnte Insbesondere ist die Matrix K f aus der Definition keineswegs automatisch eine Kovarianzmatrix von irgendeiner wirklich existierenden Variablen f (so darf der Index f also nicht missverstanden werden), sie könnte es bestenfalls sein, da sie ja positiv semidefinit ist Die Bezeichnung der wahren Matrizen und möglicher Lösungen mit denselben Namen ist sicher unschön, unterschiedliche Bezeichnungen würden aber womöglich noch mehr Verwirrung stiften Der Kontext wird jeweils zeigen, was im Einzelfall gemeint ist Die Formulierung einigermaßen in der Definition ist übrigens dermaßen schwammig, dass man vielleicht eher von einer Sprechweise als von einer Definition sprechen möchte Es ist vor diesem Hintergrund natürlich mit der Möglichkeit zu rechnen, dass es viele Lösungen (im formalen Sinne der Definition) gibt Manche solche Lösungen unterscheiden sich dabei im Hinblick auf den Zweck der gegenwärtigen Untersuchung nur unwesentlich, was die folgende Begriffsbildung sinnvoll macht: Zwei Lösungen sollen dann äquivalent heißen, wenn die aus diesen Lösungen konstruierten Matrizen ΛK f Λ übereinstimmen (wäre eine Lösung richtig, so wäre das die Matrix Kˆx ) Äquivalenz bedeutet also nicht nur, dass zwei Lösungen gleich

23 33 Vorläufiges zu Lösungen FA13 23 gut zur empirischen Korrelationsmatrix R passen, sondern darüber hinaus auch, dass die zugehörigen (hypothetischen) Kommunalitäten gleich sind Etwas informell soll weiter unter der Güte der Lösung der Grad an Übereinstimmung der empirischen Korrelationen mit den auf Grund der Lösung berechneten bezeichnet werden Äquivalente Lösungen sind in diesem Sinne dann auch gleich gut Das Modell UF ist der speziellere Fall von KF, bei dem die Matrix K f eine Einheitsmatrix ist Die Bedingungen an eine Lösung können daher für UF knapper formuliert werden: Unter einer q-faktorlösung zu einer gegebenen empirischen Korrelationsmatrix R unter UF soll eine (p q)-matrix Λ verstanden werden, für die ΛΛ Diagonalelemente 1 besitzt und außerhalb der Diagonale einigermaßen mit R übereinstimmt Die folgende Diskussion untersucht den einfacheren Fall UF Der Fall KF ist ganz genauso zu behandeln, nur werden die Formulierungen an einigen Stellen etwas umständlicher Mit welchem Recht kann man ein Λ, das die empirischen Korrelationen einigermaßen reproduziert, als Lösung bezeichnen? Bisher kann man sagen: Es scheint durchaus möglich, dass Faktoren existieren, die auf die beobachtbaren Variablen in der durch Λ beschriebenen Weise einwirken Die empirischen Korrelationsmatrix R würde jedenfalls recht gut dazu passen, wenn man noch annimmt, dass die Varianzen der Fehler die Diagonalelemente von ΛΛ gerade zu 1 ergänzen Kaum jemand wird jedoch wohl bei dem gegenwärtigen Stand der Dinge auf die vermessene Idee kommen, dass man damit die wahre Ladungsmatrix ermittelt hätte oder dass man gar die verborgenen Faktoren ans Licht gebracht hätte (man vergleiche aber notorische Formulierungen bei der Mittelung von Ergebnissen von Faktorenanalysen wie: wurden 3 Faktoren gefunden ) Vielleicht wird jemand, der an die Gültigkeit des Modells der Faktorenanalyse für die untersuchten beobachtbaren Variablen glaubt, immerhin hoffen, dass das gefundene Λ einigermaßen mit dem wahren Λ übereinstimmt und damit Hinweise auf die wahren Faktoren geben kann Ob er diese Hoffnung zu Recht hegt, wird zu untersuchen sein

24 33 Vorläufiges zu Lösungen FA13 24 Den Skeptiker jedoch, der ohnehin an der Gültigkeit des Modells zweifelt, und der womöglich den bisherigen Erörterungen nur mit Widerwillen gefolgt ist, wird die Tatsache, dass eine Lösung Λ in dem beschriebenen Sinn gefunden wurde, kaum veranlassen, seine Bedenken aufzugeben und hinfort an die Existenz von Faktoren zu glauben Dafür sind Formulierungen wie es könnte sein, dass Faktoren existieren denn doch zu vage Was man sich wünschen würde, ist also mehr als das bislang mit einer Lösung Erreichte, nämlich am besten so etwas wie eine konstruktive Ermittlung von Faktoren Davon ist man jedoch weit entfernt: Real existierende Faktoren hat man keineswegs gefunden, sondern eigentlich eben nur eine Matrix Λ, die nach gewissen Rechenregeln die gegebenen Korrelationen einigermaßen reproduziert Alle Aussagen, die sich auf Faktoren beziehen, stehen im Potentialis ( Es könnte so sein ) Dabei ist es noch nicht einmal selbstverständlich, dass man zu der Aussage Es könnte so sein berechtigt ist da keine konstruktive Lösung vorliegt, ist es im Gegenteil noch fraglich, ob es wirklich so sein könnte Zwar sind die empirischen Korrelationen gut mit der Lösung verträglich, jedoch hat man eben bisher auch nichts weiter als diese Korrelationen betrachtet Man müsste also eher formulieren: Was die Korrelationen angeht, so spricht bisher nichts dagegen, dass möglicherweise Es folgt ein anschauliches Beispiel für das, was hier gemeint ist: Vielleicht kommt man nach Untersuchung vieler klimatischer Gegebenheiten zu dem Ergebnis, dass unter diesem Gesichtspunkt nichts dagegen spricht, dass noch irgendwo Dinosaurier existieren Dies bedeutet jedoch keineswegs, dass die Existenz von Dinosauriern wirklich möglich ist vielleicht hat man ja entscheidende Fakten übersehen, wie die zu niedrige Konzentration eines bestimmten Edelgases Selbst dann jedoch, wenn wirklich keine Umstände gegen die Möglichkeit ihrer Existenz spechen, ist noch keineswegs gesagt, dass es sie wirklich gibt hierfür braucht man ein reales Exemplar Bei der Faktorenanalyse könnten sich Einwände dagegen, dass die gegebene formale Lösung tatsächlich möglich ist, beispielsweise aus der genaueren Kenntnis der Verteilungen ergeben Zur Verdeutlichung zwei Beispiele Hat man eine binäre Variable mit Varianz 1, so wäre es durchaus denkbar,

25 33 Vorläufiges zu Lösungen FA13 25 dass diese Variable die Summe von zwei unabhängigen Variablen der Varianz 05 wäre, jedenfalls spricht unter dem Gesichtspunkt der Rechenregeln mit Varianzen nichts dagegen Man kann sich jedoch klarmachen, dass eine Summe von zwei unabhängigen Variablen der Varianz 05 nicht binär sein kann Aus der Tatsache, dass unter dem Gesichtspunkt der Varianzrechenregeln eine solche Zerlegung denkbar ist, folgt also keineswegs, dass sie auch möglich ist um dies zu zeigen, müsste man beispielsweise konstruktiv zwei derartige Variablen angeben, was bedeutend mehr ist, als zu demonstrieren, dass eine Rechnung mit Varianzen aufgeht Im zweiten Beispiel sei ein zugrundeliegender diskreter Wahrscheinlichkeitsraum vorausgesetzt (einer sehr kleinen Population entsprechend), auf dem die beobachtbaren Variablen definiert seien Selbst wenn man nun eine Matrix Λ findet, die die Korrelationsmatrix perfekt reproduziert, heißt dies keineswegs, dass eine solche Lösung möglich ist Auf einem Wahrscheinlichkeitsraum mit k Elementen können nämlich nicht mehr als k 1 Zufallsvariablen mit positiver Varianz existieren, die paarweise unkorreliert sind Es ist daher möglich, dass zwar eine Matrix Λ die Korrelationen von gegebenen Variablen perfekt rekonstruiert, dass jedoch dennoch das zugehörige Modell unmöglich ist, weil es auf dem gegebenen Wahrscheinlichkeitsraum gar nicht so viele unkorrelierte Variablen geben kann, wie es dann Faktoren und Fehler geben müsste Die genannten Beispiele sollen nur verdeutlichen, dass es keinesfalls selbstverständlich ist, dass ein Modell, das mit den gegebenen Korrelationen kompatibel ist, auch wirklich möglich ist Praktisch reichen relativ schwache Zusatzannahmen aus, um bei Vorliegen einer Lösung konstruktiv weitere Variablen anzugeben, die die Rolle der Faktoren und Fehler spielen könnten womit dann gezeigt ist, dass eine solche Faktorenstruktur auch wirklich existieren könnte, in dem Sinne, dass die Annahme einer derartigen Struktur jedenfalls nicht zu Widersprüchen führt Damit ist natürlich aber andererseits keineswegs gezeigt, dass eine solche mögliche Lösung auch real ist in dem Sinne, dass es beispielsweise die vermuteten Faktoren wirklich gibt Interpretation der Faktoren Neben der Frage, ob eine Lösung numerisch gut passt, ist auch die Frage wichtig, ob sie inhaltlich vertretbar ist Hat man also irgendwie (!) ein passendes Λ (bzw ein Paar (K f, Λ)) gefunden, so fragt man sich, ob man dies auch inhaltlich für eine mögliche Lösung hält Dabei geht es darum, ob die gefundene Lösung interpretierbar ist in dem Sinne, dass den hypothetischen Faktoren plausible Bedeutungen beigelegt werden können

26 33 Vorläufiges zu Lösungen FA13 26 Das einzige, was über diese hypothetischen Faktoren bis zu diesem Zeitpunkt bekannt ist, ist die Ladungsmatrix (bzw Ladungsmatrix und Interkorrelationsmatrix der Faktoren) Die Suche nach Bedeutungen der Faktoren muss also jetzt mit dem Ziel erfolgen, dass diese Bedeutungen gut zu Λ (bzw Λ und K f ) passen Wo sich starke Zusammenhänge zwischen einem Faktor und einer Variable andeuten, soll also auch der Faktor mit der ihm verliehenen Bedeutung gut zu der beobachtbaren Variable passen etc Ein solcher Interpretationsversuch ist vergleichsweise einfach im Modell UF, da hier nur Λ als Hinweis auf die Zusammenhänge zur Verfügung steht Ladungen und Korrelationen stimmen unter UF nämlich überein Schwieriger wird es bei KF, da man hier, was den Zusammenhang zwischen Variablen und Faktoren angeht, zwei Matrizen zur Verfügung hat, das Faktormuster Λ (Ladungen) und die Faktorstruktur ΛK f (Korrelationen) Will man nämlich die inhaltliche Bedeutung der Faktoren erschließen, so können die beiden Matrizen gegensätzliche Informationen liefern So ist es durchaus möglich, dass die Ladung einer Variablen auf einem Faktor positiv ist, die Korrelation derselben Variablen mit diesem Faktor jedoch negativ (andere Möglichkeiten: die Ladung ist deutlich positiv, die Korrelation fast Null, etc etc, man vergleiche die bekannten ähnlichen Phänomene bei der multiplen Regression) Die Interpretation eines Faktors will man also aus seinem Zusammenhang mit den Variablen erschließen es fragt sich nur, ob man nun die Ladung oder die Korrelation als Maß für den Zusammenhang heranziehen soll Wesentlich in die Überlegungen muss hier sicher die Frage eingehen, ob man eine substantielle oder eine Regressions-Interpretation der Faktoren im Auge hat Interpretiert man die Grundgleichung der Faktorenanalyse substantiell, so entsprechen den Ladungen auch tatsächliche Einflüsse, während die Korrelationen nur von sekundärem Interesse sind Hier wären also die Ladungen wichtiger Bei der Regressionsinterpretation hingegen sind die Ladungen technische Hilfsmittel zur Erzielung einer optimalen Vorhersage, weshalb sie zunächst auch keinerlei inhaltliche Bedeutung haben Hier wären dann wohl die Korrelationen ernster zu nehmen Findet man zu einer denkbaren passenden Ladungsmatrix nun keine sinnvolle Interpretation, so muss man nach einer anderen Ladungsmatrix weitersuchen, die besser interpretierbar ist; Ziel ist es, eine zu finden, mit der man sowohl bezüglich der Güte der Reproduktion der empirischen Korrelationsmatrix als auch bezüglich der Interpretierbarkeit zufrieden ist Dieses Weitersuchen kann dadurch geschehen, dass man eine einmal gefundene Ladungsmatrix systematisch

27 33 Vorläufiges zu Lösungen FA13 27 bei unveränderter Lösungsgüte solange abändert, bis die rechte Interpretation sich einstellt Verfahren, die solche systematischen Abänderungen vornehmen, nennt man Rotationen Durch die bisherige Erörterung mag der Eindruck entstanden sein, dass man im Fall UF (der Fall KF ist analog) eine Faktorenanalyse auch so durchführen könnte, dass man sich irgendwie (!) eine Matrix Λ einfallen lässt, die die Eigenschaft hat, dass ΛΛ in der Diagonalen kleiner als 1 ist und außerhalb der Diagonalen etwa mit R übereinstimmt, und dann an der Matrix Λ noch etwas dreht, damit man sie einigermaßen interpretieren kann Nun gibt es mehrere Methoden für Faktorenanalysen Bei einigen davon ist die gerade gegebene Beschreibung ziemlich zutreffend, wobei nur noch technische Details nachzuliefern sind, was die Produktion des Einfalls und die Art der Drehung betrifft Bei anderen wird immerhin die Suche nach Λ von Verteilungsannahmen geleitet und das Ergebnis in gewisser Weise statistisch abgesichert Im vorliegenden Kapitel wird am Ende ein Beispiel für diese zweite Art des Vorgehens skizziert, in einem späteren Kapitel folgt eine Schilderung eines weit verbreiteten Vorgehens der ersten Art Der Eindruck von Willkürlichkeit, der an dieser Stelle entstehen könnte, dürfte für Anhänger des Modells der Faktorenanalyse recht ernüchternd sein Da er an die Gültigkeit des Modells glaubt, ohne jedoch die Ladungsmatrix zu kennen, drängen sich ihm sogleich die folgenden Fragen auf: Führen die unterschiedlichen Methoden eigentlich zur richtigen Zahl von Faktoren? Und stimmt, wenn dies der Fall sein sollte, die Ladungsmatrix der Lösung einigermaßen mit der wahren Ladungsmatrix überein? Um diese Probleme genauer behandeln zu können, sind weitere Überlegungen auf theoretischer Ebene nötig, denen die folgenden Abschnitte gewidmet sind Lösungen auf theoretischer Ebene Um die Eigenheiten des empirischen Vorgehens einigermaßen würdigen zu können, ist es unerlässlich, die Sachverhalte auch auf theoretischer Ebene zu verstehen Hier ist es wesentlich, dass nicht irgendeine empirische Korrelationsmatrix im Mittelpunkt der Überlegungen steht, die sich in einer Untersuchung so, in einer anderen anders ergeben kann, sondern vielmehr die wahre theoretische Korrelationsmatrix (die durch die empirische bei hinreichend großen Stichproben einigermaßen zuverlässig geschätzt werden kann, jedoch genau betrachtet immer unbekannt ist)

28 33 Vorläufiges zu Lösungen FA13 28 Auf der theoretischen Ebene soll nun die Frage nach Existenz und Eindeutigkeit von Lösungen unter dem Aspekt der Parametrisierung des Modells betrachtet werden Der Lösungsbegriff ist jetzt etwas verschieden von dem vorangehenden, der sich auf das empirische Vorgehen bezog Der einzige Unterschied liegt darin, dass jetzt die wahre Korrelationsmatrix K x der beobachtbaren Variablen als bekannt vorausgesetzt wird Obwohl der Unterschied also nur gering ist, sollen die Bedingungen der Klarheit halber noch einmal formuliert werden: Unter einer q-faktorlösung zu der wahren Korrelationsmatrix K x unter KF soll ein Paar (K f, Λ) aus einer (q q)-matrix K f und einer (p q)-matrix Λ verstanden werden, das die folgenden Bedingungen erfüllt: (i) K f ist positiv semidefinit mit Einsen in der Diagonale, (ii) ΛK f Λ hat Diagonalelemente 1 und stimmt außerhalb der Diagonale mit K x überein Unter einer q-faktorlösung zu der wahren Korrelationsmatrix K x unter UF soll eine (p q)-matrix Λ verstanden werden, für die ΛΛ Diagonalelemente 1 besitzt und außerhalb der Diagonale mit K x übereinstimmt Der Unterschied zu den Formulierungen für die empirische Ebene besteht also nur darin, dass die auf der Grundlage der Lösung konstruierte Matrix ΛK f Λ (bzw ΛΛ bei UF) also die reduzierte Korrelationsmatrix, wenn die Lösung richtig ist außerhalb der Diagonale vollständig mit K x übereinstimmen soll, was die unbefriedigende Formulierung einigermaßen in diesem Zusammenhang beseitigt Es ist wichtig, sich klar zu machen, dass auch hier der Begriff der Lösung nicht automatisch bedeutet, dass die Matrizen Λ und K f (bzw Λ bei UF), die die Lösung ausmachen, mit den wahren Matrizen gleichen Namens übereinstimmen (diese Formulierung ist natürlich nur sinnvoll, wenn die Richtigkeit des Modells vorausgesetzt wird) Als äquivalent sollen zwei Lösungen wieder dann bezeichnet werden, wenn die zugehörigen Matrizen ΛK f Λ (bzw ΛΛ bei UF) übereinstimmen Die Übereinstimmung soll jetzt also auch für die Diagonale gelten, also für die Zahlen, die die Rolle der Kommunalitäten spielen

29 33 Vorläufiges zu Lösungen FA13 29 Festzuhalten ist, dass es zunächst nur um die Reproduktion der Korrelationsmatrix durch ein Modell geht, nicht aber um Interpretierbarkeit Zunächst wird das Modell UF untersucht; es wird sich später herausstellen, dass dies erstaunlicherweise keine wesentliche Einschränkung ist Die Frage nach der Existenz einer Lösung mit q Faktoren kann so formuliert werden: Gibt es eine (p q)-matrix Λ mit der Eigenschaft, dass ΛΛ außerhalb der Diagonale mit K x übereinstimmt und auf der Diagonale keine Elemente größer als 1 besitzt? Falls eine Lösung existiert, so stellt sich als nächstes die Frage der Eindeutigkeit: Gibt es nur eine solche Matrix Λ oder mehrere? In den meisten Konstellationen ist es nun so, dass es für manche Matrizen K x Lösungen gibt und für andere nicht Diejenigen Korrelationsmatrizen, für die es eine Lösung mit q Faktoren gibt, bezeichnet man auch als modellverträglich (mit dem q-faktormodell); ist die theoretische Korrelationsmatrix K x in diesem Sinne modellverträglich, so bedeutet das also, dass es denkbar ist, dass hinter den empirischen Variablen q Faktoren stehen Ist dagegen die Matrix K x nicht modellverträglich mit dem q-faktormodell, so bedeutet das, dass es ausgeschlossen ist, dass die beobachtbaren Variablen durch q Faktoren bestimmt sind Die Fragen nach Existenz und Eindeutigkeit von Lösungen sollen nun in terminis der Parameter des Modells genauer beleuchtet werden Parameter sind hier die Elemente der Matrix Λ, so dass die Anzahl der Parameter gleich pq ist Die Bedingungen, die diese Parameter erfüllen sollen, zerfallen in zwei Teilmengen: Außerhalb der Diagonale soll ΛΛ mit K x übereinstimmen und auf der Diagonalen sollen die Elemente höchstens 1 sein Die erste Teilmenge von Bedingungen besteht aus p (p 1)/2 Gleichungen, den Nichtdiagonalelementen der symmetrischen Matrix K x entsprechend Die zweite Teilmenge besteht aus p Ungleichungen Im Beispiel von vier beobachtbaren Variablen, für die eine Zweifaktorlösung gesucht wird, sollen diese Gleichungen zur Illustration aufgeschrieben werden Die Elemente der (4 2)-Matrix Λ sollen dabei mit λ ij bezeichnet werden und die der wahren (4 4)-Korrelationsmatrix K x wie schon oben mit ρ ij Die Rechnungen wurden schon durchgeführt, und man erhält die folgenden 4 3/2 = 6 Gleichungen