Analyse mehrdimensionaler Daten WS 2010/11

Transkript

1 Analyse mehrdimensionaler Daten WS 2010/11 Fred Böker Institut für Statistik und Ökonometrie Platz der Göttinger Sieben 5 D Göttingen 4. Oktober 2010 Tel Fred.Boeker@Wi-Wiss.Uni-Goettingen.de

2 Inhaltsverzeichnis 1 Überblick Was sind multivariate Verfahren? Notation Zielsetzungen multivariater Analysen Einteilung multivariater Analyseverfahren Kurzbeschreibung, wichtigste Verfahren Multivariate Verteilungen Gemeinsame-, Rand- und bedingte Verteilungen Erwartungswert, Varianz, Kovarianz und Korrelation Multivariate Normalverteilung Bivariate Normalverteilung Andere multivariate Verteilungen Erste Schritte der Datenanalyse Einlesen und Überprüfen der Daten Erste Statistiken Hauptkomponentenanalyse Einführung Herleitung der Hauptkomponenten Weiteres zur Hauptkomponentenanalyse Auswahl der Hauptkomponenten Hauptkomponentenanalyse für multivariat normalverteilte Daten Zusammenfassung Faktorenanalyse Einführung Das Modell der Faktorenanalyse i

3 Inhaltsverzeichnis Schätzung der Faktorladungen Interpretation und Rotation Beispiel Faktorenanalyse in R Die multivariate Normalverteilung Definition der multivariaten Normalverteilung Eigenschaften der multivariaten Normalverteilung Schätzung der Parameter Die Wishart-Verteilung Gemeinsame Verteilung X und S Hotellings T 2 -Verteilung Verfahren, die auf Normalverteilung basieren Einleitung Einstichprobenverfahren Konfidenzintervalle und Hypothesentests Tests über Beziehungen zwischen den Variablen Zweistichprobenverfahren Diskriminanzanalyse Zweigruppenfall Verallgemeinerung auf mehr als zwei Populationen Fishers Methode für die Trennung mehrerer Gruppen Literatur 131 Formeln 133 Index Anhang aus Statistik-III-Skript: p-dimensionale Zufallsvariablen Definitionen, Eigenschaften Die p-dimensionale Normalverteilung Summen und Linearkombinationen von Zufallsvariablen Weiteres zur multivariaten Normalverteilung

4 Kapitel 1 Überblick 1.1 Was sind multivariate Verfahren? In dieser Vorlesung geht es um multivariate Verfahren. Neben multivariaten Verfahren gibt es univariate und bivariate Verfahren. In der Statististischen Methodenlehre I haben Sie univariate Verfahren kennengelernt, eindimensionale Verteilungen von Zufallsvariablen, Sie haben Stichproben kennengelernt, bei denen Sie je Merkmalsträger ein Merkmal beobachtet haben, z.b. die Brenndauer von n = 30 Glühbirnen oder die Körpergröße von n = 227 Studierenden. Brenndauer von 30 Glühbirnen Brenndauer Abbildung 1.1: Brenndauer von 30 Glühbirnen, Beobachtungen, Histogramm und Dichtefunktion Abbildung 1.1 zeigt ein Histogramm der Brenndauern von 30 Glühbirnen, die einzelnen Beobachtungen sind durch Striche auf der x-achse gekennzeichnet. An die Beobchtungen ist eine Dichtefunktion angepasst worden, offensichtlich eine Normalverteilung. Hätten Sie bei den Studierenden außer der Körpergröße auch noch das Gewicht der Studierenden als zweites Merkmal erhoben, so hätten Sie m = 2 Merkmale an n = 227 Merkmalsträgern beobachtet. Wir kommmen nicht viel weiter, wenn wir die beiden Merkmale separat 2

5 1.1. WAS SIND MULTIVARIATE VERFAHREN? 3 betrachten, wie in Abbildung 1.2, in der wir jeweils ein Histogramm der beiden Merkmale gezeichnet haben Körpergröße Gewicht Abbildung 1.2: Körpergröße und Gewicht von 227 Studierenden Wir müssen die beiden Merkmale gemeinsam betrachten. Wie gehören die beiden Merkmale zusammen? Welche Merkmale des Gewichts gehören zu welchen der Körpergröße? Um den Zusammenhang zwischen Körpergröße und Gewicht zu untersuchen, brauchen Sie bivariate Verfahren. Ein einfaches bivariates Verfahren ist z.b. der Scatterplot, eine Darstellung der beiden Variablen (siehe Abbildung 1.3). Größe und Gewicht von Studierenden Gewicht Größe Abbildung 1.3: Körpergröße und Gewicht von 227 Studierenden Unter Umständen wird in einer solchen Situation eine einfache Regressionsanalyse durchgeführt. Dabei betrachtet man meistens eine Variable (hier wohl die Körpergröße als unabhängige Variable und die andere als abhängige Variable (hier wohl das Gewicht). Statt unabhängiger Variable sagt man auch erklärende Variable (die Körpergröße,,erklärt das Gewicht). Bei der Regressionsanalyse geht es um Abhängigkeit (Dependenz). Man könnte in diesem Fall auch beide Variablen (Körpergröße und Gewicht) gleichwertig nebeneinander betrachten und sich für den Zusammenhang interessieren, indem man beispielsweise den Korrelationskoeffizienten berechnet. Dadurch wird der Zusammenhang (die Interdependenz) untersucht.

6 4 KAPITEL 1. ÜBERBLICK Eine andere Analyse wäre in folgender Situation nötig. Als zweite Variable wurde neben der Körpergröße das Geschlecht der Studierenden notiert. In Abbildung 1.4 sind die Histogramme der männlichen und weiblichen Studierenden nebeneinander dargestellt. Auffällig ist, dass das Histogramm der männlichen Studierenden breiter und flacher als das der weiblichen Studierenden ist Größe der Männer Größe der Frauen Abbildung 1.4: Körpergröße von männlichen und weiblichen Studierenden Abbildung 1.5 zeigt einen Boxplot der Körpergröße für die beiden Gruppen männlich und weiblich. In diesem Fall kann die zweite Variable Geschlecht nur zwei Werte männlich und weiblich annehmen. In diesem Fall wäre eventuell eine einfache Varianzanalyse angebracht. Boxplot der Körpergröße nach Geschlecht Körpergröße männlich weiblich Abbildung 1.5: Körpergröße nach Geschlecht Die Variable Geschlecht unterscheidet sich durch ihr Skalenniveau von den beiden anderen Variablen Körpergröße und Gewicht. Die Variable Geschlecht ist eine qualitative oder kategoriale Variable. Man spricht auch von nominalskalierten Variablen. Man kann für zwei Merkmalsträger nur feststellen, ob sie derselben oder verschiedenen Kategorien angehören. Man kann jedoch keinen Abstand zwischen den Kategorien und auch keine Richtung (kleiner oder größer, besser oder schlechter) angeben. Das gilt auch dann, wenn solche Variablen in der Datenmatrix häufig durch Zahlen codiert sind. In unserer Datenmatrix sind die Ausprägungen männlich und weiblich durch die Zahlen 0 und 1 codiert. Dennoch kann man

7 1.1. WAS SIND MULTIVARIATE VERFAHREN? 5 nicht sagen, dass der Abstand zwischen Männern und Frauen 1 ist. Auch wird nichts über eine Größenrelation ausgesagt. Das ist anders bei rangskalierten Variablen, z.b. Schulnoten mit den Ausprägungen,,sehr gut,,,gut,,,befriedigend,,,ausreichend,,,mangelhaft und,,ungenügend. Hier ist,,sehr gut besser als,,gut,,,befriedigend besser als,,ausreichend. Auch wenn für Schulnoten häufig die Ziffern 1 bis 6 vergeben werden, lässt sich wohl kaum behaupten, dass der Abstand zwischen,,sehr gut und,,gut genau so groß ist wie zwischen,,ausreichend und,,mangelhaft. Man spricht hier auch von ordinalskalierten Merkmalen. Die Variablen Körpergröße und Gewicht haben das höchste Skalenniveau. Es sind quantitative oder metrische Variablen. Sowohl die Differenzen als auch die Verhältnisse zwischen den Merkmalsausprägungen sind aussagekräftig (siehe z.b. Rinne (2000), S. 2). Tabelle 1.1 gibt einen Überblick über die verschiedenen Skalenniveaus. Tabelle 1.1: Klassifizierung von Merkmalen Mermale qualitative rangskalierte quantitative nominalskaliert ordinalskaliert metrisch Beispiele: Geschlecht Schulnote Gewicht Augenfarbe Rangplatz Verkaufszahl Automarke Güteklasse Lebensdauer Die drei bisher genannten Variablen Körpergröße, Gewicht, Geschlecht sind u.a. in der R- Einführungsveranstaltung zur Statistischen Methodenlehre I im WS 2000/2001 erhoben worden. Den Fragebogen, die Codes zum Fragebogen und die Ergebnisse der Befragung finden Sie im Internet unter der Instituts-Adresse dann unter Lehre, dann im aktuellen Semester, dann unter Multivariate Verfahren und dort unter Notizen. Öffnen Sie die Dateien durch Doppelklick im Internet, speichern Sie die Datensätze auf Ihrem Rechner und importieren Sie dann die Daten in R mit dem Befehl dget. Die Daten zur Befragung in Statistik I sind in Form einer Matrix gespeichert mit m = 30 Spalten und n = 239 Zeilen, d.h. n = 239 Studierende (Merkmalsträger, Elemente) wurden befragt. Insgesamt wurden durch die Befragung m = 30 Merkmale erfasst. Jede Zeile der Matrix steht für einen Merkmalsträger, jede Spalte für ein Merkmal oder jede Spalte enthält eine Variable. Eine erste Charakterisierung multivariater Verfahren besagt, dass darunter alle Verfahren fallen, die mehr als m = 2 Merkmale gleichzeitig untersuchen. Einige Autoren (siehe z.b. Bamberg/Baur (1996, S.231)) halten diese Definition für zu weit gefasst. Dann würden auch alle ökonometrischen und varianzanalytischen Verfahren darunterfallen. Bei diesen beiden Verfahrenstypen werden die Variablen a priori in endogene und exogene Variablen aufgeteilt. Die,,typischen multivariaten Verfahren behandeln alle Variablen als,,gleichberechtigt.

8 6 KAPITEL 1. ÜBERBLICK 1.2 Notation Wir bezeichnen die Anzahl der Variablen mit m und die Anzahl der Merkmalsträger (Objekte) mit n. Wir haben damit insgesamt n m Beobachtungen. Es sei x rj die r-te Beobachtung der j-ten Variablen, r = 1,..., n; j = 1,...m. Alternativ kann man auch sagen. Es sei x rj das j-te Merkmal beim r-ten Merkmalsträger, j = 1,..., m; r = 1,...n. Die Matrix, die in der r-ten Zeile und j-ten Spalte das Element x rj enthält, heißt Datenmatrix und wird mit dem Symbol X bezeichnet. X = x 11 x x 1m x 21 x x 2m x 31 x x 3m.... x n1 x n2... x nm Bitte beachten Sie, dass im Statistik III-Skript die Reihenfolge der Indizes vertauscht ist. Üblicherweise kommt zuerst der Zeilen-, dann der Spaltenindex. Da die Anzahl der Merkmalsträger (n) meistens sehr viel größer ist als die Anzahl der Merkmale (m) ist es sinnvoll, die Variablen in die Spalten zu schreiben und die Individuen in die Zeilen. Man kann die Datenmatrix X auch auffassen als n Zeilenvektoren x t 1,xt 2,...,xt n - der Zeilenvektor x t r = (x r1, x r2,...,x rm ) besteht also aus der r-ten Zeile der Datenmatrix, d.h. den Merkmalen des r-ten Individuums. Mit x t r wird das Transponierte des Vektors x r bezeichnet. Unter einem Vektor wird zunächst grundsätzlich ein Spaltenvektor verstanden. X = Jeder Vektor x t r; r = 1,...,n hat m Koordinaten und stellt damit einen Punkt im m- dimensionalen Raum dar. Jeder Punkt steht für einen Merkmalsträger, die Koordinaten dieses Punktes sind die Werte der Merkmale dieses Merkmalstägers. Man hat also n Punkte im m-dimensionalen Zeilenraum. Alternativ kann man X auch als m Spaltenvektoren y 1,y 2,...,y m auffassen. x t 1 x t 2 x t 3. x t n X = (y 1,y 2,...,y m ), wobei y i die Elemente der i-ten Spalte, also alle Beobachtungen des i-ten Merkmals oder der i-ten Variablen enthält, d.h. y t i = (x 1i, x 2i,...,x ni )

9 1.3. ZIELSETZUNGEN MULTIVARIATER ANALYSEN 7 Jeder Vektor y i stellt einen Punkt im n-dimensionalen Spaltenraum dar. Jetzt steht jeder Punkt für eine Variable, die Koordinaten entsprechen den Werten dieser Variablen an den verschiedenen Merkmalsträgern. Bei der Bezeichnung x rj wurden bewusst die Indizes r und j gewählt, um ganz klar zwischen dem Index für die Zeile (= Individuum) und der Spalte (= Variable) unterscheiden zu können. Wir werden also die Indizes i, j, k,... für die Variablen und r, s, t,... für die Individuen (Merkmalsträger) verwenden. 1.3 Zielsetzungen multivariater Analysen Dieser Abschnitt orientiert sich an Rinne (2000), Bamberg/Baur (1996) und Chatfield/Collins (1991). Es gibt eine Vielzahl multivariater Verfahren. Die Auswahl der geeigneten Methode hängt ab vom Typ der Variablen, dem gestellten Problem und den Zielsetzungen der Analyse. In vielen Fällen geht es um Vereinfachung. Man möchte einen großen Datensatz durch möglichst wenige Parameter beschreiben. Vielleicht sind einige der Variablen überflüssig, da (annähernd) die gleiche Information in anderen Variablen steckt. Man könnte dadurch eventuell Rechenzeiten sparen oder Erhebungskosten. Kendall (1980, S. 1, siehe auch Rinne (2000, S.3)) nennt die folgenden sechs Punkte als wichtigste Zielsetzungen multivariater Analysen. 1) Strukturelle Vereinfachung: Man möchte das Problem vereinfachen durch Elimination überflüssiger Variablen. Durch Transformation einer Menge interdependenter Variablen in eine Menge unabhängiger Variablen lässt sich eventuell die Komplexität des Problems verringern. 2) Klassifikation: Man kann sich fragen ob die Elemente Gruppen bilden, d.h. gehäuft im Merkmalsraum liegen, oder ob sie mehr oder minder gleichmäßig über den gesamten Merkmalsraum variieren. In Abbildung 1.6 sind deutlich zwei Gruppen zu erkennen. y Abbildung 1.6: Punktwolke mit zwei Gruppen y1 3) Gruppierung der Variablen: Hier geht es um die Frage, ob es unter den m Variablen verwandte Variablen gibt. Man beachte, dass es im vorigen Punkt - bei der Klassifizie-

10 8 KAPITEL 1. ÜBERBLICK rung - um Gruppen unter den Objekten (Merkmalsträgern, Zeilen) geht. Jetzt geht es um die Variablen (Spalten). 4) Analyse der Interdependenz (Zusammenhänge): Hier geht es um die Zusammenhänge zwischen Variablen, wobei die Möglichkeiten von der Unabhängigkeit bis zur Kollinearität reichen, eine Situation, in der eine Variable eine lineare (oder allgemeiner eine nichtlineare) Funktion der anderen Variablen ist. 5) Analyse der Dependenz (Abhängigkeit): Im vorigen Punkt waren bei der Untersuchung der gegenseitigen Beziehungen alle Variablen gleichberechtigt. Jetzt werden eine oder mehrere Variablen herausgehoben und untersucht, wie sie von den anderen abhängen. 6) Hypothesenformulierung und Überprüfung. Chatfield und Collins (1991) betonen, dass es bei vielen multivariaten Verfahren eher um das Aufstellen von Hypothesen als um das Überprüfen von Hypothesen geht. 1.4 Einteilung multivariater Analyseverfahren Bei Rinne (2000, S. 6) und auch Bamberg/Baur (1996) findet man die folgenden Einteilungsmöglichkeiten: nach dem Skalenniveau der Variablen danach, ob der deskriptive Charakter oder der Stichprobencharakter stärker betont wird danach, ob das Interesse primär auf die Variablen (Spalten) oder auf die Untersuchungsobjekte (Zeilen der Datenmatrix) gerichtet ist. Nach dem letzten Gesichtspunkt gelangt man zu einer Zweiteilung der multivariaten Verfahren in die sogenannten R-Techniken und die sogenannten Q-Techniken. a) Von einer R-Technik wird gesprochen, wenn das Hauptinteresse den Variablen gilt: Es sollen z.b. Zusammenhänge zwischen den Variablen aufgedeckt, redundante Variablen entfernt oder neue Variablen konstruiert werden. Zu den R-Techniken gehören die Regressionsanalyse, die Varianz- und Kovarianzanalyse, die Hauptkomponenten-, die Faktoren- und die kananonische Korrelationsanalyse. b) Von einer Q-Technik wird gesprochen, wenn das Hauptinteresse auf die Merkmalsträger gerichtet ist. Man möchte Zusammenhänge oder auch Unterschiede zwischen den Trägern erkennen, man möchte die Objekte gruppieren oder auch einer von mehreren Gruppen optimal zuordnen. Zu den Q-Techniken gehören die Cluster- und die Diskriminanzanalyse. Kendall (1980, S.12, siehe auch Rinne (2000, S.6)) teilt die Verfahren danach ein, ob sie Interdependenzen (Zusammenhänge) anzeigen sollen oder ob Dependenzen aufgedeckt werden sollen. Backhaus u.a (2000) sprechen von Strukturen-entdeckenden und Strukturenprüfenden Verfahren.

11 1.4. EINTEILUNG MULTIVARIATER ANALYSEVERFAHREN 9 a) Strukturen-entdeckende Verfahren sind solche multivariaten Verfahren, deren primäres Ziel in der Entdeckung von Zusammenhängen zwischen Variablen oder zwischen Objekten liegt. Der Anwender besitzt zu Beginn der Analyse noch keine Vorstellungen darüber, welche Beziehungszusammenhänge in einem Datensatz existieren. Zu diesen Verfahren gehören Clusteranalyse Hauptkomponentenanalyse Faktorenanalyse Multidimensionale Skalierung Kanonische Korrelation b) Strukturen-prüfende Verfahren sind solche multivariaten Verfahren, deren primäres Ziel in der Überprüfung von Zusammenhängen zwischen Variablen liegt. Der Anwender besitzt bereits eine auf sachlogischen oder theoretischen Überlegungen basierende Vorstellung über die Zusammenhänge zwischen Variablen und möchte diese mit Hilfe multivariater Verfahren überprüfen. In diesen Bereich gehören die Regressionsanalyse Varianzanalyse Diskriminanzanalyse Kontingenztafelanalyse Bei Backhaus u.a. (2000) findet man die folgende Charakterisierung (Tabelle 1.2) der strukturen-prüfenden Verfahren nach ihrem Skalenniveau: Tabelle 1.2: Überblick strukturen-prüfende Verfahren UNABHÄNGIGE VARIABLE metrisches Skalenniveau nominales Skalenniveau ABHÄNGIGE VARIABLE metrisches Regressions- Varianz- Skalenniveau analyse analyse nominales Diskriminanz- Kontingenz- Skalenniveau analyse analyse

12 10 KAPITEL 1. ÜBERBLICK 1.5 Kurzbeschreibung der wichtigsten multivariaten Verfahren Einen Überblick über die wichtigsten multivariaten Verfahren findet man z.b. bei Rinne (2000, S. 4), Backhaus u.a. (2000), Fahrmeir u.a. (1996). Regressionsanalyse: Vorausgesetzt wird für alle Variablen metrisches Skalenniveau. Man unterscheidet zwischen univariater und multivariater Regression. Dabei beziehen sich diese Begriffe auf die Anzahl q der abhängigen Variablen. Bei einer abhängigen Variablen handelt es sich um univariate Regression, bei mehr als einer abhängigen Variablen spricht man von multivariater Regression. Die Anzahl p der unabhängigen Variablen ist stets größer oder gleich 1. In der Regressionsanalyse geht es darum, die Koeffizienten der unterstellten (linearen) Funktion zwischen der(n) abhängigen Variablen und der(n) unabhängigen Variablen aus den Daten zu schätzen. Im Rahmen einer guten Modellanpassung geht es auch darum, die,,optimale Menge der erklärenden (unabhängigen) Variablen zu finden. Eventuell sind einige der Variablen zur Erklärung unnötig. Schließlich geht es darum, die abhängige(n) Variablen (Regressanden) aus der(n) unabhängigen Variablen (Regressoren),,optimal vorherzusagen. Ein Beispiel bildet die Frage, ob und wie die Absatzmenge eines Produkts vom Preis, den Werbeausgaben, der Zahl der Verkaufsstätten und dem Volkseinkommen abhängt. Korrelationsanalyse: Die Voraussetzungen sind wie in der Regressionsanalyse. Jedoch geht es hier um die Messung der Stärke des linearen Zusammenhangs zwischen einer Kriteriumsvariablen und einer oder mehreren Prädikatorvariablen durch den einfachen bzw. multiplen Korrelationskoeffizienten. Kanonische Korrelationsanalyse: Hier wird die Stärke des (linearen) Zusammenhangs zwischen zwei Gruppen von Variablen untersucht. Es werden sogenannte kanonische Variablen bestimmt. Das sind Linearkombinationen aus den Variablen in den beiden Gruppen. Man bestimmt die Korrelationskoeffizienten zwischen solchen Linearkombinationen und sucht nach der maximalen Korrelation, um den ersten kanonischen Korrelationskoeffizienten zu bestimmen. Die ersten kanonischen Variablen sind die Linearkombinationen mit der größten Korrelation. Das zweite Paar kanonischer Variablen wird analog bestimmt mit der Nebenbedingung, dass sie mit den zuvor bestimmten kanonischen Variablen unkorreliert sind. Die ursprüngliche Variablenfülle kann durch Übergang zu den kanonischen Variablen mit der höchsten Korrelation reduziert werden (siehe Rinne (2000), S. 69). Varianzanalyse: Die Varianzanalyse ist ein Verfahren, das die Wirkung einer (oder mehrerer) unabhängiger Variablen auf eine oder mehrere abhängige Variablen untersucht. Für die unabhängige Variable wird dabei nur Nominalskalierung verlangt, während die abhängige Variable metrisches Skalenniveau besitzen muss. Die unabhängigen Variablen heißen Faktoren, deren Ausprägungen Faktorstufen. Ist man nur an der Wirkung eines Faktors interressiert, so spricht man von einfacher Varianzanalyse. Soll der Effekt von r Faktoren untersucht werden, so spricht man von r -facher Varianzanalyse. Die Varianzanalyse wird typischerweise zur Auswertung von Experimenten verwendet. So könnte z.b. die Wirkung alternativer Verpackungsformen und verschiedener Plazierungen eines Produkts im Geschäft auf die Absatzmenge dieses Produkts untersucht werden. Untersucht man mehrere abhängige Variablen, so spricht man von multipler Varianzanalyse. Haben die Faktoren alle metrisches Skalenniveau, so ist eine Regressionsanalyse angebracht. Kovarianzanalyse: Die Kovarianzanalyse kann als Mischung von Varianzanalyse und Regressionsanalyse aufgefasst werden. Eine (metrische) Variable wird als lineare Funktion von q ( 1) nominalskalierten Variablen (Faktoren) und p ( 1 ) metrischen Variablen (Kova-

13 1.5. KURZBESCHREIBUNG, WICHTIGSTE VERFAHREN 11 riablen) modelliert. Primär interessiert der Einfluss der Faktoren auf die abhängige Variable. Es findet in gewissem Sinne eine Bereinigung um den Einfluss der Kovariablen statt. Bei Rinne (2000, S. 88) findet sich das folgende Beispiel: Es soll untersucht werden, ob drei Diätpläne zu unterschiedlichen Gewichtsabnahmen führen. Die abhängige Variable ist die Gewichtsabnahme, die Diätpläne sind Faktoren. Da die Gewichtsabnahme vom Anfangsgewicht abhängig ist, wird das Anfangsgewicht als Kovariable in das Modell aufgenommen. Kontingenztafelanalyse: Hat man m ( 2 ) nominalskalierte Variable, so kann man bei großer Beobachtungszahl n, die Elemente nach Häufigkeiten aller denkbaren Merkmalskombinationen auszählen und in Form einer Häufigkeitstabelle darstellen, z.b. Angehörige des öffentlichen Dienstes nach Laufbahngruppe und Geschlecht. Als drittes Merkmal könnte man untergliedern nach Bund, Ländern und Gemeinden. In diesen Bereich gehören die loglinearen Modelle, Logit-Analysen (siehe z.b. Bishop u.a. (1980) oder Fienberg (1980)). Faktoren- und Hauptkomponentenanalyse: Bei beiden Verfahren geht es um die Definition und Konstruktion hypothetischer Größen oder Variablen aus den in der Datenmatrix enthaltenen Variablen. Die neuen Größen heißen Faktoren, Dimensionen oder Hauptkomponenten. Diese neuen Größen können nicht beobachtet oder gemessen werden, sie sind,,hinter den Beobachtungen stehende Größen, die die gegebene Datenmatrix hinreichend genau abbilden sollen. Gleichzeitig fast im Widerspruch zur vorigen Forderung soll die Anzahl der Faktoren möglichst klein gehalten werden. Damit kommen subjektive Aspekte in das Verfahren hinein, insbesondere dann auch bei der Interpretation der Faktoren. Faktorenund Hauptkomponentenanalyse sollten nicht miteinander verwechselt werden. Die Hauptkomponentenanalyse besteht aus einer orthogonalen Transformation der Originalvariablen in eine Menge neuer, unkorrelierter Variablen, die sogenannten Hauptkomponenten. Diese sind Linearkombinationen der ursprünglichen Variablen. Ziel ist es, mit möglichst wenigen Hauptkomponenten auszukommen und dabei die Variation der Originalvariablen zu reproduzieren. Primärer Zweck ist die Datenreduktion. Hauptzweck der Faktorenanalyse ist die Erklärung der Korrelationsstruktur der Originalvariablen. Auch hier werden linearkombinierte und orthogonale Variablen aus den Ursprungsvariablen berechnet. Vorausgesetzt wird i.d.r. metrisches Skalenniveau. Die Faktorenanalyse wird dann eingesetzt, wenn eine Vielzahl von Variablen erhoben wurde und der Anwender an einer Reduktion bzw Bündelung der Variablen interessiert ist. Backhaus u.a. (2000) nennen als Beispiel die Verdichtung der zahlreichen technischen Eigenschaften eines Autos auf wenige Dimensionen wie Größe, Leistung und Sicherheit. Bei psychologischen Fragebögen ist es häufig der Fall, dass sehr viele unterschiedliche Fragen gestellt werden, die dann zu wenigen Eigenschaften gebündelt werden. Clusteranalyse: Während in der Faktorenanalyse die Variablen gebündelt werden, versucht man mit der Clusteranalyse die Objekte (Merkmalsträger) zu bündeln. Das Ziel ist also, die Objekte so zu Gruppen (Clustern) zusammenzufassen, dass die Objekte in einer Gruppe möglichst ähnlich und die Gruppen untereinander möglichst unähnlich sind. Vor der Analyse sind weder Anzahl der Gruppen, noch Lokalisation oder Homogenität der Gruppen bekannt, noch besitzt man Information über die Zuordnung der Elemente zu den Gruppen. Beispiele sind die Bildung von Persönlichkeitstypen auf der Basis psychografischer Merkmale. Diskriminanzanalyse: In der Diskriminanzanalyse geht es darum, schon vorgegebene Gruppen oder Klassen unter Heranziehung geeigneter, beobachtbarer Merkmale (diskriminatorische Variablen) möglichst gut zu trennen (diskriminieren) und die Gruppenzugehörigkeit noch nicht eingeordneter Elemente bei bekannten Werten der diskriminatorischen Varia-

14 12 KAPITEL 1. ÜBERBLICK blen mit möglichst geringer Fehlerquote zu bestimmen. Ein Beispiel ist die Kreditwürdigkeitsprüfung. Hier gibt es gute und schlechte Kunden. Bei bereits abgelaufenen Kreditgeschäften ist die Kreditwürdigkeit bekannt. Aus der Vielzahl der der Bank bekannten Merkmale des Kreditnehmers sind dann die Variablen herauszusuchen, die am besten zwischen guten und schlechten Kunden trennen. Genauer werden aus den Variablen Diskriminanzfunktionen gebildet, die den Merkmalsraum in disjunkte Klassen aufteilen. Im Titelbild zu diesem Skript sieht man zwei Dichtefunktionen bivariater Normalverteilungen. Es gibt also zwei Gruppen von Beobachtungen, je nachdem von welcher der beiden Verteilungen die Daten kommen. Es stellt sich nun die Frage, wie trennt man den Beobachtungsraum, um eine optimale Zuordnung zu erreichen. Als weitere multvariate Verfahren seien hier noch die folgenden Verfahren genannt: Multioder mehrdimensionale Skalierung, auch MDS abgkürzt (siehe Backhaus u.a. (2000), Rinne (2000), Fahrmeir u.a. (1996)), die Korrespondenzanalyse (siehe Greenacre (1984)), die LISREL-Analyse (siehe Backhaus u.a. (2000)) und das Conjoint Measurement (siehe Backhaus u.a. (2000). Einen tabellarischen Überblick der wichtigsten Verfahren findet man bei Fahrmeir u.a. (1996).