Multivariate statistische Verfahren

Transkript

1 Multivariate statistische Verfahren Herausgegeben von unter Mitarbeit von Walter Häußler, Heinz Kaufmann, Peter Kemeny, Christian Kredler, Friedemann Ost, Heinz Pape, Gerhard Tutz w DE G Walter de Gruyter Berlin New York 1984

2 Inhalt Kapitel 1 Einführung 1 1. Einführende Beispiele 1 2. Grundlegende Begriffe der Meßtheorie 4 3. Überblick über multivariate statistische Verfahren 10 Kapitel 2 Mehrdimensionale Zufallsvariablen und Verteilungen Verteilungsfunktionen und Dichten Gemeinsame Verteilungsfunktionen und Dichten Randverteilungen und bedingte Verteilungen Erwartungswerte und Kovarianzmatrizen Mehrdimensionale Normalverteilung, Multinomialverteilung und Grenzwertsätze Mehrdimensionale Normalverteilung Verteilungskonvergenz und Grenzwertsätze Multinomialverteilung Wishart- und verwandte Verteilungen x 2 -> F- und t-verteilung Wishart-, A- und 0-Verteilung Exponentialfamilien Definition und Beispiele Einfache Exponentialfamilien 46 Kapitel 3 Grundlegende multivariate Schätz- und Testprobleme Punktschätzung von Erwartungswerten und Kovarianzmatrizen Ein-Stichprobenfall Mehr-Stichprobenfall Allgemeine Prinzipien der Parameterschätzung Likelihood-Funktion und Suffizienz Einige Eigenschaften von Punktschätzern Maximum-Likelihood-Schätzung Einige Verfahren zur Minimierung einer Funktion Hypothesentests und Vertrauensbereiche für Erwartungswerte und Kovarianzmatrizen Tests und Vertrauensbereiche für Erwartungswerte Tests für Kovarianzmatrizen Testprinzipien Der Likelihood-Quotienten-Test Der Union-Intersection-Test und simultane Konfidenzintervalle 80

3 VIII Inhalt Kapitel 4 Regressionsanalyse 83 Ludwig Fahrmeir, Heinz Kaufmann und Christian Kredler 1. Univariate lineare Regression Modelle der linearen Regressionsanalyse Schätzen im klassischen und allgemeinen linearen Modell Tests, Konfidenzbereiche und Modellüberprüfung Variablenselektion Beispiele Multivariate lineare Regression Das Modell Punktschätzung der Parameter Tests und Konfidenzintervalle Beispiel Kanonische Korrelationsanalyse Nichtlineare Regression Modellgleichung, Kleinst-Quadrat-Schätzung Die Gauß-Newton-Methode zur numerischen Bestimmung der KQ-Schätzer Asymptotische Eigenschaften der KQ-Schätzer Tests und Konfidenzbereiche Beispiel 152 Kapitel 5 Varianz- und Kovarianzanalyse Univariate Varianzanalyse mit festen Effekten Einfaktorielle Versuchspläne Zweifaktorielle Versuchspläne Versuchspläne mit Meßwiederholungen Kovarianzanalyse Allgemeine zweistufige Vorgehensweise Einfaktorieller Versuchsplan mit einer Kovariablen Versuchspläne mit zufälligen Effekten Einfaktorielle Versuchspläne mit zufälligen Effekten Ein gemischter Versuchsplan mit einem festen und einem zufälligen Faktor Multivariate Varianzanalyse mit festen Effekten Einfaktorielle Versuchspläne Zweifaktorielle Versuchspläne 206 Kapitel 6 Kategoriale Regression 211 Alfred Hamerle, Peter Kemeny und Gerhard Tutz 1. Das Modell der kategorialen Regression Modelle mit einer binären (dichotomen) Zielvariablen Modelle mit mehrkategorialen Zielvariablen Saturierte und unsaturierte Modelle Schätzung der Modellparameter, Hypothesentests Parameterschätzung und asymptotische Eigenschaften 228

4 Inhalt IX 2.2 Anpassungstests für das Modell Parametertests Zwei Anwendungsbeispiele Informationsgewohnheiten von Frauen (Fortsetzung von Beispiel 1.1) Ein Logit-Modell (Credit Scoring) Konditionale Modelle Modelle mit ordinalen Zielvariablen (geordnete Responsekategorien) Die Scoring-Methode Die Methode der kumulativen Logits 252 Kapitel 7 Verallgemeinerte lineare Modelle 257 Ludwig Fahrmeir und Christian Kredler 1. Verallgemeinerte lineare Modelle als umfassende Modellklasse Die gemeinsame Struktur vieler statistischer Modelle Definition verallgemeinerter linearer Modelle Schätzen, Testen und Variablenselektion in univariaten verallgemeinerten linearen Modellen Maximum-Likelihood-Schätzung Der gewichtete KQ-Schätzer Beispiel Schätzen, Testen und Variablenselektion in multivariaten verallgemeinerten linearen Modellen ML-Schätzung der Parameter Signifikanztests und Variablenselektion Beispiel 295 Kapitel 8 Diskriminanzanalyse 301 Ludwig Fahrmeir, Walter Häußler und Gerhard Tutz 1. Der allgemeine entscheidungstheoretische Ansatz Problemstellung, Entscheidungsregeln und Fehler Geschätzte Entscheidungsregeln und Fehlerraten Klassische Diskriminanzanalyse: Normalverteilte Merkmale und Fisher-Ansatz Diskriminanzfunktionen bei bekannten Normalverteilungen in den Klassen Lineare Diskriminanzanalyse bei unbekannten Parametern Bewertung von Entscheidungsregeln und Variablenselektion Beispiele Diskriminanzanalyse mit kategorialen Variablen Das volle multinomiale Modell Unabhängige binäre Variablen Parametrisierung in Modellfamilien Dichteschätzer Variablenselektion Beispiele Diskriminanzanalyse mit gemischten Variablen Das Lokalisationsmodell Das logistische Modell Verteilungsfreie Verfahren Dichteschätzung mit Potentialfunktionen 361

5 X Inhalt 5.2 Nächste-Nachbarn-Zuordnungsregeln Kleinstquadratapproximation von Bayes-Klassifikatoren durch verallgemeinerte lineare Diskriminanzfunktionen Schlußbemerkung 370 Kapitel 9 Clusteranalyse 371 Heinz Kaufmann und Heinz Pape 1. Einleitung Ähnlichkeits- und Distanzmaße Definition Transformationen von Ähnlichkeiten in Distanzen und umgekehrt Spezielle Ähnlichkeits- und Distanzmaße Hierarchische Klassifikationsverfahren Grundzüge und Anwendungsbeispiele Formale Beschreibung einer Hierarchie Agglomerative Verfahren Divisive Verfahren Optimale Partitionen Problemstellung Zur Auswahl des Gütekriteriums Bestimmung lokal optimaler Partitionen Bestimmung der Klassenanzahl Gütekriterien bei quantitativen Merkmalen Gütekriterien bei Ähnlichkeits- und Distanzmaßen Mischverteilungsverfahren Das Modell Identifizierbarkeit Maximum-Likelihood-Schätzung der Parameter Andere Schätzverfahren Normalverteilte Komponenten Binäre Variablen: Latent Class Analysis Zur Bestimmung der Klassenzahl Verwandte Modelle Stochastische Partitionsverfahren Maximum-Likelihood-Ansatz Normalverteilte Klassen Bestimmung der Klassenanzahl Ein modifizierter ML-Ansatz Bayes-Ansätze Verwandte Modelle Verteilungsfreie Verfahren Gradientenverfahren Ein sequentielles Quick and Dirty"-Verfahren Das Verfahren von Wishart Einige abschließende Bemerkungen 471 Kapitel 10 Zusammenhangsanalysen in Mehrdimensionalen Kontingenztabellen - Das loglineare Modell 473 Alfred Hamerle und Gerhard Tutz 1. Zweidimensionale Modelle Formen der Datenerhebung 474

6 Inhalt XI 1.2 Das loglineare Modell Analogie zur Varianzanalyse und Modellparameter Drei- und höherdimensionale Modelle Zusammenhangsstrukturen in dreidimensionalen Modellen Die Parameter des loglinearen Modells Erhebungsschemata in dreidimensionalen Modellen Vier- und höherdimensionale Tafeln Die Grundstruktur aller Modelle - loglineare Modelle als Spezialfälle verallgemeinerter linearer Modelle Aggregierbarkeit von Kontingenztafeln Parameterschätzung und Modellanpassung Maximum-Likelihood-Schätzung Anpassungs-Test Konditionale Teststatistiken Parametertests Modellwahl Schrittweise Auswahl bei vorgegebener Modellhierarchie Effektwahl nach Brown Simultane Tests der Ordnung к Modellspezifizierung über die standardisierten Parameter des saturierten Modells Schrittweise Testprozeduren nach Goodman Simultane Testprozeduren nach Aitkin Logit-Modelle Loglineare Modelle und Logit-Modelle Darstellung als Regressionsmodelle Interpretation der Parameter und Analogie zur Varianzanalyse Schätzung der Parameter Modelle für Kontingenztabellen mit geordneten Kategorien Zwei- und höherdimensionale Kontingenztabellen mit geordneten Kategorien Ein Logit-Modell mit einer geordneten unabhängigen Variablen Unvollständige Kontingenztafeln Zweidimensionale unvollständige Kontingenztafeln Drei- und höherdimensionale unvollständige Tafeln Spezielle quadratische zweidimensionale Kontingenztabellen: Symmetrie, Quasi-Symmetrie und marginale Homogenität Symmetrie Quasi-Symmetrie Marginale Homogenität 573 Kapitel 11 Faktorenanalyse 575 Friedemann Ost 1. Das faktorenanalytische Modell Modell, Parameter und Schätzaufgabe Eindeutigkeit der Parameter (Identifizierbarkeit) ML-Fak'torenanalyse ML-Schätzung für L und V Test des Modells, Bestimmung von к Verteilung der ML-Schätzer, Vertrauensintervalle Ergänzungen Beispiel Hauptkomponentenanalyse 595

7 XII Inhalt 3.1 Hauptachsentransformation Hauptkomponentenmethode Hauptfaktorenanalyse Beispiel Faktorentransformation und Interpretation Faktorentransformation Interpretation der rotierten Faktoren Beispiele Schätzung der Faktorenwerte ML-Prinzip und KQ-Methode (Bartlett 1937, 1938) Regressionsmethode (Thomson 1951) Berechnung der Faktorenwerte nach einer Hauptkomponentenanalyse Beispiel Überblick über weitere Verfahren Rangreduktion und Zentroidmethode (Thurstone 1947) Multiple Group-Methode Minres-Verfahren Image-Analyse Kanonische Faktorenanalyse a-faktorenanalyse Maximum-Determinanten-Lösung Direkte Dreieckszerlegung im gestuften Faktorenmodell Konfirmative Faktorenanalyse Strukturanalyse von Kovarianzmatrizen Latent Structure-Analyse Das allgemeine Modell Latent Class-Analyse Latent Profile-Analyse Dichotome und ordinale Faktorenanalyse Die normale Faktorenanalyse als Modell der Latent Structure-Analyse 659 Kapitel 12 Grundlagen der mehrdimensionalen Skalierung 633 Alfred Hamerle und Heinz Pape 1. Ziele und Konzeption mehrdimensionaler Skalierungsverfahren Meßtheoretische Aspekte der mehrdimensionalen Skalierung Methoden zur Erhebung von Ähnlichkeitsdaten Metrische MDS Distanzmodell : Raummodell Nichtmetrische MDS Hinweise auf weitere MDS-Verfahren 687 Anhang A Grundbegriffe der Matrix-Algebra 689 Peter Кетёпу А. 1 Matrizen und Vektoren 689 A.2 Matrixverknüpfungen 693 A.3 Elementare Rechenregeln für Matrizen 695 A.4 Determinanten 696 A.5 Matrixinversion 697 A.6 Partitionierte Matrizen 699

8 Inhalt XIII A. 7 Lineare Abhängigkeit von Vektoren und Rang einer Matrix 702 A.8 Lineare Gleichungssysteme 706 A. 9 Spur einer quadratischen Matrix 707 A. 10 Eigenwerte und Eigenvektoren 708 A. 11 Diagonalisierung symmetrischer Matrizen 709 A. 12 Quadratische Formen und Hauptachsenrotation 710 A. 13 Vektor-und Matrixdifferentiation (symbolische Differentiation) 713 A. 14 Extrema ohne Nebenbedingungen 718 A. 15 Extrema mit Nebenbedingungen 720 Anhang В Tabellen 725 Anhang С Kredit-Scoring-Daten 751 Literatur 767 Einige wichtige Programmpakete 787 Register 789