Einführung in die Cluster-Analyse mit SPSS

Transkript

1 Einführung in die -Analyse mit SPSS SPSS-Benutzertreffen am URZ Carina Ortseifen. Juli 00 Inhalt. analyse im allgemeinen Definition, Distanzmaße, Gruppierung, Kriterien. analyse mit SPSS a) Hierarchische analyse Prozedur b) zentrenanalyse Prozedur Quick. Literatur. (dt.: Traube, Haufen) heuristisches Verfahren zur systematischen Klassifizierung von Beobachtungen, z.b. Personen, Autos, Schallplatten) Ziel: Auffinden von Gruppen, in denen sich Beobachtungen befinden, die innerhalb der Gruppe möglichst ähnlich sind und extern (zwischen den Gruppen) verschieden. Anwendungsgebiete: Sozialwissenschaften, Biologie, Wirtschaftswissenschaften, Marktforschung Ähnlichkeit / Unähnlichkeit Die Ähnlichkeit bzw. Unähnlichkeit wird auf der Basis von Merkmalen definiert. Z.B. gleiches Alter, gleiche Haarfarbe. Andere Begriffe für Unähnlichkeit: Distanz Ähnlichkeit: Proximität Beispiel Zehn Fälle, zwei stetige Merkmale A/B B c a b Euklidische Distanz c: a + b = c Euklidische Distanz allgemein P Merkmale: p dii = xij xij ( ) i= Beispiel für Fälle A und B, 7 Merkmale: A: 7 8 B: / A d ab = ( 9) + ( 7 )... + ( ) = 9, 0

2 Distanzmaße für metrische Variabl. Euklidische Distanz City Block-Distanz Summe der absoluten Differenzen = Spezialfälle der Minkowski-Distanz Hohe Unterschiede werden stark gewichtet. Maße sind translationsinvariant, aber nicht skaleninvariant. (Einkommen in Dollar oder Euro) Distanzmaße für metrische Var. () Mahalanobis-Distanz d ij =(x i -x j ) S - (x i -x j ) wobei S - die Inverse der Stichproben-Varianz-Kovarianzmatrix der p Merkmale ist. Translations- und Skaleninvariant Dichotome Merkmale (Beispiel) Zwei Beobachtungen, A und B, 9 Merkmale, die angeben, ob ein Sachverhalt gegeben ist oder nicht A: B: B A 0 a b 0 c d Ähnlichkeitskoeffizient von Jaccard p ij =a / (a+b+c) (d spielt keine Rolle) Das entsprechende Distanzmaß ist: d ij =- p ij = (b+c) / (a+b+c) p ij nimmt Werte zwischen 0 und an. Für das Beispiel: p AB = /6 = 0.. Distanzmaße für binäre Merkmale (Simple) Matching Koeffizient p ij =a+d / (a+b+c+d) Jaccard- (Tanimoto-) Koeffizient p ij =a / (a+b+c) RR-Koeffizient p ij =a / (a+b+c+d) Dice-Koeffizient p ij = a / ( a+b+c) Mögliche Probleme Ungleiche Skala Standardisierung Ungleiches Skalenniveau der Merkmale binäre Merkmale als metrische betrachten metrische Merkmale binär kodieren Aggregation der verschiedenen Distanzmaße Merkmale sind korreliert Berechnung von Faktorwerten Mahalanobis-Distanz Ordinalskalierte Merkmale Merkmale am Median dichotomisieren Merkmale als metrische Daten behandeln

3 -Analyse-Verfahren Nicht-Hierarchische Verfahren Start bildung Ziel Hierarchische Verfahren Nichthierarchische Verfahren(*) feinste Partionierung, Vorgabe einer jedes Objekt bildet ein Startgruppierung eigenes Fusionierung von n Das zuvor festgelegte Kriterium ist erfüllt. Verschieben der Objekte Das zuvor festgelegte Kriterium ist erfüllt. * Auch: Partitionierendes -Analyse Verfahren, zentrenanalyse Objekte werden solange in verschiedene Gruppen sortiert, bis die beste Lösung im Sinne des Kriteriums gefunden ist. Problem: enormer Arbeits- und Zeitaufwand (bei 0 Objekten gibt es schon 97 verschiedene Möglichkeiten), deshalb sind meist nur Annäherungen möglich. Hierarchische Verfahren. Berechnung der Distanzen zwischen den n. Fusionierung der beiden, die die geringste Distanz zueinander haben. Berechnung des Ende-Kriteriums Wenn erfüllt, dann Ende; sonst weiter.. Berechnung der neuen Distanzen. Zurück zu Punkt Beispiel Zehn Fälle, zwei stetige Merkmale A/B B Single Linkage Complete L. Zentroid Average Linkage A Distanzen zwischen den n Single Linkage: Nächst gelegener Nachbar Kleinste Distanz zwischen einem Objekt des einen s und einem Objekt des anderen s Ketten-Tendenz Complete Linkage: Entferntester Nachbar größte Distanz zwischen einem Objekt des einen s und einem Objekt des anderen s anfällig für Ausreißer Distanzen zwischen n () AverageLinkage: Linkagezwischen den Gruppen Durchschnitt aller Distanz zwischen den Objekten der beiden betrachteten tendiert dazu mit kleinen Varianzen zu verbinden, neigt zu n mit gleicher Varianz Linkage innerhalb der Gruppen Zentroid: Zentroid ing Quadrierte Euklidische Distanz zwischen -Mittelwerten nur für metrische Merkmale, robust gegenüber Ausreißern)

4 Distanzen zwischen n: Ward Distanz ist die Anova-Quadratsumme zwischen zwei n (nur für intervallskalierte normalverteilte Daten) vereinigt diejenigen Elemente, deren Fusion die Gesamtvarianz innerhalb der am geringsten erhöht findet mit annährend gleicher Besetzungszahl anfällig für Ausreißer Bewertungskriterium Distanz zwischen zwei n Bestimmtheitsmaß r (RSQ) Semipartielles Bestimmheitsmaß Pseudo-F Pseudo-t Überprüfung der -Lösung Inhaltliche Interpretation Deskriptive Unterschiede zwischen den n auf weiteren Variablen Diskriminanzanalytische Überprüfung variable als Gruppenvariable Graphische Veranschaulichung Eiszapfen, Dendogramm, Plot. -Analyse in SPSS Prozeduren für -Analysen: Analysieren > Klassifizieren CLUSTER (hierarchische Methoden) QUICK CLUSTER (besonders für große Tabellen, nicht-hierarchisch, k- means) TWO STEP CLUSTER (für sehr große Tabellen, verarbeitet gleichzeitig unterschiedlich skalierte Variablen) a. Hierarchische analyse Variablenauswahl Probanden wurden gefragt, wie viele Stunden pro Woche sie für Sport, Medien, Hobbies aufbringen. data list free / nr sport medien hobbies. begin data end data. formats nr, sport, medien, hobbies (f.0). Distanzmatrix Zuordnung zugehörigkeit Dendrogramm Eiszapfendiagramm zugehörigkeit als neue Variable verfahren Distanzmaß Transformation

5 Ergebnisse Verarbeitete Fälle a Fälle Gültig Fehlend Gesamt N Prozent N Prozent N Prozent 00,0 0,0 00,0 a. Single Linkage Schritt Zusammengeführte Zuordnungsübersicht Erstes Vorkommen des s Nächster Koeffizienten Schritt, , ,000, Näherungsmatrix Fall Quadriertes euklidisches Distanzmaß,000,000,000,000 6,000,000,000,000 8,000 8,000,000,000,000 9,000 77,000,000 8,000 9,000,000,000 6,000 8,000 77,000,000,000 Dies ist eine Unähnlichkeitsmatrix -Zugehörigkeit Fall Bewertungskriterium = Quadrierte Eukl. Distanz Diagramme Plot der -Lösung Vertikales Eiszapfendiagramm Fall Anzahl der X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X 6 * * H I E R A R C H I C A L C L U S T E R A N A L Y S I S * * Dendrogram using Single Linkage Rescaled Distance Combine C A S E Label Num òûòòòòòòòòòòòòòòòòòòòòòòòòòòòòòòòø ò ùòòòòòòòòòòòòòòòø òûòòòòòòòòòòòòòòòòòòòòòòòòòòòòòòò ó ò ó òòòòòòòòòòòòòòòòòòòòòòòòòòòòòòòòòòòòòòòòòòòòòòòòò 0-6 Single Linkage 7 Syntax der Prozedur wird fast vollständig von der Dialogbox abgedeckt. Ausnahme: Matrix In Out Einlesen bzw. Rausschreiben von Distanz-/Ähnlichkeitsmatrizen Beispiel: CLUSTER sport medien hobbies /METHOD SINGLE /MEASURE= SEUCLID /PRINT SCHEDULE CLUSTER() /PRINT DISTANCE /PLOT DENDROGRAM VICICLE /SAVE CLUSTER() /MATRIX OUT("d:\test.sav"). b. zentrenanalyse Prozedur Quick Nearest Centroid Sorting-Verfahren Distanzmaß: Quadr. eukl. Distanz. Schritt: Festlegung der Startwerte (n Beobachtungen mit Mindestdistanz). Schritt: Zuordnung der übrigen Beobachtungen zu den Startwerten Evtl.. Schritt: Berechnung der Zentroide und erneute Zuordnung. Schritt: Wiederholung der Schritte - bis sich Zentroide nicht mehr ändern

6 Beispiel HOBBIES Anfängliche zentren Iterationsprotokoll a Änderung in zentren Iteration,707,707,000,000,000,000 a. Konvergenz wurde aufgrund geringer oder keiner Änderungen der zentren erreicht. Die maximale Änderung der absoluten Koordinaten für jedes Zentrum ist,000. Die aktuelle Iteration lautet. Der Mindestabstand zwischen den anfänglichen Zentren beträgt 6,6. -Zugehörigkeit zentren der endgültigen Lösung Fallnummer NR Distanz,707,707,000,707,707 HOBBIES 6 8 -Zugehörigkeit Distanz von zentrum Statistiken (Anfängl. zentren, ANOVA- Tabelle, information) Behandlung fehlender Werte Distanz zwischen zentren der endgültigen Lösung HOBBIES, 8,6, 6,8 8,6 6,8 ANOVA Anzahl der Fälle in jedem Gültig Fehlend,000,000,000,000,000 Fehler Mittel der Mittel der Quadrate df Quadrate df F Sig. 0,0,0,00,0,00,00 9,000,00 8,70,0 7,000,0 Die F-Tests sollten nur für beschreibende Zwecke verwendet werden, da die so gewählt wurden, daß die Differenzen zwischen Fällen in unterschiedlichen n maximiert werden. Dabei werden die beobachteten Signifikanzniveaus nicht korrigiert und können daher nicht als Tests für die Hypothese der Gleichheit der mittelwerte interpretiert werden. Literatur SPSSBASE.PDF (Online Doku, SPSS-Systemordner) The SPSS TwoStep Component. White Paper Technical Report von A. Bühl, P. Zöfel: SPSS Version 0. Addison-Wesley, 000. F. Brosius: SPSS 8. mitp, 998. E. Bellgardt: Statistik mit SPSS. Verlag Vahlen, 997. Bortz, J. : Statistik für Sozialwissenschaftler Springer Lehrbuch,.Aufl. 99. Späth, H. :-Analyse-Algorithmen zur Objektklassifizierung und Datenreduktion. Oldenbourg, 977. Backhaus et.al.: Multivariate Analysemethoden Springer Lehrbuch, 8. Auflage, 996.