4.3 Hierarchische Klassifikationsverfahren

Transkript

1 4.3 Hierarchische Klassifikationsverfahren Hierarchische Klassifikationsverfahren: Einsatz zum Zwecke einer Aufdeckung von lusterstrukturen, wenn keine Kenntnisse über die Gruppenzahl verfügbar sind Agglomerativen Verfahren: - Ausgehend von der feinsten Gruppierung einelementiger luster werden sukzessive die "ähnlichsten" Klassen bis hin zur gröbsten Gruppierung eines n-elementigen lusters zusammengefasst, - Gruppierung wird von Stufe zu Stufe heterogener, da zu den lustern immer entferntere Objekte hinzukommen Divisive Verfahren: Genau umgekehrte Vorgehensweise, d.h. von einem n-elementigen luster zu n einelementigen luster (keine praktische Bedeutung)

2 Ablauf einer hierarchischen Klassifikation (Agglomerationsverfahren) Start: Feinste Partition (n einelementige luster) Berechnung der Ausgangsdistanz- (Ähnlichkeits-)Matrix Ermittlung der beiden luster mit der geringsten Distanz (größten Ähnlichkeit) Vereinigung der beiden luster mit der geringsten Distanz (größten Ähnlichkeit) Gibt es nur noch eine Gruppe (= n- elementiges luster)? ja nein Neuberechnung der Distanzmatrix (Ähnlichkeitsmatrix) Ende

3 Hierarchische Klassifikationsverfahren Agglomerative hierarchische Klassifikationsverfahren Single- Linkage- Verfahren beliebiges Skalenniveau; nearest neighbour omplete- Linkage- Verfahren beliebiges Skalenniveau; furthest neighbour Average- Linkage- Verfahren beliebiges Skalenniveau; durchschnittl. Distanz Median- Verfahren metrisches Skalenniveau; ungewogene Schwerpunktdistanz Zentroid Verfahren metrisches Skalenniveau; gewogene Schwerpunktdistanz Ward- Verfahren metrisches Skalenniveau; Intra-Klassenvarianz Die Verfahren Single-Linkage, omplete-linkage und Average-Linkage, die bereits bei nominalskalierten Klassifikationsmerkmalen anwendbar sind, könnten gleichwertig auf der Basis von Distanz- und Ähnlichkeitsmaßen eingesetzt werden. Das Median- und das Zentroid-Verfahren setzen dagegen metrisch skalierte Merkmale voraus, da der Homogenitätsverlust im Falle einer Fusion zweier Klassen hierbei anhand des Abstandes der beiden lusterschwerpunkte gemessen wird. Ein metrisches Skalenniveau der Klassifikationsmerkmale setzt auch das Ward-Verfahren voraus. Hier erfolgt die Fusion zweier Klassen abweichend zu dem obigen Ablaufschema jedoch auf der Grundlage eines globalen Heterogenitätskriteriums. Auf jeder Stufe werden die beiden luster fusioniert, deren Zusammenlegung die 3 Streuung innerhalb der Klassen am geringsten erhöht.

4 Die Ergebnisse einer hierarchischen Klassifikation lassen sich anschaulich in Form eines Baumdiagramms visualisieren, das als Dendrogramm bezeichnet wird. Heterogenitätsindex Dendrogramm h h Objekt Dendrogramm: - Stufen der hierarchischen Klassifikation anschaulich nachvollziehbar, - Erkennbar, bei welchem Heterogenitätsgrad eine Fusion zweier Gruppen erfolgt, - Heterogenitätsgrad z.b. durch die Distanz der beiden zuletzt fusionierten Gruppen oder die Intra-Klassen-Varianz gemessen Aus der obigen Abbildung geht hervor, dass bei einem Heterogenitätsindex h drei Zweiergruppen mit den Objekten 5 und 6, und sowie 7 und 8 neben zwei einelementigen Gruppen der Objekte 3 und 4 4 bestehen.

5 Dagegen verringert sich die lusterzahl bei einem Heterogenitätsindex h auf zwei: Das erste luster setzt sich aus den Objekten,, 3 und 4 zusammen, während die Objekte 5, 6, 7 und 8 das zweite luster bilden. Ein sprunghafter Anstieg des Heterogenitätsindexes spiegelt eine starke Abnahme der Ähnlichkeit der Objekte einer Klassifikation wider. In der Abbildung zeigt sich ein starker Anstieg des Heterogenitätsindexes nach Bildung der beiden Vierergruppen. Das Dendrogramm würde daher hier eine lusterzahl von zwei nahe legen. Single-Linkage-Verfahren Beim Single-Linkage-Verfahren ist die Distanz D zwischen zwei lustern g und h durch die kleinste Distanz zwischen zwei Objekten i und j der beiden luster definiert: (4.0) D ( g, h ) min d i, j h, i g, j Aufgrund dieser Art der Festlegung der lusterdistanzen spricht man von einer Nearest-Neighbour-Methode. Auf jeder Stufe werden die lusterdistanzen aufgrund von Gleichung (4.0) bestimmt. Es werden dann stets die beiden luster r und s fusioniert, für die die lusterdistanz minimal ist: (4.) D (, r s h ) min D,, g Fusion der luster r und s. g h 5

6 Abbildung 4.4: Single-Linkage-Verfahren im Zwei-Variablen-Fall h z g D ( g, h ) z Beispiel 4.: Um die hierarchische Klassifikation unter Anwendung des Single-Linkage-Verfahrens aufzuzeigen, gehen wir von den Regionen A, B, und D aus, deren Ähnlichkeiten durch die euklidische Distanz gemessen werden. Aufgrund der Symmetrie geben wir nur die untere Dreiecksmatrix wieder: (4.) A 0 4, 438 D 3, 084, 59 B 0 6, 777, , 339 D 0 A B D 6

7 Die Ausgangspartition besteht aus vier lustern, die die einzelnen Regionen A, B, und D enthalten: Ausgangspartition: Stufe In Stufe entspricht die niedrigste Distanz zwischen den lustern exakt der geringsten Objektdistanz. Aus der Distanzmatrix D ist erkennbar, dass dies die Distanz zwischen den Objekten A ( luster ) und D ( luster 4) ist: Aus diesem Grund werden die beiden Objekte A und D zu einem luster vereinigt, so dass sich die Partition (. Stufe): ergibt., da,d,59 D 4. A, B, 3, 4 A, D,, ˆ B, 3 Zu dieser Partition geben wir die Distanzmatrix an, wozu wir die neuen lusterdistanzen ermitteln:, mind A, B 4,438,d D,B,887 dd,b,887 D, mind A, 3,084,d D, 4,339 da, 3,084 D 3 D ˆ, db, 6,777 D 3 7

8 Die Distanzmatrix für die Partition der. Stufe lautet somit. Stufe: 0 D,887 3, , : A, D : B : Erneut sind die beiden luster mit der geringsten Distanz zu bestimmen. Man erkennt anhand der Distanzmatrix der. Stufe, dass die Distanz zwischen den lustern und mit einem Distanzwert von,887 minimal ist, weshalb diese beiden luster vereinigt werden. Damit ergibt sich die Partition (. Stufe): A, B,D, als Ergebnis des Fusionsprozesses der zweiten Stufe.. Wir berechnen die Distanz zwischen den beiden lustern und : 3,084 D, min d A, 3,084,d B, und erhalten die Distanzmatrix 6,777,d D, 4,339 d A, 0 D 3,084 0 : A, B,D :. 8

9 3. Stufe: In der 3. Stufe werden schließlich noch die beiden verbliebenen luster und bei einer Distanz von D(, ) = 3,084 zu einem luster vereinigt: Partition (3. Stufe): A, B,, D Da es nur noch ein luster mit allen Objekten gibt, wird der Gruppierungsprozess beendet. Die Ergebnisse der hierarchischen Klassifikation auf der Basis des Single-Linkage- Verfahrens lassen sich auch durch das in der folgenden Abbildung wiedergegebene Dendrogramm transparent machen. Abb.: Dendrogramm des Single-Linkage-Verfahrens der Regionen A, B,, D d D h, l ,59,887 3,084 A D B Region 9

10 Single-Linkage-Verfahren mit SPSS Wir wollen die manuell mit dem Single-Linkage-Verfahren durchgeführt hierarchische Klassifikation der 4 Regionen A, B, und D nun mit SPSS ausführen. Hierzu legen wir eine verkleinerte SPSS-Datendatei für die 4 Regionen an, wobei wir unsere Daten vorher durch Wahl der Menüpunkte Analysieren Deskriptive Statistiken Deskriptive Statiken standardisieren. Wir speichern dann ausschließlich die standardisierten Merkmalswerte für die 4 Regionen A, B, und D zusammen mit der Variablen Region (A, B,, D) in der Datendatei Regionen(Z4).sav. Dort haben die standardisierten Variablen das Präfix Z, also Zed, Zbip, etc. Hinweis: Um eine hierarchische Klassifikation durchführen zu können, wird in SPSS keine standardisierte Datendatei benötigt. SPSS kann die Variablen auch innerhalb der hierarchischen Klassifikationsprozedur standardisieren. Wir verwenden eine standardisierte Datendatei für eine Teilmenge von Objekten (Regionen), um die Objekte mit den für den gesamten Datensatz gültigen standardisierten Werten zu klassifizieren. Der Aufruf der hierarchischen Klassifikation erfolgt in SPSS über die Menüpunkte Analysieren Klassifizieren Hierarchische luster. 0

11 Im Fenster Hierarchische lusteranalyse bringen wir die z-werte der Variablen in das Feld Variablen und die Variable Region in das Feld Fallbeschriftung. Wir betätigen die Schaltfläche Statistik und versehen das Item Distanzmatrix mit einem Haken. Mit der Schaltfläche Diagramm gelangen wir in das Fenster Hierarchische lusteranalyse: Diagramme. Dort geben wir im Feld Eiszapfendiagramm keine an und wählen das Item Dendrogramm. Im Methoden-Fenster wählen wir mit dem Pull-down-Menü die luster-methode Nächstgelegener Nachbar (=Single-Linkage-Verfahren). Im Feld Maß wählen aus dem Pull-down-Menü Euklidische Distanz. Als Ausgabe erhalten wir im SPSS-Viewer verschiedene Tabellen. Nach einer Tabelle über die Anzahl der verarbeiteten Fälle wird die von SPSS bezeichnete Näherungsmatrix (=Distanzmatrix) ausgegeben: Näherungsmatri x Fall :A :B 3: 4:D Euklidisches Distanzmaß :A :B 3: 4:D Dies ist eine Unähnlichkeitsmat rix

12 Sieht man einmal davon ab, dass wir stets nur die untere Dreiecksmatrix verwendet haben, stimmen beide Matrizen überein. Anschließend gibt SPSS die Tabelle Zuordnungsübersicht aus. Hierbei ist zu beachten, dass SPSS die luster stets mit der kleinsten Nummer des Objekts kennzeichnet, das ihm angehört. In der Spalte Koeffizienten wird diejenige Distanz ausgewiesen, zu der eine Verschmelzung der beiden links daneben stehenden luster stattfindet. Zuordnungsübersicht Schritt 3 Zusammengef ührte Erst es Vorkommen lust er des lust ers Nächster luster luster Koef fizienten luster luster Schritt Während in der Zuordnungsübersicht die tatsächlichen Distanzwerte ausgewiesen werden, normiert SPSS die lusterdistanzen beim Dendrogramm auf den Wertebereich [0; 5].

13 * * * * * * H I E R A R H I A L L U S T E R A N A L Y S I S * * * Dendrogram using Single Linkage Rescaled Distance luster ombine A S E Label Num A D 4 B 3 Eigenschaften des Single-Linkage-Verfahrens: - Geeignet verzweigte, gekrümmte oder lang gestreckte luster zu "erkennen", da es genügt, dass ein Objekt einer Klasse nahe bei einem Objekt einer anderen Klasse liegt - Gruppen werden zusammengefasst, die nur durch eine "Brücke" miteinander verbunden sind, ansonsten aber deutlich separiert voneinander im Raum liegen (kontrahierend) Verkettungseffekt (chaining effect), der zu außerordentlich heterogenen lustern führen kann - Monotonieeigenschaft (lusterdistanz nimmt von Stufe zu Stufe zu) 3

14 Abbildung 4.5: Identifikation von lustern mittels des Single-Linkage-Verfahrens x x x (a) Lang gestrecktes gekrümmtes luster (b) Verkettetes luster x Hauptsächliche Anwendung des Single-Linkage-Verfahrens: Aufdeckung von Ausreißern [Objekte, die auf einer höheren Stufe des Klassifikationsprozesses trotz der Neigung des Verfahrens zur Bildung weniger großer luster (kontrahierendes Verfahren) noch unklassiert geblieben sind] 4

15 omplete-linkage-verfahren Das omplete-linkage-verfahren geht bei der Messung der lusterdistanzen von den beiden entferntesten Objekten (Furthest-Neighbour-Methode) aus. Die Distanz zwischen den beiden lustern g und h ist hierin demzufolge durch (4.3) D g,h max d i, j, i g, j definiert. Sofern die lusterdistanzen auf einer Stufe des Klassifikationsprozesses durch (4.3) ermittelt worden sind, erfolgt eine Fusion der beiden luster mit der minimalen Distanz gemäß der Regel (4.). Abbildung 4.6: omplete-linkage-verfahren im Zwei-Variablen h h z g D ( g, h ) z 5

16 Beispiel 4.: Die Arbeitsweise des omplete-linkage-verfahrens lässt sich wiederum anhand des vereinfachten Regionenbeispiels unter Verwendung der Distanzmatrix aufzeigen: Ausgangspartition: A 0 4, 438 D 3, 084, 59 B 0 6, 777, , 339 D 0 A B D. A, B, 3, 4 Stufe Da die Ausgangspartition aus einelementigen lustern besteht, sind die lusterdistanzen stets mit den in der Distanzmatrix wiedergegebenen Objektdistanzen identisch, so dass der Regel (4.) zufolge das luster (Region A) mit dem luster 4 (Region D) bei einem Distanzwert von,59 zu verschmelzen ist: Partition (. Stufe): A, D, B, 3 Wir berechnen die Distanzen zwischen den drei lustern nach dem omplete- Linkage-Verfahren,, 4,438 D, max d A, B 4,438,d D,B,887 D d A, B, max d A, 3,084,d D, 4,339 dd, 4,339, db, 6,777 D 3 D 3, 6

17 und erhalten die Distanzmatrix 0 D 4,438 4, , : A, D : B :.. Stufe: Das Minimum der Furthest-Neighbour-Distanzen liegt bei einem Wert von 4,339, der die Distanz zwischen den lustern und 3 wiedergibt. Eine Fusion dieser beiden luster führt zu der Partition (. Stufe): A,,D, B die sich von der durch das Single-Linkage-Verfahren erzeugten Partition der zweiten Stufe unterscheidet. Mit der Distanz zwischen den beiden lustern und von 6,777 D, max d A, B erhalten wir die Distanzmatrix 4,438, d,b 6,777, d D,B,887 d,b 0 D 6,777 0 : A,, D. : B 7

18 3. Stufe: In der 3. Stufe werden wiederum die beiden noch verbliebenen luster und zu einem luster vereinigt: B Partition (3. Stufe): A, B,,D A,, D Da es nur noch ein luster mit allen Objekten gibt, wird der Gruppierungsprozess beendet. Abb.: Dendrogramm des omplete-linkage-verfahrens der Regionen A, B, und D d D h, l 6, ,339 3,59 A D B Region 8

19 omplete-linkage-verfahren mit SPSS Wir führen dieselben Einstellungen wie beim Single-Linkage-Verfahren, wählen jedoch im Methoden-Fenster die luster-methode Entferntester Nachbar (=omplete-linkage-verfahren). Die im SPSS-Viewer ausgegebenen Tabellen und Grafiken lassen sich analog zu denen des Single-Linkage-Verfahrens interpretieren. Fall :A :B 3: 4:D Näherungsmatri x Euklidisches Distanzmaß :A :B 3: 4:D Dies ist eine Unähnlichkeitsmat rix Zuordnungsübersicht Schritt 3 Zusammengef ührte Erst es Vorkommen lust er des lust ers Nächster luster luster Koef fizienten luster luster Schritt

20 * * * * * * H I E R A R H I A L L U S T E R A N A L Y S I S * * * Dendrogram using omplete Linkage Rescaled Distance luster ombine A S E Label Num A D 4 3 B Eigenschaften des omplete-linkage-verfahrens: - Tendenz zur Bildung kleiner, kompakter Gruppen (dilatierendes Verfahren), die häufig in sich erheblich homogener sein werden - Die Orientierung an den beiden maximal unähnlichsten Objekten kann dazu führen, dass eine Fusion zweier luster unterbleibt, auch wenn die mittlere Distanz zwischen den Objekten nicht notwendig eine merkliche Erhöhung der Heterogenität anzeigen würde. - Monotonieeigenschaft 0

21 Average-Linkage-Verfahren Die Distanz zwischen zwei lustern g und h entspricht beim Average-Linkage- Verfahren dem arithmetischen Mittel der Distanzen zwischen den Objekten der luster g und h : (4.4) n g,h di, j D n g h ig j h Hierbei geben n g und n h die Anzahl der in den lustern g und h enthaltenen Objekte wieder. Abbildung 4.7: Alle Objektdistanzen im Zwei-luster-Fall z g h z

22 Beispiel 4.3: Ausgegangen wird wiederum von der Distanzmatrix: D A 0 4, 438 3, 084, 59 B 0 6, 777, , 339 D 0 A B. D mit der Ausgangspartition: Ausgangspartition:. Stufe: A, B, 3, 4. D Bei gleicher Vorgehensweise wie beim Single-Linkage- bzw. omplete-linkage- Verfahren erhalten wir die Partition (. Stufe): A, D,, B 3 Während die Distanz zwischen den lustern und 3 auf der zweiten Stufe unverändert 6,777 bleibt, verändern sich die Distanzen zwischen und sowie und 3 (n =, n =, n 3 = ): n, d A, B dd, B 4,438,887 3, 663 D und n

23 n, 3 d A, dd, 3,084 4,339 3, 7 D n 3 Die zur Partition der. Stufe gehörende Distanzmatrix ist daher von der Form. Stufe: 0 D 3,663 3,7 0 6, : A, D : B :. Aufgrund der minimalen lusterdistanz von 3,663 sind die luster und zu fusionieren: Partition (. Stufe): Die beiden verbleibenden luster weisen mit n = 3 und n = eine mittlere Distanz von n auf, womit sich die Distanzmatrix ergibt. A, B, D, 733 D, d A, d B, d D, 3 3,084 6,777 4,339 n 0 D 4,733 0 : A, B, D : 4, 3

24 3. Stufe: In der 3. Stufe werden erneut die beiden noch verbliebenen luster und zu einem luster vereinigt: Partition (3. Stufe): A, B,, D A, B D, Da es nur noch ein luster mit allen Objekten gibt, wird der Gruppierungsprozess beendet. Abb.: Dendrogramm des Average-Linkage- Verfahrens der Regionen A, B, und D d D h, l 5 4, ,59 3,663 A D B B Region 4

25 Average-Linkage-Verfahren mit SPSS Hierzu wählen wir im Methoden-Fenster die luster-methode Linkage zwischen den Grupen (=Average-Linkage-Verfahren). Fall :A :B 3: 4:D Näherungsmatri x Euklidisches Distanzmaß :A :B 3: 4:D Dies ist eine Unähnlichkeitsmat rix Zuordnungsübersicht Schritt 3 Zusammengef ührte Erst es Vorkommen lust er des lust ers Nächster luster luster Koef fizienten luster luster Schritt

26 * * * * * * H I E R A R H I A L L U S T E R A N A L Y S I S * * * Dendrogram using Average Linkage (Between Groups) Rescaled Distance luster ombine A S E Label Num A D 4 B 3 Eigenschaft des Average-Linkage-Verfahrens: - Konservatives Verfahren, das zwischen dem kontrahierenden Single-Linkage- Verfahren und dem dilatierenden omplete-linkage-verfahren eingeordnet werden kann, - Objekte zweier Gruppen müssen "im Mittel" ähnlich sein müssen, damit es zu einer Fusion kommt. Größere Distanzen zwischen Objekten können hierbei durch geringere Distanzen nahe beieinander liegender Objekte kompensiert werden. - Monotonieeigenschaft. 6

27 Ward-Verfahren Beim Ward-Verfahren werden nicht wie bei den bisher behandelten hierarchischen Verfahren die luster mit der geringsten Distanz zueinander vereinigt. Vielmehr erfolgt die Fusion von lustern auf der Grundlage eines Varianzkriteriums. Hierbei werden stets metrisch skalierte Merkmale vorausgesetzt. Die Summe der Abweichungsquadrate der (standardisierten) Beobachtungswerte z ik des lusters g von den Merkmalsmittelwerten, (4.5) gibt die Streuung innerhalb des g-ten lusters wieder. Hierbei werden die Merkmalsmittelwerte aus den (standardisierten) Beobachtungen berechnet, die zum luster g gehören: (4.6) Die Gesamtstreuung innerhalb der G luster einer vorliegenden Partition ist dann durch (4.7) V z g V gk m zik z k n i g zgk z ik g i g gk G m zik zgk g k i g gegeben. Mit jeder Fusion geht ein Homogenitätsverlust der Klassifikation in Form einer Steigerung der Streuung innerhalb der Klassen (within-groups sum of squares) einher. zgk 7

28 Bei Anwendung des Varianzkriteriums der Ward-Methode werden in jeder Stufe des Fusionsprozesses stets die beiden luster fusioniert, die zu einer minimalen Erhöhung der Gesamtstreuung V führen. Wie sich zeigt, kann die Erhöhung der Kriteriumsgröße V im Falle einer Fusion das luster g und h mittels des Ausdrucks (4.8) ΔV( g bestimmt werden. h n ) n g g n n h m h k z gk z hk Auf jeder Stufe des Klassifikationsprozesses sind für alle lusterpaare die Zuwächse V zu berechnen. Vereinigt wird auf einer bestimmten Stufe jeweils das lusterpaar mit dem geringsten V-Wert. Beispiel 4.4: In unserem Beispiel liegen für die Regionen A, B, und D folgende standardisierte Merkmalswerte für die Variablen Einwohnerdichte (X ) und BIP (X ) vor: ED BIP 0,657,709 Z,343 0,56,45 A,54 B,653 0,99D. 8

29 Die Ausgangspartition lautet wieder: Ausgangspartition: A, B, 3, 4. D Wir berechnen für die Ausgangspartion die lustermittelwerte: luster luster luster luster. Stufe: : A 45 : B z 0,657, z 54 : 3 z,709, z 653 : 4 D z,,343, z3 3,, z4 0,56, z4 0,99 Nach Gleichung (4.8) würde der Zuwachs der Kriteriumsgröße V im Falle einer Fusion der beiden luster und V,709,45,54 5, 9 0,657 betragen. Dagegen würde sich das Varianzkriterium bei einer Fusion der luster und 3 nur um 0,39 erhöhen: V 3 0, 657, 343, 45, 653 0, 39 9

30 Entsprechend erhält man für die übrigen lusterpaare die V-Werte V V V 4, 0 3 8, 883 4, , 47 V,,,, so dass auf der ersten Stufe eine Vereinigung der luster und 3 erfolgt: Partition (. Stufe): A,, B, 3 D BIP B 0,5 0-0,5 D 3 - A -, ,5 - -0,5 0 0,5,5 ED 30

31 Die lustermittelwerte dieser Partition lauten luster luster luster. Stufe: A, : Die zweite Stufe beginnt erneut mit der Berechnung der aus der potenziellen Fusion hervorgehenden Erhöhung des Varianzkriteriums. Bei einer Fusion der luster und würde z.b. eine V-Erhöhung von ΔV erfolgen. Für die beiden anderen lusterpaare erhält man V,, was eine Fusion von und 3 indiziert. z z, 0,657,343,000,45,653, 449 B : 54 : 3 D z,709, z 99, z3 0, 56, z3 0, 54, 9, , 709, 449, , 93 V, Partition (. Stufe): A,, D, B 3

32 BIP B 0,5 0 D -0,5 - -,5 A - - -,5 - -0,5 0 0,5,5 ED Hierfür ergeben sich die lustermittelwerte luster A,, D: z 0,657,343 3 z,45, ,56 0, 839 0,99 0, 866,, 3

33 luster 3. Stufe: : B 54 z,709, z, Aus einer Fusion der beiden verbleibenden luster auf der dritten Stufe resultiert schließlich ein Streuungszuwachs in Höhe von V ,54 bei Gesamtmittelwerten von luster z 4 : A, B,, D 0,839,709 0,866, 0,657,709,343 0,56 z 4,45,54,653 0,99, 345 0,0 8, 33

34 Struktogramm Der Klassifikationsprozess könnte hier ebenfalls anhand eines Dendrogramms transparent gemacht werden. Zusätzlich lässt sich die Anzahl das luster mit Hilfe eines Struktogramms bestimmen, in dem der Streuungszuwachs V gegen die lusterzahl abgetragen wird. Das Struktogramm ist vergleichbar mit dem Scree-Test in der Faktorenanalyse. Ein starker "Knick" spiegelt eine beträchtliche Abnahme der Streuung zwischen den Klassen wieder. Umgekehrt würden die luster erheblich heterogener werden, wenn man von rechts nach links im Struktogramm zu einer niedrigeren lusterzahl überginge. Zur Bestimmung der lusterzahl bietet sich daher die Lokalisation eines steilen "Knicks" vor einem flacheren Verlauf der Kurve in dem zugehörigen Struktogramm an. In unserem Beispiel (siehe Abbildung) ist er auffällig beim Übergang der Zwei-Klassen-Partition auf eine Ein-Klassen-Partition vorzufinden, so dass aufgrund dieses Kriteriums zwei Klassen zu bilden wären. 34

35 Abbildung 4.8: Struktogramm der Regionen A, B, und D V 9 8 8, ,93 0,39 0, lusterzahl 35

36 Ward-Verfahren mit SPSS Illustration des Ward-Verfahrens haben wir die Anzahl der Variablen auf reduziert (ED, BIP). Im Methoden-Fenster wählen wir als luster-methode die Ward-Methode und als Maß den Quadrierten Euklidischen Abstand. Die von SPSS ausgegebene Näherungsmatrix enthält jetzt die quadrierten euklidischen Distanzen: Fall :A :B 3: 4:D Näherungsmatri x Quadriertes euklidisches Distanzmaß :A :B 3: 4:D Dies ist eine Unähnlichkeitsmat rix Bei der Interpretation der Zuordnungsübersicht ist zu beachten, dass die Spalte Koeffizienten beim Ward-Verfahren keine Distanzen, sondern die V-Werte, d.h. die Streuung der Gruppierung der einzelnen Stufen (=Intra-Klassen-Streuung), ausweist. 36

37 Zuordnungsübersicht Schritt 3 Zusammengef ührte Erst es Vorkommen lust er des lust ers Nächster luster luster Koef fizienten luster luster Schritt Wir haben bei unserer manuell durchgeführten Berechnung dagegen jeweils die V-Werte, d.h. die Veränderungen der Streuung der Gruppierung der einzelnen Stufen, ausgewiesen. Man kann jedoch aufzeigen, dass beide Vorgehensweisen aufeinander abgestimmt sind:. Stufe: Vor der ersten Stufe sind alle luster einelementig, damit ist keine Streuung innerhalb der luster vorhanden. Durch die Fusion von und 3 erhöht sich V damit von 0 um ΔV = 0,39 auf: V 0 0,39 0,39. V. Stufe: Auf der zweiten Stufe tritt ein Zuwachs von V um ΔV =,93 ein: V 0,39,93 V,5 37

38 3. Stufe: V,5 8,40 0,75 V * * * * * * H I E R A R H I A L L U S T E R A N A L Y S I S * * * Dendrogram using Ward Method Rescaled Distance luster ombine A S E Label Num A 3 D 4 B Eigenschaften des Ward-Verfahrens: - Konservatives Klassifikationsverfahren (nicht kontrahierend und nicht dilatierend), - Tendenz des Verfahrens kompakte kugelförmige luster mit etwa gleichen Besetzungszahlen zu bilden, - Hohe Anforderungen an das Skalenniveau (metrisch skalierten Merkmale), - Unzureichende Eignung zu einer "Entdeckung" von ellipsoiden lustern, 38 - Monotonieeigenschaft.