Faktoren- und Hauptkomponentenanalyse

Transkript

1 Ziel: Anwendung von Verfahren der Dimensionsreduzierung Graphische Methoden zur Darstellung der Erkennen von Strukturen in Daten an ausgewählten Anwendungsbeispielen Betreuer: Dr. Jörg Kraft IAAC, Lehrbereich Umweltanalytik Lessingstraße 8, Raum 324 Tel.: (9) Grundlagen: Dimensionsreduzierung von Datensätzen: PCA Das Ziel der Hauptkomponentenanalyse (principal component analysis, PCA) ist es eine Vielzahl von Variablen (=Dimensionen) auf einige wenige Komponenten ( latente Variablen, Faktoren) zu reduzieren. Dies entspricht einer dimensionsreduzierenden Transformation. Mit Hilfe der PCA werden aus der Korrelations- oder Kovarianzmatrix sogenannte Hauptkomponenten (principal components, PC) extrahiert, die unkorreliert (orthogonal) sind und die den Informationsgehalt der ursprünglichen Matrix weitgehend reproduzieren können. Die Hauptkomponenten sind Linearkombinationen der ursprünglichen Variablen und werden nacheinander so extrahiert, daß jeweils die maximale verbleibende Varianz der Daten erklärt wird. Je stärker die ursprünglichen Variablen korreliert sind, umso weniger Seite 1 von 7

2 Hauptkomponenten sind notwendig. Die Zahl der Hauptkomponenten wird z.b. mit dem Scree-Plot bestimmt. Als Ergebnis einer PCA erhält man zwei Matrizen, die Matrix der Faktorladungen (loadings), die dem Variablenraum entspricht, und die Matrix der Faktorwerte (scores), die den Objektraum repräsentiert. Diese Matrizen bilden das Datenmaterial für Plots der Faktorwerte (score plot) bzw. -ladungen (plot of loadings), mit denen eine 2- oder 3-dimensionale Projektion der Anordnung der Objekte bzw. Variablen erhalten werden kann. Bei ausreichend repräsentativen Daten und linearen Zusammenhängen können die Hauptkomponenten häufig interpretiert werden. Die Hauptkomponenten können als Basis für weitere Auswertungen dienen, z.b. für die Clusteranalyse, multiple lineare Regression (principal component regression, PCR, vgl. Praktikumsversuch C2) oder als Eingänge eines künstlichen neuronalen Netzes. Einschränkungen und Alternativen Da die PCA auf der Berechnung der Korrelationsmatrix beruht, wird eine annähernd multivariate Normalverteilung der Daten vorausgesetzt. Eine nichtparametrische Alternative zur PCA bildet die Multidimensionale Skalierung (Multidimensional Scaling, MDS, auch als Non-linear Mapping, NLM, bezeichnet). Das Ziel der MDS entspricht dem der PCA, jedoch beruht die Berechnung auf anderen Prinzipien, Bei der MDS werden die Objekte in einem Raum mit einer Zahl von vorher spezifizierten Dimensionen (meist 2 oder 3) so bewegt, daß ein Anpassungsparameter iterativ minimiert wird, der Anpassungsfehler (stress) also möglichst gering wird. Dieser Parameter beruht auf der Rangordnung der Distanzen. Seite 2 von 7

3 Durchführung: 1. Übung Hauptkomponentenanalyse (PCA) von Weindaten Programm: Datensatz: Beschreibung: Factor Analysis Modul von STATISTICA WEINSTD.STA In Weinen aus verschiedenen Anbaugebieten und Rebsorten wurden die anorganischen Spurenbestandteile mittels der ICP- OES bestimmt. Kann man aus dem erhaltenen Elementmuster Hinweise auf das Anbaugebiet oder die Rebsorte des Weins erhalten? Protokollieren Sie die durchgeführten Schritte der Hauptkomponentenanalyse! Tab.: Mit Hilfe von ICP-OES untersuchte Weine (Datensatz WEINSTD.STA) Code Lage Anbaugebiet Rebsorte Jahrgang FS Freyburg/Unstrut Saale-Unstrut Silvaner 1993 FR Freyburg/Unstrut Saale-Unstrut Riesling 1993 FM Freyburg/Unstrut Saale-Unstrut Müller-Thurgau 1993 GW Geisenheim Rheingau Weißburgunder 1993 GR Geisenheim Rheingau Riesling 1993 GS Geisenheim Rheingau Silvaner 1993 BG Blankenhornsberg Baden Gewürztraminer 1993 BS Blankenhornsberg Baden Silvaner 1993 BR Blankenhornsberg Baden Riesling 1993 DR Durbach Baden Riesling 1993 DK Durbach Baden Kerner 1993 DG Durbach Baden Gewürztraminer 1993 NM Nierstein Rheinhessen Müller-Thurgau 1994 NR Nierstein Rheinhessen Riesling 1994 Seite 3 von 7

4 Code Lage Anbaugebiet Rebsorte Jahrgang OS Oppenheim Rheinhessen Silvaner 1994 OM Oppenheim Rheinhessen Müller-Thurgau 1994 OR Oppenheim Rheinhessen Riesling 1994 Die PCA ist (neben der Clusteranalyse, vgl. Praktikumsversuch Clusteranalyse und Display-Methoden) geeignet, um sich einen Überblick über den Datensatz zu verschaffen. Spezifizieren Sie die Variablenliste, d.h. die betrachteten Elementkonzentrationen und starten Sie die Analyse. Es erscheint eine Dialogbox, in der Sie die Anzahl der zu extrahierenden Hauptkomponenten beeinflussen können. Wählen sie zunächst fünf Faktoren und starten Sie die Berechnung der PCA. Im Hinblick auf die Aufgabenstellung sind folgende Punkte interessant: Wieviele Hauptkomponenten sollten extrahiert werden? Hierzu sollten Sie sich den Scree Plot ansehen. Als Scree werden die Ablagerungen bezeichnet, die sich an Steilküsten bilden. Üblicherweise werden nur die Hauptkomponenten extrahiert, die sich im steil abfallenden Teil des Plots befinden, also in diesem Fall drei Hauptkomponenten. Sie brauchen also bei den weiteren Auswertungen und Plots nur die ersten drei Faktoren zu berücksichtigen. 5.0 Scree-Plot Eigenwert Hauptkomponente Zusammenhänge und Einflüsse der Variablen können in einem Faktorladungsplot (plot of loadings) dargestellt werden. Sie können eine 2D- oder 3D-Darstellung erhalten. Der größte Anteil der Varianz wird durch die ersten beiden Seite 4 von 7

5 Hauptkomponenten erklärt, daher bietet sich ein Plot dieser Faktorladungen an. Variablen in der Nähe des Ursprungs (z.b. B) haben nur einen kleinen Einfluß, während z.b. P in Faktor 1 hoch geladen ist. Gruppierungen von Variablen können ähnlich wie bei der Clusteranalyse interpretiert werden. 1.0 Plot der Faktorladungen (PCA) 0.8 FE NA MG SR AL_308 CA ZN_206 MN PC B CU K P -0.2 BA RB V PC 1 Strukturen bei den Objekten können mit Hilfe des Score-Plots (Plot der Faktorwerte) aufgezeigt werden. Dieser Plot kann jedoch nicht direkt abgerufen werden, sondern die Scores müssen zunächst abgespeichert werden (Save factor scores). Zusammen mit den Scores können auch andere Variablen gesichert werden. Hier sollten Sie LAGE, GEBIET und SORTE auswählen. Nachdem sie die Scores gesichert haben, können Sie diese als STATISTICA-Datenfile laden und mit dem Menüpunkt Graphs/Stats Categorized Graphs/Scatterplot einen nach der Variable GEBIET kategorisierten Plot erzeugen (Overlaid). Ebenfalls geeignet ist eine Scatterplotmatrix. Die Weine zeigen eine gute Gruppierung nach dem Gebiet, wobei Rheingau und Rheinhessen etwas überlappen. Mit der Interpreation von Faktoren bzw. Hauptkomponenten sollte man vorsichtig sein. Eine Hypothese wäre, daß Faktor 1 den Einfluß der Sonnenscheindauer repräsentiert, jedoch müßten zur Erhärtung weitere Daten gewonnen werden. Sehen Sie sich auch die Kategorisierung nach der Rebsorte an. Seite 5 von 7

6 Score-Plot WEINSTD.STA PC FR FS FM GS GR NR OM OR GW NM OS BG DK DR DG GEBIET: SaaleUns GEBIET: Rheingau GEBIET: Baden GEBIET: Rheinhes -1.5 BR BS PC1 2. Übung Hauptkomponentenanalyse (PCA) von Olivenöldaten Programm: Factor Analysis Modul von STATISTICA Führen Sie eine Hauptkomponentanalyse für den Datensatz Olivenöle (OLIV_2.STA) durch. Protokollieren Sie Ihre angewendeten Schritte und interpretieren Sie das Ergebnis anhand der Grafiken, bzw. Tabellen. 4 Score-Plot OLIV_2.STA PC REGION: NORTH_AP REGION: CALABRIA REGION: SOUTH_AP REGION: SICILY REGION: INLAND_S REGION: COAST_SA REGION: UMBRIA REGION: EAST_LIG REGION: WEST_LIG PC1 Seite 6 von 7

7 Literatur: Brereton, R.G. (Hrsg.): Multivariate Pattern Recognition in Chemistry. Elsevier, Amsterdam 1992 Smith, G.L.: Principal component analysis: An introduction. Anal. Proc. 28, 150 (1991) Wernecke, K.-D.: Angewandte Statistik für die Praxis. Addison-Wesley, Bonn 1995 Wold, S., Esbensen, K., Geladi, P.: Principal components analysis, Chemometrics. Intell. Lab. Syst. 2, 37 (1987) Einax, J. W., Zwanziger, H. W,, Geiß, S.: Chemometrics in Environmental Analysis. VCH, Weinheim, 1997 Massart D. L., Vandeginste B. G. M., Buydens L. M. C., De Jong S., Lewi P. J., Smeyers-Verbeke J.: Handbook of chemometrics and qualimetrics; data handling in science and technology, Parts A and B, Vols. 20A and 20B. Elsevier, Amsterdam, Seite 7 von 7