Die Empirische Regression

Transkript

1 Die Empirische Regression Worum geht es in diesem Lernmodul? Beschreibung der Abhängigkeit einer Variablen von einer anderen Bestimmung der Regressionsgeraden Das Bestimmtheitsmaß Worum geht es in diesem Lernmodul? Hängt ein metrisch skaliertes Merkmal von einem zweiten ab, so können wir versuchen, den Zusammenhang anhand einer geeigneten Funktion zu beschreiben. Dabei gehen wir von einer linearen Abhängigkeit aus. Somit ist eine lineare Funktion zu ermitteln, welche diesen Zusammenhang möglichst gut beschreibt. Zu diesem Zweck benutzen wir die sog. Methode der kleinsten Quadrate. Wir entwickeln ein Maß, das sog. Bestimmtheitsmaß, das es uns erlaubt, zu beurteilen, wie gut die Gerade die vorliegenden Daten beschreibt. Beschreibung der Abhängigkeit einer Variablen von einer anderen In vielen Situationen können wir davon ausgehen, dass ein metrisch skaliertes Merkmal von einem anderen,, abhängt. Beispiele sind dafür: - die Sparquote steigt mit der Höhe des Einkommens - der Bremsweg eines Kraftfahrzeuges wird mit höherer Geschwindigkeit länger - die Miethöhe steigt mit der Größe der Wohnung. Wenn allgemeine Vorüberlegungen oder systematisch angelegte Versuche ergeben haben, dass es bei zwei Merkmalen eine Einflussrichtung gibt, können wir versuchen, den Zusammenhang anhand einer geeigneten Funktion zu beschreiben. Die Form des Zusammenhangs können wir dabei anhand der Punktwolke eines Streudiagramms ersehen. Häufig wird von einer linearen Form der Abhängigkeit ausgegangen. Zum einen ist dies die einfachste Abhängigkeitsform. Zum anderen lassen sich auch andere Formen der Abhängigkeit vielfach auf einen linearen Zusammenhang zurückführen. Bestätigt das Streudiagramm die lineare Form der Abhängigkeit, so besteht unsere Page 1

2 zu ermitteln, welche diesen Zusammenhang möglichst gut beschreibt. Eine solche Funktion zu ermitteln, heißt dabei, dass der Achsenabschnitt und die Steigung im Einklang mit den Daten bestimmt werden müssen. Grafisch bedeutet dies, dass im Streudiagramm eine Ausgleichsgerade so durch die Punktwolke gezeichnet werden soll, dass die Punkte geeignet um die Gerade gruppiert sind. Die resultierende Gerade wird als Regressionsgerade bezeichnet. Quelle: eigene Darstellung Beispiel: Aflatoxin in Erdnüssen Großhändler von Erdnüssen müssen bestimmte Qualitätsstandards erfüllen. Manchmal werden Erdnüsse von Schimmelpilzen befallen, die das Gift Aflatoxin produzieren. Wenn bestimmte Erdnusspartien von diesem Gift betroffen sind, darf die Ware für den menschlichen Verzehr nicht freigegeben werden. Durch Aflatoxin kontaminierte Erdnüsse unterscheiden sich aber mit dem bloßen Auge nicht von unbefallenen Erdnüssen. Insgesamt ist das Gift recht schwierig nachzuweisen. Um die Qualitätsstandards zu erfüllen, müssen die Großhändler bei den von ihnen umgeschlagenen Erdnüssen sicherstellen, dass keine kontaminierten Erdnüsse in den Verkauf gelangen. Man kann aber relativ leicht den Grad der Verunreinigung durch Staub, Schmutz, Fette und Öle nachweisen. Daher wurde von einem Großhändler in 34 Packungen neben dem Anteil der durch Aflatoxin (in ppb/20) nicht kontaminierten Erdnüsse (in Prozent) zusätzlich der Grad der Verunreinigung festgestellt (vgl. Draper, N. R. und Smith, H. (1981). Applied Regression Analysis (2. Aufl.). John Wiley & Sons, New York. S. 63.). Ziel war es, zu untersuchen, ob sich der nicht kontaminierte Anteil mittels der Variablen angeben lässt. Page 2

3 Quelle: eigene Darstellung Die Abbildung gibt das Streudiagramm mit einer Ausgleichsgeraden wieder. Offenbar besteht zwischen den Merkmalen ein negativer linearer Zusammenhang. Der Anteil der nicht vergifteten Erdnüsse ist bei einem niedrigen Grad der Verunreinigung tendenziell höher. Der Achsenabschnitt ist die Höhe des Schnittpunktes der Geraden mit der -Achse. Hier zeigt sich, dass bei "reinen Packungen ohne Verunreinigung tendenziell alle Erdnüsse kontaminiert sind (100%). Die Steigung gibt an, um welchen Betrag sich die Höhe der Gerade ändert, wenn auf der -Achse um eine Einheit nach rechts gegangen wird. Bei den Erdnüssen sinkt der Anteil der kontaminierten Erdnüsse mit zunehmender Verunreinigung. Offensichtlich hat die Verunreinigung eine Art Schutzwirkung. Bestimmung der Regressionsgeraden Es gibt mehrere Möglichkeiten, formal festzulegen, wann Punkte geeignet um die Gerade gruppiert sind. Jede dieser Möglichkeiten führt zu einem eigenen Verfahren zur Bestimmung einer Regressionsgeraden. Die allgemein akzeptierte Standardmethode ist die Methode der kleinsten Quadrate (KQ-Methode), die erstmals im Jahre 1805 von Legendre veröffentlicht wurde. Page 3

4 Quelle: Stigler, S. M. (1986). The History of Statistics. Belknap Press of Harvard Univ. Press, Cambridge. Die Grundlage der KQ-Methode besteht darin, die Abstände zwischen den beobachteten Werten und den zu den entsprechenden gehörigen Werten auf der Geraden möglichst klein zu halten. Diese werden mit einem "Dach" gekennzeichnet. Wenn die aus den Daten ermittelten Regressionskoeffizienten, der Achsenabschnitt und die Steigung, sind, so ist also der zu gehörige Wert auf der Geraden. Die Zielsetzung, die Abstände KQ-Methode folgendermaßen umgesetzt: Abweichungsquadrate minimal ist. möglichst gering zu halten, wird bei der werden so bestimmt, dass die Summe der Führen wir die Minimierung formal durch, so erhalten wir für die Parameter folgende Ausdrücke: und Sehen Sie sich die : Flashanimation ' Animation Bestimmung der Regressionsgeraden ' siehe Online-Version an! Auf dieser Laborseite können Sie durch Angabe von Achsenabschnitt und Steigung selbst eine Gerade in die vorgegebene Punktewolke einzeichnen. Versuchen Sie, das so zu tun, dass Q(a,b) möglichst klein wird! Labordatei öffnen ( ab1.spf ) Beispiel: Werbeaufwand und Werbewirkung Im Rahmen einer Studie über die Wirkung und Wahrnehmung der Fernsehwerbung wurden in einem Zeitraum von mehreren Wochen parallel in vier Regionen eine Anzahl Personen wöchentlich zur Fernsehwerbung eines Schokoriegelherstellers befragt (nach Migon, H. S. und Harrison, P. J. (1985). An Application of Non-Linear Bayesian Forecasting to Television Advertising. In: Bernado, De Groot, Lindley, Smith (Hrsg.). Bayesian Statistics 2. Amsterdam. S ). Dabei wurde die Anzahl der positiven Reaktionen auf die Werbung notiert. Zusätzlich wurde der wöchentliche Werbeaufwand in einer skalaren, metrischen Größe (in Geldeinheiten) erfasst. Die Ermittlung der Regressionsgeraden im Statistiklabor kann in der folgenden Laborseite nachvollzogen werden. Labordatei öffnen ( abb.spf ) Die sich ergebende Regressionsgleichung lautet: Der Achsenabschnitt gibt hier an, wie viele positive Reaktionen wir ohne Werbeaufwand unterstellen würden. Die Steigung gibt an, Page 4

5 dass bei einem zusätzlichen Werbeaufwand von einer Geldeinheit im Mittel 3.15 positive Reaktionen mehr beobachtet wurden. Verbrauchen schwerere Autos mehr Benzin? Für 16 Modelle wurden 1995 das Gewicht (in pounds) und der effektive Benzinverbrauch (in miles per gallon) bei einer 150 Meilen langen Testfahrt gemessen (vgl. Rossman, A. und Barr van Oehsen, J. (1997). Workshop Statistics: Discovery with Data and the Graphing Calculator. Springer-Verlag, New York. S. 109.). Führen Sie eine Regressionsanalyse durch! Labordatei öffnen ( ad6.zmpf ) Das Bestimmtheitsmaß Die Güte der Beschreibung durch die Gerade Unter der Voraussetzung, dass die Beschreibung der Punkte durch eine Gerade überhaupt sinnvoll ist, haben wir uns zu fragen, wie gut die Regressionsgerade dies tut. Das wollen wir mit einer Maßzahl erfassen. Die Grundlage für eine adäquate Maßzahl bildet die Streuungszerlegung der Regression. Die Varianz der Ausprägungen setzt sich nämlich zusammen aus der Varianz der durch das Merkmal bestimmten und der Varianz der Abweichungen : Je besser die Regressionsgerade an die Punktewolke angepasst ist, desto geringer ist die Varianz der Abweichungen und desto größer ist die Varianz der auf der Regressionsgeraden liegenden. Für das Bestimmtheitsmaß wird daher die Varianz der durch die Varianz der geteilt: Das Bestimmtheitsmaß drückt aus, in welchem Umfang diese Streuung durch die Regressionsgerade erklärt wird. In dem Applet KQ-Regressionsgerade (b18.jar) haben Sie die Möglichkeit, das Bestimmtheitsmaß genauer zu untersuchen. Klicken Sie mit der Maus mehrfach auf das Koordinatensystem, um eine Punktewolke samt Regressionsgeraden und Bestimmtheitsmaß zu erzeugen und untersuchen Sie, wie sich das Bestimmtheitsmaß beim Hinzufügen oder Verschieben von Punkten ändert! Interpretation des Bestimmtheitsmaßes Aufgrund seiner Herkunft ist ersichtlich, dass das Bestimmtheitsmaß stets zwischen 0 und 1 liegt. Es ist gleich 1, wenn alle Punkte im Streudiagramm exakt auf der Regressionsgeraden liegen. Zwischen den Merkmalen besteht dann ein perfekt linearer Zusammenhang. Das Bestimmtheitsmaß ist 0, wenn gilt. Dies ist nur dann der Fall, wenn alle gleich sind, wenn also die Gerade die Steigung 0 hat. In diesem Fall erklärt die Regressionsgerade nichts, zwischen den Merkmalen besteht keinerlei linearer Zusammenhang. Das Bestimmtheitsmaß ist eine relative Größe. Daher kann auch groß sein, wenn die Punkte relativ stark um die Gerade streuen, sofern nur die Steigung groß ist. Insgesamt kann von einem Wert des Bestimmtheitsmaßes nicht auf die Form zurückgeschlossen werden. Wir können das Bestimmtheitsmaß deshalb nur in Verbindung mit dem Streudiagramm interpretieren. Page 5

6 Zwischen dem Bestimmtheitsmaß der linearen Regression und dem Korrelationskoeffizienten (vgl. ) gilt der rechnerische Zusammenhang. Auf dieser Laborseite finden Sie eine Simulation, bei der Sie für verschiedene Streudiagramme und zugehörige Ausgleichsgeraden das Bestimmtheitsmaß raten sollen. So machen Sie sich mit der Abhängigkeit des Bestimmtheitsmaßes von Steigung der Geraden und der Streuung um die Gerade vertraut. Labordatei öffnen ( b4d.spf ) Beispiel: Werbeaufwand und Werbewirkung (Fortsetzung) Im vorigen Beispiel haben wir bezüglich der Regressionsbeziehung zwischen Werbeaufwand und positiven Reaktionen eine Regressionsgerade ermittelt. Für diese können wir mit Hilfe des Statistiklabors das Bestimmtheitsmaß berechnen. Wir erhalten: Dies besagt, dass ziemlich genau die Hälfte der Streuung der -Werte durch die Regressionsgerade erklärt wird. Labordatei öffnen ( b61.spf ) Berechnen Sie in Fortsetzung der Übung zur Regressionsbeziehung zwischen dem Gewicht und dem Benzinverbrauch von Autos das Bestimmtheitsmaß und interpretieren Sie es! Labordatei öffnen ( b6b.zmpf ) Bestimmen Sie für die Daten ( b72.zmpf ) (Anscombe, F. J. (1973). Graphs in Statistical Analysis. American Statistician, 27. S )jeweils zuerst die Bestimmtheitsmaße der Regressionen gegen, gegen, gegen und gegen. Erstellen Sie sodann die zugehörigen Streudiagramme. Welche Folgerungen ziehen Sie aus Ihren Ergebnissen? - Geben Sie die allgemeine Regressionsgleichung an. Welche Parameter müssen geschätzt werden? Lösung ( : b9b.pdf ) - Welche Eigenschaften besitzen die KQ-Schätzer der Regressionskoeffizienten? Lösung ( : ba1.pdf ) - Was sagt das Bestimmtheitsmaß aus? Lösung ( : ba7.pdf ) - Welche Werte kann das Bestimmtheitsmaß annehmen? Begründen Sie Ihre Antwort! Lösung ( : bad.pdf ) Im Laufe der Jahre ist bei fast allen Lebensmitteln ein Preisanstieg zu beobachten. Beim Fisch waren diese Preissteigerungen in den vergangenen Jahren im Vergleich zu anderen Lebensmitteln sehr groß. Dies hängt sicherlich auch mit der Überfischung der Meere und geänderten Wertschätzungen bestimmter Lebensmittel zusammen. Im Datensatz (vgl. Moore, D. S. und McCabe, G. P. (1989). Introduction to the Practice of Statistics. Freeman, New York.) sind die Preise verschiedener Fische von 1970 und Page 6

7 1980 gegeben. Labordatei öffnen ( bb5.zmpf ) Literaturangabe Späth, H. (1987). Mathematische Software zur linearen Regression. Oldenbourg, München. (c) Projekt Neue Statistik 2003, Freie Universität Berlin, Center für Digitale Systeme Kontakt: Page 7