n 2(a + bx i y i ) = 0 und i=1 n 2(a + bx i y i )x i = 0 i=1 gilt. Aus diesen beiden Gleichungen erhalten wir nach wenigen einfachen Umformungen

Transkript

1 Regressio Dieser Text rekapituliert die i der Aalsis ud Statistik wohlbekate Methode der kleiste Quadrate, auch Regressio geat, zur Bestimmug vo Ausgleichsgerade Regressiosgerade ud allgemei Ausgleichpolome. Die Darstellug folgt im wesetliche [Heuser 988] außer multilieare ud icht-polomiale Regressio. Phsikalische Meßdate zeige selte exakt de gesetzmäßige Zusammehag der gemessee Größe, da sie uweigerlich mit Fehler behaftet sid. Will ma de Zusammehag der gemessee Größe deoch weigstes äherugsweise bestimme, so steht ma vor der Aufgabe, eie Fuktio zu fide, die sich de Meßdate möglichst gut apaßt, so daß die Meßfehler ausgegliche werde. Natürlich sollte dazu bereits eie Hpothese über die Art des Zusammehags vorliege, um eie Fuktioeklasse wähle ud dadurch das Problem auf die Bestimmug der Parameter eier Fuktio eies bestimmte Tps reduziere zu köe. Erwartet ma z.b. bei zwei Größe x ud eie lieare Zusammehag z.b. weil ei Diagramm der Meßpukte eie solche vermute läßt oder weil ma eie betragsmäßig große Korrelatioskoeffiziete berechet hat, so muß ma die Parameter a ud b der Gerade gx a + bx bestimme. Wege der uvermeidliche Meßfehler wird es jedoch i.a. icht möglich sei, eie Gerade zu fide, so daß alle gegebee Meßpukte x i, i, i, geau auf dieser Gerade liege. Vielmehr wird ma versuche müsse, eie Gerade zu fide, vo der die Meßpukte möglichst weig abweiche. Es ist daher plausibel, die Parameter a ud b so zu bestimme, daß die Abweichugsquadratsumme F a, b gx i i a + bx i i miimal wird. D.h., die aus der Geradegleichug berechete -Werte solle i der Summe möglichst weig vo de gemessee abweiche. Die Grüde für die Verwedug des Abweichugsquadrates sid i.w. die folgede: Erste ist die Fehlerfuktio durch die Verwedug des Quadrates überall stetig differezierbar, währed die Ableitug des Betrages, de ma alterativ verwede köte, bei 0 icht existiert/ustetig ist. Zweites gewichtet das Quadrat große Abweichuge vo der gewüschte Ausgabe stärker, so daß vereizelte starke Abweichuge vo de Meßdate tedeziell vermiede werde. Aus der Aalsis ist bekat, daß eie otwedige Bedigug für ei Miimum der obe defiierte Fehlerfuktio F a, b ist, daß die partielle Ableituge dieser Fuktio ach de Parameter a ud b verschwide, also a b a + bx i i 0 ud a + bx i i x i 0 gilt. Aus diese beide Gleichuge erhalte wir ach weige eifache Umformuge Ma beachte allerdigs, daß dies auch ei Nachteil sei ka. Ethält der gegebee Datesatz Ausreißer das sid Meßwerte, die durch zufällig aufgetretee, uverhältismäßig große Meßfehler sehr weit vo dem tatsächliche Wert abweiche, so wird die Lage der berechete Ausgleichsgerade u.u. sehr stark vo weige Meßpukte ebe de Ausreißer beeiflußt, was das Ergebis ubrauchbar mache ka.

2 x Abbildug : Beispieldate ud mit der Methode der kleiste Quadrate berechete Ausgleichsgerade. die sogeate Normalgleichuge a + x i a + x i b x i b i x i i, also ei lieares Gleichugssstem mit zwei Gleichuge ud zwei Ubekate a ud b. Ma ka zeige, daß dieses Gleichugssstem eie eideutige Lösug besitzt, es sei de, die x-werte aller Meßpukte sid idetisch d.h., es ist x x... x, ud daß diese Lösug tatsächlich ei Miimum der Fuktio F beschreibt [Heuser 988]. Die auf diese Weise bestimmte Gerade gx a + bx et ma die Ausgleichsgerade oder Regressiosgerade für de Datesatz x,,..., x,. Zur Veraschaulichug des Verfahres betrachte wir ei eifaches Beispiel. Gegebe sei der aus acht Meßpukte x,,..., x 8, 8 bestehede Datesatz, der i der folgede Tabelle gezeigt ist [Heuser 988]: x Um das Sstem der Normalgleichuge aufzustelle, bereche wir 8 x i, 8 x i 04, 8 i 7, 8 x i i 4. Damit erhalte wir das Gleichugssstem Normalgleichuge das die Lösug a 4 ud b 7 8a + b 7, a + 04b 4, besitzt. Die Ausgleichsgerade ist also x. Diese Gerade ist zusamme mit de Datepukte, vo dee wir ausgegage sid, i Abbildug dargestellt.

3 Das gerade betrachtete Verfahre ist atürlich icht auf die Bestimmug vo Ausgleichsgerade beschräkt, soder läßt sich midestes auf Ausgleichspolome erweiter. Ma sucht da ach eiem Polom px a 0 + a x a m x m mit gegebeem, festem Grad m, das die Meßpukte x,,..., x. möglichst gut aähert. I diesem Fall ist F a 0, a,..., a m px i i a 0 + a x i a m x m i i zu miimiere. Notwedige Bedigug für ei Miimum ist wieder, daß die partielle Ableituge ach de Parameter a 0 bis a m verschwide, also a 0 0, 0,..., 0 a a m gilt. So ergibt sich das Sstem der Normalgleichuge [Heuser 988] a 0 + x i a x m i a m i x i a 0 + x i a x m+ i a m x i i x m i. a 0 + x m+ i a x m i a m. x m i i, aus dem sich die Parameter a 0 bis a m mit de übliche Methode der lieare Algebra z.b. Gaußsches Elimiatiosverfahre, Cramersche Regel, Bildug der Iverse der Koeffizietematrix etc. bereche lasse. Das so bestimmte Polom px a 0 +a x+a x a m x m heißt Ausgleichspolom oder Regressiospolom m-ter Ordug für de Datesatz x,,..., x,. Weiter läßt sich die Methode der kleiste Quadrate icht ur verwede, um, wie bisher betrachtet, Ausgleichspolome zu bestimme, soder ka auch für Fuktioe mit mehr als eiem Argumet eigesetzt werde. I diesem Fall spricht ma vo multipler oder multivariater Regressio. Wir utersuche hier beispielhaft ur de Spezialfall der multilieare Regressio ud beschräke us außerdem auf eie Fuktio mit zwei Argumete. D.h., wir betrachte, wie ma zu eiem gegebee Datesatz x,, z,..., x,, z eie Ausgleichsfuktio der Form z fx, a + bx + c so bestimme ka, daß die Summe der Abweichugsquadrate miimal wird. Die Ableitug der Normalgleichuge für diese Fall ist zu der Ableitug für Ausgleichspolome völlig aalog. Wir müsse F a, b, c fx i, i z i a + bx i + c i z i

4 miimiere. Notwedige Bediguge für ei Miimum sid a b c a + bx i + c i z i 0, a + bx i + c i z i x i 0, a + bx i + c i z i i 0. Also erhalte wir das Sstem der Normalgleichuge a + x i b + i c x i a + x i b + x i i c i a + x i i b + i c z i z i x i z i i aus dem sich a, b ud c leicht bereche lasse. Es dürfte klar sei, daß sich die Methode der kleiste Quadrate auch auf Polome i mehrere Variable erweiter läßt. Ei Programm zur multipolomiale Regressio, das zur schelle Berechug der verschiedee beötigte Potezprodukte eie auf Idee der damische Programmierug beruhede Methode beutzt, steht uter zur Verfügug. Die Bestimmug eies Ausgleichspoloms läßt sich i eiige Spezialfälle auch zur Bestimmug aderer Ausgleichsfuktioe verwede, ämlich da, we es geligt, eie geeigete Trasformatio zu fide, durch die das Problem auf das Problem der Bestimmug eies Ausgleichspoloms zurückgeführt wird. So lasse sich z.b. auch Ausgleichsfuktioe der Form ax b durch die Bestimmug eier Ausgleichgerade fide. De logarithmiert ma diese Gleichug, so ergibt sich l l a + b l x. Diese Gleichug köe wir durch die Bestimmug eier Ausgleichsgerade behadel. Wir müsse lediglich die Datepukte x i, i logarithmiere ud mit de so trasformierte Werte reche. Für die Praxis ist wichtig, daß es auch für die sogeate logistische Fuktio, Y + e a+bx, Ma beachte allerdigs, daß bei eiem solche Vorgehe zwar die Fehlerquadratsumme im trasformierte Raum Koordiate x l x ud l, aber damit icht otwedig die Fehlerquadratsumme im Origialraum Koordiate x ud miimiert wird. Deoch führt der Asatz meist zu sehr gute Ergebisse. 4

5 wobei Y, a ud b Kostate sid, eie Trasformatio gibt, mit der wir das Problem der Bestimmug eier Ausgleichsfuktio dieser Form auf die Bestimmug eier Ausgleichsgerade zurückführe köe sogeate logistische Regressio. Die logistische Fuktio ist i viele Aweduge wichtig, da sie Wachstumsprozesse mit Größebeschräkug beschreibt, also z.b. dem Wachstum eier Tierpopulatio bei begreztem Lebesraum oder de Absatz eies eue Produktes bei edlichem Markt. Um die logistische Fuktio zu liearisiere, bestimme wir zuächst de Reziprokwert der logistische Gleichug: + ea+bx. Y Folglich ist Y e a+bx. Durch Logarithmiere dieser Gleichug erhalte wir Y l a + bx. Diese Gleichug köe wir durch Bestimme eier Ausgleichsgerade behadel, we wir die -Werte der Datepukte etspreched der like Seite dieser Gleichug trasformiere. Ma beachte, daß dazu der Wert vo Y bekat sei muß, der i.w. eie Skalierug bewirkt. Diese Trasformatio ist uter dem Name Logit-Trasformatio bekat. Sie etspricht eier Umkehrug der logistische Fuktio. Idem wir für die etspreched trasformierte Datepukte eie Ausgleichsgerade bestimme, erhalte wir eie logistische Ausgleichskurve für die Origialdate. Zur Veraschaulichug des Vorgehes betrachte wir ei eifaches Beispiel. Gegebe sei der aus de füf Pukte x,,..., x 5, 5 bestehede Datesatz, der i der folgede Tabelle gezeigt ist: x Wir trasformiere diese Date mit Y z l, Y. Die trasformierte Datepukte sid äherugsweise: x 4 5 z Um das Sstem der Normalgleichuge aufzustelle, bereche wir 5 x i 5, 5 x i 55, 5 z i 0, 5 x i z i.775. Ma beachte wieder, daß bei diesem Vorgehe zwar die Fehlerquadratsumme im trasformierte Raum Koordiate x ud z l Y, aber damit icht otwedig die Fehlerquadratsumme im Origialraum Koordiate x ud miimiert wird. 5

6 x Y 5 4 x Abbildug : Trasformierte Date liks ud Origialdate rechts sowie mit der Methode der kleiste Quadrate berechete Ausgleichsgerade trasformierte Date ud zugehörige Ausgleichskurve Origialdate. Damit erhalte wir das Gleichugssstem Normalgleichuge 5a + 5b 0, 5a + 55b.775, das die Lösug a 4. ud b.775 besitzt. Die Ausgleichsgerade für die trasformierte Date ist daher z x ud die Ausgleichskurve für die Origialdate folglich + e x. Diese beide Ausgleichsfuktioe sid zusamme mit de trasformierte bzw. Origial- Datepukte i Abbildug dargestellt. Literatur [Heuser 988] H. Heuser. Lehrbuch der Aalsis, Teil +. Teuber, Stuttgart 988