Lineare Regression. Stefan Keppeler. 16. Januar Mathematik I für Biologen, Geowissenschaftler und Geoökologen

Transkript

1 Mathematk I für Bologen, Geowssenschaftler und Geoökologen 16. Januar 2012

2 Problemstellung Bespel Maß für Abwechung Trck Mnmum? Exponentalfunktonen Potenzfunktonen

3 Bespel Problemstellung: Gegeben seen n Punkte (x,y ) R 2, {1,...,n}, n 2, de näherungswese auf ener Geraden legen. Man bestmme de Gerade, de am nächsten an desen Punkten legt. Dese Gerade heßt Ausglechsgerade oder Regressonsgerade. De Bestmmung deser Geraden heßt lneare Regresson.

4 Bespel Quelle: de.wkpeda.org/wk/regressonsanalyse Ene renommerte Sektkellere möchte enen hochwertgen Reslngsekt auf den Markt brngen. Für de Festlegung des Abgabepreses soll zunächst ene Pres-Absatz-Funkton ermttelt werden. Dazu wurde n n = 6 Geschäften en Testverkauf durchgeführt. Man erhelt sechs Wertepaare mt dem Ladenpres x (n Euro) ener Flasche und de verkaufte Menge y an Flaschen: Laden Pres ener Flasche x verkaufte Menge y

5 Maß für Abwechung Trck Mnmum? Wr benötgen: Maß für de Abwechung D ener Geraden g von den gegebenen Punkten. Suche dann g so, dass de Abwechung mnmert wrd. Dabe st g der Graph der Funkton g(x) = mx + b. De Gerade wrd durch 2 Parameter, bestmmt: m,b R, d.h. D st ene Funkton von b und m. We st D snnvoll zu wählen?

6 Maß für Abwechung Trck Mnmum? We st D snnvoll zu wählen? x 1 x 2... x n y 1 y 2... y n g(x 1 ) g(x 2 )... g(x n ) D soll messen, we nahe der Vektor v R n, mt Enträgen v = g(x ), bem Vektor y R n, mt Enträgen y, legt. Betrachte den Abstand der beden m R n, D(b,m) = d( v, y) = v y = n (v y ) 2. Aufgabe: Fnde b und m, de D mnmeren! Fordere also D = 0. =1

7 Maß für Abwechung Trck Mnmum? Trck: Statt D(b,m) mnmeren wr f(b,m) = D(b,m) 2, denn f mnmal D mnmal, da f = h D mt h(x) = x 2 streng monoton wachsend auf [0, ) d.h. wenn D(b,m ) < D(b,m), dann auch f(b,m ) < f(b,m). Wr mnmeren also f(b,m)= n ( ) 2 n g(x ) y = (mx + b y ) 2. =1 =1 Daher auch Bezechnung Methode der klensten (Fehler-)Quadrate; geht auf C.F. Gauß ( ) zurück.

8 Maß für Abwechung Trck Mnmum? Gradent von f = n (mx + b y ) 2 : f = =1 f n b = 2(mx + b y ) =1 f n m = 2(mx + b y )x =1 Am Mnmum st f = 0, also ( n b + ( x )b + ( ( ) f b, f m x ) m = x 2 ) m = Lneares Glechungssystem mt 2 Glechungen für de 2 Unbekannten b und m. y (1) x y (2)

9 Defnere Maß für Abwechung Trck Mnmum? x := 1 x und y := 1 n n und schrebe LGS n Kurzform n n x n y n x x2 x y 1 x y 0 x2 nx2 x y n xy y x + 1/n x y n xy = = (x x)(y y)...und mt y x auch x2 nx2 = (x x) 2

10 Maß für Abwechung Trck Mnmum? Damt lesen wr de endeutge Lösung ab, m = (x x)(y y) (x x) 2, Bemerkungen: b = y mx. Nenner von m unglech 0? Mt g(x) = mx + b bedeutet de 2. Glechung: g(x) = y. Noch zu klären: Legt an deser Stelle en Mnmum von f? (also weder Maxmum noch Sattel) Untersuche Hesse-Matrx H = f.

11 Maß für Abwechung Trck Mnmum? Hesse-Matrx: n f(m,b) = (mx + b y ) 2, H = f = wobe =1 2 f b 2 = b 2 f m b = m 2 f m 2 = m ( 2n 2nx d.h. H = 2nx 2 x2 2(mx + b y ) = 2n, 2(mx + b y ) = 2(mx + b y )x = 2 ). Postv defnt? 2 f b 2 2 f m b 2 f b m 2 f m 2 2x = 2nx = 2 f b m, x 2,,

12 Datenpunkte (x,y ) R 2, {1,...,n} Berechne de Mttelwerte x = 1 x und y = 1 y. n n Bestmme de Stegung der Regressonsgeraden, m = (x x)(y y) (x x) 2. Bestmme den Achsenabschntt der Regressonsgeraden b = y mx. Bespel Sektprese: oder Matlab

13 Exponentalfunktonen Potenzfunktonen Regresson von Exponentalfunktonen: Vermutet wrd der Zusammenhang z = ce λx zwschen den Größen x und z, und aus Messwerten für (x,z ) sollen de Konstanten c,λ R geschätzt werden. Führe durch Logarthmeren 1 zurück auf lneare Regresson: y = log z = log c + λx mt Daten (x,y ) = (x,log z ) lefert Ausglechsgerade y = mx + b. Daraus erhalten wr c = e b, λ = m. 1 vgl. log-plot, Vorlesung 5

14 Exponentalfunktonen Potenzfunktonen Regresson von Potenzfunktonen: Vermutet wrd der Zusammenhang p = αq β zwschen den Größen q und p, und aus Messwerten für q und p sollen de Konstanten α,β R geschätzt werden. Führe durch Logarthmeren 2 zurück auf lneare Regresson: y = log p = log α + β log q = log α + βx mt Daten (x,y ) = (log q, log p ) lefert Ausglechsgerade y = mx + b. Daraus erhalten wr α = e b, β = m. 2 vgl. log-log-plot, Vorlesung 5