3. Lineare Ausgleichsrechnung

Größe: px

Ab Seite anzeigen:

Download "3. Lineare Ausgleichsrechnung"

Sigrid Arnold
vor 5 Jahren
Abrufe

1 3 Lineare Ausgleichsrechnung 1

2 Ausgleichsrechnung (1) Definition 31 (Ausgleichsproblem) Gegeben sind n Wertepaare (x i,y i ), i = 1,,n mit x i x j für i j Gesucht ist eine stetige Funktion f, die in einem gewissen Sinne bestmöglich die Wertepaare annähert, dh dass möglichst genau gilt: f(x i ) y i für i = 1,,n Hat die zu bestimmende Funktion genau so viele Parameter wie es Wertepaare gibt, lassen sich die Parameter so bestimmen, dass f(x i ) = y i gilt, und man spricht von Interpolation Daraus folgt, bei Ausgleichsproblemen gibt es weniger Parameter als Wertepaare Es handelt sich um ein Optimierungsproblem 2

3 Ausgleichsrechnung (2) Definition 32 (Fehlerfunktional) Gegeben sei eine Menge F von stetigen Funktionen sowie n Wertepaare (x i,y i ), i = 1,,n Ein Element von f F heißt Ausgleichsfunktion von F zu den gegebenen Wertepaaren, falls das Fehlerfunktional E(f) = i=1 (f(x i ) y i ) 2 für f minimal wird, dh E(f) = min{e(g) g F} Die Menge F nennt man auch die Menge der Ansatzfunktionen Das entspricht dem aus der Statistik-Vorlesung bekannten Verfahren der kleinsten Quadrate (Least-Square Fitting), siehe auch Statistik Vorlesung und Übung 31, Prof Dalitz 3

4 Ausgleichsrechnung (3) Beispiel: Komplexitätsberechnung Bei einem Sortierproblem wird die Laufzeit y n = y(x n ) in Abhängigkeit der Eingabelänge x n,n = 1,,20 für 20 verschiedene Eingabelängen gemessen Aufgabe: Bestimme numerische die Komplexität des Algorithmus Annahme: Die Rechenzeit R(x n ) lässt sich beschreiben durch R(x n ) = a+b x n +c log(x n ) x n +d x 2 n Lösungsmethode: Bestimme a,b,c und d so, dass E(a,b,c,d) = minimal wird 20 n=1 (y n (a+b x n +c log(x n ) x n +d x 2 n ))2 Lese aus der Lösung von a,b,c und d die Komplexität ab 4

5 Ausgleichsrechnung (4) Beispiel: Börsenkursvorhersage Gegeben sind die Börsenwerte einer Aktie, jeweils morgens um 7:00 Uhr über 3 Jahre Frage: Wie entwickelt sich die Aktie? Hauptproblem: Wie sieht die funktionelle Abhängigkeit von Größen wie * dem Gewinn/Verlust der Firma, * dem Kauf- und Verkaufsverhalten der Aktionäre, * dem Bruttosozialprodukt *,den letzten Wahlergebnissen, dem Wetter usw aus? 5

6 Ansatzfunktionen (1) Generell gilt: Das Ergebnis hängt von der angenommenen Funktionsmenge ab, mit der die Ausgleichsrechnung durchgeführt wurde Graphik aus 6

7 Ansatzfunktionen (2) Lösbarkeit des Ausgleichsproblems Bei gegebener Funktionsmenge muss das Minimum des Fehlerfunktionals E(f) bestimmt werden Das ist im allgemeinen nur möglich, wenn die Parameter linear in die Funktion f eingehen Beispiel: * Für f(x) = a 1 sin(a 2 x)cos(a 3 x)log(a 4 x) lassen sich die Parameter a 1,a 2,a 3 und a 4 nicht einfach bestimmen, so dass die Abweichung von gegebenen Werte (x i,y i ) minimal wird * Für f(x) = a 1 sin(x)+a 2 sin(2x)+a 3 sin(3x)+a 4 sin(4x) (Teil einer Fourier-Entwicklung) ist eine Bestimmung von a 1,a 2,a 3 und a 4 möglich, da die Parameter linear in f eingehen 7

8 Lineare Problemstellung (1) Gegebene Messwerte sind (x i,y i ), i = 1,,n Gegebene Ansatzfunktionen sind g k (x), k = 1,,p Gesuchte Funktion ist f(x) = a 1 g 1 (x)+a 2 g 2 (x)++a p g p (x) = p k=1 a kg k (x) Bestimme a k so, dass f(x i ) möglichst Nahe bei y i liegt, f(x i ) y i Matrixschreibweise: Definiere die n p Matrix G = g 1 (x 1 ) g p (x 1 ) g 1 (x n ) g p (x n ) und die Vektor a = (a 1,a p ), y = (y 1,y n ) und f = (f(x 1 ),f(x n )) 8

9 Lineare Problemstellung (2) Das Problem lautet in dieser Notation g 1 (x 1 ) g p (x 1 ) g 1 (x n ) g p (x n ) a 1 a p = f(x 1 ) f(x n ) y 1 y n oder Ga = f y Das Gleichungssystem Ga = y ist ia nicht lösbar, da p < n ist und es damit mehr Gleichungen als Unbekannte gibt Frage: Was ist die beste Lösung für a? Lösung: Berechne das Fehlerfunktional (siehe Definition 32) bzw minimiere die Abweichung f y 2 = Ga y 2 9

10 Lineare Problemstellung (3) Es galt f(x j ) = p k=1 a k g k (x j ) := p k=1 g j,k a k Gesucht ist also das Minimum von E(a) = = (f(x j ) y j ) 2 j=1 p j=1 k=1 g j,k a k y j = (Ga y) (Ga y) 2 = Ga y

11 Lineare Problemstellung (4) Das Minimum der quadratischen Funktion E(a) = j=1 p k=1 g j,k a k y j in a i liegt an der Stelle, an der die Ableitungen gleich Null ist oder 0 = de da i = 2 j=1 In Matrixschreibweise: ( p k=1 p g j,i j=1 k=1 g j,k a k y j ) g j,i g j,k a k = G T Ga = G T y j=1 2 für i = 1,,p g j,i y j Die Gleichung heißt Normalengleichung zu G und y 11

12 Ausgleichsgerade (1) Beispiel 1: Gegeben sind die Messwerte (x i,y i ) (von physikalischen Experimenten bis hin zur der Entwicklung des Ölpreises) Frage: Unter der Annahme einer linearen Abhängigkeit von x, also g 1 = 1 und g 2 = x, wie sieht die bestmögliche Gerade y f(x) = a 1 +a 2 x entlang der Punkte (x i,y i ) aus? In Matrixschreibweise: a 1 +a 2 x 1 a 1 +a 2 x n = 1 x 1 1 x n a 1 a 2 = f(x 1 ) f(x n ) y 1 y n oder Ga = f y 12

13 Ausgleichsgerade (2) G ist eine n 2-Matrix a ist 2-komponentiger Vektor f(x) und y sind n-komponentige Vektoren Die beste Lösung für a ergibt sich aus der Normalengleichung G T Ga = 1 1 x 1 x n = G T y = 1 x x 1 x n 1 x n a 1 a 2 y 1 y n = = n nj=1 x j nj=1 x j nj=1 x 2 j nj=1 y j nj=1 x j y j a 1 a 2 13

14 Ausgleichsgerade (3) Beispiel, die mittlere Temperatur im Monat Mai in den letzten Jahren war 1996: 118, 2000: 157, 2004: 126, 2008: 162, 2012: 152 Grad Frage: gibt es eine aufsteigende oder absteigende Tendenz? Antwort: Lege eine Gerade durch die Punkte oder löse das System = ( ( ) ) ( a1 a 2 ) 14

15 Lineares Ausgleichsproblem (1) Beispiel 2: Gegeben sind die tägliche Aktienkurs-Werte (t i,euro i ) einer aufstrebenden Aktiengesellschaft Die Wirtschaftsexperten glauben, dass sich die Werte gut durch die Summe aus einer steigenden quadratischen, einer schwankenden sinus-funktion und einer mit der Zeit fallenden Funktion beschreiben lässt: Euro i f(t) = a 1 t 2 +a 2 sin(t)+ a 3 t, also g 1 = t 2,g 2 = sin(t) und g 3 = 1 t Frage: Was sind die optimalen Koeffizienten, so dass die Aktienkursvorhersage hoffentlich möglichst gut ist? 15

16 Lineares Ausgleichsproblem (2) a 1 t 2 1 +a 2sin(t 1 )+ a 3 t1 a 1 t 2 n +a 2 sin(t n )+ a 3 tn = t 2 1 sin(t 1) t 2 n sin(t n ) 1 t 1 1 t n a 1 a 2 a 3 = f(t 1 ) f(t n ) Euro 1 Euro n oder wie gehabt: Ga = f y 16

17 Lineares Ausgleichsproblem (3) Die beste Lösung für a ergibt sich wieder aus der Normalengleichung G T Ga = t 2 1 t 2 n sin(t 1 ) sin(t n ) 1 t 1 1 t n t 2 1 sin(t 1) t 2 n sin(t n ) 1 t 1 1 t n a 1 a 2 a 3 = G T y = t 2 1 t 2 n sin(t 1 ) sin(t n ) 1 t 1 1 t n Euro 1 Euro n = ni t 2 i Euro i ni sin(t i )Euro i ni Euro i t i Zu lösen ist also ein 3 3-Gleichungssystem 17

18 Nichtlineare Ausgleichsprobleme (1) In vielen praktischen Problemen soll eine Funktion durch Daten gelegt werden, bei der die Parameter nicht-linear auftreten Das Minimum des Fehlerfunktionales ist dann gegeben durch 0 = de(a 1,,a p ) da k Beispiel: = d da k = 2( i=1 i=1 (f(x i,a 1,,a p ) y i ) 2 (f(x i,a 1,,a p ) y i )) df(x i,a 1,,a p ) da k f(x) = a 1 e a 2x Hier könnte man sich auch durch logarithmieren der Gleichung behelfen (siehe Übungsaufgabe), besser wäre es jedoch, ein nicht-lineares Gleichungssystem zu lösen 18

19 Nichtlineare Ausgleichsprobleme (2) Das Fehlerfunktional lautet in diesem Fall E(a 1,a 2 ) = i=1 (f(x i,a 1,a 2 ) y i ) 2 = i=1 (a 1 e a 2x i y i ) 2 und soll ein Minimum annehmen Die Lösung ergibt sich wie gehabt an den Stellen, an denen die Ableitung zu Null wird 0 = de da 1 = 2 0 = de da 2 = 2 i=1 i=1 (a 1 e a 2x i y i )e a 2x i (a 1 e a 2x i y i )a 1 e a 2x i x i Gelöst werden diese Systeme durch das sogenannte Gauß-Newton- Verfahren (zum Newton-Verfahren siehe Kapitel 6) Hier nur das Prinzip: Starte mit geratenen Werten für a k und verbessere die Werte iterativ 19

Ähnliche Dokumente

Ausgleichsproblem. Definition (1.0.3)

Ausgleichsproblem. Definition (1.0.3) Ausgleichsproblem Definition (1.0.3) Gegeben sind n Wertepaare (x i, y i ), i = 1,..., n mit x i x j für i j. Gesucht ist eine stetige Funktion f, die die Wertepaare bestmöglich annähert, d.h. dass möglichst