Wiederholung: Linearer Ausgleich 1. Linearer Ausgleich. Vorlesung April. Aufgabe Gegeben Naturgesetz

Transkript

1 Vorlesug April Bei w,, w m, v R ; (w,, w m =: A R (,m ud ieres Produkt = euklidisches Produkt schrieb sich das Approximatiosproblem so: Fide w = Wiederholug: m ζ k w k mit w v w v w spa{w,, w m } k= Miimiere Aζ v bezüglich ζ Das Gramsche System < w, w > < w, w m > wurde zu de < w m, w > < w m, w m > A T Aζ = A T v ζ = < w, v > < w m, v > sogeate Normalgleichuge Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 / 5 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 / 5 Seite 9 Wir wolle heute sehe, dass sehr wichtig ist ud Miimiere Aζ v bezüglich ζ eie weitere Zugag zu seier Lösug ebe de Normalgleichuge keelere Aufgabe Gegebe Naturgesetz h(t = α + β T Temperatur Höhe eier Flüssigkeitssäule abhägig vo T Bestimme α, β aus Messuge Zwei Messuge gebe lieares Gleichugssystem α + βt = h α + βt = h T h T h } ( T T ( α β = ( h h Schö eifach aber (weil Messuge Fehler habe oft auch schö falsch Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 3 / 5 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 4 / 5

2 Zur Kotrolle mehr Messuge Seite Seite h(t aus T, T h(t aus T, T 3 h(t aus T, T 3 Nach eier Stude folgede Situatio T T ( T 3 α β T m Was tu? h h h 3 h m = T 4 T 3 T T Was ist richtig? Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 5 / 5 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 6 / 5 Seite Seite 3 Ausweg: T T ( T 3 α β T m h h h 3 h m Lieares Ausgleichsproblem Gegebe A R (m, Gesucht x R mit Bemerkug: Meistes ist m : b R m A x b miimal T T ( α β T m h h h m Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 7 / 5 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 8 / 5

3 Lieares Ausgleichsproblem Gegebe A R (m,, Gesucht x R mit b R m Seite 3 x mi löst das Gramsche System < a, a > < a, a > < a, a > < a, a > < a, a > < a, a > x = < a, b > < a, b > ( a x + a x + + a x b = Ax b miimal A x mi ist der Pukt i spa{a,, a }, der vo b de kleiste Abstad hat Ax mi ist die Projektio vo b auf spa{a,, a } x mi löst das Gramsche System < a, a > < a, a > < a, a > < a, a > < a, a > < a, a > x = < a, b > < a, b > Mit u, v = u T v also ( a T ( a a T ( a a T ( a a T b x =, (a T a (a T a (a T a (a T b ud somit eifach A T Ax = A T b Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 9 / 5 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 / 5 Satz 7 Die Lösuge vo A x b sid geau die Lösuge der Normalgleichuge: A T A x = A T b Beweis wich vom Skript ab: Ax b a,, a A T (Ax b = Seite 3 ( x A T A x = A T b x = ( Beispiel Erierug: ( ( 4 x = 4 4 A T A regulär a,, a liear uabhägig Rag A = Da x mi = (A T A A T b ud P(b = Ax mi = A(A T A A T b Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 / 5 ( x = Bei Hadrechug für kleie Probleme oft eifach Bei große Probleme aber sehr rudugsfehlerafällig, daher für Maschierechug adere Methode: Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 / 5

4 Erierug: we Q orthogoal Bei orthogoalem Q z = Qz Ax b Q(Ax b Seite 4 IDEE: Wähle sukzessive Householder-Matrize für Q, so dass A auf Dreiecksgestalt gebracht wird R Q(Ax b = QA x Qb R ( y z = Rx y + z Lösug aus Rx y= Miimalwert Geauer: Trasformiere orthogoal A ( x b ( A ( = A = (a,, a auf k R y k x k z k Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 3 / 5 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 4 / 5 Im Eizele: Schritt: a? Nei A (? Nei STOP We JA: Tausche (lägste Spalte ach vor Wähle Householder-Matrix Q mit Q a = ± a e Schritt = Schritt für A ( Q A }{{ ( } r r r A ( Q b b ( Schritt: r r r b ( H A ( x b ( b ( m A ( = (a, a,, a = STOP Sost Tausche Spalte ach vor ( Zeile mittausche Householder H so dass H a = ± a }{{ e, e R m } r ( ( ( r r r r r H A ( = r H A ( = r r r r r 3 r 3 Schritt: A ( =? usw usw A ( Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 5 / 5 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 6 / 5

5 Nach k Schritte erhält ma Q k Q k Q (A x b r r r k r,k+ r = rkk r k,k+ r k x Q k Q k Q orthog orthog orthog =Q orthogoal b (k b (k k b (k k+ b (k m } } y z R x = y lösbar, da r r kk r r r k r,k+ r x = Eideutig lösbar we k = Auflösbar ach x,, x r kk r k,k+ r k, y y k A x b = Q(A x b = R x y + z Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 7 / 5 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 8 / 5 Seite 8 Beispiele Wir erhalte u ei (scho wohlbekates Ergebis Satz 78 Seie A R (m,, b R m Da ist das lieare Ausgleichsproblem x R : A x b ( Rag ist maximal aber x x x 3 x 4 x 5 stets lösbar Es ist geau da eideutig lösbar, we ist, dh Spalte liear uabhägig Rag A = Lösuge: x = e, e,, e 5, sowie x mit x i = Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 9 / 5 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 / 5

6 x a a b Q : a a e = Q = E ww T w = a ( a e w = w/ w T w w Q = E w T w 3 w = Q a = Q a = a w w T a = /3 /3 /3 = /3 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 / 5 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 / 5 Q b = b w w T b = = /3 /3 /3 = x /3 x 7/3 /3 /3 7/3 /3 /3 H : w = /3 /3 /3 6/3 w = 9 H = E 3 9 w w T Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 3 / 5 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 4 / 5

7 H H /3 7/3 /3 /3 = = /3 7/3 /3 / /3 /3 /3 /3 = = 6/3 x 6/3 6/3 x = /3 6/3 6/3 6/3 /3 ( ( x A T A x = A T b x = ( ( 4 x = 4 4 ( x = ( Beispiel Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 5 / 5 Weg über die Normalgleichuge also für die Hadrechug deutlich ageehmer Householder-Zugag aber GANZ DEUTLICH weiger rudugsfehlerafällig Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 6 / 5 QR-Zerlegug Seite 9 A R (, quadratisch (regulär Hat A R (m, lu Spalte, so erhält ma mit Householder-Matrize ( R Q Q Q A = Dari ist R R (, ud die Q i sid orthogoal ud symmetrisch Satz 79 A = Q Q Q Q Das heißt QR-Zerlegug vo A ( R ( R = Q orthogoal Löse A x = b wie folgt QR x = b R x = Löse auf QT b reche aus A = Q = Q Q Q orthogoal R (regulär Dreiecksmatrix Q T b = Q Q b Ketis der Householder-Matrize reicht Achtug QR-Zerlegug etwa doppelt so teuer wie LR-Zerlegug QR-Zerlegug aber etwas stabiler Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 7 / 5 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 8 / 5

8 Bemerkug A R (, regulär A x b x = A b (Lösug vo A x = b Ede der 4 Vorlesug Householder Methode auch für reguläre Gleichugssysteme möglich Aufwad zwei Mal Gauss Aber bei empfidliche Gleichugssysteme besser Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 9 / 5 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 3 / 5 Wiederholug: Ausgleich Seite 3 Vorlesug 5 3 Mai + 6 Mai Lieares Ausgleichsproblem Gegebe A R (m,, b R m Gesucht x R mit A x b miimal Satz 7 Die Lösuge vo A x b sid geau die Lösuge der Normalgleichuge: A T A x = A T b Alterativ: Orthogoale Trasformatio auf Dreiecksgestalt MATLAB: x= A\ b löst A x b miimal Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 3 / 5 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 3 / 5

9 Start mit Ausgleichgerade f Diskrete Approximatio durch Ausgleich r Seite 33 Bestimme α, β i f (x = α + β t durch Messuge (t i, b i, so dass für die Fehler r 3 r 4 r 6 r 5 r 8 r 7 r 9 gilt i= r i Methode der kleiste Fehlerquadrate r i = α + β t i b i t t ( α β t b r t r t t 3 t 4 t 5 t 6 t 7 t 8 t 9 t t Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 33 / 5 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 34 / 5 t t ( α β t b b ist eideutig lösbar, we die Matrix Rag hat Dies ist geau da der Fall, we uter de t i -Werte zwei verschiedee sid ( Ma wird ie ur für eie t-wert messe De: Seie dies oe t t Da ist i t t t 3 t t t = t t Lösug vo über die Normalgleichuge t t ( α β t b A T A x = A T b ( < a, a > < a, a > < a, a > < a, a x = > ( i= i= t i i= t i i= t i x = ( < a, b > < a, b > ( i= b i i= t i b i Seite 39 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 35 / 5 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 36 / 5

10 Cramer α = x = β = x = ( i= ( b i i= t i t i b i i= t i b i i= i= t i t i /det i= b i /det i= b b Verallgemeierug der Ausgleichsgerade Ausgleichspolyom p(t Seite 3 Kopfschmerze mit det = i= t i ( t i i= b r m r m MATLAB Spaltevektor t ethalte die t-werte, Spaltevektor b die Messwerte Da liefert A=[oes(size(t, t]; x= A\b; alpha=x(; beta=x(; die Lösug t t b 3 t 3 t m t Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 37 / 5 m Fehlerquadratsumme miimal Mackes (Techische Uiversität Hamburg-Harburg ri Lieare Algebra II SoSe 3 38 / 5 i= Asatz: p(t = t t t t t t t m tm tm a i t i i= a a a b b b m t t t t t t Rag = + = Azahl Spalte t m tm tm Midestforderug m + (Midestes so viele (m Messuge wie Ubekate a, a,, a }{{ } + Behauptug Sid die t i alle verschiede, so reicht das Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 39 / 5 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 4 / 5

11 Satz Gegebe (t j, b j R ; j =,, m mit t i t j bei i j Da gibt es für jedes < m geau ei Polyom p(t = a j t j j= welches uter alle Polyome i Π das Fuktioal m (p(t i b i miimiert i= Beweis Wir zeige: Die Spalte vo t t t t A = sid liear uabhägig t m tm Weil m +, ist die Vadermodesche Matrix t t V : = t + t+ i de erste + Zeile vo A ethalte Es ist aber scho bekat Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 4 / 5 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 4 / 5 LEMMA + det V = (t j t i i,j= i<j Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 43 / 5 Für m = + ist: t t t + t+ Quadratisch, regulär a a b Spezialfall äquivalet zu t t a = b t + t+ Also Polyom p i Π, das a ( + paarweise verschiedee Stelle t,, t + vorgegebee Werte aimmt Dies Polyom heißt INTERPOLATIONSPOLYNOM Berechug: Später Nicht über das Gleichugssystem Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 44 / 5

12 Fide zu m Date Allgemeier Ausgleich (t j, b j, j =,, m t j [a, b] R, paarweise verschiede, eie Fuktio ( m mit φ(t = x k φ k (t, x k variabel k= φ(t b φ(t m b m Seite 34 φ(t b φ(t m b m lautet ausgeschriebe φ (t x +φ (t x + + φ (t x b mi = φ (t x +φ (t x + + φ (t x b φ (t m x +φ (t m x + + φ (t m x b m φ (t φ (t φ (t oder x b φ (t m φ (t m φ (t m we Spalte lu so ist das Problem eideutig lösbar Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 45 / 5 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 46 / 5 aus Messuge φ(t = x si(3t + x cos(3t + x 3 e t Beispiel x, x, x 3 zu bestimme t = [, 3, 6, 9,, 5, 8,, 4, 7, 3] y = [ -3, -, -, -3, -3, -, -5,,,, -] A = A= [ si(3*t, cos(3*t, exp(-t] rak(a x = A\y ; as = 3; x = Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 47 / 5 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 48 / 5

13 tt= lispace(-, 3,; AA= [ si(3*tt, cos(3*tt, exp(-tt]; yy= AA*x; plot(tt,yy; plot(t,y, or Tschebyscheff-Systeme Amerkug Sid bei eiem Fuktioesystem φ,, φ für beliebig verschiedee Pukte t,, t [a, b] stets φ (t φ (t,, liear uabhägig, φ (t φ (t so heißt φ,, φ ei TSCHEBYSCHEFF-SYSTEM auf [a, b] Es gibt dicke Bücher über Tschebyscheff-Systeme Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 49 / 5 Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 5 / 5 Ede der 5 Vorlesug Mackes (Techische Uiversität Hamburg-Harburg Lieare Algebra II SoSe 3 5 / 5