Vektor und Matrixnormen Vorlesung vom

Transkript

1 Vektor und Matrixnormen Vorlesung vom Grundlagen: Matrix Vektor und Matrixprodukt. Lineare Räume. Beispiele. Problem: Berechne die Lösung x von Ax = b zu gegebenem A R n,n und b R n. Ziele: Konditionsanalyse dieses Problems, Stabilitätsanalyse des Gaußschen Algorithmus. Normen auf linearen Räumen: Motivation: Erweiterung des Betrags von R auf R n und R n,n. Definition: Axiomatisierung des Längenbegriffs. Beispiele: p, 1 p, auf R n. Zu einer gegebenen Vektornorm gehörige Matrixnorm: A M = sup x R n x 0 Ax x, A Rn,n. Beispiel: Zur Maximumsnorm gehört die Zeilensummenorm.

2 Normen Definition 8.1 Es sei V ein linearer Raum über R. Eine Abbildung : V R heißt Norm, falls für alle x,y V und α R gilt x 0, x = 0 x = 0, (1) αx = α x (Homogenität), (2) x + y x + y (Dreiecksungleichung). (3) Das Paar (V, ) heißt normierter Raum.

3 Beispiele: Vektornormen x = (x i ) n i=1 V = Rn ( n ) 1/2 Euklidische Norm: x 2 = i=1 x 2 i p Norm: x p = ( n ) 1/p x i p i=1, 1 p < Maximumsnorm ( Norm): x = max i=1,...,n x i

4 Matrixnormen A = (a ij ) n i,j=1 V = Rn,n, Matrizen mit n Zeilen und n Spalten jede Vektornorm auf R n2 induziert eine Matrixnorm auf R n,n (interpretiere A R n,n als Vektor im R n2 ) Verträglichkeit der Matrixnorm M mit Matrix Vektor Multiplikation: Ax A M x A M ist eine obere Schranke für die Längenänderung!

5 Matrixnormen A = (a ij ) n i,j=1 V = Rn,n, Matrizen mit n Zeilen und n Spalten jede Vektornorm auf R n2 induziert Matrixnorm auf R n,n (interpretiere A R n,n als Vektor im R n2 ) Verträglichkeit der Matrixnorm M mit Matrix Vektor Multiplikation: Ax A M x A M ist eine obere Schranke für die Längenänderung.

6 Die von einer Vektornorm induzierte Matrixnorm Definition 8.8 Es sei eine Vektornorm auf R n. Dann ist durch Ax A M = sup x R n x, A Rn,n, x 0 die zugehörige Matrixnorm M definiert. Bemerkung: Für zugehörige Matrixnormen gilt M ist eine Norm. Ax A M x AB M A M B M A,B R n,n, (Submultiplikativität) Die Norm der Einheitsmatrix I ist I M = 1.

7 Die von einer Vektornorm induzierte Matrixnorm Definition 8.8 Es sei eine Vektornorm auf R n. Dann ist durch Ax A M = sup x R n x, A Rn,n, x 0 die zugehörige Matrixnorm M definiert. Bemerkung: Für zugehörige Matrixnormen gilt M ist eine Norm. Ax A M x AB M A M B M A,B R n,n, (Submultiplikativität) Die Norm der Einheitsmatrix I ist I M = 1.

8 Die von der Maximumsnorm induzierte Matrixnorm Satz 8.10 (Zeilensummennorm) Die Matrixnorm A = max i=1,...,n n a ij, A = (a ij ) n i,j=1 R n,n, j=1 gehört zur Maximumsnorm auf R n. Bemerkung: Es sei eine beliebige Vektornorm und M die zugehörige Matrixnorm. Dann existiert ein x R n mit x = 1 und Ax = A M.

9 Die von der Maximumsnorm induzierte Matrixnorm Satz 8.10 (Zeilensummennorm) Die Matrixnorm A = max i=1,...,n n a ij, A = (a ij ) n i,j=1 R n,n, j=1 gehört zur Maximumsnorm auf R n. Bemerkung: Es sei eine beliebige Vektornorm und M die zugehörige Matrixnorm. Dann existiert ein x R n mit x = 1 und Ax = A M.

10 Konvergenz in normierten Räumen Definition 8.4 Es sei (V, ) ein normierter Raum und ( x (ν)) ν N V eine Folge. Die Folge heißt konvergent gegen x V, also x (ν) x, ν, falls x x (ν) 0, ν. Beispiel: V = R n, Maximumsnorm ( x (ν) ) ν N Rn x R n x (ν) i x i, i = 1,...,n

11 Konvergenz in normierten Räumen Definition 8.4 Es sei (V, ) ein normierter Raum und ( x (ν)) ν N V eine Folge. Die Folge heißt konvergent gegen x V, also x (ν) x, ν, falls x x (ν) 0, ν. Beispiel: V = R n, Maximumsnorm ( x (ν) ) ν N Rn x R n x (ν) i x i, i = 1,...,n

12 Äquivalenz von Normen auf endl.-dim. Räumen Satz 8.5 Es sei V ein endlichdimensionaler linearer Raum und und Normen auf V. Dann existieren c,c R, so daß c x x C x x V. Beweis: Satz von Heine-Borel: Kompaktheit der Einheitskugel in endl-dim. Räumen. Folgerungen: V = R n mit beliebiger Norm x (ν) x x (ν) x 0 x (ν) x 0 x (ν) i x i, i = 1,...,n sup x 0 x R n Ax x <

13 Äquivalenz von Normen auf endl.-dim. Räumen Satz 8.5 Es sei V ein endlichdimensionaler linearer Raum und und Normen auf V. Dann existieren c,c R, so daß c x x C x x V. Beweis: Satz von Heine-Borel: Kompaktheit der Einheitskugel in endl-dim. Räumen. Folgerungen: V = R n mit beliebiger Norm x (ν) x x (ν) x 0 x (ν) x 0 x (ν) i x i, i = 1,...,n sup x 0 x R n Ax x <

14 Äquivalenz von Normen auf endl.-dim. Räumen Satz 8.5 Es sei V ein endlichdimensionaler linearer Raum und und Normen auf V. Dann existieren c,c R, so daß c x x C x x V. Beweis: Satz von Heine-Borel: Kompaktheit der Einheitskugel in endl-dim. Räumen. Folgerungen: V = R n mit beliebiger Norm und = x (ν) x x (ν) x 0 x (ν) x 0 x (ν) i x i, i = 1,...,n sup x 0 x R n Ax x <

15 Äquivalenz von Normen auf endl.-dim. Räumen Satz 8.5 Es sei V ein endlichdimensionaler linearer Raum und und Normen auf V. Dann existieren c,c R, so daß c x x C x x V. Beweis: Satz von Heine-Borel: Kompaktheit der Einheitskugel in endl-dim. Räumen. Folgerungen: V = R n mit beliebiger Norm und = x (ν) x x (ν) x 0 x (ν) x 0 x (ν) i x i, i = 1,...,n sup x 0 x R n Ax x <

16 Äquivalenz von Normen auf endl.-dim. Räumen Satz 8.5 Es sei V ein endlichdimensionaler linearer Raum und und Normen auf V. Dann existieren c,c R, so daß c x x C x x V. Beweis: Satz von Heine-Borel: Kompaktheit der Einheitskugel in endl-dim. Räumen. Folgerungen: V = R n mit beliebiger Norm und = x (ν) x x (ν) x 0 x (ν) x 0 x (ν) i x i, i = 1,...,n sup x 0 x R n Ax x <

17 Äquivalenz von Normen auf endl.-dim. Räumen Satz 8.5 Es sei V ein endlichdimensionaler linearer Raum und und Normen auf V. Dann existieren c,c R, so daß c x x C x x V. Beweis: Satz von Heine-Borel: Kompaktheit der Einheitskugel in endl-dim. Räumen. Folgerungen: V = R n mit beliebiger Norm und = x (ν) x x (ν) x 0 x (ν) x 0 x (ν) i x i, i = 1,...,n sup x 0 x R n Ax x sup x 0 x R n C c Ax x = C c A <

18 Äquivalenz von Normen auf endl.-dim. Räumen Satz 8.5 Es sei V ein endlichdimensionaler linearer Raum und und Normen auf V. Dann existieren c,c R, so daß c x x C x x V. Beweis: Satz von Heine-Borel: Kompaktheit der Einheitskugel in endl-dim. Räumen. Folgerungen: V = R n mit beliebiger Norm und = x (ν) x x (ν) x 0 x (ν) x 0 x (ν) i x i, i = 1,...,n sup x 0 x R n Ax x sup x 0 x R n C c Ax x = C c A <

19 Äquivalenz von Normen auf endl.-dim. Räumen Satz 8.5 Es sei V ein endlichdimensionaler linearer Raum und und Normen auf V. Dann existieren c,c R, so daß c x x C x x V. Beweis: Satz von Heine-Borel: Kompaktheit der Einheitskugel in endl-dim. Räumen. Folgerungen: V = R n mit beliebiger Norm und = x (ν) x x (ν) x 0 x (ν) x 0 x (ν) i x i, i = 1,...,n sup x 0 x R n Ax x sup x 0 x R n C c Ax x = C c A <

20 Lineare Gleichungssysteme n = 3 lineare Gleichungen für n = 3 Unbekannte: x 1 + 4x 2 + 7x 3 = 5 2x 1 + 5x 2 + 8x 3 = 1 3x 1 + 6x x 3 = 0 Matrixschreibweise: x 1 = x 2 x A x = b

21 Kondition Problem: Berechne x R n aus Ax = b zu gegebenen Daten A R n,n, b R n Auswirkung von Eingabefehlern à A, b b auf das Ergebnis x Algorithmus: Gaußscher Algorithmus Auswirkung von Auswertungsfehlern Aufwand und mögliche Aufwandsreduktion (Stabilität) (Effizienz)

22 Existenz und Eindeutigkeit Satz 9.1 Die Koeffizientenmatrix A R n,n heißt regulär, falls Ax 0 x R n, x 0, andernfalls singulär. Ist A regulär, so existiert eine eindeutig bestimmte Inverse A 1 R n,n von A mit der Eigenschaft AA 1 = A 1 A = I, und das lineare Gleichungssystem Ax = b hatfür jederechteseite b R n eine eindeutigbestimmtelösung x = A 1 b.

23 Kondition Problem: Berechne x R n aus Ax = b zu gegebenen Daten A R n,n, b R n Funktionsauswertung: Auswertung von x = f(a,b) = A 1 b R n für A R n,n, b R n Lösungsoperator: f(a,b) = A 1 b nicht explizit gegeben Auswirkung von Eingabefehlern à A, b b auf das Ergebnis x

24 Fehlermaß normweiser absoluter Fehler: x x, x, x R n Beispiel: x = (0.5,123) T, x = (1,100) T, x x = max{0.5, 23} = 23 normweiser relativer Fehler: x x x, x, x R n, x 0 Beispiel: x = (0.5,123) T, x = (1,100) T, x x x = max{0.5, 23}

25 Fehlermaß normweiser absoluter Fehler: x x, x, x R n Beispiel: x = (0.5,123) T, x = (1,100) T, x x = max{0.5, 23} = 23 normweiser relativer Fehler: x x x, x, x R n, x 0 Beispiel: x = (0.5,123) T, x = (1,100) T, x x x = max{0.5, 23}

26 Die Kondition einer Matrix Definition 9.2 Sei A R n,n. Ist A eine reguläre Matrix, so heißt κ(a) = A A 1 Kondition von A. Ist A singulär, so wird κ(a) = gesetzt. Bemerkung: Es gilt κ(a) 1 und κ(i) = 1 κ(ab) κ(a)κ(b)

27 Beispiel: Differenzenverfahren für ein Randwertproblem U i 1 +2U i U i+1 = h 2 f(x i ), i = 1,...,n, h = 1/(n+1) 6 x 105 Steifigkeitsmatrix A n = Rn,n Kondition n Kondition: κ (A n ) = A n A 1 n

28 Beispiel: Massenmatrix (Bestapproximation) M n = Rn,n Kondition Massenmatrix n Kondition: κ (M n ) = M n M 1 n

29 Auswirkungen von Störungen der rechten Seite b Satz 9.4 Sei x die Lösung von Ax = b, b 0, und x die Lösung des gestörten Systems A x = b mit beliebigem b R n. Dann gilt x x x κ(a) b b b. EsexistierenrechteSeitenb, b R n,sodaßindieserabschätzunggleichheit vorliegt.

30 Numerisches Beispiel: Störung von b exaktes System: Ax = b A = b = x = gfgfgfgfg fsfssdfg

31 Numerisches Beispiel: Störung von b exaktes System: Ax = b A = b = x = auf 3 Stellen gerundete rechte Seite: A x = b gg b = gggggg 3000

32 Numerisches Beispiel: Störung von b exaktes System: Ax = b A = b = x = auf 3 Stellen gerundete rechte Seite: A x = b gg b = x =

33 Störungen der Koeffizientenmatrix A gestörtes System: Ã x = b, Ã R n,n Existiert eine eindeutig bestimmte Lösung x? Beispiel (schleifender Schnitt): reguläre Matrix A: A = ( ) ε x 2 x 2 = x 1 x 2 = 1 1+ε x 1 Runden im Falle ε < eps: Ã = rd(a) = ( ) singulär! x 1

34 Kleine Störungen erhalten die Regularität Lemma 9.5 Es sei C R n,n und C < 1. Dann ist I C regulär, und es gilt (I C) 1 = I + k=1 C k (Neumannsche Reihe). Folgerung: A Ã A < 1 κ(a) A Ã < A 1 1 = Ã regulär!

35 Kleine Störungen erhalten die Regularität Lemma 9.5 Es sei C R n,n und C < 1. Dann ist I C regulär, und es gilt (I C) 1 = I + k=1 C k (Neumannsche Reihe). Folgerung: A Ã A < 1 κ(a) A Ã A 1 < 1 = Ã regulär!

36 Auswirkungen von Störungen der Koeffizientenmatrix A Satz 9.6 Sei x die Lösung von Ax = b, b 0, und x die Lösung des gestörten Systems à x = b mit à Rn,n und A à A 1 < 1. Dann gilt x x x κ(a) A à A +o( A à ). Es existieren Koeffizientenmatrizen A, à R n,n, so daß in dieser Abschätzung Gleichheit vorliegt. Beweis: Skript

37 Auswirkungen von Störungen der Koeffizientenmatrix A Satz 9.6 Sei x die Lösung von Ax = b, b 0, und x die Lösung des gestörten Systems à x = b mit à Rn,n und A à A 1 < 1. Dann gilt x x x κ(a) A à A +o( A à ). Es existieren Koeffizientenmatrizen A, à R n,n, so daß in dieser Abschätzung Gleichheit vorliegt. Beweis: Skript

38 Numerisches Beispiel: Störung von A exaktes System: Ax = b A = b = x = gfgfgfgfg fsfssdfg

39 Numerisches Beispiel: Störung von A exaktes System: Ax = b A = b = x = gerundete Koeffizientenmatrix: Ã x = b, A 1 A Ã = Ã = jkdkljjdjdj

40 Numerisches Beispiel: Störung von A exaktes System: Ax = b A = b = x = gerundete Koeffizientenmatrix: Ã x = b, A 1 A Ã = Ã = x =

41 Auswirkungen von Störungen von A und b Satz 9.7 Sei x die Lösung von Ax = b, b 0, und x die Lösung des gestörten Systems à x = b mit à Rn,n und A à < A 1 1 sowie b R n. Dann gilt x x x κ(a) ( A à A ) + b b b +o( A à + b b ). Es existieren rechte Seiten b, b R n und Koeffizientenmatrizen A, à R n,n, so daß in dieser Abschätzung Gleichheit vorliegt. Beweis: Übung

42 Auswirkungen von Störungen von A und b Satz 9.7 Sei x die Lösung von Ax = b, b 0, und x die Lösung des gestörten Systems à x = b mit à Rn,n und A à < A 1 1 sowie b R n. Dann gilt x x x κ(a) ( A à A ) + b b b +o( A à + b b ). Es existieren rechte Seiten b, b R n und Koeffizientenmatrizen A, à R n,n, so daß in dieser Abschätzung Gleichheit vorliegt. Beweis: Übung

43 Numerisches Beispiel: Störung von A und b exaktes System: Ax = b A = b = x = gerundetes System: à x = b à = b = x =

44 Numerisches Beispiel: Störung von A und b exaktes System: Ax = b A = b = x = gerundetes System: à x = b à = b = x =