Numerisches Rechnen. (für Informatiker) M. Grepl P. Esser & G. Welper & L. Zhang. Institut für Geometrie und Praktische Mathematik RWTH Aachen

Transkript

1 Numerisches Rechnen (für Informatiker) M. Grepl P. Esser & G. Welper & L. Zhang Institut für Geometrie und Praktische Mathematik RWTH Aachen Wintersemester 2011/12 IGPM, RWTH Aachen Numerisches Rechnen 1

2 Vorlesungsinhalt Lineare Gleichungssysteme 1. Fehleranalyse: Kondition, Rundungsfehler, Stabilität a) y = f(x), Eingabefehler x Ausgabefehler y b) Fehler aufgrund Gleitpunktdarstellung c) Fehler (durch Algorithmus) Fehler (durch Kondition) 2. Lineare Gleichungssysteme, direkte Lösungsverfahren geg.: A R n n, b R n ; ges.: x R n, so dass Ax = b 3. Lineare Ausgleichsrechnung geg.: A R m n, b R m, m > n; ges.: x R n, so dass x = arg min x R n Ax b 2 IGPM, RWTH Aachen Numerisches Rechnen 129

3 Heute Themen: Dahmen & Reusken Kap Zeilenskalierung Dreiecksmatrizen Was Sie heute mitnehmen sollten: Wie ist das Problem Ax = b konditioniert? Warum benötige ich Zeilenskalierung? IGPM, RWTH Aachen Numerisches Rechnen 130

4 Netzwerkanalyse Lineare Gleichungssysteme Uq + R 1 I R 2 R 3 II R 8 IV R 4 R 5 R 6 III R 7 Kirchhoffsche Gesetze: 1. Maschenregel U k = 0 k 2. Knotenregel I k = 0 R 1 + R 2 R R 2 R 2 + R 3 + R 4 + R 5 R 4 R 5 R 3 0 R 4 R 5 R 4 + R 5 + R 6 + R 7 R 6 0 R 3 R 6 R 3 + R 6 + R 8 Lineares Gleichungssystem: Ax = b Hier Sonderfall: A symmetrisch, d.h. A = A T (tritt häufig bei Modellierung physikalischer Systeme auf!) k I 1 I 2 I 3 I 4 = IGPM, RWTH Aachen Numerisches Rechnen 131 U q 0 0 0

5 PageRank Algorithmus Internet mit 3 Webseiten A B C Gegeben: Webseiten A, B und C Verlinkung der Seiten Gesucht: PageRank PR( ) von A, B und C Modell des Zufalls-Surfers: PR(A) PR(B) = 1 d d PR(C) PR(A) PR(B) PR(C) (I d Ḡ) x = 1 d 3 e (LGS) IGPM, RWTH Aachen Numerisches Rechnen 132

6 Weitere Beispiele Diskretisierung von Integralgleichungen und gewöhnlichen oder partiellen Differentialgleichungen (z.b. Filtern verrauschter Bilder). In der linearen Ausgleichsrechnung entsteht auf natürliche Weise ein lineares Gleichungssystem (Normalgleichungen, siehe nächstes Kapitel). Zur Lösung eines nichtlinearen Gleichungssystems werden oft Linearisierungsverfahren, wie z.b. das Newton-Verfahren, eingesetzt. Bei so einem Verfahren ergibt sich eine Reihe von linearen Gleichungssystemen (siehe übernächstes Kapitel). Wahl des Lösungsverfahrens hängt vom Problem ab dünnbesetztes vs. vollbesetztes Gleichungssystem Strukur (Tridiagonal-, Bandmatrizen) IGPM, RWTH Aachen Numerisches Rechnen 133

7 Problemstellung Lineare Gleichungssysteme Notation: R m n ist die Menge der Matrizen a 1,1 a 1,n A =.. a m,1 a m,n mit Einträgen a i,j R. Aufgabe Zu gegebenem A R n n und b = (b 1,..., b n ) T R n bestimme ein x = (x 1,..., x n ) R n, dass a 1,1 x a 1,n x n = b 1... a n,1 x a n,n x n = b n bzw. kurz Ax = b erfüllt. IGPM, RWTH Aachen Numerisches Rechnen 134

8 Geometrische Interpretation Ax = b A = b = x = x a 3 b a a a a x 1 x 2 IGPM, RWTH Aachen Numerisches Rechnen 135

9 Bemerkung Folgende Aussagen sind äquivalent für das System Ax = b: Das System hat für jedes b R n eine eindeutige Lösung x R n. Die Matrix A hat vollen Rang n. Das homogene System Ax = 0 hat nur die triviale Lösung x = 0. Es gilt deta 0. A heißt regulär oder nichtlinsgulär, wenn deta 0. Annahme: Wir nehmen bei der Lösung linearer Gleichungssysteme stets an, dass deta 0 gilt. IGPM, RWTH Aachen Numerisches Rechnen 136

10 Störung in der rechten Seite b Satz 3.7 Sie x + x die Lösung von A(x + x) = b + b. Dann gilt: wobei x x A 1 A }{{} κ (A) b b κ (A) A 1 A die (relative) Konditionszahl der Matrix A (bzgl. der Norm ) ist. Der relative Fehler der Lösung läßt sich durch das Vielfache κ(a) = κ (A) A 1 A des relativen Fehlers der rechten Seite (Eingabedaten) abschätzen. IGPM, RWTH Aachen Numerisches Rechnen 137

11 Störung in A und b Lineare Gleichungssysteme Satz 3.9 Sie x + x die Lösung von Falls κ(a) A A Beachte: Falls (A + A)(x + x) = b + b. gilt, folgt für den relativen Fehler ( A x x κ(a) 1 κ(a) A A A + b b κ(a) A A = A 1 A 1, beschreibt die Konditionszahl κ(a) auch maßgeblich die Störungen in den übrigen Eingabedaten. ). IGPM, RWTH Aachen Numerisches Rechnen 138

12 Bemerkung 3.10 In einer Maschine mit Maschinengenauigekeit eps sind die Daten A und b mit relativen Fehlern eps behaftet, d.h. A A eps und b b eps. Nach Satz 3.9 ist wegen der Kondition des Problems (A, b) x = A 1 b der unvermeidliche Fehler in der Lösung x gegeben durch x x = O(κ(A) eps). IGPM, RWTH Aachen Numerisches Rechnen 139

13 Beispiel 3.11 Lineare Gleichungssysteme Sei Dann gilt A 1 = A = ( ) , b = ( ) ( ) , A = 600, A = 7.997, κ (A) = Betrachte gestörte Daten ( ) 3 1 Ã = ( ) 2.002, b =. 4 IGPM, RWTH Aachen Numerisches Rechnen 140

14 Beispiel 3.11 Lineare Gleichungssysteme mit Störungen ( ) A =, A 0 0 = 0.001, ( ) b =, b = Aus Satz 3.9 ergibt sich somit x x als Schranke für den relativen Fehler der Lösung x von à x = b. Mit exakter Lösung x = (1, 1) T von Ax = b und gestörter Lösung x = (0.2229, ) T von à x = b ergibt sich der tatsächliche relative Fehler x x IGPM, RWTH Aachen Numerisches Rechnen 141

15 Residuum als Maß für Genauigkeit Gegeben: Gleichungssystem Ax = b Näherungslösung x. Definition Das Residuum r is definiert als r = b A x. Beachte: Residuum ist ohne Kenntnis der Lösung x berechenbar r = 0 x = x. Frage: Wie aussagekräftig ist die Größe des Residuums in Bezug auf den tatsächlichen Fehler? Für die Norm des Residuums im Vergleich zu der des Fehlers gilt: r κ(a) 1 b x x x κ(a) r b hängt wieder von der Kondition ab. IGPM, RWTH Aachen Numerisches Rechnen 142

16 Beispiel 3.12 Lineare Gleichungssysteme Sei A die Matrix aus Beispiel 3.11 und b = (3, 6) T. Exakte Lösung: x = (1, 0) T. Für die Annäherungen ( ) x =, ˆx = gilt ( ) , r = b A x = , ˆr = b Aˆx = Die Norm des Residuums für x ist also viel kleiner als für ˆx: r ˆr. Der Fehler in x ist aber viel größer als in ˆx: x x = ˆx x = IGPM, RWTH Aachen Numerisches Rechnen 143