4 Numerische Lösung nichtlinearer Gleichungssysteme Problemstellung Das Newton-Verfahren für Systeme... 66

Transkript

1

2 Inhaltsverzeichnis 1 Rechnerarithmetik und Gleitpunktzahlen Grundbegriffe und Gleitpunktarithmetik Auslöschung Fehlerrechnung Fehlerfortpflanzung in arithmetischen Operationen Fehlerfortpflanzung bei Funktionsauswertungen Numerische Lösung von Nullstellenproblemen Problemstellung Das Bisektionsverfahren Die Fixpunktiteration Das Newton-Verfahren Konvergenzgeschwindigkeit Numerische Lösung linearer Gleichungssysteme Problemstellung Der Gauß-Algorithmus Fehlerfortpflanzung beim Gauß-Algorithmus und Pivotisierung Dreieckszerlegungen von Matrizen Die LR-Zerlegung Die Cholesky-Zerlegung Fehlerrechnung bei linearen Gleichungssystemen Iterative Verfahren Numerische Lösung nichtlinearer Gleichungssysteme Problemstellung Das Newton-Verfahren für Systeme Interpolation Problemstellung

3 Inhaltsverzeichnis Polynominterpolation Das Neville-Aitken-Schema Der Fehler bei der Polynominterpolation Splineinterpolation Problemstellung Interpolation mit kubischen Splines Ausgleichsrechnung Problemstellung Lineare Ausgleichsprobleme Nichtlineare Ausgleichsprobleme Das Gauß-Newton-Verfahren Numerische Differenziation und Integration Numerische Differenziation Problemstellung Differenzenformeln für höhere Ableitungen Differenzenformeln für partielle Ableitungen Extrapolation Numerische Integration Problemstellung Interpolatorische Quadraturformeln Der Quadraturfehler Transformation auf das Intervall [a, b] Der Fehler der summierten Quadraturformeln Newton-Cotes-Formeln Gauß-Formeln Extrapolationsquadratur Praktische Aspekte Anfangswertprobleme gewöhnlicher Differenzialgleichungen Problemstellung

4 8 Inhaltsverzeichnis 8.2 Das Euler-Verfahren Praktische Aspekte Weitere Einschrittverfahren Weitere Verfahren Lösungen 155 Literaturverzeichnis 173 Sachwortverzeichnis 175 Zum Umgang mit diesem Buch: Ziel des Buches ist es, dem Leser eine selbstständige Aufarbeitung des Stoffes, etwa anlässlich einer Prüfungsvorbereitung, zu ermöglichen. In die Darstellung eingestreut sind Aufgaben, in denen die in Beispielen vorgestellten Methoden einmal selbst angewandt werden sollen. In den ersten Kapiteln wurden darüber hinaus Thesen unter der Überschrift wahr oder falsch? formuliert, die der Leser kritisch auf ihren Wahrheitsgehalt prüfen soll. Auf diese Weise kann das eigene Verständnis überprüft werden. Lösungen zu allen Aufgaben und die Auswertungen der Thesen finden sich am Ende des Bandes.

5 1 Rechnerarithmetik und Gleitpunktzahlen In der Numerischen Mathematik geht es in der Regel um die näherungsweise Berechnung von Lösungen von Gleichungen oder anderen Größen wie z. B. Funktionswerte oder Integrale mit Hilfe von Computern. Dies geschieht aus zwei möglichen Gründen: Diese Größen sind auf dem Papier nicht exakt berechenbar, also muss es mit anderen Mitteln geschehen. Die Größen sind zwar auf dem Papier exakt bestimmbar, aber die Anwendung erfordert, diese wiederholt und zuverlässig in kurzer Zeit zur Verfügung zu stellen, so dass eine Rechnung von Hand auch wieder nicht in Frage kommt. Der Computer hat jedoch zwei prinzipielle Handicaps: Er kann aufgrund der beschränkten Stellenzahl nicht alle Zahlen exakt darstellen. Er kann die gewünschten Rechnungen nicht exakt ausführen. Im Folgenden werden Auswirkungen dieser Handicaps anhand von Beispielen und Aufgaben veranschaulicht. 1.1 Grundbegriffe und Gleitpunktarithmetik Definition Eine n-stellige Gleitpunktzahl zur Basis B hat die Form x = ±(0.z 1 z 2...z n ) B B E und den Wert ± n z i B E i (1.1) wobei z i {0, 1,...,B 1} und, falls x 0,z 1 0 (normalisierte Gleitpunktdarstellung). Den Anteil (0.z 1 z 2...z n ) B bezeichnet man auch als Mantisse. Für den Exponenten E Z gilt: m E M. Beispielsweise ist also x = (0.2345) eine 4-stellige Gleitpunktzahl und hat den Wert Übliche Basen sind B = 2 (Dualzahlen), B = 8 (Oktalzahlen), B =10(Dezimalzahlen) und B = 16 (Hexadezimalzahlen). Für letztere benötigt man für i=1

6 10 1 Rechnerarithmetik und Gleitpunktzahlen eine eindeutige Schreibweise 16 verschiedene Zeichen, man verwendet dabei die Ziffern 0, 1,...,9 sowie die Buchstaben A,...,F,wobeiA 10, B 11,...,F 15. Die Werte n, m, M, B sind maschinenabhängig (wobei unter Maschine der Rechner zusammen mit dem benutzten Compiler zu verstehen ist). Als Beispiel erwähnen wir die IEC/IEEE-Gleitpunktzahlen. Dabei unterscheidet man zwei Grundformate (B = 2): single format Gesamtlänge der Zahl ist 32 Bit. Dieses teilt sich auf in 1 Bit für das Vorzeichen, 23 Bit für die Mantisse und 8 Bit für den Exponenten. double format Gesamtlänge der Zahl ist 64 Bit. Dieses teilt sich auf in 1 Bit für das Vorzeichen, 52 Bit für die Mantisse und 11 Bit für den Exponenten. Das Vorzeichenbit v {0, 1} erzeugt das Vorzeichen der Zahl über den Faktor ( 1) v,d.h.v = 0 ergibt positives Vorzeichen, v = 1 negatives. Eine umfassende Abhandlung dieser und anderer Formate findet man in [26]. Aufgaben 1.1 Welchen Wert haben die folgenden Gleitpunktzahlen im Dezimalsystem: x 1 = , x 2 = ? 1.2 Welchen Wert haben die folgenden Gleitpunktzahlen im Dualsystem: x 1 = , x 2 = ? 1.3 Wie viele Stellen n benötigt man, um die folgenden Zahlen als n-stellige Gleitpunktzahlen im Dezimalsystem darzustellen? x 1 = , x 2 = , x 3 = 4 5, x 4 = 1 3 Bei der letzten Aufgabe haben Sie festgestellt, dass nicht jede reelle Zahl als Gleitpunktzahl dargestellt werden kann. Dies trifft insbesondere auf Zahlen zu, die unendlich viele Stellen benötigen würden, beispielsweise kann 1 7 nicht als Gleitpunktzahl im Dezimalsystem dargestellt werden. Ebenso kann z. B nicht als 3-stellige Gleitpunktzahl im Dezimalsystem geschrieben werden. Die Lage ist sogar noch ernster, denn es gilt: Die Menge der auf einem Rechner darstellbaren Zahlen, die sog. Maschinenzahlen, ist endlich.

7 1.1 Grundbegriffe und Gleitpunktarithmetik 11 Aufgaben 1.4 Bestimmen Sie alle dualen 3-stelligen Gleitpunktzahlen mit einstelligem Exponenten sowie ihren dezimalen Wert. Hinweis: Sie sollten 9 finden. 1.5 Wie viele verschiedene Maschinenzahlen gibt es auf einem Rechner, der 20-stellige Gleitpunktzahlen mit 4-stelligen Exponenten sowie dazugehörige Vorzeichen im Dualsystem verwendet? Wie lautet die kleinste positive und die größte Maschinenzahl? Auch sind die Maschinenzahlen ungleichmäßig verteilt. Bild 1.1 zeigt alle binären normalisierten Gleitpunktzahlen mit 4-stelliger Mantisse und 2- stelligem Exponenten Bild 1.1 Alle binären Maschinenzahlen mit n = 4 und 0 E 3 Unter den endlich vielen Maschinenzahlen gibt es zwangsläufig eine größte und eine kleinste: Die größte Maschinenzahl ist x max =(1 B n ) B M, die kleinste positive ist x min = B m 1. x min basiert auf der normalisierten Gleitpunktdarstellung. Sieht man von der Normalisierung z 1 0 in (1.1) ab, führt dies auf die subnormalen Zahlen, die bis hinunter zu B m n reichen (IEEE Standard 754). Führt eine Rechnung in den Zahlenbereich der subnormalen Zahlen, so bezeichnet man dies als graduellen Unterlauf (gradual underflow). Ein (echter) Unterlauf (underflow) tritt erst unterhalb der subnormalen Zahlen auf. In diesem Fall wird meist mit Null weitergerechnet. Taucht im Verlauf einer Rechnung eine Zahl auf, die betragsmäßig größer als x max ist, so bezeichnet man dies als Überlauf (overflow). Mit IEEE 754 konforme Systeme setzen diese Zahl dann auf eine spezielle Bitsequenz inf und geben diese am Ende aus. 1 1 Achtung: IEEE 754 regelt nicht die Rechnung mit integer-größen. Ein overflow in einer integer-variablen kann zu falschen Ergebnissen ohne jede Fehlermeldung führen. Hier ist also die besondere Aufmerksamkeit des Benutzers gefordert.

8 12 1 Rechnerarithmetik und Gleitpunktzahlen Jede reelle Zahl, mit der im Rechner gerechnet werden soll und die selbst keine Maschinenzahl ist, muss also durch eine Maschinenzahl ersetzt werden. Idealerweise wählt man diese Maschinenzahl so, dass sie möglichst nahe an der reellen Zahl liegt (Rundung). Definition Hat man eine Näherung x zu einem exakten Wert x, so bezeichnet x x den absoluten Fehler dieser Näherung. Beispiel 1.1 Gesucht ist eine Näherung x zu x = 2= mit einem absoluten Fehler von höchstens Lösung: x 1 =1.414 erfüllt das Verlangte, denn x x = Andere Möglichkeiten sind x 2 = x 1 stimmt auf 4 Ziffern mit dem exakten Wert überein, x 2 nur auf 3. Eine größere Anzahl an übereinstimmenden Ziffern bedeutet aber keinesfalls immer einen kleineren absoluten Fehler, wie das Beispiel x = 3= und x 1 =2.0, x 2 =1.2 zeigt: x 1 hat keine gültige Ziffer, x 2 hat eine gültige Ziffer, trotzdem besitzt x 1 den kleineren absoluten Fehler. Beim Runden einer Zahl x wird eine Näherung rd(x) unter den Maschinenzahlen gesucht, die einen minimalen absoluten Fehler x rd(x) aufweist. Dabei entsteht ein (unvermeidbarer) Fehler, der sog. Rundungsfehler. Eine n-stellige dezimale Gleitpunktzahl x = ±(0.z 1 z 2...z n ) B 10 E =rd(x), die durch Rundung eines exakten Wertes x entstand, hat also einen absoluten Fehler von höchstens x rd(x) 0. } {{} 5 10 E = n+e. n Nullen Rechnet man mit diesen Maschinenzahlen weiter, so werden die entstandenen Rundungsfehler weiter durch die Rechnung getragen. Unter n-stelliger Gleitpunktarithmetik versteht man, dass jede einzelne Operation (wie z. B. +,,,...)aufn+1 Stellen genau gerechnet wird und das Ergebnis dann auf n Stellen gerundet wird. Erst dann wird die nächste Operation ausgeführt. Jedes Zwischenergebnis wird also auf n Stellen gerundet, nicht erst das Endergebnis einer Kette von Rechenoperationen. Von nun an werden wir uns, wenn nichts anderes gesagt ist, auf dezimale Gleitpunktarithmetik beziehen.

9 1.1 Grundbegriffe und Gleitpunktarithmetik 13 Aufgabe 1.6 Bekanntlich ist lim n (1+ 1 n )n = e. Versuchen Sie damit auf Ihrem Rechner näherungsweise e zu berechnen, indem Sie immer größere Werte für n einsetzen. Erklären Sie Ihre Beobachtung. Beispiel 1.2 Es soll in 3-stelliger Gleitpunktarithmetik (im Dezimalsystem) gerechnet werden und zwar zum einen mit Rechnung von links nach rechts und zum anderen von rechts nach links. Lösung: Alle 3 Summanden sind exakt darstellbar. Als Ergebnis erhält man, bei Rechnung von links nach rechts: = 2594 runden 2590, = 2594 runden Die beiden kleinen Summanden gehen damit gar nicht sichtbar in das Ergebnis ein. Rechnet man jedoch in anderer Reihenfolge 4+4=8 runden 8, = 2598 runden 2600 so erhält man einen genaueren Wert, sogar den in 3-stelliger Gleitpunktarithmetik besten Wert (2598 wird bestmöglich durch die Maschinenzahl 2600 dargestellt). Es kommt also bei n-stelliger Gleitpunktarithmetik auf die Reihenfolge der Operationen an, anders als beim exakten Rechnen. Man sieht, dass in der zweiten Rechnung die kleinen Summanden sich erst zu einem größeren Summanden finden, der sich dann auch in der Gesamtsumme auswirkt. Beginnt man die Rechnung mit dem größten Summanden, so werden die kleinen nacheinander vom größten verschluckt und spielen gar keine Rolle mehr. Als Faustregel kann man daher festhalten: Beim Addieren sollte man die Summanden in der Reihenfolge aufsteigender Beträge addieren. Dadurch erreicht man bei gleicher Rechenzeit! ein wesentlich genaueres Ergebnis. Ein eindrucksvolles Beispiel ist das folgende.

10 Sachwortverzeichnis Ableitung, partielle 111 Abschätzung, a-posteriori- 31, 61, a-priori- 31, 61 Abschneidefehler 106 Anfangswertproblem 138 Ansatzfunktion 92 Ausgleichsfunktion 92 Ausgleichsgerade 92 Ausgleichsproblem 91, allgemeines 99, lineares 94 Auslöschung 16, 107 Bisektion 25 Cholesky-Zerlegung 49 Determinante 44 Dezimalzahl 9 diagonaldominant 62 Differenzen, dividierte 74 Differenzenformel 105 Differenzialgleichung, gewöhnl. 138 direkte Verfahren 39 Diskretisierung 140 Diskretisierungsfehler 106 Dreieckszerlegung 47 Dualzahl 9 Einschrittverfahren 147 Einzelschrittverfahren 60 Euler-Verfahren 140, modifiziertes 148 Extrapolation 112 Extrapolation bei Anfangswertproblemen 153 Extrapolation bei Quadratur 132 Fehler, absoluter 12, globaler 144, lokaler 144, relativer 15 Fehler bei Rundung 12 Fehlerfortpflanzung 18 Fehlerfunktional 91 Fehlerordnung 106, 124 Fehlerquadrate, kleinste 92 Fehlerrechnung 17 Fixpunkt 27, abstoßender 30, anziehender 30 Fixpunktiteration 27, 28 Fixpunktsatz, Banachscher 31 Flop (floating point operation) 14 Gauß-Algorithmus 40, 42 Gauß-Formeln 129 Gauß-Newton-Verfahren 101 Gauß-Seidel-Verfahren 60 Gesamtschrittverfahren 58 Gitterpunkte 140 Gleitpunktarithmetik 12 Gleitpunktoperation 14 Gleitpunktzahl 9 IEEE-Format 10, 11

11 176 Sachwortverzeichnis Implizite Verfahren 153 Interpolationsfehler 78 Interpolationspolynom 72, Lagrangesches 73, Newtonsches 75 Interpolationsproblem 71 Interpolierende 71 Jacobi-Matrix 66 Jacobi-Verfahren 58 Konditionszahl 21, 54 Konsistenzordnung 144 Konvergenzgeschwindigkeit 36 Konvergenzordnung 36, 144 Laplace-Operator 111 Linearisierung 32, 141 Lipschitzbedingung 145 LR-Zerlegung 48 Mantisse 9 Maschinengenauigkeit 15 Maschinenzahl 10 Mehrschrittverfahren 154 Mittelpunktsregel 121, 126, 148, summierte 121, 128 Momente 85 Neville-Aitken-Schema 77 Newton-Cotes-Formeln 129 Newton-Verfahren 32, 66, vereinfachtes 35 Newton-Verfahren für Systeme 67, vereinfachtes 69 Norm 52, 53 Normalgleichungen 95 O(h k ) 106 positiv definit 49 Punktoperation 14 Quadratmittelproblem 101 Quadratur, adaptive 136 Quadraturfehler 123 Quadraturformel, interpolat. 123 Quadraturverfahren 119 Rückwärtseinsetzen 40 Rechteckregel 121, summierte 121, 128 rechts-obere Dreiecksmatrix 40 Regressionsgerade 92 Restglied, Taylorsches 105 Richtungsfeld 139 Romberg-Extrapolation 133 Rundungsfehler 12 Runge-Kutta-Verfahren, allgemeines 151, klassisches 150 Satz von Taylor 105 Schrittweite 140 Schrittweitensteuerung 146 Sekantenverfahren 36 Simpson-Regel 123, 126, summierte 128 Spaltenpivotisierung 45 Spaltensummenkriterium 62 Spektralradius 53 Spline, interpolierender 84, kubischer 83, 84, natürlicher 84, periodischer 84 Splinefunktion 83 Splineinterpolation 82 Stützstellen 71 Trapezregel 121, 126, summierte 121, 128 Verfahren von Heun 149 Zeilensummenkriterium 62 Zwischenwertsatz 25