Robert Plato. Numerische Mathematik kompakt

Transkript

1 Robert Plato Numerische Mathematik kompakt

2 Aus dem Programm Numerische Mathematik Elementare Numerische Mathematik von B. Schupp ar Numerische Mathematik für Anfänger von G. Opfer Numerische Mathematik 1 und 2 vonj. Wemer Numerlk von H. Späth Numerische Mathematik für Ingenieure und Naturwissenschaftler von F. Weller Übungsbuch zur Numerischen Mathematik von J. Herzberger Numerlk linearer Gleichungssysteme von A. Meister Numerische Methoden in der Technik vonr. Mohr vieweg

3 Robert Plato Numerische Mathematik kompakt Grundlagenwissen für Studium und Praxis ~ vleweg

4 Priv.-Doz. Dr. Robert Plato Technische Universität Berlin Fachbereich Mathematik Straße des 17. Juni Berlin Die Deutsche Bibliothek - CIP-Einheitsaufnahme Ein Titeldatensatz für diese Publikation ist bei Der Deutschen Bibliothek erhältlich. Alle Rechte vorbehalten Friedr. Vieweg & Sohn Verlagsgesellschaft mbh, Braunschweig/Wiesbaden, 2000 Der Verlag Vieweg ist ein Unternehmen der Fachverlagsgruppe BertelsmannSpringer. Das Werk einschließlich aller seiner Teile ist urheberrechtlich geschützt. Jede Verwertung außerhalb der engen Grenzen des Urheberrechtsgesetzes ist ohne Zustimmung des Verlags unzulässig und strafbar. Das gilt insbesondere für Vervielfältigungen, Übersetzungen, Mikroverfilmungen und die Einspeicherung und Verarbeitung in elektronischen Systemen. Konzeption und Layout des Umschlags: Ulrike Weigel, Gedruckt auf säurefreiem Papier ISBN ISBN (ebook) DOI /

5 v Vorwort Das vorliegende Lehrbuch ist hervorgegangen aus zwei jeweils vierstündigen Vorlesungen über Numerische Mathematik, die ich seit 1997 wiederholt an der Technischen Universität Berlin gehalten habe. Diese Vorlesungen sind in erster Linie von Studierenden der Wirtschafts- und Technomathematik und zu einem kleineren Teil von Studierenden des Diplomstudiengangs Mathematik sowie der Physik und Informatik besucht worden. In seiner jetzigen Form richtet sich das Lehrbuch an Studierende und Absolventen der Mathematik sowie benachbarter Fächer wie Informatik, Natur- und Ingenieurwissenschaften an Universitäten und Fachhochschulen. In kompakter Form werden zahlreiche grundlegende und für die Anwendungen wichtige Themenkomplexe aus der Numerischen Mathematik behandelt: Interpolation, schnelle Fouriertransformation und Integration, direkte und iterative Lösung linearer Gleichungssysteme, iterative Verfahren für nichtlineare Gleichungssysteme, numerische Lösung von Anfangs- und Randwertproblemen bei gewöhnlichen Differentialgleichungen, Eigenwertaufgaben bei Matrizen, Approximationstheorie und Rechnerarithmetik. Auf die Behandlung der Numerik partieller Differentialgleichungen sowie der nichtlinearen Optimierung wird aufgrund des angestrebten überschaubaren Umfangs verzichtet. Das Bestreben dieses Lehrbuchs ist es, die vorliegenden Themen auf möglichst elementare und übersichtliche Weise zu behandeln. Dies gilt auch für die Herleitung der Approximationseigenschaften der vorgestellten numerischen Methoden, bei der jeweils lediglich Grundkenntnisse der Analysis und der linearen Algebra vorausgesetzt werden. Außerdem sind für viele der diskutierten Verfahren die jeweiligen Vorgehensweisen durch Bilder und Schemata veranschaulicht, was das Erlernen der auftretenden Zusammenhänge erleichtern sollte. Für zahlreiche der behandelten Verfahren werden die praktisch bedeutungsvollen Aufwandsbetrachtungen angestellt und Pseudocodes angegeben, die sich unmittelbar in Computerprogramme umsetzen lassen. Die etwa 120 vorgestellten Übungsaufgaben unterschiedlichen Schwierigkeitsgrads sind fast alle im Übungsbetrieb verwendet worden und daher praxiserprobt. Ich selbst habe die Vorläufer dieses Lehrbuchs ohne weitere Themenauswahl als Vorlage für Vorlesungen über Numerische Mathematik 1 und 2 verwendet. Dabei wurden die ersten sechs Kapitel in Teil 1 und die Kapitel 7 bis einschließlich 13 in Teil 2 der Vorlesung behandelt. Möglich wäre es aber auch, im ersten Teil die Behandlung des sechsten Kapitels über numerische Integration deutlich abzukürzen. Stattdessen könnten dann im ersten Teil beispielsweise noch die Grundlagen über Einschrittverfahren zur numerischen Lösung von Anfangswertproblemen bei gewöhnlichen Differentialgleichungen (Kapitel 7) oder Relaxationsverfahren zur iterativen Lösung linearer Gleichungssysteme (Kapitel 10) vorgestellt werden.

6 vi Zu diesem Buch wird ein Online-Service angeboten, der unter abrutbar ist. Er umfasst Lösungshinweise zu den vorgestellten Übungsaufgaben und MATLAB - Programme zu einigen der in diesem Buch präsentierten Pseudocodes. Außerdem werden über diesen Online-Service im Laufe der Zeit Abschnitte über weitere in diesem Buch nicht behandelte Themen beziehungsweise eine Liste der eventuell anfallenden Korrekturen angeboten. Anregungen, nützliche Hinweise und Verbesserungsvorschläge zu diesem Lehrbuch sind jederzeit willkommen und erreichen mich unter meiner -Adresse plato@math.tu-berlin.de. Mein Dank gilt meinen Kollegen Prof. Dr. R. D. Grigorieff und Dipl. Math. Etienne Emmrich für viele nützliche Anregungen, die in der vorliegenden Fassung weitestgehend berücksichtigt sind. Den Vorlesungsteilnehmern Dipl. Inf. Till Tantau und cand. math. Olivier Pfeiffer sowie einigen weiteren Studierenden sind zahlreiche kleine aber wichtige Verbesserungen zu verdanken. Außerdem danke ich Prof. Dr. Chuck Groetsch, Prof. Dr. Martin Hanke-Bourgeois und Prof. Dr. Hans-Jürgen Reinhardt für die Unterstützung bei der Durchführung dieses Buchprojekts und Frau Ulrike Schrnickler-Hirzebruch vom Verlag Vieweg für die stets angenehme Zusammenarbeit. Berlin, im Mai 2000 Robert Plato

7 vii Inhaltsverzeichnis Vorwort Inhaltsverzeichnis 1 Polynominterpolation 1.1 Allgemeine Vorbetrachtungen und Landausche Symbole Landausche Symbole Existenz und Eindeutigkeit bei der Polynominterpolation Die Lagrangesche Interpolationsformel Eine erste Vorgehensweise zur Berechnung des interpolierenden Polynoms 1.3 Neville-Schema Die Newtonsche Interpolationsformel, dividierte Differenzen 1.5 Der bei der Polynominterpolation auftretende Fehler 1.6 Tschebyscheff-Polynome.... Übungsaufgaben.... v vii Splinefunktionen 2.1 Einführende Bemerkungen 2.2 Interpolierende lineare Splinefunktionen Die Berechnung interpolierender linearer Splinefunktionen. 2.3 Minimaleigenschaften kubischer Splinefunktionen 2.4 Die Berechnung interpolierender kubischer Splinefunktionen Voriiberlegungen Natürliche Randbedingungen Vollständige Randbedingungen Periodische Randbedingungen Existenz und Eindeutigkeit der betrachteten interpolierenden kubischen Splines Fehlerabschätzungen für interpolierende kubische Splines Übungsaufgaben Diskrete Fouriertransformation und Anwendungen 3.1 Diskrete Fouriertransformation Anwendungen der diskreten Fouriertransformation 3.2.] Fourierreihen Trigonometrische Interpolation, Teil Trigonometrische Interpolation, Teil Schnelle Fouriertransformation (FFT) Einführende Bemerkungen Der grundlegende Zusammenhang

8 viii Bit-Umkehr.... Der FFf - Algorithmus in der Situation N = 2 q Aufwandsbetrachtungen für den FFr - Algorithmus Pseudocode für den FFf -Algorithmus in der Situation N = 2 q Weitere Bemerkungen und Literaturlrinweise Übungsaufgaben Lösung linearer Gleichungssysteme Dreieckssysteme Obere gestaffelte Gleichungssysteme Untere gestaffelte Gleichungssysteme Der Gauß-Algorithmus Einführende Bemerkungen Gauß-Algorithmus mit Pivotsuche Die Faktorisierung PA = LR Permutationsmatrix Frobeniusmatrizen Die Faktorisierung PA = LR LR-Faktorisierung Cholesky-Faktorisierung positiv definiter Matrizen Die Berechnung einer Faktorisierung A = LL T für positiv definite Matrizen A E IR NxN Bandmatrizen Normen und Fehlerabschätzungen Normen Spezielle Matrixnormen Die Konditionszahl einer Matrix Störungsresultate für Matrizen Fehlerabschätzungen für gestörte Gleichungssysteme Orthogonalisierungsverfahren Elementare Eigenschaften orthogonaler Matrizen Die Faktorisierung A = QR mittels Gram-Schmidt-Orthogonalisierung Die Faktorisierung A = QS mittels Householder-Transformationen Anwendung 1: Stabile Lösung schlecht konditionierter Gleichungssysteme Ax = b Anwendung 2: Lineare Ausgleichsrechnung Übungsaufgaben NichtIineare Gleichungssysteme 5.1 Vorbemerkungen Der eindimensionale Fall (N = 1) Ein allgemeines Resultat Das Newton-Verfahren für N = Der Banachsehe Fixpunktsatz. 5.4 Das Newton-Verfahren

9 ix Einige Begriffe aus der Analysis Das Newton-Verfahren und seine Konvergenz Nullstellenbestimmung bei Polynomen Übungsaufgaben Numerische Integration von Funktionen 6.1 Interpolatorische Quadraturformein. 6.2 Spezielle interpolatorische Quadraturformein Abgeschlossene Newton-Cotes-Formeln Andere interpolatorische Quadraturformein 6.3 Der Fehler bei der interpolatorischen Quadratur Genauigkeit abgeschlossener Newton-Cotes-Formeln für gerade Zahlen n Der Beweis von Lemma Summierte abgeschlossene Newton-Cotes-Formeln Summierte Rechteckregeln Summierte Trapezregel Summierte Simpson-Regel Asymptotik der summierten Trapezregel Die Asymptotik. 6.7 Extrapolationsverfahren Grundidee Neville-Schema Verfahrensfehler bei der Extrapolation. 6.8 Gaußsche Quadraturformein Einleitende Bemerkungen Orthogonale Polynome Optimale Wahl der Stützstellen und Gewichte Nullstellen von orthogonalen Polynomen als Eigenwerte 6.9 Nachtrag: Beweis der Asymptotik für die summierte Trapezregel Bemoulli-Polynome Der Beweis von Theorem 6.21 Übungsaufgaben Einschrittverfahren für Anfangswertprobleme 7.1 Ein Existenz- und Eindeutigkeitssatz Theorie der Einschrittverfahren Ein elementares Resultat zur Fehlerakkumulation 7.3 Spezielle Einschrittverfahren Einschrittverfahren der Konsistenzordnung p = l Einschrittverfahren der Konsistenzordnung p = Einschrittverfahren der Konsistenzordnung p = Rundungsfehleranalyse Asymptotische Entwicklung der Approximationen

10 x Einführende Bemerkungen Herleitung der asymptotischen Entwicklung des globalen Verfahrensfehlers, 1. Teil Herleitung der asymptotischen Entwicklung des globalen Verfahrensfehlers, 2. Teil Asymptotische Entwicklungen des lokalen Verfahrensfehlers. 7.6 Extrapolationsmethoden für Einschrittverfahren 7.7 Schrittweitensteuerung Verfahrensvorschrift Problemstellung Vorgehensweise bei gegebener Testschrittweite h(k) Bestimmung einer neuen Testschrittweite h(k+l) im Fall t5(k) > g Pseudocode zur Schrittweitensteuerung Übungsaufgaben Mehrschrittverfahren für Anfangswertprobleme 8.1 Grundlegende Begriffe Mehrschrittverfahren Konvergenz- und Konsistenzordnung Nullstabilität, Lipschitzbedingung Übersicht Der globale Verfahrensfehler bei Mehrschrittverfahren Das Konvergenztheorem Hilfsresultat 1: Das Lemma von Gronwall Beschränktheit der Matrixfolge A, A2, A3, Die Konsistenzordnung linearer Mehrschrittverfahren. 8.3 Spezielle lineare Mehrschrittverfahren - Vorbereitungen 8.4 Adams-Verfahren Der Ansatz Adams-Bashfort-Verfahren Adams-Moulton-Verfahren. 8.5 Nyström- und Milne-Simpson-Verfahren Der Ansatz Nyström-Verfahren Milne-Simpson-Verfahren 8.6 BDF-Verfahren Der Ansatz Tabellarische Übersicht über spezielle Mehrschrittverfahren 8.7 Prädiktor-Korrektor-Verfahren Linearer Prädiktor/Linearer Korrektor. 8.8 Lineare homogene Differenzengleichungen Die Testgleichung Existenz und Eindeutigkeit bei linearen homogenen Differenzengleichungen Die komplexwertige allgemeine Lösung der Differenzengleichung Lu = 0 Die reellwertige allgemeine Lösung der Differenzengleichung Lu = 0. Eine spezielle Differenzengleichung

11 xi 8.9 Steife Differentialgleichungen Einführende Bemerkungen Existenz und Eindeutigkeit der Lösung bei Anfangswertproblemen für Differentialgleichungen mit oberer Lipschitzeigenschaft Das implizite Euler-Verfahren für steife Differentialgleichungen Steife Differentialgleichungen in den Anwendungen Übungsaufgaben Randwertprobleme 9.1 Problemstellung, Existenz, Eindeutigkeit Problemstellung Existenz und Eindeutigkeit der Lösung 9.2 Differenzenverfahren Numerische Differentiation Der Ansatz für Differenzenverfahren Das Konvergenzresultat für Differenzenverfahren Vorbereitungen für den Beweis von Teil (a) des Theorems Der Nachweis der Aussage in Teil (a) von Theorem Galerkin-Verfahren Einführende Bemerkungen Eigenschaften des Differentialoperators (.cu)(x) = -u"(x) + r(x)u(x) Galerkin-Verfahren- ein allgemeiner Ansatz. Systemmatrix Finite-Elemente-Methode Anwendungen... Das Energiefunktional Einfachschießverfahren Numerische Realisierung des Einfachschießverfahrens mit dem Newton-Verfahren Numerische Realisierung des Einfachschießverfahrens mit einer Fixpunktiteration Übungsaufgaben Gesamtschritt-, Einzelschritt- und Relaxationsverfahren Iterationsverfahren zur Lösung linearer Gleichungssysteme Hintergrund zum Einsatz iterativer Verfahren bei linearen Gleichungssystemen Lineare Fixpunktiteration Ein Modellbeispiel Einige spezielle Klassen von Matrizen Irreduzible Matrizen Das Gesamtschrittverfahren Das Einzelschrittverfahren Der Betrag einer Matrix Konvergenzergebnisse für das Einzelschrittverfahren Das Relaxationsverfahren und erste Konvergenzresultate.,. 235

12 xii M-Matrizen Das Relaxationsverfahren für konsistent geordnete Matrizen Übungsaufgaben CG- und GMRES-Verfahren Vorbetrachtungen Ausblick Ansatz des orthogonalen Residuums für positiv definite Matrizen Existenz, Eindeutigkeit und Minimaleigenschaft Der Ansatz des orthogonalen Residuums (11.2) für gegebene A - konjugierte Basen Das CG-Verfahren für positiv definite Matrizen Einleitende Bemerkungen Die Berechnung A - konjugierter Suchrlchtungen in Jen (A, b) Der Algorithmus zum CG-Verfahren Die Konvergenzgeschwindigkeit des CG-Verfahrens Das CG-Verfahren für die Normalgleichungen Amoldi-Prozess Vorbetrachtungen zum GMRES-Verfahren Amoldi-Prozess GMRES auf der Basis des Amoldi - Prozesses Einführende Bemerkungen Allgemeine Vorgehensweise zur Lösung des Minimierungsproblems (11.33) Detaillierte Beschreibung der Vorgehensweise zur Lösung des Minimierungsproblems (11.33) MATLAB - Programm für GMRES Konvergenzgeschwindigkeit des GMRES-Verfahrens Anhang 1: Krylovräume IOAnhang 2: Interaktive Programmsysteme mit Multifunktionalität Übungsaufgaben Eigenwertprobleme Einleitung Störungstheorie für Eigenwertprobleme Diagonalisierbare Matrizen Der allgemeine Fall Lokalisierung von Eigenwerten Variationssätze für symmetrische Eigenwertprobleme Störungsresultate für Eigenwerte symmetrischer Matrizen Anhang: Faktorisierungen von Matrizen Symmetrische Matrizen Diagonalisierbare Matrizen Schur-Faktorisierung

13 xiii Übungsaufgaben Numerische Verfahren für Eigenwertprobleme Einführende Bemerkungen Ähnlichkeitstransformationen Vektoriteration Transformation auf Hessenbergform Householder-Transformationen zur Gewinnung von Hessenbergmatrizen Der symmetrische Fall Newton-Verfahren zur Berechnung von Eigenwerten Der nichtsymmetrische Fall. Die Methode von Hyman Das Newton-Verfahren zur Berechnung der Eigenwerte tridiagonaler Matrizen Das Jacobi-Verfahren für symmetrische Matrizen Approximation der Eigenwerte durch Diagonaleinträge Givensrotationen zur Reduktion der Nichtdiagonaleinträge Zwei spezielle Jacobi-Verfahren Das QR-Verfahren Eindeutigkeit und Stetigkeit der QR-Faktorisierung einer Matrix Definition des QR-Verfahrens Konvergenz des QR-Verfahrens für betragsmäßig einfache Eigenwerte Praktische Durchführung des QR-Verfahrens für Hessenbergmatrizen Das LR-Verfahren Die Vektoriteration Definition und Eigenschaften der Vektoriteration Spezielle Vektoriterationen Übungsaufgaben Restglieddarstellung nach Peano Einführende Bemerkungen Peano-Keme Anwendungen Interpolation Numerische Integration Übungsaufgaben Approximationstheorie Einführende Bemerkungen Existenz eines Proximums 15.3 Eindeutigkeit eines Proximums Einige Notationen; streng konvexe Mengen Strikt normierte Räume Approximationstheorie in Räumen mit Skalarprodukt Einige Grundlagen

14 xiv Proxima in linearen Unterräumen 15.5 IIn_1-Proxiina bzgl. Maximumnonnen Anwendungen des Altemantensatzes Ein Beispiel Eine erste Anwendung des Altemantensatzes Eine zweite Anwendung des Altemantensatzes 15.7 Haarsche Räume, Tschebyschev-Systeme Altemantensatz für Haarsche Räume Eindeutigkeit des Proximums Untere Schranken für den Minimalabstand Übungsaufgaben Rechnerarithmetik ZahlendarsteIlungen Allgemeine Gleitpunkt-Zahlensysteme Grundlegende Begriffe Struktur des nonnalisierten Gleitpunkt-Zahlensystems lf Struktur des denonnalisierten Gleitpunkt-Zahlensystems if Gleitpunkt-Zahlensysteme in der Praxis Die Gleitpunktzahlen des Standards IEEE Weitere Gleitpunkt-Zahlensysteme in der Praxis 16.4 Runden, Abschneiden Runden Abschneiden Arithmetik in Gleitpunkt-Zahlensystemen Arithmetische Grundoperationen in Gleitpunkt-Zahlensystemen Fehlerakkumulation bei der Hintereinanderausführung von Multiplikationen und Divisionen in Gleitpunkt-Zahlensystemen Fehlerverstärkung bei der Hintereinanderausführung von Additionen in einem gegebenen Gleitpunkt-Zahlensystem lf Literaturverzeichnis 352 Index 356