Fixpunkt-Iterationen 2. Vorlesung 170 004 Numerische Methoden I Clemens Brand und Erika Hausenblas Montanuniversität Leoben 27. Februar 2014
Gliederung Wiederholung: Gleichungstypen, Lösungsverfahren Grundprinzip Iteration Verschiedene Verfahren Direkte Fixpunkt-Iteration Newton-Verfahren Sekantenmethode Reihenentwicklung Fixpunkt-Iteration, Theorie Konvergenzordnung Konvergenzbedingung Graphische Veranschaulichung Prüfungsfragen Nichtlineare Gleichungssysteme Grundbegriffe
Wiederholung, Fragenliste Nichtlineare Gleichungen in einer Variablen Was ist... Wie geht... Theorie Aufgaben eine lineare (nichtlineare, polynomiale, algebraische, transzendente) Gleichung? eine Nullstelle?... mehrfache Nullstelle? ein Fixpunkt? Intervallhalbierung?... Regula Falsi? Sekantenmethode?... Newton-Verfahren? Fixpunkt-Iteration? Wann, warum und wie schnell findet Intervallhalbierung garantiert eine Nullstelle? Haben Sie die Aufgaben auf den letzten zwei Folien der vorigen Woche durchgerechnet?
Fixpunkt-Iteration Das Grundprinzip vieler iterativer Verfahren Gegeben: eine Funktion φ(x) und ein Startwert x (0). Ergebnis: falls konvergent, liefert die Fixpunkt-Iteration einen Fixpunkt ξ von φ. Iterationsvorschrift: für k = 0,1,2... x (k+1) = φ(x (k) ) Viele numerische Verfahren lassen sich als Spezialfälle einer Fixpunkt-Iteration betrachten. Aussagen über die Konvergenz von Fixpunkt-Iterationen sind deswegen von allgemeiner Bedeutung.
Ein Beispiel x ǫ sin x = m Die Kepler-Gleichung setzt verschiedene Parameter einer elliptischen Umlaufbahn in Beziehung Angenommen, ǫ 1 und m 0 sind gegeben; x ist gesucht. Formulieren Sie selber Lösungswege graphische Darstellung: wo liegen überhaupt Lösungen? Durch Fixpunkt-Iteration Als Nullstellen-Aufgabe (hier lassen sich das Newtonsche Verfahren oder die Sekanten-Methode gut anwenden)
Fixpunkt-Verfahren für Kepler-Gleichung findet Fixpunkt von φ(x) = m+ǫ sin x Konkret für m = 2,ǫ = 0,1 und Startwert x (0) = 0 ergibt sich neue Näherung x (1) = φ(x (0) ) = 2,00000000000000000000 und weiter... x (2) = φ(x (1) ) = 2,09092974268256816954 x (3) = φ(x (2) ) = 2,08677528802496862712 x (4) = φ(x (3) ) = 2,08698101328243676955 x (5) = φ(x (4) ) = 2,08697 086123342123181 x (6) = φ(x (5) ) = 2,08697136229908187912 x (7) = φ(x (6) ) = 2,08697133756863967423 Die Anzahl richtiger Stelle nimmt konstant zu
Newton-Verfahren für Kepler-Gleichung findet Nullstelle von f(x) = x ǫ sin x m f(x) = x ǫ sinx m f (x) = 1 ǫ cos x x (n+1) = x (n) x(n) ǫ sinx (n) m 1 ǫ cos x (n) Funktion Ableitung Iterationsvorschrift Konkret für m = 2,ǫ = 0,1 und Startwert x (0) = 0 ergibt sich f(x (0) ) = 2 f (x (0) ) = 0,9 neue Näherung x (1) = 2,22222222222222222222 und weiter... x (2) = 2,08767960601786631513 x (3) = 2,08697135951326954514 x (4) = 2,08697133873181875247 x (5) = 2,08697133873181873458 Die Anzahl richtiger Stellen nimmt immer rascher zu
Newton-Verfahren in Fixpunkt-Form Auch das Newton-Verfahren ist ein Fixpunkt-Verfahren! Fixpunkt-Gleichung x = x f(x) f (x) x = φ(x) Bitte verwechseln Sie nicht Sie suchen die Nullstelle einer Funktion f(x). Das Newton-Verfahren sucht einen Fixpunkt der Funktion φ(x) = x f(x)/f (x)
Sekantenmethode für Kepler-Gleichung berechnet aus zwei alten Werten den nächsten Wähle Startwerte x (0) = 0; x (1) = 2 Nächster Wert x (2) = x (1) f(x (1) x (1) x (0) ) f(x (1) ) f(x (0) ) neue Näherung x (2) = 2,09526076092174827768 und weiter... x (3) = 2,08694093461895785429 x (4) = 2,08697132830744126503 x (5) = 2,08697133873183186894 x (6) = 2,08697133873181873458 Die Anzahl richtiger Stellen nimmt immer rascher zu
Sekantenmethode Sekantenmethode ist zweidimensionales Fixpunkt-Verfahren Die Sekantenmethode berechnet aus zwei Näherungen x (0),x (1) eine verbesserte Näherung, rechnet dann mit zwei neuen Näherungen weiter. Fasse die beiden Näherungen als Komponenten eines Vektors auf. Die Schreibweise [ ] [ ] x1 x 2 x =, Φ(x) = x x 2 f(x 2 ) 1 x 2 x 2 f(x 1 ) f(x 2 ) formuliert die Sekantenmethode als zweidimensionale Fixpunkt-Iteration x (k+1) = Φ(x (k) ) für k = 0,1,2...
Reihenentwicklung Nur damit Sie sehen: nicht alle Näherungsverfahren sind vom Typ der Fixpunkt-Iteration Reihenentwicklungen sind ein anderer Typ von Näherungsverfahren (die wir hier nicht weiter behandeln). Für die Kepler-Gleichung gilt (unter Vernachlässigung vierter und höherer Potenzen von ǫ): ( ) x = m+ ǫ ǫ3 ǫ22 3ǫ3 sin(m)+ sin(2m)+ 8 8 sin(3m)+... Je kleiner ǫ, desto genauer. Wenn nicht mehr Reihenglieder angegeben sind, lässt sich die Genauigkeit aber nicht weiter steigern.
Konvergenzordnung gibt an, wie rasch die Genauigkeit zunimmt Neue Fehlerschranke mindestens um Faktor C kleiner als... alte Fehlerschranke: lineare Konvergenz (wenn C < 1) das Quadrat des alten Fehlers: quadratische Konvergenz; typisch für Newton-Verfahren. allgemein: die p-te Potenz des alten Fehlers: Konvergenz p-ter Ordnung. Bei Sekanten-Verfahren ist p 1.61. Faustregeln Lineare Konvergenz braucht eine fixe Anzahl von Schritten pro gültiger Stelle. Ein Newton-Schritt verdoppelt die Zahl der gültigen Stellen. Ein Sekanten-Schritt erhöht die gültigen Stellenanzahl um etwa 60%.
Konvergenzordnung Definition Sei ξ Fixpunkt von φ(x), und für alle Startwerte aus einem Intervall um ξ und die zugehörige Folge {x (k) } aus der Vorschrift x (k+1) = φ(x (k) ) verhalten sich Fehlerschranken x (k) ξ ǫ (k) gemäß und C < 1, falls p = 1. ǫ (k+1) C (ǫ (k)) p Das Iterationsverfahren heißt dann ein Verfahren von (mindestens) p-ter Ordnung
Konvergenz des Fixpunktverfahrens Das Fixpunktverfahren konvergiert lokal, falls φ (ξ) < 1. Ist φ(x) in einer Umgebung des Fixpunktes ξ stetig differenzierbar und φ (ξ) < 1, so konvergiert die Fixpunkt-Iteration x (k+1) = φ(x (k) ) mindestens linear mit C φ (ξ) gegen ξ für alle x (0) in der Nähe des Fixpunktes. Der Fehler nimmt um den Faktor C pro Iteration ab
Interpretation der Bedingung φ (ξ) < 1. Salopp formuliert: Fixpunkt-Iteration konvergiert, wenn φ(x) nicht wirklich stark von x abhängt. Ableitung φ misst, wie stark sich φ(x) ändert, wenn sich x ändert. Der Konvergenzsatz quantifiziert, wie stark φ von x abhängen darf, damit Iteration konvergiert.
Andere Form der Konvergenzbedingung Unterschiedliche Eingaben bewirken kleinere Unterschiede im Ergebnis φ(x) φ(y) C x y, C < 1 Exakte Formulierung kontrahierende Abbildung und Beweis im Skriptum.
Beispiel: φ(x) = 9 4 x(1 x) Zwei Fixpunkte: ξ 1 = 0,ξ 2 = 5 9. Einsetzen der Fixpunkte in φ (x) = 9 4 (1 2x) liefert φ (0) = 9 4 > 1 φ ( 5 9 ) = 1 4 < 1 Folgerungen: Für Startwerte in der Nähe von ξ 2 = 5 9 konvergiert die Fixpunkt-Iteration. φ(x) ändert sich dort nur etwa 1/4 so stark, wenn sich x-werte ändern. Ein Fehler im Eingabewert bewirkt einen 1/4 so großen Fehler im Resultat. Wiederholtes Einsetzen macht den Fehler immer kleiner
Konvergenzordnung: Lehrsatz Zusammenhang zwischen Ableitungen im Fixpunkt und Konvergenzordnung Ist φ(x) in einer Umgebung von ξ genügend oft differenzierbar und φ (ξ) = 0, φ (ξ) = 0,...,φ (p 1) (ξ) = 0, und φ (p) (ξ) 0, dann liegt für p = 2,3,... ein Verfahren p-ter Ordnung vor. Ein Verfahren erster Ordnung liegt vor, wenn zu p = 1 gilt: φ (ξ) < 1.
Fixpunkt-Iteration, graphisch interpretiert waagrecht zur Mediane, senkrecht zur Funktion Fixpunkt-Iteration 0.8 x = ax(1 x) graphisch veranschaulicht für a = 5/2 Startwert x = 1/100 0.6 0.4 0.2 0 0.2 0.4 0.6 0.8 1
Fixpunkt-Iteration x = ax(1 x) 0.8 für a = 3,15 Startwert x = 1/100 0.6 konvergiert zu Zyklus mit Periode 2 0.4 weitere Beispiele: Skriptum-Titelblatt 0.2 0 0.2 0.4 0.6 0.8 1
Newton-Raphson für x 3 1 = 0 Die Formel des Newton-Verfahrens gilt auch für komplexen Zahlen. Fixpunkt-Gleichung x = 1 3 x 2 + 2 x 3 konvergiert je nach Startwert zu x = 1, 0.5±0.866025i
Ein Prüfungsbeispiel Die Funktion φ(x) = 18 30x + 23x2 4x 3 9 hat Fixpunkte für x = 3/4,2 und 3. Überprüfen Sie mithilfe der Konvergenzsätze für die verschiedenen Fixpunkte: Konvergiert die Fixpunkt-Iteration x (k+1) = φ(x (k) ), und wenn ja, mit welcher Konvergenzordnung?
Prüfungsbeispiel Gegeben sei die Funktion φ(x) = ax(1 x) für ein a 0 1. Zeigen Sie: x = 0 und x = (a 1)/a sind Fixpunkte von φ. 2. In welchem Bereich muss a liegen, damit eine Fixpunkt-Iteration lokal zu x = 0 konvergiert? 3. In welchem Bereich muss a liegen, damit eine Fixpunkt-Iteration lokal nach x = (a 1)/a konvergiert? 4. Für welchen Wert von a folgt lokal quadratische Konvergenz zum Fixpunkt x = (a 1)/a?
Prüfungsbeispiel Gegeben sei die Funktion f(x) = x 3 1. 1. Wie lautet die reelle Nullstelle von f? 2. Zeigen Sie: Das Newton-Verfahren zur Nullstellenbestimmung führt auf die Iterationsvorschrift x = 1 3x 2 + 2x 3 3. Leiten Sie die Konvergenzordnung dieser Iteration her.
Zwei nichtlineare Gleichungen Beispiel für Fixpunkt-Iteration Gegeben sei das nichtlineare Gleichungssystem (log ist natürlich der natürliche Logarithmus) 4x y + xy 1 = 0 x + 6y + log(xy) 2 = 0 Ausgehend von der Näherungslösung x 0 = 0,3 und y 0 = 0,6 bestimme man durch geeignete Fixpunkt-Iteration verbesserten Näherungen x 1 und y 1.
Skalare und vektorwertige Funktionen Reellwertige Funktionen, Skalare: f : R R, y = f(x) Vektorwertige Funktionen, Vektoren: f : R n R n, y = f(x) Komponenten eines Vektors R n : x 1 x 2 x =. oder xt = [x 1,x 2,...,x n ] x n Normalerweise ist mit x ein Spalten-, mit x T ein Zeilenvektor gemeint. Iterationsindizes sind (um sie von Vektorkomponenten zu unterscheiden) in der Regel hochgestellt, in Klammern: x (k),k = 0,1,2...
Mehrere Unbekannte: Aufgabentypen Nichtlineares Gleichungssystem in zwei Unbekannten 4x y + xy = 1 x + 6y = 2 log(xy) Nullstelle einer vektorwertigen Funktion f : R 2 R 2 4x y + xy 1 = 0 x + 6y + log(xy) 2 = 0 f(x,y) = 0 g(x,y) = 0 f(x) = 0 Fixpunkt einer vektorwertigen Funktion Φ : R 2 R 2 x 1 = 1 4 (x 2 x 1 x 2 + 1) x 2 = 1 6 (x 1 log(x 1 x 2 )+2) x = Φ(x) Beispiel im Skriptum, ab S.21, durchgerechnet!
Nullstellen und Fixpunkte Definition Eine Nullstelle einer Funktion f : R n R n ist ein Wert x, für den gilt: f(x) = 0. Definition Ein Fixpunkt einer Abbildung Φ : R n R n ist einen Wert ξ, für den gilt: ξ = Φ(ξ). ( Funktion oder Abbildung meint in diesem Kontext dasselbe.)
Fixpunkt-Iteration Schreibweise für vektorwertige Funktionen Φ : R n R n Gegeben: eine Funktion Φ(x) und ein Startwert x (0). Ergebnis: falls konvergent, liefert die Fixpunkt-Iteration einen Fixpunkt ξ von Φ. Iterationsvorschrift: für k = 0,1,2... x (k+1) = Φ(x (k) )