Näherungsverfahren zur Bestimmung der Nullstelle α sind iterativ, d.h. sie liefern eine Folge {x (k) } k=0 mit α = lim x (k). (3.0.

Transkript

1 3 Nullstellenbestimmung von Funktionen Sei x f(x) eine reellwertige Funktion, definiert auf einem Intervall I = [a, b] R. suchen Nullstellen der Funktion f, d.h. Wir finde α R so, das f(α) = 0. (3.0.1) Näherungsverfahren zur Bestimmung der Nullstelle α sind iterativ, d.h. sie liefern eine Folge {x (k) } k=0 mit α = lim x (k). (3.0.2) k Für den Aufwand der Verfahren ist die Konvergenzordnung entscheidend. Definition Die Folge {x (k) } k=0 in (3.0.2) konvergiert von der Ordnung p 1 gegen α, wenn x (k+1) α c > 0, k 0 0 : k k 0 : x (k) α c. (3.0.3) p Bemerkung Konvergenz der Ordnung p = 1 heisst auch lineare Konvergenz. Falls in (3.0.3) gilt p = 1, muss c < 1 sein für Konvergenz. Dann heisst c < 1 der Konvergenzfaktor der Methode. Bemerkung Definition (3.0.3) gilt auch für Folgen {x (k) } k=0 Rn, wenn der Absolutbetrag durch eine Vektornorm auf R n ersetzt wird. 3.1 Konditionszahl von Nullstellen Betrachte für eine Funktion ϕ(x) : I R das Problem f(x) = ϕ(x) d! = 0 (3.1.1) wobei wir annehmen, dass ϕ C 1 (I). Sei α = α(d) Lösung von (3.1.1), d.h. f ( α(d) ) = ϕ(α) d = 0. Uns interessiert die Sensitivität von α als Funkion des Datums d. Sei dazu ϕ invertierbar, d.h. die Umkehrfunktion ϕ 1 (d) existiert. Dann ist ϕ 1 C 1 und α(d) = ϕ 1 (d). Sei ϕ 0, d.h. die Nullstelle α(d) von (3.1.1) sei einfach. Dann gilt für eine kleine Störung δd des Datums d, dass die Nullstelle α(d) sich wie folgt ändert: α(d + δd) α(d) = ϕ 1 (d + δd) ϕ 1 (d) = (ϕ 1 ) (d) δd + O(δd 2 ) May 3,

2 3.1. KONDITIONSZAHL VON NULLSTELLEN woraus für den relativen Fehler in α(d) folgt α(d + δd) α(d) = (ϕ 1 ) (d) d δd + O(δd) 2 α(d) ϕ 1 (d) d d = ϕ (α) α δd + O(δd 2 ). d (3.1.2) Daraus folgt, dass die Kondition des relativen Fehlers einer einfachen Nullstelle α(d) von f(x) gegeben ist durch d K rel (d) = (3.1.3) α f (α) und die Kondition des absoluten Fehlers von α durch Die Kondition ist dann schlecht, wenn f (α) 0. f(x) K abs (d) = 1 f (α). (3.1.4) f 1 (x) fig5.1.eps mm f 2 (x) α x Fig. 5.1: Funktionen f 1, f 2 (x) mit einfacher Nullstelle α(0) und mit K 1 rel (d) < K2 rel (d). Offensichtlich ist für f (α) = 0 die Kondition K rel, K abs (α) = ; die Nullstelle α ist dann mehrfach. Sei nun α mehrfache Nullstelle von f C m+1 (I) der Vielfachheit m 1. Dann ist f (α) = = f (m 1) (α) = 0, f (m) (α) 0 (3.1.5) und es gilt d + δd = ϕ(α + δα) m = ϕ(α) + k=1 1 k! ϕ(k) (α) (δα) k + O(δα m+1 ) (3.1.5) = ϕ(α) + 1 m! ϕ(m) (α) (δα) m + O(δα m+1 ). (3.1.6) May 3,

3 3.2. BISEKTIONSMETHODE Damit folgt, wegen ϕ (k) (α) = f (k) (α), k = 1,..., m 1, so dass gilt δd = f (m) (α) (δα) m /m! + O(δα m+1 ) K abs (d) m! δd = 1/m 1 f (m) (α) δd. (3.1.7) Beachte, dass für m = 1 (3.1.4) resultiert und dass für m > 1 selbst in dem Fall, dass δd hinreichend klein ist, um m! δd < 1 (3.1.8) f (m) (α) zu erhalten, K abs (d) gross sein kann. Sei α = α + δα eine Näherung der einfachen Nullstelle α von f und sei weiter f( α) f(α) = f( α) 0 = r das Residuum von α in f. Dann gilt, bis auf Terme höherer Ordnung α α α = r f (α) α. (3.1.9) Hat α Vielfachheit m > 1, erhalten wir α α α 3.2 Bisektionsmethode ( m! ) 1 m = r 1 f (m) (α) α m m. (3.1.10) Proposition Sei f C 0 (I) mit f(a) f(b) < 0. Dann existiert α (a, b) mit f(α) = 0. Sei I 0 = I = [a, b]. Die Bisektion erzeugt eine Folge {I k } k=0 von Intervallen I k = [a (k), b (k) ] I k 1 mit I k = (b a)/2 k 0, die eine Nullstelle α von f( ) enthalten wie folgt: Algorithmus k := 0, a (0) := a, b (0) := b while (k < itmax a (k) b (k) > tol) do c (k) = (a (k) + b (k) )/2, f c = f(c (k) ) if f(a (k) ) f c < 0, a (k+1) = a (k), b (k+1) = c (k) else k := k + 1 end a (k+1) = c (k), b (k+1) = b (k) Bemerkung Der Abstand zwischen den Intervallmitten c (k) und der Nullstelle α nimmt bei der Bisektion nicht notwendig monoton ab. Für den Fehler e (k) = c (k) α gilt im Allgemeinen nicht e (k+1) M k e (k) mit M k < 1. May 3,

4 3.3 Sekanten- und Newtonverfahren 3.3. SEKANTEN- UND NEWTONVERFAHREN Um Methoden mit superlinearer Konvergenz zu erhalten, benutzen wir Funktionswerte und Ableitungen von f. Sei dazu f(x) C 1 (I) und f(α) = 0 für α (a, b). Dann gilt nach Taylor f(α) = 0 = f(x) + (α x) f (ξ) (3.3.1) für ein ξ (α, x). Damit baut man folgende Methodenklasse: sei Dann gilt wegen (3.3.1) x (k) α gegeben und q k f (x (k) ). 0 f(x (k) ) + (α x (k) ) q k. (3.3.2) Auflösen nach α ergibt α x (k) q 1 k f(x (k) ). (3.3.3) Damit erhalten wir folgende Iteration: oder, äquivalent, wo δx (k) Lösung der Gleichung x (k+1) := x (k) q 1 k f(x (k) ) (3.3.4) x (k+1) := x (k) + δx (k), (3.3.5) q k δx (k) = f(x (k) ) (3.3.6) ist. Je nach Wahl von q k resultieren verschiedene Verfahren Newton Verfahren Sei f C 1 (I), f (α) 0. Wir wählen in (3.3.4) q k = f (x (k) ). (3.3.7) Dann ist (3.3.4) Geometrisch in Bild 5.2: x (k+1) = x (k) f(x (k) )/f (x (k) ). (3.3.8) f(x) f(x) f( (k) ) fig5.2.eps mm α x (k+1) x (k) x May 3,

5 3.3. SEKANTEN- UND NEWTONVERFAHREN Aufwand pro Schritt: je 1 Auswertung von f und f. Das Newton-Verfahren konvergiert von der Ordnung 2, vorausgesetzt, es gilt f (α) 0. Proposition Sei f C 2 (I) und x (0) α hinreichend klein sowie die Nullstelle α einfach, d.h. f (α) 0. Dann konvergiert x (k) gegen α von der Ordnung p = Sekantenverfahren Um die Berechnung von f (x (k) ) zu umgehen, wählt man in (3.3.4) q k = f(x(k) ) f(x (k 1) ) x (k) x (k 1), k > 0, (3.3.9) basierend auf Werten x (k), x (k 1). Die Ersetzung der Ableitung f durch den Differenzenquotient (3.3.9) hat den Verlust der quadratischen Konvergenz des Newton Verfahrens zur Folge; allerdings ist die Konvergenz immer noch superlinear. Proposition Sei f C 2 (I), und die Startwerte des Sekantenverfahrens liegen hinreichend nahe an der Nullstelle α, d.h. x (0) α + x ( 1) α hinreichend klein, und es sei die Nullstelle α einfach, d.h. f (α) 0. Dann konvergiert das Sekantenverfahren (3.3.4), (3.3.9) gegen α mit der Ordnung (des goldenen Schnitts) p = (1 + 5)/ Beweis: Wir skizzieren die Hauptidee des Beweises, ohne alle technischen Details auszuarbeiten: Es gilt (nachrechnen!), falls x (k) α und x (k 1) α, und falls f(x (k) ) f(x (k 1) ), x (k+1) α = x (k) α f(x (k) x (k) x (k 1) ) f(x (k) ) f(x (k 1) ) = (x (k) α) f[x(k 1), x (k) ] f[x (k), α] f[x (k 1), x (k) ] = (x (k) α)(x (k 1) α) f[x(k 1), x (k), α], f[x (k 1), x (k) ] wobei die Ausdrücke f[a, b] und f[a, b, α] definiert sind als f[a, b] = f(b) f(a) b a f[a, b, α] = f[a, b] f[b, α] a α Da f C 2 (I) gibt es Punkte ξ (k) [min({x (k 1), x (k) }), max({x (k 1), x (k) })] und η (k) [min({x (k 1), x (k), α}), max({x (k 1), x (k), α})] so, dass gilt Daraus folgt, dass f[x (k 1), x (k) ] = f (ξ (k) ) f[x (k 1), x (k), α] = 1 2 f (η (k) ). x (k+1) α = (x (k) α)(x (k 1) α) f (η (k) ) 2 f (ξ (k) ) k 1 May 3,

6 3.4. KONVERGENZTHEORIE Nehmen wir an, dass alle Werte x (k) in einem gewissen Intervall liegen und dass es ein M 0 gibt so, dass in diesem Intervall gilt f (η) 2 f (ξ) M Setzen wir e (k) := M x (k) α, dann bekommen wir die Ungleichungen e (k+1) e (k) e (k 1) k = 1, 2,... Definieren wir nun δ = max(e (0), e (1) ), so folgt direkt e (2) δ 2 e (3) δ 3 e (4) δ 5. e (ν) δ mν, wobei die Zahlen m ν die Fibonacci-Folge sind. Man kann zeigen, dass Für grosse ν gilt also (da r < 1) m ν = 1 (r+ ν+1 5 rν+1 ), mit r ± = 1 ± 5. 2 m ν 1 5 (r + ) ν (1.618) ν Konvergenztheorie Wie schon bei linearen Gleichungssytemen transformieren wir das Nullstellenproblem auf Fixpunktform: f(α) = 0 α φ(α) = 0. (3.4.1) φ(x) ist im Allgemeinen nicht eindeutig. Wir berechnen die Picard-Iteration: Man wählt φ( ) so, dass α = φ(α). Dann gilt Theorem Sei I = [a, b] und φ( ) erfülle x (k+1) = φ (x (k) ), k 0. (3.4.2) φ([a, b]) [a, b] (Selbstabbildung) φ C 1 (I), (FP1) (FP2) K < 1 : φ (x) K x [a, b]. (FP3) May 3,

7 3.4. KONVERGENZTHEORIE Dann hat φ( ) einen eindeutig bestimmten Fixpunkt α in I und für alle x (0) I konvergiert (3.4.2) gegen α und es gilt: x (k+1) α lim k x (k) α = φ (α). Beweis: (FP1) und φ C 0 (I) = α I mit α = φ(α). (FP3) = φ ist kontraktiv: es existiert eine Konstante K < 1 derart, dass x, y I : φ(x) φ(y) K x y. Daraus folgt, dass α eindeutig ist: seien α 1, α 2 I Fixpunkte. Dann gilt Wegen K < 1 folgt α 1 = α 2. α 1 α 2 = φ(α 1 ) φ(α 2 ) = φ (η)(α 1 α 2 ) K α 1 α 2. Konvergenz: für jedes k 0 existiert η (k) (α, x (k) ), so dass = x (k+1) α = φ(x (k) ) φ(α) = φ (η (k) )(x (k) α) (3.4.3) x (k+1) α = φ (η (k) ) x (k) α Somit konvergiert x (k) gegen α und (3.4.3) = K k+1 x (0) α für k. lim k x (k+1) α x (k) α = lim k φ (η (k) ) = φ (α). (3.4.4) φ (α) in (3.4.4) heisst asymptotischer Konvergenzfaktor. Die asymptotische Konvergenzrate der Folge x (k) gegen α ist R = log φ (α). Bemerkung Theorem gilt auch für Abbildungen φ : R n R n. Die Bedingung (FP3) wird jedoch ersetzt durch folgende Bedingung: Sei M eine mit V verträgliche Matrixnorm, wobei V die Vektornorm auf R n bezeichnet. Dann muss gelten J φ (x) M < 1 x D, wo J φ die Jacobi-Matrix von φ ausgewertet an der Stelle x D ist und D R n das abgeschlossene Gebiet bezeichnet, welches von φ auf sich selbst abgebildet wird. Theorem besagt, dass die Fixpunktiteration (3.4.2) für jedes x (k) I konvergiert; d.h. Theorem ist ein globales Konvergenzresultat. Die Bestimmung von I = [a, b] in (FP1) - (FP3) ist allerdings in der Praxis oft nicht möglich. Deshalb ist das folgende Resultat nützlich - es besagt, dass unter gewissen Bedingungen (3.4.2) lokal, d.h. für Startwerte, die hinreichend nahe an α liegen, konvergiert. May 3,

8 3.4. KONVERGENZTHEORIE Proposition Sei α Fixpunkt von φ(x) C 1 mit φ (α) < 1. (3.4.5) Dann existiert δ > 0 derart, dass {x (k) } k=0 in (3.4.2) für alle x(0) mit α x (0) < δ gegen α konvergiert. Beweis: Wir verifizieren (FP1) - (FP3) für a = α δ, b = α + δ, I = [a, b]. Wegen (3.4.5) und φ C 1 (I) gilt φ (x) K < 1 x [a, b], für hinreichend kleines δ > 0, d.h. (FP3) gilt. Für x (k) I gilt x (k) α δ und x (k+1) α = φ(x (k) ) φ(α) φ (η (k) )(x (k) α) K x (k) α Kδ δ, d.h. x (k+1) I, d.h. für δ > 0 hinreichend klein gilt (FP1). Wir sehen aus (3.4.4), dass die Konvergenzrate gross ist für φ (α) klein. Falls φ (α) = 0 ist, erhöht sich die Konvergenzordnung. Theorem Sei p 1 ganz, und es gelte in (3.4.2) φ (i) (α) = 0, i = 1, 2,..., p, φ (p+1) (α) 0. (3.4.6) Dann hat die Iteration (3.4.2) die Ordnung p + 1 und lim k x (k+1) α (x (k) α) = φ(p+1) (α), p 1. (3.4.7) p+1 (p + 1)! Beweis: Taylorentwicklung von φ um x = α gibt mit (3.4.2), d.h. α = φ(α), dass x (k+1) α = p i=0 φ (i) (α) i! (x (k) α) i + φ(p+1) (η k ) (p + 1)! (x (k) α) p+1 für eine Zwischenstelle η k zwischen α und x (k). Also gilt wegen x (k) α für k und wegen (3.4.6), dass lim k x (k+1) α = lim (x (k) α) p+1 k φ (p+1) (η k ) (p + 1)! = φ(p+1) (α) (p + 1)!. May 3,

9 Beispiel (Newton Verfahren) Das Newton Verfahren ist gegeben durch die Iterationsvorschrift x (k+1) = x (k) f(x(k) ) f (x (k) ) = φ Newt(x (k) ), mit der Iterationsfunktion des Newton-Verfahrens φ Newt (x) : = x f(x) f (x) KONVERGENZTHEORIE Sei α einfache Nullstelle von f(x), d.h. die Vielfachheit von α ist m = 1 und es gilt f (α) 0. Damit folgt φ Newt (α) = 0, φ Newt (α) = f (α) f (α) 0. Also konvergiert das Newton Verfahren lokal, d.h. für hinreichend gute Startwerte x (0), von zweiter Ordnung gegen die Nullstelle. May 3,