3 Interpolation und Approximation

Transkript

1 In dem ersten großen Kapitel beschäftigen wir uns mit der Frage, wie eine Reihe von Daten (z.b. aus physikalischen Messungen, experimentelle Beobachtungen, Börse, etc.) durch eine möglichst einfache Funktion p(x) (z.b. Polynome) angenähert werden kann. Auf der anderen Seite soll geklärt werden, wie komplizierte Funktionen durch einfachere Funktionen aus einer bestimmten Klasse (z.b. Raum der Polynome) approximiert werden können. Bei der Interpolation wird die approximierende Funktion p derart konstruiert, dass diese an den vorliegenden (diskreten) Daten exakt ist: p(x k ) = y k, k = 0, 1, 2, 3,..., n. Die Stützstellen und Stützwerte (x k, y k ) sind entweder diskrete Datenwerte (z.b. von Experimenten) oder durch Funktionen bestimmt y k = f(x k ). Mit Hilfe der Interpolation p(x) können bis dato unbekannte Werte an Zwischenstellen ξ (x k, x k+1 ) oder das Integral bzw. die Ableitung von p bestimmt werden. Darüberhinaus hat die Interpolation eine wesentliche Bedeutung zur Entwicklung weiterer numerischer Verfahren, wie beispielsweise numerische Quadratur, Differentiation oder in weiterführenden Vorlesungen Entwicklung Finiter Elemente [10]. Die Approximation ist allgemeiner gefasst. Wieder wird eine einfache Funktion p(x) (also wieder z.b. ein Polynom) gesucht, welche diskrete oder durch Funktionen bestimmte Datenwerte (x k, y k ) möglichst gut approximiert. Im Gegensatz zur Interpolation wird jedoch nicht p(x k ) = y k explizit gefordert. Was die Approximation auszeichnet wird von Fall zu Fall entschieden. Möglich ist z.b. bei der Approximation einer Funktion f die beste Approximation bzgl. einer Norm p P : p f = min q f, q P wobei P die Klasse der betrachteten einfachen Funktionen ist (also z.b. alle quadratischen Polynome). Eine Anwendung der Approximation ist das Fitten von diskreten Datenwerten, welche durch Experimente gegeben sind. Oft werden viele tausend Messwerte berücksichtigt, die von der zugrundeliegenden (etwa physikalischen) Formel jedoch aufgrund von statistischen Messfehlern nicht exakt im Sinne der Interpolation, sondern nur approximativ erfüllt werden sollen. Eine zweite Anwendung ist wieder die möglichst einfache Darstellung von gegebenen Funktionen. Beispiel 3.1 (Interpolation: Personen in der Mensa mit einer Stichprobe). Die Studenten, die Numerik 0 bei Thomas hören, schließen eine Wette gegen die parallel verlaufende 47

2 Vorlesung Einführung in die Wahrscheinlichkeitstheorie und Statistik ab. Es gilt die Anzahl der Mittagessenden Personen diesen Mittwoch um Punkt 12:00 zu schätzen. Allerdings gibt es ein Problem, dass um diese Zeit die Vorlesung der Numerik 0 stattfindet - und die möchte niemand missen. Daher verabreden sich die Studenten kurz vor der Vorlesung um 11:00 Uhr und zählen alle Personen und dann wieder um 13:00 nach der Vorlesung. Folgende Zahlen haben sie ermittelt: (t 1, y 1 ) = (11.00, 50), (t 2, y 2 ) = (13.00, 350), 350 Personen Uhrzeit Abbildung 3.1: Lineare Interpolation zwischen zweier gegebener Messwerte. In Vorlesung habe alle gut aufgepasst: durch Aufstellen der Interpolationsfunktion (hier eine schlichte Gerade) können die Studenten nun den Wert (Anzahl der Personen) durch Ablesen ermitteln. Die Schätzung sagt eine Anzahl von 200 Personen voraus. Dieser Wert ist natürlich nur eine Schätzung da der Anstieg sich wahrscheinlich nicht linear verhält. Beispiel 3.2 (Approximation: Personen in der Mensa bei mehreren Stichproben). Die Studenten der Numerik 0 haben auch bei der Approximation gut aufgepasst und machen an nun jede Woche an verschiedenen Tagen Stichproben von der Anzahl der Personen in der Mensa. Die ermittelte Datenmenge kann nicht mehr interpoliert werden, allerdings stellen sie nun eine approximierende Funktion auf, die die wahrscheinliche Personenzahl am letzten Mittwoch in der Vorlesungszeit voraussagen soll. Ablesen der Regressionsgeraden ergibt eine Schätzung von ca. 250 Personen in der Mensa. Grundsätzlich hat die Darstellung als einfache Funktion den großen Vorteil, dass Elementaroperationen (wie bei der Interpolation bereits angemerkt), wie Ableitungsbildung und Integration, viel einfacher ausgeführt werden können. Die Wahl der einfachen Funktion ist 48

3 350 Personen Uhrzeit Abbildung 3.2: Approximation gegebener Messwerte. eine der entscheidenden Fragen, die es zu klären gilt: Polynom, Spline, trigonometrische Funktion? Das hängt im wesentlichen von der gegebenen Aufgabenstellung ab. Einen Zusammenhang zwischen Polynomen und stetigen Funktionen stellt der Weierstraßsche Approximationssatz her (Analysis I): Satz 3.3 (Weierstraßsche Approximationssatz). Es sei f C[a, b]. Dann gibt es zu jedem ε > 0 ein auf [a, b] definiertes Polynom p, so dass f(x) p(x) < ε x [a, b]. Der Weierstraßsche Approximationssatz besagt zunächst, dass es möglich ist, jede stetige Funktion beliebig gut durch ein Polynom zu approximieren, hilft jedoch noch nicht bei der praktischen Durchführung. Auch hier gibt es einen einfachen Ansatz in der Analysis: Satz 3.4 (Taylor-Entwicklung). Es sei f C n+1 [a, b]. Für das n-te Taylor-Polynom zu x 0 (a, b) n f (k) (x 0 ) t n (x; x 0 ) := (x x 0 ) k k! ist eine Approximation zu f in der Umgebung von x 0. Es gilt die Fehlerabschätzung: mit einer Zwischenstelle ξ x [a, b]. f(x) t n (x; x 0 ) = f (n+1) (ξ x ) (x x 0 ) n+1, (n + 1)! 49

4 Hier ist C([a, b]) der Vektorraum der auf dem Intervall [a, b] stetigen Funktionen und C k ([a, b]) der Raum der auf [a, b] k-mal stetig differenzierbaren Funktionen. Die Taylor- Entwicklung ermöglicht eine konkrete Vorgehensweise zum Erstellen eines approximativen Polynoms. Wir sehen jedoch bereits, dass wir eine sehr starke Regularität von f benötigen. Darüber hinaus ist die Taylor-Entwicklung nur für Funktionen, nicht aber für diskrete Datenwerte (x k, y k ) möglich. Neben der Taylor-Entwicklung von Funktionen stellt die Analysis noch die Fourier-Analyse zur Approximation von periodischen Funktionen f mit Hilfe von trigonometrischen Polynomen zur Verfügung. 3.1 Polynominterpolation Wir bezeichnen mit P n den Vektorraum der Polynome vom Grad n: { } n P n := p(x) = a k x k a k R, k = 0,..., n. Definition 3.5 (Lagrangesche Interpolationsaufgabe). Die Lagrangesche Interpolationsaufgabe besteht darin, zu n+1 paarweise verschiedenen Stützstellen (Knoten) x 0,..., x n R und zugehörigen gegebenen Stützwerten y 0,..., y n R ein Polynom p P n zu bestimmen, so dass die Interpolationsbedingung erfüllt ist. p(x k ) = y k, k = 0,..., n, Satz 3.6. Die Lagrangesche Interpolationsaufgabe ist eindeutig lösbar. Beweis: Die Eindeutigkeit wird zuerst nachgewiesen. Es seien p 1, p 2 P n zwei Lösungen. Dann gilt für das Differenzpolynom p := p 1 p 2 P n : p(x k ) = 0, k = 0,..., n, d.h. p hat n + 1 Nullstellen und ist folglich das Nullpolynom. Dies kann mit Hilfe des Satzes von Rolle nachgewiesen werden. Zum Nachweis der Existenz betrachten wir die Gleichungen p(x k ) = y k, k = 0,..., n. Dies kann als ein lineares Gleichungssystem aufgefasst werden, welches n + 1 Gleichungen für die n + 1 unbekannten Koeffizienten a 0,..., a n des Polynoms p P n. Wegen der bereits gezeigten Eindeutigkeit des Interpolationspolynoms p (also der Injektivität) hat dieses System notwendigerweise eine Lösung (Surjektivität). Die gegebenen Stützwerte y k können Werte einer gegebenen Funktion f sein, d.h. f(x k ) = y k, k = 0, 1,..., n, 50

5 3.1 Polynominterpolation oder auch beliebige diskrete Datenwerte (x k, y k ), k = 0, 1,..., n Lagrangesche Darstellung In diesem Abschnitt verwenden wir zur Konstruktion des Interpolationspolynoms die Lagrangeschen Basispolynome L (n) k (x) := n,j k x x j x k x j P n, k = 0, 1,..., n. Die Basiseigenschaft möge der aufmerksame Leser selbst verifizieren. Als zweite Eigenschaft erhalten wir { L (n) 1, k = l k (x l) = δ kl := 0, k l, wobei δ kl das Kronecker-Symbol bezeichnet. Satz 3.7 (Lagrangesche Darstellung). Das Polynom p P n gemäß p(x) := n erfüllt die Interpolationsbedingung p(x k ) = y k. y k L (n) k (x) Beweis: Zunächst gilt wegen L (n) k P n auch für die Linearkombination p P n. Weiter folgt sofort: n n p(x j ) = y k L (n) k (x j) = y k δ kj = y j. Die Lagrangesche Darstellung des Interpolationspolynoms besticht durch ihre Einfachheit. Sie hat allerdings den großen Nachteil, das jedes Basispolynom L (n) k (x) von sämtlichen Stützstellen x 0, x 1,..., x n abhängt. Angenommen zur Steigerung der Genauigkeit soll eine Stützstelle x n+1 hinzugenommen werden, so müssen sämtliche Basispolynome ausgetauscht werden. 51

6 3.1.2 Newtonsche Darstellung Die Newtonsche Darstellung der Lagrangeschen Interpolationsaufgabe löst dieses Problem durch eine andere Wahl von Basispolynomen: N 0 (x) := 1, k 1 N k (x) := (x x j ), k = 1,..., n. Das Basispolynom N k (x) hängt nur von den Stützstellen x 0,..., x k ab. Bei Hinzunahme einer Stützstelle x k+1 müssen die ersten Basispolynome nicht geändert werden. Das Interpolationspolynom wird nach dem Ansatz p(x) = n a k N k (x), bestimmt. Für die Stützstelle x k gilt N l (x k ) = 0 für alle l > k. Wir gehen rekursiv vor: y 0! = p(x 0 ) = a 0, y 1! = p(x 1 ) = a 0 + a 1 (x 1 x 0 ),. y n! = p(x n ) = a 0 + a 1 (x n x 0 ) a n (x n x 0 ) (x n x n 1 ). Im Gegensatz zur vorher kennengelernten Lagrangeschen Darstellung kann ein weiteres Datenpaar (x n+1, y n+1 ) leicht hinzugefügt werden. Ist das Interpolationspolynom p n := p = P n gegeben, so kann eine Stützstelle x n+1 einfach hinzugenommen werden: y n+1! = p n+1 (x n+1 ) = p n (x n+1 )+a n+1 N n+1 (x n+1 ) a n+1 = y n+1 p n (x n+1 ). (3.1) N n+1 (x n+1 ) In der Praxis werden die Koeffizienten a k auf eine numerisch stabilere und effizientere Weise bestimmt: Satz 3.8. Das Lagrangesche Interpolationspolynom zu den Punkten (x k, y k ), k = 0,..., n lautet bezüglich der Newtonschen Polynombasis: p(x) = n y[x 0,..., x k ]N k (x). Die Notation y[x 0,..., x k ] bezeichnet die dividierten Differenzen, welche über die folgende rekursive Vorschrift definiert sind: 1 f ür k = 0,..., n s e t z e y[x k ] := y k 2 f ür l = 1,..., n und 3 f ür k = 0,..., n l berechne 4 y[x k,..., x k+l ] := y[x k+1,...,x k+l ] y[x k,...,x k+l 1 ] x k+l x k 52

7 3.1 Polynominterpolation Beweis: Wir bezeichnen mit p k,k+l in P l das Polynom, welches die Interpolation zu den l+1 Punkte (x k, y k ),..., (x k+l, y k+l ) darstellt. Insbesondere ist durch p 0,n ist das gesuchte Polynom p P n gegeben. Wir zeigen, dass die folgende Aussage für alle l = 0,... n und k = 0,..., n l gilt: p k,k+l (x) = y[x k ]+y[x k, x k+1 ](x x k )+ +y[x k,..., x k+l ](x x k ) (x x k+l 1 ). (3.2) Wir führen den Beweis durch Induktion nach dem Polynomgrad l. Für l = 0 gilt p k,k (x) = y[y k ] = y k. Angenommen, die Behauptung sei richtig für l 1 0. D.h. insbesondere, das Polynome p k,k+l 1 ist in Darstellung (3.2) gegeben und interpoliert die Punkte (x k, y k ),..., (x k+l 1, y k+l 1 ) und das Polynom p k+1,k+l interpoliert die Punkte (x k+1, y k+1 ),..., (x k+l, y k+l ). Dann ist durch q(x) = (x x k)p k+1,k+l (x) (x x k+l )p k,k+l 1 (x) x k+l x k, (3.3) ein Interpolationspolynom durch die Punkte (x k, y k ),..., (x k+l, y k+l ) gegeben. Dies macht man sich durch Einsetzen von x i in q(x) deutlich. Für innere Punkte i = k + 1,..., k + l 1 gilt p k,k+l 1 (x i ) = p k+1,k+l (x i ) = y i, für x k und x k+l ist jeweils einer der beiden Faktoren gleich Null. Es gilt somit für das gesuchte Interpolationspolynom p k,k+l = q. Nach Konstruktion (3.1) gilt jedoch auch die folgende Darstellung: p k,k+l (x) = p k,k+l 1 (x) + a(x x k ) (x x k+l 1 ). Koeffizientenvergleich des führenden Monoms x n zwischen dieser Darstellung und (3.3) liefert mit Hilfe von (3.2) für p k,k+l 1 sowie p k+1,k+l : a = y[x k+1,..., x k+l ] y[x k,..., x k+l 1 ] x k+l x k = y[x k,..., x k+l ]. Dieses rekursive Konstruktionsprinzip legt sofort einen Algorithmus zum Auswerten der Interpolation an einer Stelle ξ R nahe, ohne dass das gesuchte Interpolationspolynom p(x) zuvor explizit bestimmt werden muss. Wir gehen hierzu von der Darstellung (3.3) aus: Algorithmus 3.9 (Neville-Schema). Es seien die Stützstellenpaare (x 0, y 0 ),..., (x n, y n ) gegeben sowie der Auswertungspunkt ξ. Berechne p(ξ) = p 0,n : 1 f ür k = 0,..., n s e t z e p k,k := y k 2 f ür l = 1,..., n und 3 f ür k = 0,..., n l berechne 4 p k,k+l := p k,k+l 1 + (ξ x k ) p k+1,k+l p k,k+l 1 x k+l x k Bei der Durchführung des Neville-Schemas erhalten wir mit p k,l automatisch die Approximationen der Interpolationspolynome durch (x k, y k ),..., (x k+l, y k+l ). Wir führen das Neville-Schema exemplarisch durch: 53

8 Beispiel 3.10 (Neville-Schema). Wir betrachten die Stützstellenpaare (0, 0), (1, 1), (2, 8), (3, 27), welche von der Funktion f(x) = x 3 abgegriffen sind. Wir führen das Neville-Schema rekursiv aus: p 00 = 0 p 11 = 1 p 22 = 8 p 33 = 27 p 01 = 0.5 p 12 = 2.5 p 23 = 20.5 p 02 = 0.25 p 13 = 2 p 03 = Die finale Approximation p 03 = = ist exakt. Dies ist zu erwarten, da f P 3. Als Stichprobe betrachten wir die sehr schlechte Approximation p 23, welche sich durch das linearen Interpolationspolynom p 2,3 (x) durch die Stützstellen (2, 8) und (3, 27), also durch ergibt. Es gilt p 2,3 (0.5) = p 2,3 (x) = (x 2) = 19x Interpolation von Funktionen und Fehlerabschätzungen In diesem Abschnitt diskutieren wir die Interpolation von Funktionen. Die Punkte sind nun nicht mehr durch einen Datensatz gegeben, sondern durch Auswertung einer gegebenen Funktion f auf [a, b]: y k = f(x k ), x k [a, b], k = 0,..., n. Die Durchführbarkeit, also Existenz und Eindeutigkeit eines Interpolationspolynoms wurde bereits in den vorangehenden Abschnitten beantwortet. Bei der Interpolation von Funktionen stellt sich hier die Frage wie gut das Interpolationspolynom p P n die Funktion f auf [a, b] approximiert. Satz 3.11 (Interpolationsfehler mit differenziellem Restglied). Es sei f C n+1 [a, b] und p P n das Interpolationspolynom zu f in den n + 1 paarweise verschiedenen Stützstellen x 0,..., x n. Dann gibt es zu jedem x [a, b] ein ξ (a, b), so dass Insbesondere gilt f(x) p(x) = f n+1 (ξ) (n + 1)! f(x) p(x) max ξ (a,b) f n+1 (ξ) (n + 1)! n (x x j ). (3.4) n x x j. (3.5) Beweis: Falls x mit einer Stützstelle zusammenfällt, d.h. x = x k für ein k {0,..., n}, dann verschwindet der Fehler und wir sind fertig. Es sei daher x x k für alle k = 0, 1,..., n 54

9 3.1 Polynominterpolation und F C n+1 [a, b] mit n F(t) := f(t) p n (t) K(x) (t x j ). K(x) sei so bestimmt, so dass F(x) = 0. Dies ist möglich, da n (t x j ) 0 K(x) = f(t) p n(t) n (t x j ). Dann besitzt F(t) in [a, b] mindestens n+2 verschiedene Nullstellen x 0, x 1,..., x n, x. Durch wiederholte Anwendung des Satzes von Rolle hat die Ableitung F (n+1) mindestens eine Nullstelle ξ (a, b). Mit 0 = F (n+1) (ξ) = f (n+1) (ξ) p (n+1) (ξ) K(x)(n + 1)! = f (n+1) (ξ) 0 K(x)(n + 1)!. Hieraus folgt die Behauptung mittels K(x) = f (n+1) (ξ) (n + 1)! f(x) p n (x) = f (n+1) (ξ) (n + 1)! n (x x j ) Satz 3.12 (Interpolationsfehler mit Integral-Restglied). Es sei f C n+1 [a, b]. Dann gilt für x [a, b] \ {x 0,..., x n } die Darstellung n f(x) p(x) = f[x 0,..., x n, x] (x x j ), mit den Interpolationsbedingungen f[x i,..., x i+k ] := y[x i,..., x i+k ] und f[x 0,..., x n, x] = 1 t1 0 0 Beweis: Wird folgen. tn 0 f (n+1)( x 0 + t 1 (x 1 x 0 ) t(x x n ) ) dt... dt 2 dt 1. Für den Fehler der Lagrange-Interpolation können die folgenden Betrachtungen geführt werden. In (3.4) wird für großes n der Term 1 (n+1)! sehr klein. Das Produkt n (x x j ) wird klein, wenn die Stützstellen sehr dicht beieinander liegen. Sind alle Ableitungen von f gleichmäßig (bzgl. der Ableitungsstufe) beschränkt auf [a, b], so gilt mit (3.5), dass max f(x) p(x) 0, n. a x b Haben die Ableitungen der zu interpolierenden Funktion jedoch ein zu starkes Wachstumverhalten für n, z.b. f(x) = (1 + x 2 ) 1, f n (x) 2 n n!o( x 2 n ), so konvergiert die Interpolation nicht gleichmäßig auf [a, b]. 55

10 Abbildung 3.3: Interpolationspolynome p m (x) P 2m. Links: das komplette Interpolationsintervall. Rechts: Ausschnitt nahe y = 0. Beispiel Die Funktion f(x) = x, x [ 1, 1] werde mit Hilfe der Lagrange- Interpolation in den Stützstellen x k = 1 + kh, k = 0,..., 2m, h = 1/m, x x k interpoliert. Dies ergibt das globale Verhalten p m f(x), m. Zwar ist f in diesem Beispiel nicht differenzierbar, dennoch ist dieses Verhalten der Lagrange-Interpolation auch bei anderen Beispielen zu beobachten. Man betrachte z.b. die Funktion f(x) = (1 + x 2 ) 1, x [ 5, 5]. Wir fassen die bisherigen Ergebnisse zusammen: Bemerkung Der Approximationssatz von Weierstraß besagt, dass jede Funktion f C([a, b]) durch ein Polynom beliebig gut approximiert werden kann. Die Analysis gibt jedoch keine Hilfestellung bei der konkreten Durchführung der Approximation. Die Lagrangesche Interpolation ist eine Möglichkeit zur Approximation. Die Qualität dieser Approximation wird jedoch wesentlich durch die Regularität der Daten, also durch f bestimmt. Eine gleichmäßige Approximation von Funktionen mit Lagrangeschen Interpolationspolynomen ist im Allgemeinen nicht möglich. Die Lagrangesche Interpolation krankt demnach an den gleichen Einschränkungen der Taylor-Entwicklung, Satz 3.4. Von der Möglichkeit, eine nur stetige Funktion f C([a, b]) beliebig gut zu approximieren sind wir noch weit entfernt. Ein zweiter Nachteil der Lagrange-Interpolation ist die fehlende Lokalität. Eine Störung von in einer Stützstelle ( x k, ỹ k ) hat Auswirkung auf alle Lagrange-Polynome und insbesondere auf das gesamte Interpolationsintervall. Wir betrachten hierzu ein Beispiel: 56

11 3.1 Polynominterpolation Beispiel 3.15 (Globaler Fehlereinfluss). Wir suchen das Interpolationspolynom zu der Funktion f(x) = 0 in den 2m + 1 Stützstellen x k = 1 + kh, k = m,..., m, h = 1 m. Das exakte Interpolationspolynom p P 2m ist natürlich durch p = 0 gegeben. Wir nehmen an, dass die Funktionsauswertung in Nullpunkt gestört ist: y k = { 0 k 0 ǫ k = 0, mit einem kleinen ǫ. Das gestörte Interpolationspolynom ist in Lagrangescher Darstellung gegeben durch m x x i p(x) =. x i i= m,i 0 In Abbildung 3.3 zeigen wir p m P 2m für die Fälle m = 1, 2, 4, 8 mit einer Störung ǫ = Trotz dieser kleinen Störung an der Stelle x = 0 weichen die Interpolationspolynom am Intervallrand sehr stark von y k = 0 ab. In der unteren Abbildung sieht man, dass für kleine Polynomgrade, also m = 1 und m = 2 der maximale Fehler auf dem Intervall nicht größer als die anfängliche Störung ǫ = 0.01 ist. Die Lagrangesche Interpolation ist instabil für große Polynomgrade. Hermite Interpolation Zum Abschluss der Funktionsinterpolation erwähnen wir noch eine Verallgemeinerung, die sogenannte Hermitesche Interpolationsaufgabe. Diese unterscheidet sich von der Lagrange- Interpolation durch die Möglichkeit neben Funktionswerten p(x k ) = f(x k ) auch Gleichheit von Ableitungswerten p (i) (x k ) = f (i) (x k ) zu fordern. Wir fassen zusammen: Satz 3.16 (Hermite Interpolation). Es sei f C (n+1) ([a, b]). Es seien x 0,..., x m paarweise verschiedene Stützstellen und µ k N für k = 0,..., m ein Ableitungsindex. Ferne gelte n = m + m µ k. Das Hermitesche Interpolationspolynom zu k = 0,..., m : p (i) (x k ) = f (i) (x k ), i = 0,..., µ k, ist eindeutig bestimmt und zu jedem x [a, b] existiert eine Zwischenstelle ξ [a, b], so dass gilt: m f(x) p(x) = f[x 0,..., x }{{ 0,..., x } m,..., x m, x] (x x }{{} k ) µ k+1 µ 0 +1 µ m+1 = 1 (n + 1)! f (n+1) (ξ) m (x x k ) µ k+1. 57

12 58