Numerisches Programmieren (IN0019)

Transkript

1 Numerisches Programmieren (IN0019) Frank R. Schmidt Winter Semester 2016/ Interpolation Interpolation 3 Motivation Bildinterpolation (Beispiel) Funktionen-Vektorraum Allgemeine Problemstellung Polynome 8 Polynome Polynominterpolation Lagrange-Polynome Online-Berechnung Rekursive Berechnung Neville-Tableau Polynominterpolation (Lagrange) Polynominterpolation (Neville) Lagrangepolynome (Beispiel) Neville-Polynome (Beispiel)

2 Fehleranalyse 19 Fehler bei Polynominterpolation Fehler bei Polynominterpolation Fehleranalyse Optimale Stützstellen Tschebyscheff-Polynome Tschebyscheff-Rekursion Interpolation (Beispiel) Zusammenfassung Splines 28 Hermite-Interpolation Hermite-Interpolation Spline-Interpolation Spline-Interpolationsproblem Bernstein-Polynome Kubische Interpolation (Bernstein-Polynome) Bernstein-Polynome (Beispiel) Modellierung von Kurven 36 Bézier-Kurve Bézier-Kurven (Beispiel) B-Splines Zusammenfassung

3 5. Interpolation 2 / 40 Interpolation 3 / 40 Motivation Bis jetzt sind wir immer davon ausgegangen, dass eine Funktion f: R Ñ R bekannt ist und dass wir lediglich die Berechnung von fpxq durchführen wollen. Im Folgenden wollen wir fpxq berechnen, ohne f komplett zu kennen. Stattdessen sind für gewisse Stützstellen x 0 ă... ă x n die Funktionswerte y i fpx i q bekannt. Sind die Stützstellen und Funktionswerte gegeben, so nennt man die Schätzung von fpxq Interpolation, wenn x P rx 0 ;x n s Extrapolation, wenn x R rx 0 ;x n s Dieses Szenario ist sehr realistisch in Situationen in denen Sensoren benutzt werden und wir daher nur wenige Messwerte haben. IN Numerisches Programmieren 5. Interpolation 4 / 40 3

4 Bildinterpolation (Beispiel) Stückweise Konstant Glatte Interpolation IN Numerisches Programmieren 5. Interpolation 5 / 40 4

5 Funktionen-Vektorraum Die Menge AbbpR,Rq der Funktionen f: R Ñ R bildet einen R-Vektorraum, zusammen mit den Operationen pf `gq pxq fpxq `gpxq pλ fq pxq λ fpxq (Addition) (Skalar-Multiplikation) Um Interpolationen durchzuführen, definieren wir linear unabhängige Basisfunktionen g 0,...,g n. Das Interpolationspoblem besteht dann darin, Parameter λ 0,...λ n P R zu finden, so dass für g ř n j 0 λ j g j die Interpolationsbedingungen erfüllt sind gpx i q fpx i q y i für i 0,...,n Wir müssen also n ` 1 Gleichungen mit n ` 1 Unbekannten lösen. IN Numerisches Programmieren 5. Interpolation 6 / 40 Allgemeine Problemstellung Gegeben seien Punktepaare px i,y i q für i 0,...,n, wobei die Stützstellen x i paarweise verschieden sind. Darüber hinaus sind n `1 linear unabhängige Funktionen g 0,...,g n P AbbpR,Rq gegeben. Gesucht sind Koeffizienten λ j für j 0,...,n, so dass g 0 px 0 q... g n px 0 q λ 0 y loooooooooooooomoooooooooooooon g 0 px n q... g n px n q λ n y n A Insgesamt muss also ein Gleichungssystem mit n ` 1 Variablen und n ` 1 Gleichungen gelöst werden. Insbesondere muss also detpaq 0 gelten. 5

6 IN Numerisches Programmieren 5. Interpolation 7 / 40 6

7 Polynome 8 / 40 Polynome Besonders einfache Funktionen in einer Variablen sind die Polynome: ppxq a n x n `... `a 1 x`a 0 a n 0 Wir bezeichnen mit n : degppq den Grad von p. Der Grad der Nullfunktion wird mit 8 definiert und es gilt degpp qq degppq `degpqq. Wir bezeichnen mit Π n : tp: R Ñ R p ist Polynom ^degppq ď nu den Menge aller Polynome, die einen Grad von maximal n haben. Π n ist ein Untervektorraum von AbbpR,Rq und besitzt die Dimension n `1. Eine Basis von Π n ist die Menge der Monome t1,x,x 2,...,x n u. IN Numerisches Programmieren 5. Interpolation 9 / 40 7

8 Polynominterpolation Benutzen wir Polynome zur Interpolation, müssen wir zeigen, dass die Vandermonde-Matrix 1 x 0... x n 0 V n :... 1 x n... x n n invertierbar ist. Da man zeigen kann, dass detpv n q ź px j x i q, 0ďiăjďn können wir sehen, dass Polynominterpolationen immer eindeutig lösbar sind, wenn die Stützstellen paarweise verschieden sind. IN Numerisches Programmieren 5. Interpolation 10 / 40 8

9 Lagrange-Polynome Da das Invertieren von Matrizen mit Opn 3 q recht zeitaufwendig ist, reicht es, solche Polynome L j P Π n zu definieren, die Folgendes erfüllen: # 1, wenn i j L j px i q 0, wenn i j Diese Polynome sind eindeutig durch die Stützstellen bestimmt L j pxq : und heißen Lagrange-Polynome. Das Interpolationsproblem wird dann durch folgendes Polynom eindeutig gelöst ppxq nź i 0 i j x x i x j x i P Π n nÿ y j L j pxq j 0 IN Numerisches Programmieren 5. Interpolation 11 / 40 Online-Berechnung Die explizite Berechnung ist sehr teuer und kann wegen der Opn 2 q wiederholten Differenzen numerisch instabil werden. Wenn wir das interpolierende Polynom nur an wenigen Stellen berechnen wollen, bietet es sich an, interpolierende Polynome induktiv zu berechnen, die immer mehr Stützstellen berücksichtigen. Definiere hierzu p i,l pxq P Π l als das Polynom vom Grad l, das genau an den Stellen x i,...,x i`l die Interpolations-Bedingungen erfüllt. Zur Berechnung von p i,l benutzen wir p i,l 1 und p i`1,l 1, d.h. wir können ppxq rekursiv bestimmen. 9

10 IN Numerisches Programmieren 5. Interpolation 12 / 40 10

11 Rekursive Berechnung Wir können folgende rekursive Berechnungsformel benutzen p i,0 pxq y i Die Interpolationsbedingungen sind für p i,0 offensichtlich erfüllt. Für den Rekursionsschritt gilt p i,l pxq px x iqp i`1,l 1 pxq px x i`l qp i,l 1 pxq x i`l x i p i,l px i q p i,l 1 px i q y i p i,l px i`l q p i`1,l 1 px i`l q y i`l p i,l px i`j q px i`j x i qy i`j px i`j x i`l qy i`j x i`l x i y i`j IN Numerisches Programmieren 5. Interpolation 13 / 40 Neville-Tableau Wegen der Eindeutigkeit des interpolierenden Polynoms ist jedes der Polynome p i,l die eindeutige Lösung des jeweiligen Interpolationsproblems. Wir können nun ppxq mit Hilfe des Neville-Tableaus berechnen: Grad x 0 p 0,0 pxq y 0 p 0,1 pxq x 1 p 1,0 pxq y 1 p 0,2 pxq ppxq p 1,1 pxq x 2 p 2,0 pxq y 2 Ein Vorteil des Neville-Tableaus ist, dass es einfach ist, ppxq zu aktualisieren, wenn weitere Stützstellen bekannt werden. 11

12 IN Numerisches Programmieren 5. Interpolation 14 / 40 12

13 Polynominterpolation (Lagrange) Betrachten wir folgendes Interpolationsproblem: px 0,y 0 q p0,1q px 1,y 1 q p1,3q px 2,y 2 q p3,7q Unter Benutzung der Lagrangepolynome lässt sich ppxq wie folgt berechnen px 1qpx 3q L 0 pxq p0 1qp0 3q 1 3 px2 4x `3q px 0qpx 3q L 1 pxq p1 0qp1 3q 1 2 px2 3xq px 0qpx 1q L 2 pxq p3 0qp3 1q 1 6 px2 xq ppxq 1 3 px2 4x `3q 3 2 px2 3xq ` 7 6 px2 xq 2x `1 IN Numerisches Programmieren 5. Interpolation 15 / 40 13

14 Polynominterpolation (Neville) Betrachten wir folgendes Interpolationsproblem: px 0,y 0 q p0,1q px 1,y 1 q p1,3q px 2,y 2 q p3,7q Die Berechnun des Neville-Tableaus erfolgt mit der Rekursionsvorschrift p i,l pxq px x iqp i`1,l 1 pxq px x i`l qp i,l 1 pxq x i`l x i Grad x 0 0 p 0,0 pxq y 0 1 p 0,1 pxq2x ` 1 x 1 1 p 1,0 pxq y 1 3 x 2 3 p 2,0 pxq y 2 7 p 1,1 pxq2x ` 1 p 0,2 pxq2x ` 1 IN Numerisches Programmieren 5. Interpolation 16 / 40 14

15 Lagrangepolynome (Beispiel) y L 2 L 0 x 0 x 1 x 2 x L 1 Lagrangepolynome sind immer vom maximalen Grad. Falls eine Funktion von niedrigerem Grad interpoliert werden soll, kann es zu Auslöschungen kommen. IN Numerisches Programmieren 5. Interpolation 17 / 40 15

16 Neville-Polynome (Beispiel) y p 1,1 pxq y p 0,2 pxq p 0,1 pxq x x Das Neville-Tableau verbessert die Interpolation in jedem Schritt. Man kann die Berechnung früher abbrechen, wenn man nur an Funktionen interesiert ist, die stückweise linear, quadratischen, etc. sind. Dies wird (im Wesentlichen) bei der Interpolation von Bildern benutzt. IN Numerisches Programmieren 5. Interpolation 18 / 40 16

17 Fehleranalyse 19 / 40 Fehler bei Polynominterpolation Lemma 1. Gegeben n `1 Stützstellen x 0 ă... ă x n und f P C n`1 prq, d.h. f: R Ñ R, so dass die ersten n `1 Ableitungen existieren und stetig sind. Weiter sei p P Π n das bzgl. der Stützstelle eindeutige Interpolationspolynom. Dann gilt für jedes x P R für ein ξ P rminpx,x 0 q;maxpx n,xqs. fpxq ppxq f pn`1q pξq pn `1q! px x 0q... px x n q, Beweis. Für x P tx 0,...,x n u ist nicht zu zeigen. Sei also x R tx 0,...,x n u. Wählen wird K : fpxq ppxq ś n i 0 x x i mindestens n `2 Nullstellen und zwar bei x und x 0,...,x n. gpxq fpxq ppxq K nź x x i i 0 so hat die Funktion IN Numerisches Programmieren 5. Interpolation 20 / 40 17

18 Fehler bei Polynominterpolation Beweis (Fort.) Nach dem Satz von Rolle hat die i-te Ableitung mindestens n `2 i Nullstellen. Damit gilt für ein ξ P rminpx,x 0 q;maxpx n,xqs gerade 0 g pn`1q pξq f pn`1q pξq p pn`1q pξq K f pn`1q pξq Kpn `1q! ˆ d n`1 nź x dx i 0x i ˇˇˇˇˇx ξ Für das Interpolationsproblem bedeutet das Lemma gerade fpxq ppxq ď M pn `1q! nź x x i, ˇ wobei M : max xprx0,x ns ˇf pn`1q pxqˇˇ den maximalen Absolutwert der pn `1q-ten Ableitung beschreibt. IN Numerisches Programmieren 5. Interpolation 21 / 40 i 0 18

19 Fehleranalyse Wir haben also insgesamt den folgenden Fehler fpxq ppxq ď M pn `1q! nź px x ˇ i qˇ ˇ, i 0 Auf pn `1q! haben wir keinen Einfluß, da es sich um eine Konstante handelt. Auf M haben wir keinen Einfluß, da es sich bei gegebenem f um eine Konstante handelt. Auf w n pxq : ś n i 0 px x iq können wir Einfluß nehmen, indem wir die Stützstellen x i geschickt wählen. IN Numerisches Programmieren 5. Interpolation 22 / 40 Optimale Stützstellen Wir suchen ein Polynom T n P Π n mit führendem Koeffizienten a n 1, so dass max T npxq xpra,bs minimal ist. Die optimalen Stützstellen sind dann die n Nullstellen dieses Polynoms. Ohne Einschränkung können wir davon ausgehen, dass a b gilt. Den allgemeinen Fall erhalten wir dann durch Verschieben des Polynoms T n pxq T n px q und der Nullstellen x i x i `. Ohne Einschränkung können wir davon ausgehen, dass r b,bs r 1,1s gilt. Den allgemeinen Fall erhalten wir dann durch Skalierung des Polynoms T n pxq T n `x b und der Nullstellen xi x i b. IN Numerisches Programmieren 5. Interpolation 23 / 40 19

20 Tschebyscheff-Polynome Wir sind also auf der Suche nach Polynomen T n P Π n mit führendem Koeffizienten a n 1, so dass minimal ist. Diese Polynome sind die normierten Tschebyscheff-Polynome. max T npxq xpr 1,1s Für T 1 pxq x `a gilt max x `a maxp 1 `a, a 1 q xpr 1,1s # 1 ` a a ą 0 1 ` a a ă 0 Somit ist also a 0 und T 1 pxq x. Es stellt sich heraus, dass im Allgemeinen Folgendes gilt T n pxq 1 2 n 1 cos `n cos 1 ą 0 IN Numerisches Programmieren 5. Interpolation 24 / 40 20

21 Tschebyscheff-Rekursion Für die normierten Tschebyscheff-Polynome T n gilt die Rekursionsvorschrift T 0 pxq 1 T 1 pxq x T 2 pxq x T n`1 pxq xt n pxq 1 4 T n 1pxq Daher kann man sehen, dass T n P Π n ist und a n 1 gilt. Für die optimalen Stützstellen gilt also ˆ2i `1 x i cos 2n `2 π i 0,...,n und wir haben für das Interpolationsproblem auf dem Intervall r 1,1s gerade fpxq ppxq ď M 2 n pn `1q! IN Numerisches Programmieren 5. Interpolation 25 / 40 21

22 Interpolation (Beispiel) Äquidistante Stützstellen y Tschebyscheff-Stützstellen y y x y x x x IN Numerisches Programmieren 5. Interpolation 26 / 40 Zusammenfassung Man sollte äquidistante Stützstellen vermeiden, da sie zu großen Fehlern am Rand führen können. Stattdessen sollte man mehr Stützstellen am Rand benutzen, um diesen Effekt zu minimieren. Ein Beispiel hierfür sind die Tschebyscheff-Stützstellen. Tschebyscheff-Stützstellen haben den Vorteil, dass sie die obere Schranke des möglichen Interpolationsfehler minimieren. 22

23 IN Numerisches Programmieren 5. Interpolation 27 / 40 23

24 Splines 28 / 40 Hermite-Interpolation Um Oszillationen zu vermeiden, kann man neben den Funktionswerten auch die Ableitungen an den Stützstellen vorgeben. Im einfachsten Fall definiert man also px i,y i,yi 1q für i 0,...,n und sucht ein Polynom p P Π 2n`1 mit ppx i q y i p 1 px i q yi 1 i 0,...,n Dies führt zu einem Gleichungssystem 1 x 0 x x 2n` x n x 2 n... xn 2n` x 0... p2n `1qx 2n x n... p2n `1qx 2n n λ 0. λ 2n`1 y 0. y n y0 1. y 1 n IN Numerisches Programmieren 5. Interpolation 29 / 40 24

25 Hermite-Interpolation Um zu sehen, dass dieses Gleichungssystem immer eindeutig lösbar ist, müssen wir nur zeigen, dass y y 1 0 nur die Lösung λ 0 zulässt. Falls y y 1 0 ist, muss jedes x i eine doppelte Nullstelle sein und das Interpolationspolynom muss durch teilbar sein. Das einzige Polynom p P Π 2n`1, das dies erfüllt, ist p 0. nź px x i q 2 P Π 2n`2 Analog kann man zeigen, dass auch höhere Ableitungen ohne Probleme in ein Interpolationsproblem integriert werden können. i 0 Allerdings gibt es für eine Verallgemeinerung von Lagrange-Polynomen keine geschlosssenen Lösungen. Daher sind diese Probleme üblicherweise schwerer als das klassische Interpolationsproblem. IN Numerisches Programmieren 5. Interpolation 30 / 40 25

26 Spline-Interpolation Eine andere Möglichkeit, um Oszillationen zu verhindern, besteht darin, eine Funktion zu benutzen, die stückweise aus Polynomen niedrigen Grades besteht, d.h. zu den Stützstellen x 0 ă... ă x n gilt S P C k 1 ppx 0,x n q,rq S rx i,x i`1 s P Π k Solche Funktionen nennen wir Splines. y y y x 0 x 1 x 2 x x 3 x 0 x 1 x 2 x x 3 x 0 x 1 x 2 x x 3 k 0 k 1 k 2 IN Numerisches Programmieren 5. Interpolation 31 / 40 Spline-Interpolationsproblem Gegeben n `1 Stützstelle x 0 ă... ă x n besteht das Spline-Interpolationsproblem darin n Polynome vom Grad k ą 0 zu finden (n pk `1q Parameter), so dass Folgendes gilt Spx i q y i (2n Nebenbedingungen) S pκq px i q y pκq i 0 ă κ ă k (pn 1qpk 1q Nebenbedingungen) Insgesamt haben wir also npk `1q ` p1 kq Nebenbedingungen. Um eine eindeutige Lösung zu erhalten, benötigen wir k 1 weitere Nebenbedingungen: Für lineare Splines werden keine weiteren Nebenbedingungen benötigt. Durch Forderung von Periodizität (S pκq px 0 q S pκq px n q) erhalten wir genau k 1 Nebenbedingungen. Man kann k 1 weitere Nebenbedingunen (z.b. Ableitungen bei x 0 und/oder x n ) einführen. 26

27 IN Numerisches Programmieren 5. Interpolation 32 / 40 27

28 Bernstein-Polynome Das Lösen des oben beschriebene Interpolationsproblem ist recht aufwändig. Eine Alternative besteht darin, k `1 linear unabhängige Polynome B i,k P Π n zu wählen, die man als Basisfunktionen benutzen kann. Hierfür eignen sich die Bernsteinpolynome B i,k : r0;1s Ñr0;1s ˆk t ÞÑ t i p1 tq k i i Bernsteinplynome nehmen nur Werte zwischen 0 und 1 an, was Oszillationen vermeidet. Außerdem gilt für ppxq ř k i 0 λ ib i,k pxq gerade pp0q λ 0 pp1q λ k IN Numerisches Programmieren 5. Interpolation 33 / 40 28

29 Kubische Interpolation (Bernstein-Polynome) Für die Ableitung von Bernstein-Polynomen gilt gerade Folgendes B 1 i,k ptq k pb i 1,k 1 B i,k 1 q Das heißt wir können uns folgende Funktion ansehen pptq x 0 B 0,3 ` ˆ x 0 ` 1 ˆ 3 y 0 B 1,3 ` x y 1 B 2,3 `x 1 B 3,3 p 1 ptq y 0 B 0,2 ` p3px 1 x 0 q ` py 0 `y 1 qqb 1,2 `y 1 B 2,2 Dies löst gerade das Iterpolationsproblem pp0q x 0 pp1q x 1 p 1 p0q y 0 p 1 p1q y 1 IN Numerisches Programmieren 5. Interpolation 34 / 40 29

30 Bernstein-Polynome (Beispiel) y y B 0,3 B 3,3 B 1,3 B 2,3 t t 4 pptq t Wir wollen das Monom t 4 durch ein kubisches Bernsteinpolynom annähern: Insgesamt gilt also pptq 1 3 B 2,3 `B 3,3. pp0q 0 pp1q 1 p 1 p0q 0 p 1 p1q 4 IN Numerisches Programmieren 5. Interpolation 35 / 40 30

31 Modellierung von Kurven 36 / 40 Bézier-Kurve Eine natürliche Erweiterung von Funktioninterpolationen sind Interpolationen von Kurven c: r0;1s Ñ R k Hier kann man die Projektion von c auf ihre Komponenten c 1,...,c k : r0;1s Ñ R als Funktionen auffassen. Eine Bézier-Kurve C: r0;1s Ñ R k vom Grad n hat die folgende Darstellung Cptq nÿ P i B i,n ptq, wobei B i,n die Bernsteinpolynome vom Grad n sind. P i P R k heißen Kontrollpunkte, da sie nicht notwendigerweise Interpolationspunkte sind, aber die Funktionswerte (und Ableitungen) von C kontrollieren. i 0 IN Numerisches Programmieren 5. Interpolation 37 / 40 31

32 Bézier-Kurven (Beispiel) P n P 1 P 2 P n P n P 0 P n Eine Bézier-Kurve ist eine gewichtete Summe von Vektoren, die bei P 0 beginnt und bei P n endet. Dabei überwiegt in einem Teilbereich von r0;1s jeweils eines der Bernsteinpolynome B i,n die anderen, und sorgt dafür, dass die Kurve zu dem entsprechenden Kontrollpunkt P i gezogen wird. IN Numerisches Programmieren 5. Interpolation 38 / 40 B-Splines Anstelle von Bernsteinpolynomen kann man andere Basisfunktionen wählen, die nicht auf dem gesamten Intervall p0;1q positiv sind. Damit verändert sich die Kurve nur lokal, wenn einer der Kontrollpunkte verändert wird. Ein Beipiel hierfür sind B-Splines. Gegeben n Knoten 0 ď t 0 ă... ă t n ď 1, definiert man die linear unabhängige Splines N i,k vom Grad k, die folgende Eigenschafen erfüllen 0 ď N i ptq ď 1 t P r0;1s (beschränkt) N i ptq 0 t R rt i k ;t i`k s (lokal) ÿ N i 1 (Partition der Eins) i B-Splines und Erweiterungen davon werden in den meisten CAD-Systemen benutzt. (CAD=Computer Aided Design) 32

33 IN Numerisches Programmieren 5. Interpolation 39 / 40 33

34 Zusammenfassung Polynom-Interpolation berechnet für n Paare px i,y i q das Polynom p P Π n, so dass ppx i q y i. Hermite-Interpolation berechnet für n Trippel px i,y i,y 1 i q das Polynom p P Π 2n`1, so dass ppx i q y i und p 1 px i q y 1 i. Spline-Interpolation berechnet p P C k 1, das stückweise aus Polynome vom Grad k besteht, so dass die Interpolationsbedingungen erfüllt sind. Bézier-Kurve pptq ř n i 0 P jb j ptq wird durch die P j kontrolliert. Es handelt sich nicht um eine Interpolation. B-Splines pptq ř n i 0 P jn j ptq nutzen Basisfunktionen, so dass Kontrollpunkte die resultierende Kurve nur lokal beeinflussen. IN Numerisches Programmieren 5. Interpolation 40 / 40 34