1. Rechnerarithmetik und. Rundungsfehler

Transkript

1 1. Rechnerarithmetik und Rundungsfehler 1

2 Rundung (1) Die natürlichen Zahlen hat der liebe Gott gemacht, alles andere ist Menschenwerk, L. Kronecker Ohne Zahlendarstellung auf einem Rechner wiederholen zu wollen: Definition 1.1 (Maschinenzahlen) Die endliche Menge M R der in einem Rechner darstellbaren Zahlen heißt Menge der Maschinenzahlen. Probleme: Es sind nur endlich viele Zahlen exakt darstellbar. Die Abbildung R M liefert Fehler. Die Arithmetischen Operationen +,,,/ von M M M können nur näherungsweise korrekt durchgeführt werden und liefern Fehler. 2

3 Rundung (2) Definition 1.2 (Rundung) Eine Abbildung rd : R M von den reellen Zahlen R in die Teilmenge der Maschinenzahlen M R bezeichnen wir als Rundung, wenn die folgenden beiden Bedingungen erfüllt sind: rd(m) = m m M r s rd(r) rd(s) r,s R Diese Definition ist nicht eindeutig und es sind verschiedene Rundungen auf Rechnern implementiert Einige andere Definitionen von Rundungen verlangen zusätzlich rd( r) = rd(r). 3

4 Rundung (3) Die Forderung m = rd min (r) mit r m = min n M r n ist keine eindeutige Definition von Rundung. Definition 1.3 (Rundungsfehler) Der Fehler f rd R, der beim Runden nach Definition 1.2 für die reelle Zahl r R gemacht wird, heißt Rundungsfehler und ist gegeben durch f rd (r) := δ r := r rd(r) Beispiel mit Binärzahlen, 32 Bit, 23 Bit Mantisse: 0.1 = i=1 (2 4i +2 4i 1 ) = ( )

5 Rundung (4) Definition 1.4 (Relative Rundungsfehler) Der Quotient aus dem Rundungsfehler oder auch absoluten Rundungsfehler f rd (r) und dem Wert r heißt relativer Rundungsfehler f rel (r) := ǫ r := r rd(r) r = δ r r Definition 1.5 (Maschinengenauigkeit) Die obere Schranke für den maximalen relativen Rundungsfehler, der bei der Rundung einer Zahl r R in eine Maschinenzahl rd(r) M mit t-stelliger Mantisse auftreten kann, heißt Maschinengenauigkeit ǫ und ergibt sich zu ǫ := 2 t 5

6 Rundung (5) Eine Maschinenzahl hat also eine relative Abweichung von höchstens ǫ = 2 t. Float: Double: oder nach der Defintion 1.4 rd(r) = r(1 ǫ r ) mit ǫ r < ǫ ǫ r ist positiv beim Abrunden und negativ beim Aufrunden. 6

7 Rechenfehler (1) Häufig werden die Begriffe absoluter und relative Fehler für die Beträge der absoluten bzw. relativen Rundungsfehler verwendet. Die arithmetischen Operationen müssen durch Additionen im Rechner auf Basis der Maschinenzahlen M ersetzt werden. + M : M M M m+ M n rd(m+n) Definition 1.6 (Rechenfehler) Den Fehler f re (m,n) R, der beim Addieren für die Zahlen m,n M gemacht wird, bezeichnen wir als Rechenfehler und er ergibt sich aus f + (m,n) := (m+n) (m+ M n) 7

8 Rechenfehler (2) Der Fehler setzt sich zusammen aus f + = [(r +s) (rd(r)+rd(s))]+[(rd(r)+rd(s)) (rd(r)+ M rd(s))] = f R M +f + +M Beispiel: Addiere die Zahlen , Speicherung mit 3 Stellen Genauigkeit, Rechnung mit 5 Stellen Genauigkeit. Exakt: =

9 Rechenfehler (3) Das Rechnen mit höherer Genauigkeit ist häufig in Prozessoren realisiert Beispiel: Intel 64-Bit Register, 80-Bit FPU Werden die Operationen {+,,,/} wie oben die Addition analysiert, so ergibt sich stets für den relativen Fehler einer Operation für zwei Maschinenzahlen r, s M mit quasi exakter Genauigkeit: r M s = rd(r s) = (r s)(1+ǫ ) mit ǫ < ǫ 9

10 Rechenfehler (4) Das sind echte Probleme! Ein paar berühmte Beispiele: Börsenindex in Vancouver 1983 durch Rechnen (Speichern) mit 4 (3) Stellen nach 22 Monaten um ca. 50% falsch, 574,081 anstatt 1098,892 (ca Verkaufsrechnungen pro Tag). Landtagswahlen 1992 in Schleswig-Holstein: offizielle Ergebnis der Grünen am Wahltag 5,0%, berechnet mit Rundungen pro Kreis auf eine Stelle nach dem Komma, wirklich 4,97%, wie sich am nächsten Tag heraus stellte. Absturz der Ariane 5 in 1996 wegen Umrechnung der Geschwindigkeit von 64 Bits nach 16 Bits (einige Funktionen stammten noch von der langsameren Ariane 4 und waren in 16 Bits implementiert). 10

11 Fehlerfortpflanzung (1) Fehlerfortpflanzung ist das Rechnen mit ǫ, die Epsilontik Beispiel: y = a+b+c Das Ergebnis hängt von der Reihenfolge der Additionen ab. Betrachte d = a+ M b und ỹ = d+ M c ỹ = d+ M c = (d+c)(1+ǫ 2 ) = ((a+ M b)+c)(1+ǫ 2 ) = ((a+b)(1+ǫ 1 )+c)(1+ǫ 2 ) = a+b+c+(a+b)ǫ 1 +(a+b+c)ǫ 2 +(a+b)ǫ 2 ǫ 1 a+b+c+(a+b)ǫ 1 +(a+b+c)ǫ 2 11

12 Fehlerfortpflanzung (2) Relativer Fehler in 1. Ordnung in ǫ: f rel (y) = y ỹ y a+b a+b+c ǫ 1 +ǫ 2 (1+ a+b a+b+c ) ǫ Andere Reihenfolge liefert andere Faktoren Problem, falls a+b >> a+b+c ist. Es wird jeweils der Fehler bei der ersten Addition verstärkt. 12

13 Fehlerfortpflanzung (3) Beispiel: Addition mit 2-Bit Mantisse a = b = c = Addition: ỹ = ( M ( 1.10) 2 2 1) + M = M = exakt. Andere Reihenfolge: ỹ = ( + M ( 1.10) M ) = M ( ) 2 1 = % relativer Fehler die Reihenfolge ist wichtig! 13

14 Fehlerfortpflanzung (4) Problem Auslöschung (siehe auch Übungsblätter 1,2 und 3) Weiteres Beispiel: Addition vom 5 Zahlen mit 8-stelliger Mantisse M 2 4 M M 2 7 M 2 20 = M 2 4 M 2 20 M M 2 7 = M M 2 4 M M 2 7 = M M 2 7 M 2 20 M 2 3 = 8 Exaktes Resultat: 136 Diese Probleme müssen in der Numerik berücksichtigt werden!! 14

15 Kondition und Stabilität (1) Kondition und Stabilität beschäftigen sich damit, welche Auswirkung Eingabefehler bei exakter Rechnung auf die Ausgabe haben. Definition 1.7 (Berechnungsmethode) Eine Berechnungsmethode ist eine wohldefinierte Folge von mathematischen Elementarberechnungen, wie Addition, Subtraktion, Multiplikation und Division, die aus den Eingangsdaten x R n,n N das Ergebnis y = f(x) R berechnet. Die Berechnungsmethode legt sowohl die Elementarberechnungen als auch die Reihenfolge dieser Elementarberechnungen fest. 15

16 Kondition und Stabilität (2) Fehler der Eingabe sei δ x und Fehler der Ausgabe sei δ y. Dann gilt in 1. Näherung Taylorentwicklung bzw. y +δ y = f(x+δ x ) = f(x)+f (x)δ x +O(δ 2 x ) oder für den relativen Fehler δ y f (x)δ x ǫ y = δ y y = xf (x) y δ x x = xf (x) y ǫ x 16

17 Kondition und Stabilität (3) Definition 1.8 (Konditionszahl) Unter der Konditionszahl des Problems y = f(x) bezüglich des Eingabewerts x versteht man den Betrag des Verstärkungsfaktors des relativen Rundungsfehler κ f (x) := xf (x) y Schlechte Kondition liegt vor, wenn das Verhältnis von Eingabewert zu Ausgabewert groß ist, wenn die Ableitung betragsmäßig groß ist. 17

18 Kondition und Stabilität (4) Beispiele: Zuweisung y = x κ = = 1 Addition y = x+a κ + = x+a x Subtraktion y = x a κ = x a x Multiplikation y = a x κ = 1 Division y = a/x κ / = 1 Exponentialfunktion y = exp(x) κ exp = x 18

19 Kondition und Stabilität (5) Definition 1.9 (Numerisch stabil) Ist das Problem y = f(x) gut konditioniert und existiert zusätzlich ein gutartiges Berechnungsverfahren, bei dem die relativen Fehler nicht zusätzlich stark vergrößert werden, so spricht man von einem numerisch stabilen Algorithmus Ansonsten heißt das Verfahren numerisch instabil Das werden wir noch in der Praxis kennen lernen! 19

20 Kondition und Stabilität (6) Fragestellungen beim Entwurf einer Lösung eines numerischen Problems: Ist das Problem bzw. die Formel (das Programm) gut konditioniert? Falls ja, ist das verwendete Verfahren numerisch stabil? Lässt sich das Verfahren verbessern? Beispiel schlecht konditionierter Probleme: y = ln(x), κ ln = x 2 a 2, κ x 2 = 1 ln(x) 2x 2 x 2 a 2, schlecht konditioniert für x 1. schlecht konditioniert für x a. 20

21 Kondition und Stabilität (7) Beispiel für ein gut konditioniertes aber numerisch instabiles Problem: f(x) = 1 1 x 2, x 0 x 2 κ x = (1 1 x 2 ) 1 x 2 2 für x 0 zu zeigen über Taylor-Reihe mit 1 x 2 (1 x2 2 ). Numerische Auswertung: x x 2 1 x 2 1 x x 2 Bessere Formulierung 1 1 x 2 = (1 1 x 2 )(1+ 1 x 2 ) = 1+ 1 x 2 (siehe auch Übungsaufgaben) 1+ x 2 1 x 2 21