Statistics, Data Analysis, and Simulation SS 2017

Transkript

1 Mainz, 8. Mai 2017 Statistics, Data Analysis, and Simulation SS Statistik, Datenanalyse und Simulation Dr. Michael O. Distler Dr. Michael O. Distler Statistics, Data Analysis, and Simulation SS / 18

2 Was wir bisher gelernt haben Stichproben (sampling) Mittelwert, Varianz und deren Unsicherheiten Konsistente und unverzerrte Schätzungen Multidimensionale Verteilungen Kovarianzmatrix Funktionen von Zufallsvariablen Transformation von Mittelwert und Varianz Fehlerfortpflanzung (error propagation) Faltung (folding) Dr. Michael O. Distler Statistics, Data Analysis, and Simulation SS / 18

3 Fehlerfortpflanzung der lineare Fall Dr. Michael O. Distler Statistics, Data Analysis, and Simulation SS / 18

4 Lineare Transformation x ist eine Zufallsvariable: y = a x + b damit gilt x = y b a und f y (y) = 1 a f x ( ) y b a E[y] = a E[x] + b y = a x + b V [y] = E [(a x + b (a x + b)) 2] = a 2 E [(x x ) 2] = a 2 V [x] Dr. Michael O. Distler <distler@uni-mainz.de> Statistics, Data Analysis, and Simulation SS / 18

5 Zufallsvariable in zwei Dimensionen Einfaches Beispiel: z(x, y) = a x + b y Erwartungswert (expected value) von z: < z > = a x f (x, y) dx dy + b y f (x, y) dx dy = a < x > + b < y > unproblematisch Dr. Michael O. Distler <distler@uni-mainz.de> Statistics, Data Analysis, and Simulation SS / 18

6 Zufallsvariable in zwei Dimensionen Varianz: σ 2 z = = z(x, y) = a x + b y ((a x + b y) (a < x > + b < y >)) 2 ((a x a < x >) + (b y b < y >)) 2 = a 2 (x < x >) 2 +b 2 (y < y >) 2 } {{ } } {{ } σx 2 σy 2 +2ab (x < x >)(y < y >) }{{}?? < (x < x >)(y < y >) >= cov(x, y) Kovarianz = σ xy = (x < x >)(y < y >) f (x, y) dx dy Dr. Michael O. Distler <distler@uni-mainz.de> Statistics, Data Analysis, and Simulation SS / 18

7 Kovarianz-Matrix in n-dimensionen Die Kovarianz-Matrix ist eine symmetrische n n Matrix: V ij = σ 2 1 σ σ 1n σ 21 σ σ 2n σ n1 σ n2... σ 2 n Lineare Transformation: y = B x + a E [ y ] = B E [ x ] + a V [ y ] = B V [ x ] B T Dr. Michael O. Distler <distler@uni-mainz.de> Statistics, Data Analysis, and Simulation SS / 18

8 Fehlerfortpflanzung in 2 Dimensionen Auswertung mit Mathematica In[3]:= Out[5]//MatrixForm= B a, b, c, d ; V Σ 1 2, Σ 12, Σ 12, Σ 2 2 ; B MatrixForm V MatrixForm a b c d Out[6]//MatrixForm= 2 Σ 1 Σ 12 Σ 12 2 Σ 2 In[10]:= Out[11]//MatrixForm= V2 B.V.Transpose B Expand; V2 MatrixForm a 2 Σ 1 2 b 2 Σ a b Σ 12 a c Σ 1 2 b d Σ 2 2 b c Σ 12 a d Σ 12 a c Σ 1 2 b d Σ 2 2 b c Σ 12 a d Σ 12 c 2 Σ 1 2 d 2 Σ c d Σ 12 Dr. Michael O. Distler <distler@uni-mainz.de> Statistics, Data Analysis, and Simulation SS / 18

9 Funktionaldeterminante - Kugelkoordinaten Die Umrechnungsformeln von Kugelkoordinaten r, θ, ϕ in kartesische Koordinaten lauten: x = r sin θ cos ϕ y = r sin θ sin ϕ z = r cos θ Die Funktionaldeterminante lautet also: (x, y, z) (r, θ, ϕ) = sin θ cos ϕ r cos θ cos ϕ r sin θ sin ϕ sin θ sin ϕ r cos θ sin ϕ r sin θ cos ϕ cos θ r sin θ 0 = r 2 sin θ. Folglich ergibt sich für das Volumenelement dv : dv = (x, y, z) (r, θ, ϕ) dr dθ dϕ = r 2 sin θ dr dθ dϕ. Dr. Michael O. Distler <distler@uni-mainz.de> Statistics, Data Analysis, and Simulation SS / 18

10 Fehlerfortpflanzung Der nicht-lineare Fall y i = y i (x 1, x 2,... x n ) = y i ( x) ( ) x f y ( y) = f x ( x) J Jacobi-Determinante y J ij = y i x j B = Jacobi-Matrix y 1 / x 1 y 1 / x 2... y 1 / x n y 2 / x 1 y 2 / x 2... y 2 / x n y n / x 1 y n / x 2... y n / x n µy Dr. Michael O. Distler <distler@uni-mainz.de> Statistics, Data Analysis, and Simulation SS / 18

11 Was wir bisher gelernt haben Stichproben (sampling) Mittelwert, Varianz und deren Unsicherheiten Konsistente und unverzerrte Schätzungen Multidimensionale Verteilungen Kovarianzmatrix Funktionen von Zufallsvariablen Transformation von Mittelwert und Varianz Fehlerfortpflanzung (error propagation) Faltung (folding) Ende of Kapitel 1. Grundlegende Konzepte - Fundamental concepts Dr. Michael O. Distler <distler@uni-mainz.de> Statistics, Data Analysis, and Simulation SS / 18

12 press any key Dr. Michael O. Distler Statistics, Data Analysis, and Simulation SS / 18

13 2. Zufallszahlen 2.1 Warum Zufallszahlen: Simulationen Stichprobenentnahme Numerische Analysen Programmerstellung (Computer) Entscheidungsfindung Kryptographie Ästhetik Freizeitaktivitäten (Computerspiele) Dr. Michael O. Distler Statistics, Data Analysis, and Simulation SS / 18

14 2. Zufallszahlen 2.1 Warum Zufallszahlen: Simulationen Stichprobenentnahme Numerische Analysen Programmerstellung (Computer) Entscheidungsfindung Kryptographie Ästhetik Freizeitaktivitäten (Computerspiele) Any one who considers arithmetical methods of producing random digits is, of course, in a state of sin. JOHN VON NEUMANN (1951) Dr. Michael O. Distler <distler@uni-mainz.de> Statistics, Data Analysis, and Simulation SS / 18

15 2.2 Zahlendarstellung Ganze, nicht negative Zahlen (integer) in Binärdarstellung: a = a (k 1) 2 k 1 + a (k 2) 2 k a (1) a (0) = = 0x0 = = = 0x8 = = = 0x1 = = = 0x9 = = = 0x2 = = = 0xA = = = 0x3 = = = 0xB = = = 0x4 = = = 0xC = = = 0x5 = = = 0xD = = = 0x6 = = = 0xE = = = 0x7 = = = 0xF = = = 0x2A = 052 Dr. Michael O. Distler <distler@uni-mainz.de> Statistics, Data Analysis, and Simulation SS / 18

16 Darstellung ganzer Zahlen - Integer representation Wertebereich: 0 a 2 k 1 nibble 4 bit byte, char 8 bit short word 16 bit word, int 32 bit long word 64 bit Wertebereich (mit Vorzeichen): 2 k 1 a 2 k 1 1 nibble 4 bit byte, char 8 bit short word 16 bit word, int 32 bit Dr. Michael O. Distler <distler@uni-mainz.de> Statistics, Data Analysis, and Simulation SS / 18

17 Darstellung ganzer Zahlen - Integer representation Wertebereich: 0 a 2 k 1 nibble 4 bit byte, char 8 bit short word 16 bit word, int 32 bit long word 64 bit Wertebereich (mit Vorzeichen): 2 k 1 a 2 k 1 1 nibble 4 bit byte, char 8 bit short word 16 bit word, int 32 bit Diese Einschränkungen müssen beim Entwurf von Zufallszahlengeneratoren berücksichtigt werden Dr. Michael O. Distler <distler@uni-mainz.de> Statistics, Data Analysis, and Simulation SS / 18

18 Trivia: Das Jahr 2038 Problem Der standard Unix Datentyp time_t, der einen Zeitpunkt sekundengenau darstellt, ist als signed integer realisiert, typischerweise mit 32 Bits. 32 Bits bedeutet, dass ein Zeitraum von etwa 136 Jahren abgedeckt werden kann. Die früheste darstellbare Zeit ist Freitag, 13. Dezember 1901 und die späteste ist Dienstag, 19. Januar Dr. Michael O. Distler Statistics, Data Analysis, and Simulation SS / 18

19 Trivia: Das Jahr 2038 Problem Der standard Unix Datentyp time_t, der einen Zeitpunkt sekundengenau darstellt, ist als signed integer realisiert, typischerweise mit 32 Bits. 32 Bits bedeutet, dass ein Zeitraum von etwa 136 Jahren abgedeckt werden kann. Die früheste darstellbare Zeit ist Freitag, 13. Dezember 1901 und die späteste ist Dienstag, 19. Januar Eine Sekunde nach 03:14:07 UTC wird diese Darstellung überlaufen. Jahr 2038 Problem Dr. Michael O. Distler Statistics, Data Analysis, and Simulation SS / 18

20 Trivia: Das Jahr 2038 Problem Der standard Unix Datentyp time_t, der einen Zeitpunkt sekundengenau darstellt, ist als signed integer realisiert, typischerweise mit 32 Bits. 32 Bits bedeutet, dass ein Zeitraum von etwa 136 Jahren abgedeckt werden kann. Die früheste darstellbare Zeit ist Freitag, 13. Dezember 1901 und die späteste ist Dienstag, 19. Januar Eine Sekunde nach 03:14:07 UTC wird diese Darstellung überlaufen. Jahr 2038 Problem In den meisten modernen Betriebssystemen wurde time_t auf 64 Bits erweitert. Dr. Michael O. Distler Statistics, Data Analysis, and Simulation SS / 18

21 Trivia: Das Jahr 2038 Problem Der standard Unix Datentyp time_t, der einen Zeitpunkt sekundengenau darstellt, ist als signed integer realisiert, typischerweise mit 32 Bits. 32 Bits bedeutet, dass ein Zeitraum von etwa 136 Jahren abgedeckt werden kann. Die früheste darstellbare Zeit ist Freitag, 13. Dezember 1901 und die späteste ist Dienstag, 19. Januar Eine Sekunde nach 03:14:07 UTC wird diese Darstellung überlaufen. Jahr 2038 Problem In den meisten modernen Betriebssystemen wurde time_t auf 64 Bits erweitert. Diese Erweiterung erlaubt es, etwa 293 Milliarden Jahre in beide Zeitrichtungen darzustellen - insgesamt also etwa 40 Mal das derzeitige Alter des Universums. Dr. Michael O. Distler <distler@uni-mainz.de> Statistics, Data Analysis, and Simulation SS / 18

22 Die Gleitkommadarstellung sign exponent (8 bits) fraction (23 bits) = (bit index) 0 Die Darstellung reeller Zahlen in 32 Bit geschieht mittels eines 8 Bit Exponenten und einer 23 Bit Bruchzahl (fraction): Besondere Bedeutung ( 1) sign (1.b 1 b 2... b 23 ) 2 2 e 127 Denormalisierte Zahlen (subnormal numbers) Keine Zahl (NAN - not a number) Unendlich (infinity) Dr. Michael O. Distler <distler@uni-mainz.de> Statistics, Data Analysis, and Simulation SS / 18

23 Die Gleitkommadarstellung sign exponent (8 bits) fraction (23 bits) = (bit index) 0 Einfache Genauigkeit Doppelte Genauigkeit single precision double precision width 32 bits 64 bits exponent 8-bit 11-bit fraction 23-bit 52-bit furthest from zero ± ± closest to zero ± ± denormalized ± ± gap ± ± Dr. Michael O. Distler <distler@uni-mainz.de> Statistics, Data Analysis, and Simulation SS / 18