Erzeugung von Pseudozufallszahlen mit Computern

Transkript

1 Erzeugung von Pseudozufallszahlen mit Computern Basisgeneratoren und deren Einfluss auf die Qualität der Ergebnisse Lorenz Hauswald IKTP, TU Dresden 7 Dezember / 26

2 Gliederung Grundlagen 1 Grundlagen Anforderungen Modulare Arithmetik Computer-Arithmetik / 26

3 Anforderungen Grundlagen Anforderungen Modulare Arithmetik Computer-Arithmetik Anforderungen hohe Anzahl nicht vorhersagbar genau bekannte Verteilung { 1 : 0 < x < 1 f (x) = 0 : sonst } =: U(0, 1) Zufälligkeit Jede regelmäßige Struktur kann sich negativ auf den Ausgang eines Monte-Carlo-Experiments auswirken! 3 / 26

4 Warum Pseudozufallszahlen Anforderungen Modulare Arithmetik Computer-Arithmetik Generatoren echter Zufallszahlen basieren auf physikalischen Prozessen, zb thermisches Rauschen in Halbleitern, Radioaktivität, Luftturbulenzen in Laufwerken Alterung, zb von Geiger-Müller-Zählrohren basieren auf Algorithmen Verteilung meist genauer bekannt, zeitlich konstant höhere Anzahl, Eigenschaften besser manipulierbar mit bekannten Ausgangsbedingungen reproduzierbar 4 / 26

5 Warum Pseudozufallszahlen Anforderungen Modulare Arithmetik Computer-Arithmetik Generatoren echter Zufallszahlen basieren auf physikalischen Prozessen, zb thermisches Rauschen in Halbleitern, Radioaktivität, Luftturbulenzen in Laufwerken Alterung, zb von Geiger-Müller-Zählrohren basieren auf Algorithmen Verteilung meist genauer bekannt, zeitlich konstant höhere Anzahl, Eigenschaften besser manipulierbar mit bekannten Ausgangsbedingungen reproduzierbar 4 / 26

6 Anforderungen Modulare Arithmetik Computer-Arithmetik Arithmetische Zufallszahlengeneratoren Satz von Weyl y 0 ]0, 1[ y 0 R\Q : (u k ) ]0, 1[ : u k = ky 0 ky 0 = ky 0 mod 1 u k hat die asymptotische Gleichverteilungseigenschaft Gleichverteilung Modulo 1 Die relative Anzahl an Folgengliedern in einem Intervall konvergiert gegen die Länge des Intervalls 5 / 26

7 Modulare Arithmetik Anforderungen Modulare Arithmetik Computer-Arithmetik Äquivalenz Modulo m a b mod m (m N, a, b R) Eigenschaften: symmetrisch: a b mod m b a mod m reflexiv: a a mod m a transitiv: a b mod m b c mod m a c mod m 6 / 26

8 Modulare Arithmetik Anforderungen Modulare Arithmetik Computer-Arithmetik Reduktion Modulo m Finde 0 a < m für gegebenes b, so dass a b mod m Existiert a, heißt es Residuum von b mod m a = b b m m Modulo-Operator in Programmiersprachen a = b % m a = b mod m Achtung, % und mod sind meist Operatoren für den Rest der ganzzahligen Division C++ : fmod(b,m) mit b,m float, double oder long double 7 / 26

9 Computer-Arithmetik Anforderungen Modulare Arithmetik Computer-Arithmetik Numerische Datentypen Ganzzahlen n I NbzwZ int ( bis 32767) uint (0 bis 65535) Fließkommazahlen r F R r = m b e m: Mantisse, b: Basis, e: Exponent Bits Wertebereich Genauigkeit float 32 1, , Stellen double 64 5, , Stellen long double 80 1, , Stellen 8 / 26

10 Fließkommazahlen Grundlagen Anforderungen Modulare Arithmetik Computer-Arithmetik Eigenschaften in (0,1) r = 0, d 1 d 2 d p b e r min = b e min p r max = 1 b p Anzahl darstellbarer Zahlen ist endlich ungleichmäßige Verteilung über (0,1) 9 / 26

11 Anforderungen Modulare Arithmetik Computer-Arithmetik Verteilung darstellbarer Zahlen in (0,1) Anzahl darstellbarer Zahlen / 26

12 Lineare Kongruenzgeneratoren Einfacher linearer Kongruenzgenerator (Lehmer 1949) Beispiel m = 17, a = 9, x 0 = 7 12,6,3,10,5,11,14,7 p = 8 oft genutzte Moduli Mersenne-Primzahlen x i (ax i-1 + c) mod m 0 x i < m max Periode p = m c = 0 x 0 0 (p max = m 1) Skalierung auf (0,1): u i = x i m 11 / 26

13 Struktur Grundlagen x i 3x i-1 mod / 26

14 Struktur Grundlagen x i 12x i-1 mod / 26

15 Mischen der Ausgabe Permutation von Unterfolgen durch anderen, meist einfacheren Generator mögliche Erhöhung der Periode und Brechung der Gitterstruktur auch Selbstmischung möglich (zb Bays-Durham-Algorithmus) 14 / 26

16 Mischen der Ausgabe x i 3x i-1 mod 31, gemischt 15 / 26

17 Erzeugung von Unterfolgen nichtüberlappende Blöcke Startwert der nächsten Unterfolge in Abhängigkeit der Länge der Blöcke und Startwert des vorangegangenen Blocks x i+1 (ax i + c) mod m x i+k (a k x i + c) mod m 2 Startwert: x k-1 bx 0 mod m mit b a k mod m Überspringen von Elementen ( Leapfrogging ) Folge: x s, x s+k, x s+2k, x i+1 bx i mod m 16 / 26

18 Erzeugung von Unterfolgen Lehmer-Baum binärer Baum mit Lehmer-Kongruenzgeneratoren (a L x i-1 + c L ) mod m x (L) i x (R) i (a R x i-1 + c R ) mod m x 0 L R L R L R L R L R L R L R 17 / 26

19 Weitere lineare Kongruenzgeneratoren Mehrfache Rekursion x i (a 1 x i a k x i-k ) mod m k: Ordnung des Generators p max = m k 1 Verzögerter Fibonacci x i (x i-j + x i-k ) mod m 18 / 26

20 Matrixkongruenzgeneratoren Definition x i (Ax i-1 + c) mod m x i, c I d A I d d Anwendungsbereiche Erzeugung paralleler Ströme von Pseudozufallszahlen Induktion einer Korrelationsstruktur in den Zufallsvektoren 19 / 26

21 Nichtlineare Kongruenzgeneratoren Allgemein x i f (x i-1,, x i-k ) mod m Inversiver Kongruenzgenerator x i ( ax i-1 + c) mod m 1 x x mod m Blum-Blum-Shub-Generator (1986) x i xi-1 2 mod { m 0 : x i gerade Bitfolge b i = 1 : x i ungerade unvorhersagbar in polynomieller Zeit 20 / 26

22 Rückgekoppeltes Schieberegister Feedback Shift Register Generator (Transworthe 1965) b i (a 1 b i a p b i-p ) mod 2 Vertauschung der Bits (Bit Twisting) x i = x i-p Ax i-p+q A mn 0, 1 21 / 26

23 Rückgekoppeltes Schieberegister Feedback Shift Register Generator (Transworthe 1965) b i (a 1 b i-1 a p b i-p ) mod 2 b i = (b i-p b i-p+q ) R(p q,p) - Generator oft in Physik genutzt: R(103,250) Vertauschung der Bits (Bit Twisting) x i = x i-p Ax i-p+q A mn 0, 1 21 / 26

24 Andere Quellen gleichverteilter Zufallszahlen andere Quellen Ziffern irrationaler Zahlen, zb π, e, 2 (normal in Basis 10) chaotische Systeme zelluläre Automaten Internetdienste, zb QRNG (HU Berlin) 22 / 26

25 23 / 26

26 Qualität von Pseudozufallszahlen Eigenschaften Relative Häufigkeit Welcher Anteil der Zahlen ist in (00,01],, (09,10)? allg: Ist f i = n i N nahe genug an π i? Chi-Squared-Test n (f i π i ) 2 π i Kolmogorov-Smirnov-Test max f i π i Unabhängigkeit Autokorrelation mit Verzögerung! = 0 (notwendig, nicht hinreichend) Länge von Folgen aufeinanderfolgender wachsender bzw fallender Zahlen: Runs-Test 24 / 26

27 Qualität von Pseudozufallszahlen Eigenschaften Gitterstruktur Abstände der Hyperebenen: Spektraltest Länge des Minkowski-reduzierten Basisvektors Sanchez, Luiz ( 25 / 26

28 Quellen Grundlagen Literatur Gentle, James (2003): Random Number Generation and Monte Carlo Methods Knuth, Donald (1981): The Art of Computer Programming Volume 2 Seminumerical Algorithms Viega, John: Practical Random Number Generation in Software 26 / 26