Grundlagen der Monte-Carlo-Simulation. Dr. Sebastian Lück 7. Februar 2012

Transkript

1 Grundlagen der Monte-Carlo-Simulation Dr. Sebastian Lück 7. Februar 2012

2 page 2 Contents Motivation Erzeugung von SPZZ Software Transformation von SPZZ Akzeptanz- und Verwerfungsmethode Monte-Carlo-Integration Literatur

3 page 3 Motivation Motivation für Monte-Carlo-Simulation Ziel: Analyse stochastischer Modelle, die zu komplex sind, um ihr Verhalten effizient analytisch studieren zu können. praktische Relevanz: Ersatz aufwendiger und teurer Laborexperimente bzw. Erhebung von Realdaten Erhebung großer Datenmengen mit wenig Aufwand Analyse von Systemen, die experimentell nicht beobachtbar sind Analyse von Systemen, deren Analyse mit deterministischen mathematischen Methoden zu aufwändig oder unmöglich ist Prinzipielle Aufgabenstellung: Entwicklung von Simulationsalgorithmen zur Erzeugung von Realisierungen stochastischer Modelle: Zufallsvariablen zufällige geometrische Objekte stochastische Prozesse in zeitlicher und/oder räumlicher Dimension

4 page 4 Motivation Klassen von Algorithmen Grundlage der Monte-Carlo-Simulation: Zufallszahlengeneratoren Erzeugung von Standard-Pseudo-Zufallszahlen (SPZZ). SPZZ: Folgen von Zahlen die als Realisierungen von iid U((0, 1]) Zufallsvariablen betrachtet werden können. Transformationsalgorithmen: Transformiere SPZZ so, dass sie als Realisierungen einer Folge komplexer verteilter ZV betrachtet werden können. wichtige Teilklasse: Akzeptanz- und Verwerfungsmethoden Markov-Chain-Monte-Carlo Algorithmen: Konstruktion von Markovketten, deren ergodische Grenzverteilung der zu simulierenden Verteilung entspricht. Grundidee: starte eine solche Markovkette und lasse sie lange genug laufen, um in die Nähe der Grenzverteilung zu gelangen. Anwendungen: u.a. Simulation von Punktprozessen und anderer komplexer stochastischer Objekte.

5 page 5 Erzeugung von SPZZ Lineare Kongruenzgeneratoren (LKG) LKG: Algorithmus zur Generierung von Folgen u 1,..., u n von Zahlen u i ([0, 1)), die als Realisierungen der unabhängig U([0, 1))-verteilten ZV U 1,..., U n betrachtet werden können. Algorithmus: Definiere einen Modulus m IN, einen Keim z0 {0,... m 1}, einen Faktor a {0,..., m 1} ein Inkrement c {0,..., m 1}. Setze rekursiv z k = (az k 1 + c)modm k = 1,..., n Erzeuge die SPZZ u k vermöge u k = z k m.

6 page 6 Erzeugung von SPZZ Bemerkungen Ein LKG mit Modulus m generiert höchstens m verschiedene SPZZ. Falls z k+m0 = z k für ein m 0 > 0 z k+j = z k+m0+j j 0. Ungünstige Parameterwahl kurze Periode m 0. Bsp.: a = c = z 0 = 5, m = 10 erzeugt die Folge 5, 0, 5, 0,.... Theorem (Bedingung für maximale Periodenlänge) Der LKG hat genau dann volle Periode, wenn folgende drei Bedingungen gelten: c und m haben keine gemeinsamen Primfaktoren. a 1 ist durch alle Primfaktoren von m teilbar. Falls m ein Vielfaches von 4 ist, dann ist auch a 1 ein Vielfaches von 4.

7 page 7 Erzeugung von SPZZ Eigenschaften guter Zufallszahlengeneratoren Generierte SPZZ sollten bei Tests auf statistische Unabhängigkeit und Gleichverteilung nicht abgelehnt werden. Lange Periode (d.h. viele verschiedene Zahlen ca ) Effizienz: schnell und nicht speicherintensiv (viele MC-Verfahren brauchen Milliarden an SPZZ) 0 und 1 sollten als Outputs nicht auftreten, um Division durch 0 zu vermeiden. Für kryptographische Zwecke: Unvorhersehbarkeit Paare aufeinanderfolgender SPZZ (u i, u i+1 ) sollten gleichmäßig auf [0, 1) 2 verteilt sein ( Unabhängigkeit). Analoges für Tripel etc. Das kann beim LKG ziemlich schiefgehen...

8 page 8 Erzeugung von SPZZ Punktmuster für Paare (x n, x n+1 ) aufeinanderfolgender SPZZ (vor Normierung) für m = 256 (nach H. Künsch; 2006) a = 137, c = 1 a = 137, c = 1 erste Hälfte a = 19, c = 0 a = 21, c = 0

9 page 9 Erzeugung von SPZZ Fazit LKGs sind einfach zu implementierende und schnelle Algorithmen LKGs sind u.a. wegen ihrer linearen Abhängigkeiten nicht geeignet für sensible MC-Simulationen, kryptographische Zwecke.

10 page 10 Erzeugung von SPZZ Modulo 2 lineare Generatoren Generelles Schema 1. Initialisiere Generator mit Bitwort x 0 {0, 1} k 2. Definiere x n = Ax n 1 mit Matrix A {0, 1} k k, wobei Multiplikation und Addition modulo 2 definiert sind (also Rechnen in F 2 ). 3. Definiere y n = Bx n mit Matrix B {0, 1} w k, wobei w die Darstellungslänge der Zahlen des Computers ist (z.b. 32 Bit). 4. Return u n = w l=1 y n,l2 l. 5. Setze n = n + 1 und gehe zu Schritt 2. Beachte: Durch Multiplikation mit A können Bitshifts und Bit-Vertauschungen (Twists) realisiert werden.

11 page 11 Erzeugung von SPZZ Beispiele für modulo 2 lineare Generatoren Linear Feedback Shift Register Generator Generalized Feedback Shift Register Generator Mersenne-Twister (häufig standardmäßig in Software verwendet (z.b. R)) siehe u.a. M. Matsumoto und Nishimura (1998)

12 page 12 Erzeugung von SPZZ Mersenne Twister I Generiert PZZ x {0, 1,..., 2 w 1 }. Division durch 2 w 1 ergibt reelle Zahl in [0, 1] Initialisierungs-Seeds x 0,..., x n Rekursionsvorschrift: x k+n = x k+m (x k,w 1,..., x k,r, x k+1,r 1,..., x k+1,0 )A, k = 0, 1,..., wobei bitweise Addition m, r N, 0 r w 1, a = (a w 1,..., a 0 ) {0, 1} w A = a w 1 a w a 1 a 0

13 page 13 Erzeugung von SPZZ Mersenne Twister II Beachte: { xa = x >> 1, wenn x 0 = 0, (x >> 1) a, wenn x 0 = 1, wobei x >> u ein bitweiser Rechts-Shift, um u IN Positionen ist. Wenn r = 0 und A durch die Einheitsmatrix ersetzt wird, ergibt der obige Algorithmus den sog. Generalized Feedback Shift Operator Die Rekursionsvorschrift des Mersenne-Twisters kann allein durch Bit-Shifts, bitweises XOR, OR und AND realisiert werden sehr schnelle Operationen Zur Verbesserung der Güteeigenschaften der PZZ wird der vorläufige Output x des Mersenne-Twisters wie folgt modifiziert: y = x (x ( >> u), ) y = y ( (y << s) AND b ), y = y (y << t) AND c, z = y (y >> l).

14 page 14 Erzeugung von SPZZ Mersenne Twister MT von M. Matsumoto und Nishimura (1998) eingeführte Parameterkonstellation für den MT: (w, n, m, r) = (32, 624, 397, 31), (l, s, t, u) = (18, 7, 15, 11), Bitmasken b = 9D2C568016, c = EFC (als Hexadezimalzahlen). extrem große Periode (dies ist eine Mersenne-Primzahl), sehr schnell, generiert immer 624 Zustandswörter mit je 32 Bits auf einmal, in unmodifizierter Form nicht für kryptographische Zwecke geeignet, sehr gute statistische Qualität der PZZs (für Details siehe M. Matsumoto und Nishimura (1998))

15 page 15 Java Software Klasse java.util.random: LKG mit 48-bit Keim Keim im Default-Fall: Systemzeit in Millisekunden zur Zeit der Initialisierung des Random-Objektes Beispiele für Methoden: nextdouble() erzeugt eine SPZZ in (0, 1), nextgaussian() erzeugt eine N(0, 1)-verteilte PZZ. Vorsicht! Bei zeitnaher Erzeugung mehrerer Objekte vom Typ Random haben diese evtl. den gleichen Keim. Alle Objekte liefern die gleiche Folge von PZZ. Lösung: Für die zeitnahe Erzeugung von PZZ nur ein Random-Objekt anlegen und aus diesem alle PZZ generieren. Klasse java.security.securerandom: PZZ-Generator für kryptographische Anwendungen ähnliche Methoden wie java.util.random aber bessere PZZ

16 page 16 Software R Standard ZZ-Generator: Mersenne-Twister k SPZZ ( Realisierungen von k unabh. U((0, 1))-verteilten ZV) erhält man mittels runif(k) k standardnormalverteilte PZZ erhält man mittels rnorm(k) Zur Änderung des ZZ-Generators siehe Hilfe zu RNG.

17 page 17 Transformation von SPZZ Transformation von SPZZ Bisher: Erzeugung von Standard-Pseudo-Zufallszahlen (SPZZ) SPZZ können als Realisierungen von unabhängig U([0, 1))-verteilten ZV aufgefasst werden. Ziel: Methoden für die Transformation von SPZZ transformierte Zahlenfolge soll als Realisierungen unabhängiger ZV einer anderen Verteilung betrachtet werden können, z.b. Exp(λ) Poi(λ) Bin(n, p) N(µ, σ)

18 page 18 Transformation von SPZZ Inversionsmethode Definition Sei F : IR [0, 1] eine beliebige Verteilungsfunktion, d.h. F ist rechtsstetig, monoton wachsend, lim x F (x) = 0 und lim x F (x) = 1. Dann heisst F 1 : (0, 1] IR { } F 1 (y) = inf{x : F (x) y} die verallgemeinerte Inverse von F. Im Falle der Invertierbarkeit von F ist F 1 die normale Inverse.

19 page 19 Transformation von SPZZ Inversionsmethode Theorem Seien U 1, U 2,... U([0, 1)) unabhängig. Sei F eine Verteilungsfunktion. Dann sind die ZV X i = F 1 (U i ), i IN unabhängig mit Verteilungsfunktion F. Direkte Anwendung des Theorems erfordert analytische Formel für F 1 nur selten möglich.

20 page 20 Transformation von SPZZ Beispiele: Exponentialverteilung mit Parameter λ F (x) = (1 e λx )1l {x 0} F 1 (u) = log(1 u) λ u [0, 1) Weil U U(0, 1] 1 U U[0, 1): Wenn u 1,..., u n als Realisierungen von unabh. U((0, 1])-verteilten ZV betrachtet werden können, dann können x i = log u i λ, i = 1,..., n als Realsierungen von unabh. Exp(λ)-verteilten ZV aufgefasst werden.

21 page 21 Transformation von SPZZ Beispiele: Erlangverteilung Erlang-Verteilung: Γ(λ, r)-verteilung, λ > 0, r IN F (x) = x 0 λe λv (λv) r 1 (r 1)! dv1l {x 0} keine analytische Formel für F 1 Alternativansatz: X 1,..., X r unabh. Exp(λ)-verteilt r i=1 X i Γ(λ, r). Algorithmus Generiere rn SPZZ u 1..., u rn Definiere y i = ( log(u r(i 1)+1) λ log(u ri ) λ ) Dann können y 1..., y n als Realisierungen unabh. Erlang-verteilter ZV betrachtet werden

22 page 22 Transformation von SPZZ Simulation N(µ, σ 2 )-verteilter ZV: Box-Muller-Algorithmus Lemma Seien U 1, U 2 unabh. U([0, 1))-verteilte ZV. Dann sind die ZV Y 1 = 2 log U 1 cos(2πu 2 ) und Y 1 = 2 log U 1 sin(2πu 2 ) unabh. und N(0, 1)-verteilt. Beweis: siehe Skript Markov-Chains and Monte Carlo Simulation von Prof. V. Schmidt Algorithmus Erzeuge 2n SPZZ u 1,..., u 2n. Definiere y 2k 1 = 2 log u 2k 1 cos(2πu 2k ) und y 2k = 2 log u 2k 1 sin(2πu 2k ) Für µ IR, σ > 0 können y 2k 1 = σy 2k 1 + µ, y 2k = σy 2k + µ, k = 1,..., n als Realisierungen von 2n unabh. N(µ, σ 2 )-verteilten ZV betrachtet werden.

23 page 23 Transformation von SPZZ Simulation diskreter Verteilungen: generelle Methode Ziel: Erzeuge PZZ x 1..., x n, die als Realisierungen unabh. diskreter ZV X 1,..., X n : Ω {a 0, a 1,...} IR betrachtet werden können. Notation p j = P(X i = a j ) Wenn U i U([0, 1)), dann gilt für X i = a 0, wenn U i < p 0 a 1, wenn p 0 U i < p 0 + p 1. a j, wenn p p j 1 U i < p p j. P(X i = a j ) = p j, i = 1,..., n.

24 page 24 Transformation von SPZZ Simulation diskreter Verteilungen: generelle Methode Algorithmus Erzeuge SPZZ u 1..., u n. Definiere x i = j=0 a j 1l [ j 1 k=0 p k, j k=0 p k ) (u i), i = 1,..., n. Dann können x 1,..., x n als Realisierungen einer Folge unabh. ZV der durch die Zähldichte p 0, p 1... definierten Verteilung betrachtet werden.

25 page 25 Transformation von SPZZ Poisson-Verteilung Lemma Seien X 1, X 2,... unabh. und Exp(λ)-verteilte ZV. Dann gilt Y = max{k 0 : X X k 1} Poi(λ). Beweis: Übungsaufgabe Algorithmus Seien u 1, u 2,... SPZZ. Setze y 0 = 0 und für i > 0 y i = max{k 0 : log u 1 λ log u k λ i} y i 1. Dann kann y 1, y 2,... als Folge von Realisierungen unabh. Poi(λ)-verteilter ZV betrachtet werden.

26 page 26 Akzeptanz- und Verwerfungsmethode Akzeptanz- und Verwerfungsmethode eine der universellsten Methoden, um PZZ mit einer bestimmten Verteilung zu erzeugen für diskrete und absolutstetige Vertilungen anwendbar Ausgangspunkt im diskreten Fall: Verteilung mit Zähldichte p = (p0, p 1...), die bereits simuliert werden kann Zähldichte q = (q0, q 1...) der zu simulierenden Verteilung erfüllt q k c p k für alle k IN und eine Konstante c 1. Ausgangspunkt im absolutstetigen Fall: Verteilung mit Dichte g(x), die bereits simuliert werden kann Dichte f (x) der zu simulierenden Verteilung erfüllt f (x) c g(x) für alle x IR m und eine Konstante c 1.

27 page 27 Akzeptanz- und Verwerfungsmethode Diskreter Fall Theorem Seien (U 1, X 1 ), (U 2, X 2 ),... iid Zufallsvektoren mit unabhängigen Komponenten, so dass U i U((0, 1]) und X i p. Es gelte ferner q k c p k für alle k IN und eine Konstante c 1. { } Dann gilt I = min k 1 : U k < q X k cp Geo(c 1 ) und X I q. Xk Beweis: siehe Skript Markov-Chains and Monte Carlo Simulation von Prof. V. Schmidt Algorithmus 1. Generiere eine Realisierung x einer ZV X mit Zähldichte p. 2. Generiere eine Realisierung u einer von X unabhängigen ZV U U((0, 1]). 3. Wenn u q X k cp Xk, dann ist x das Simulationsergebnis, ansonsten gehe wieder zu Schritt 1.

28 page 28 Akzeptanz- und Verwerfungsmethode Absolutstetiger Fall Theorem Seien (U 1, X 1 ), (U 2, X 2 ),... iid Zufallsvektoren mit unabhängigen Komponenten, so dass U i U((0, 1]) und die Z-Vektoren X i : Ω IR m die Dichte g : IR m [0, ) haben. Es gelte ferner für die Dichte f : IR m [0, ), dass f (x) c g(x) für alle x IR m und eine Konstante c 1. { } Dann gilt I = min k 1 : U k < f (X ) cg(x ) Geo(c 1 ) und X I hat die Dichte f. Beweis: siehe Skript Markov-Chains and Monte Carlo Simulation von Prof. V. Schmidt Algorithmus 1. Generiere eine Realisierung x eines Zufallsvektors X mit der Vorschlagsdichte g. 2. Generiere eine Realisierung u einer von X unabhängigen ZV U U((0, 1]). 3. Wenn u f (x) c g(x), dann ist x das Simulationsergebnis, ansonsten gehe wieder zu Schritt 1.

29 page 29 Akzeptanz- und Verwerfungsmethode Beispiel: Positive Normalverteilung Dichte der positiven Standard-Normalverteilung: f (x) = Vorschlagsdichte: e x 1I {x 0} (der Exp(1)-Verteilung) Man sieht leicht, dass c = f (x) c g(x) für alle x 0. 2e π 2 π e x 2 /2 1I {x 0} die kleinste Konstante ist, so dass Dichte der positiven Normalverteilung (gestrichelte Kurve) und dominierende Funktion 2 π e x+ 1 2 (durchgezogene Linie) x

30 page 30 Akzeptanz- und Verwerfungsmethode Beispiel: Positive Normalverteilung Algorithmus zur Simulation einer positiv normalverteilten ZV 1. Generiere eine Realisierung x einer ZV X Exp(1). 2. Generiere eine Realisierung u einer von X unabhängigen ZV U U((0, 1]). 3. Wenn u exp ( x x 1 2), dann ist x das Simulationsergebnis, ansonsten gehe wieder zu Schritt 1. Beachte: Wenn X positiv standardnormalverteilt ist und U U((0, 1]) unabhängig von X, dann ist S = X (1 21I {U 1/2} )standardnormalverteilt.

31 page 31 Monte-Carlo-Integration Monte-Carlo-Integration Ziel Berechnung eines Integrals der Form B f (x)dx, für eine Borelmenge B IRd. Benutze: I = 1 B B Approximiere I = 1 B f (x)dx = Ef (X ), wobei X U(B). f (x)dx durch B Î n = 1 n n f (X i ) mit X 1,..., X n U(B) unabhängig. i=1

32 page 32 Monte-Carlo-Integration Eigenschaften von Î n Î n ist erwartungstreu, denn EÎ n = E 1 n f (X i ) = Ef (X 1 ) = I. n i=1 Î n ist stark konsistent, denn nach dem SGGZ gilt 1 n f (X i ) f.s. Ef (X 1 ) = I (n ). n i=1 Î n ist asymptotisch normalverteilt, falls Ef (X 1 ) 2 < d.h. Î n I d n n Y N(0, 1). i=1 (f (X i) Î n ) 2 Das folgt aus dem Lemma von Slutsky, da 1 n und nach dem ZGWS Î n Ef (X 1 ) Î n I n Var f (X1 ) = n Var f (X1 ) n i=1 (f (X i) Î n ) 2 f.s. Var f (X 1 ) d Y N(0, 1).

33 page 33 Monte-Carlo-Integration Konfidenzintervalle für Î n Durch die asymptotische Normalverteiltheit von Î n, ergibt sich für I das asymptotische Konfidenzintervall Î n z 1 α 2 n i=1 ( f (Xi ) Î n ) 2 n, Î n + z 1 α 2 n i=1 ( ) 2 f (Xi ) Î n n zum Niveau 1 α, wobei α (0, 1) und z 1 α das 1 α 2 2 -Quantil der Standardnormalverteilung bezeichnet.

34 page 34 Literatur Literatur D.P. Kroese, T. Taimre and Z.I. Botev Handbook of Monte Carlo Methods, 2011, J. Wiley & Sons H. Künsch Stochastische Simulation Vorlesungsmanuskript, ETH Zürich, April (ftp://stat.ethz.ch/u/kuensch/skript-sim.ps) M. Matsumoto und T. Nishimura, Mersenne twister: a 623-dimensionally equidistributed uniform pseudo-random number generator ACM Transactions on Modeling and Computer Simulation 1998, 8(1): V. Schmidt, Markov Chains and Monte-Carlo Simulation Vorlesungsmanuskript, Universität Ulm, Juli 2006.