Ausarbeitung Hauptseminar moderne Simulationsmethoden

Transkript

1 Ausarbeitung Hauptseminar moderne Simulationsmethoden Die Monte Carlo Finite Elemente Methode Lisa Eppler 18. Januar 2018

2 Der Vortrag, zu dem diese Ausarbeitung gehört, orientiert sich an den Seiten des Buches An Introduction to Computational Stochastic PDEs von Lord et al. Die Nummerierung der Gleichungen und Theoreme ist von diesem Buch übernommen. In den vorherigen Seminarvorträgen wurde zunächst die Galerkin Finite Elemente Methode in 1d und 2d besprochen, bevor wir uns den elliptischen partiellen Dierentialgleichungen mit stochastischen Daten gewidmet haben. Hierbei handelt es sich um ein Randwertproblem (a(x, ω) u(x, ω)) = f(x, ω), x D R 2 (9.5) u(x, ω) = g(x), x D (9.6) wobei a und f Zufallsfelder sind und die Randwerte g deterministisch sein sollen. Es wurde gezeigt, dass das Variationsproblem a(x, ω) u(x, ω) v(x) dx = f(x)v(x) dx, v V (9.7) D D für g = 0 und f L 2 (D) eine eindeutige Lösung u(, ω) W = H0 1 (D) hat, falls folgendes gilt: Annahme 9.5 Realisierungen a(, ω) des Diusionskoezienten liegen in L (D) und erfüllen die Bedingung: 0 < a min (ω) a(x, ω) a max (ω) < für fast alle ω Ω für fast alle ω Ω, wobei a min (ω) := ess inf x D Monte Carlo Methode a(x, ω), a max(ω) := ess sup a(x, ω) x D Die Monte Carlo Methode ist ein Verfahren aus der Stochastik, bei dem ein Experiment mit verschiedenen Eingabedaten Q mal wiederholt wird und das Mittel der Ausgabedaten X Q = X X Q Q ein Ergebnis des Problems liefert. In unserem Fall soll (9.7) mit Hilfe des Galerkinverfahrens Q mal mit verschiedenen Diusionskoezienten ã r := ã(, ω r ), für r = 1,..., Q, i.i.d gelöst werden. (Hierbei wird mit ã(x) die Annäherung an den echten Diffusionskoezienten a(x) bezeichnet, und ã(x, ω) ist eine Realisierung dieser Annäherung. Gleiches gilt für die Lösungen u(x), ũ(x) und ũ(x, ω).)

3 Die Lösung ũ(x), soll dann angenähert werden durch: E[ũ(x)] µ Q,h (x) := 1 Q wobei ũ r h (x) := ũ h(x, ω r ), r = 1,..., Q. Die Varianz lässt sich berechnen durch: σ 2 Q,h (x) : = 1 Q 1 Beispiele Q (ũ r h (x) µ Q,h(x)) 2 = 1 ( Q (ũ r h Q 1 (x)2 ) Q ũ r h (x), r=w Q (2ũ r h (x)µ Q,h(x)) + Q ) (µ Q,h (x) 2 ) = 1 ( Q ) (ũ r h Q 1 (x)2 ) 2µ Q,h (x)qµ Q,h (x) + Qµ Q,h (x) 2 = 1 ( Q ) (ũ r h Q 1 (x)2 ) Qµ Q,h (x) 2 Beispiel 1 Betrachte die eindimensionale gewöhnliche Dierentialgleichung d ( a(x) d ) u(x) = 1 für x (0, 1) R dx dx u(0) = 0, u(1) = 0 wobei der Diusionskoezient a(x) approximiert werden soll durch: a(x, ω) = µ + P k=1 σ k 2 π 2 cos(πkx)ξ k(ω), ξ k U( 1, 1) iid Damit eine eindeutige Lösung existiert, muss Annahme 9.5 erfüllt sein. Diese folgt jedoch auch einer anderen Bedingung, die hier leichter zu zeigen ist: Annahme 9.3 Für den Diusionskoezienten a(x) gilt: 0 < a min a(x) a max < für fast alle ω Ω für reelle Konstanten a max und a min. Diese Annahme ist für σ < 6µ erfüllt, denn es soll gelten: 0 < µ σ π 2 P k=1 1 k 2 a(x, ω) µ + σ π 2 P k=1 1 k 2 <

4 Dass die Werte von a kleiner Unendlich sind ist klar. In die andere Richtung kann für P < die Summe abgeschätzt werden durch: P k=1 1 k 2 < π2 6, und damit ergibt sich die oben genannte Bedingung, damit der Wert trotzdem gröÿer als 0 ist. Der folgende Code implementiert das Beispiel (wobei auf die Funktion oned_ linear_fem zugegrien wird, die in Algorithmus 2.1 in Kapitel 2 implementiert wurde.): 1 f u n c t i o n [ mean_u, var_u ] = oned_mc_fem( ne, sigma, mu, P, Q) 2 h = 1/ ne ; 3 % S p l i t i n t e r v a l i n ne i n t e r v a l s, each with l e n g t h h : 4 x = [ h / 2 : h : 1 h / 2 ] ' ; 5 % sum_us i s the sum o f a l l u ' s, used l a t e r to c a l c u l a t e the mean 6 sum_us = z e r o s ( ne +1,1) ; 7 % sum_sq i s the sum o f a l l squared u ' s, used l a t e r 8 % to c a l c u l a t e the v a r i a n c e 9 sum_sq = z e r o s ( ne +1,1) ; f o r j = 1 :Q 12 % c r e a t e v e c t o r x i with P d i f f e r e n t random numbers i n ( 1,1) 13 % u n i f o r m l y d i s t r i b u t e d : 14 x i = 1+2. rand (P, 1 ) ; 15 % s t a r t v a l u e each p o i n t x i s mu, ne i s number o f p o i n t s x : 16 a = mu ones ( ne, 1 ) ; 17 % sum P times to get a : 18 f o r i = 1 :P 19 a = a + sigma. ( ( i p i ).^( 2) ). c o s ( p i i. x ). x i ( i ) ; 20 end 21 % S o l v e PDE with Algorithm 2. 1 with c a l c u l a t e d a und ones 22 % as r i g h t s i d e f. 23 [ u,a, b ] = oned_linear_fem ( ne, a, z e r o s ( ne, 1 ), ones ( ne, 1 ) ) ; 24 % sum up a l l u ' s and a l l ( u^2) s : 25 sum_us = sum_us + u ; 26 sum_sq = sum_sq + ( u. ^ 2 ) ; 27 end 28 % c a l c u l a t e mean and v a r i a n c e a c c o r d i n g to formula 29 mean_u = sum_us. /Q; 30 var_u = ( 1 / (Q 1) ). ( sum_sq ( sum_us.^2/q) ) ; 31 end Input-Argumente sind die Anzahl der äquidistanten Intervalle ne, in die das Gebiet aufgeteilt wird, die Parameter σ, µ und P, die für die Berechnung von a benötigt werden und die Anzahl der Lösungen Q. Zurückgegeben werden die Monte-Carlo-Ergebnisse, nämlich der Durchschnitt der Lösungen und die Varianz. Abbildung 1 zeigt die erzeugten a(x, ω r ), die dazugehörigen Lösungen ũ r h (x) und den Durchschnittswert der Lösungen µ Q,h (x) (blau) für die Werte ne =

5 512, σ = 4, µ = 1, P = 10 und Q = 50. (a) (b) Abbildung 1: ne = 512, σ = 4, µ = 1, P = 10 und Q = 50. Abbildung 2 zeigt die Ergebnisse für verschieden viele Stichproben. (a) (b) Abbildung 2: ne = 512, σ = 4, µ = 1, P = 10, Q variiert Bevor wir uns dem zweiten Beispiel zuwenden, brauchen wir ein paar Denitionen aus der Stochastik. Denition 4.14 Seien X, Y zwei relle Zufallsvariablen, dann ist Cov(X, Y ) := E [(X E(X))(Y E(Y ))] die Kovarianz von X und Y. Falls die Kovarianz zweier reller Zufallsvariable 0 ist, so heiÿt das, dass die beiden Zufallsvariablen nicht voneinander abhängen. Falls die Kovarianz ungleich 0 ist, so ändert sich X wenn sich Y ändert, entweder in die gleiche

6 Richtung (Cov(X, Y ) > 0) oder in die entgegengesetzte (Cov(X, Y ) < 0) Denition 4.26 Sei X = [X 1,..., X d ] T eine d-dimensionale Zufallsvariable. Die Matrix C = Cov(X) := E [ (X E(X))(X E(X)) T ] heiÿt Kovarianzmatrix, wobei der Eintrag C ij = Cov(X i, X j ). Denition 7.5 Ein Gauÿsches Zufallsfeld {u(x) : x D} ist ein Zufallsfeld 2. Ordnung u = [u(x 1 ),..., u(x M )] T, das der multivariaten Gauÿverteilung für jedes x 1,.., x M D folgt: u N(µ, C) mit µ i = µ(x i ) und C ij = Cov(x i, x j ) Denition 7.9 und 7.14 Ein Gauÿsches Zufallsfeld ist stationär, falls µ unabhängig von x ist und isotrop, falls die Kovarianz invariant unter Rotation ist, also: C(x i, x j ) = c 0 (r), wobei r := x i x j 2 und c 0 : R + R die isotrope Kovarianz ist. Abbildung 3: Beispiele für Gauÿfelder mit Kovairanzfunktion c 0 (r) = e (r2 /l 2 ) Abbildung 3 zeigt verschiedene stationäre und isotrope Gauÿsche Zufallsfelder mit der angegebenen Kovarianzfunktion, wobei immer µ = 0 und die Korrelationslänge l variiert. Diese gibt an, wie viele nächste Nachbarn einen Einuss auf den Wert eines Punktes

7 Mit Hilfe solcher stationärer isotroper Gauÿscher Zufallsfelder wollen wir ein weiteres Beispiel betrachten. Beispiel 2 Sei D = (0, 1) (0, 1) und a(x) = e z(x), x D wobei z(x) ein Gauÿsches Zufallsfeld ist mit µ = 0 und isotroper Kovarianz c 0 (r) = e r2 /l 2. Approximiere a(x) auf dem gewählten Gitter T h durch ã(x, ω) k := a(ν k j, ω) j=1 k T wobei ν k j, j = 1, 2, 3 die Ecken des Dreiecks k sind. Zunächst wollen wir prüfen, ob a(x) Annahme 9.5 erfüllt. Hierzu wurden im vorherigen Kapitel folgende Erkenntnisse getroen: Annahme 9.6 Sei D R 2 beschränkt und a(x) = e z(x), x D wobei z(x) ein Gauÿsches Zufallsfeld ist, sodass für L, s > 0 gilt: E [ z(x) z(y) 2] L x y s 2 Theorem 9.9 Falls Annahme 9.6 gilt, so gilt auch Annahme 9.5. Es muss also gezeigt werden, dass Annahme 9.6 für unser stationäres, isotropes Gauÿfeld gilt: Es soll x der momentane Mittelpunkt sein und y ein weiterer Punkt aus D. Dann gilt: E [ z(x) z(y) 2] = E [ z(x) 2 + z(y) 2 2z(x)z(y) ] = E [ z(x) 2] + E [ z(y) 2] 2E [z(x)z(y)] = Cov(x, x) + Cov(y, y) 2Cov(x, y) Da Cov(x, x) = V ar(x) und die Varianz einer Verteilung an jeder Stelle gleich ist, gilt: Cov(x, x) = Cov(y, y). Wir setzen r := x y 2 und erhalten dann durch Einsetzen unserer Kovarianzfunktion: Cov(x, x) + Cov(y, y) 2Cov(x, y) = 2(c 0 (0) c 0 (r)) = 2(e 0 e (r2 /l 2) )

8 wobei der Mittelwertsatz benutzt wurde. 2k 0 r2 l 2 = 2k l 2 x y 2 2 Annhame 9.6 gilt also, und damit erfüllt das a(x) die Vorraussetzungen, damit die DGL eindeutig lösbar ist. Da der Code zu diesem Beispiel viele Algorithmen aus den vorherigen Kapiteln benutzt und daher schwer zu lesen ist, wird er hier nur als Pseudocode widergegeben, um die Verständlichkeit zu fördern: Algorithmus [mean_u, var_u] = twod_mc_fem(ns,q,ell,alpha) Schritt 1: Diskretisiere den Raum mit einem uniformen Gitter [xv, yv, elt2vert, nvtx, ne, h] = uniform_mesh_info(ns); Schritt 2: Erstelle ein (bzw. zwei) Gauÿsche Zufallsfelder [z1, z2] = circ_emb_sample_2db(c, n1, n2, m1, m2); Schritt 3: Berechne a(x) v1 = exp(z1); v2 = exp(z2); Schritt 4 : Berechne ã(x) a1 = (1/3).*(v1(elt2vert(:, 1)) + v1(elt2vert(:, 2)) + v1(elt2vert(:, 3))); a2 = (1/3).*(v2(elt2vert(:, 1)) + v2(elt2vert(:, 2)) + v2(elt2vert(:, 3))); Schritt 5: Löse die DGL mit dem Galerkin-Verfahren aus Kapitel 2 mit linearen Basisfunktionen [u1_int, A1, rhs1] = twod_linear_fem(ns, xv, yv, elt2vert... nvtx, ne, h, a1, ones(ne,1)); [u2_int, A2, rhs1] = twod_linear_fem(ns, xv, yv, elt2vert... nvtx, ne, h, a2, ones(ne,1)); Schritt 6: Berechne µ Q,h (x) und die Varianz σ 2 Q,h (x) Erklärungen Allgemein: Eingabedaten sind die Anzahl der Gitterpunkte ns in eine Richtung, die Anzahl der Lösungen Q, die Korrelationslänge ell und der Paddingkoezient

9 alpha (hierzu später mehr). Zurückgegeben werden wieder die Monte-Carlo- Ergebnisse. zu Schritt 1: Dieser Algorithmus wurde in einem vorherigen Kapitel implementiert und diskretisiert das Einheitsquadrat. zu Schritt 2: Der Algorithmus circ_emb_sample_2db steht ebenfalls in einem vorherige Kapitel. Jeder Aufruf der Funktion gibt gleich zwei Gauÿfelder zurück. Auf die Gründe hierfür sei hier auf Kapitel 7 verwiesen. Wird diese Funktion aufgerufen, so kann es eine Fehlermeldung geben, die besagt: Invalid covariance; rho(d_minus)=1.3605e-06 Diese kommt daher, dass die Kovarianzmatrix positiv denit sein muss. Durch das sampeln kann es aber passieren, dass negative Eigenwerte entstehen. rho(d_minus) gibt den betragsmäÿig gröÿten negativen Eigenwert an. Hier kommt der vorher erwähnte Padding-Koezient alpha ins Spiel. Ist dieser 0 so wird die Kovarianzmatrix so verändert, dass der kleinste negative Eigenwert betragsmäÿig kleiner wird. Abbildung 4 zeigt, die Lösung und Varianz für die angegebenen Eingabedaten. (a) (b) Abbildung 4: ns = 150, Q = 20, l = 0.1, alpha = 0 Wählt man ein gröÿeres l, so muss Padding benutzt werden, der Koezient alpha also auf 1 gesetzt werden, da der gröÿte negative Eigenwert sonst gröÿer wird.

10 Fehlerabschätzung Es soll der Fehlerterm E[u] µ Q,h H 1 0 (D) abgeschätzt werden, der angibt, in wie weit die Monte-Carlo-Approximation in Abhängigkeit von Q von der erwarteten echten Lösung abweicht. Hierzu wird zunächst eine Nulladdition durchgeführt, die Dreiecksungleichung angewendet und der Fehler so in zwei Teile aufgespalten: E[u] µ Q,h H 1 0 (D) E[u] E[ũ h] H 1 0 (D) + E[ũ h ] µ Q,h H1 0 }{{}}{{ (D) } =:E h,a =:E MC E h,a gibt den Fehler an, der durch die Galerkin-FEM-Methode entsteht und E MC ist der Monte-Carlo-Fehler. Schätze zunächst den ersten Fehlerterm ab: E h,a = E[u] E[ũ h ] H 1 0 (D) E[u] E[u h ] H 1 0 (D) + E[u h] E[ũ h ] H 1 0 (D) (1) = E[u u h ] H 1 0 (D) + E[u h ũ h ] H 1 0 (D) (2) E[ u u h H 1 0 (D) ] + E[ u h ũ h H 1 0 (D) ] (3) = u u h L 1 (Ω,H 1 0 (D)) u h ũ h L 1 (Ω,H 1 0 (D)) u u h L 2 (Ω,H 1 0 (D)) u h ũ h L 2 (Ω,H 1 0 (D)) Hierbei wurde in (1) die Linearität des Erwartungswertes genutzt. (2) ist die Jensen'sche Ungleichung mit φ = H 1 0 (D) : Sei φ : R R eine konvexe Funktion und X eine reellwertige Zufallsvariable mit E[X] <, dann gilt φ(e[x]) E [φ(x)] Gleichung (3) benutzt die Denition der L p (Ω, H0 1 (D))- Norm: u L p (Ω,H 1 0 (D)) := E [ u p H 1 0 (D) ] 1 p. Das Ergebnis lässt sich mit Hilfe von Resultaten des letzten Vortrages einzeln abschätzen: u u h L 2 (Ω,H0 1 (D)) O(h)

11 und und ergibt damit insgesamt: u h ũ h L 2 (Ω,H0 1 (D)) O(h) E h,a O(h). Wenden wir uns dem Monte-Carlo-Fehlerterm zu: Theorem 9.22 Es gelte die Annahme 9.6, f L 2 (D) und g = 0 und E MC := E[ũ h ] µ Q,h H 1 0 (D). Dann gilt: E[E 2 MC] K Q für eine Konstante K > 0 unabhängig von h. Für den Beweis wird ein vorheriges Resultate benötigt, das hier vorher kurz erwähnt werden soll: Lemma 9.13 Es gelte die Annahme 9.6, f L 2 (D) und g = 0. Dann gilt: für alle p 1 und Beweis. (von Theorem 9.22) u h L p (Ω, H 1 0 (D)) u h L p (Ω,H 1 0 (D)) K p a 1 min L p (Ω) f L 2 (D) E [ EMC 2 ] ] = E [ E[ũ h ] µ Q,h 2 H 10 [ (D) ] = E E[ũ h ] 1 Q ũ r h Q (x) 2 H0 1(D) r=w ] = 1 Q [ Q 2 E E[ũ h ] ũ r h 2 H0 1(D) 1 Q 2 Q E r=w [ E[ũ h ] ũ r h 2H 10 (D) ], wobei E[ũ h ] ũ r h uiv.-h1 0 (D)-Zufallsvariablen sind, weshalb die Summe aus dem Erwartungswert rausgezogen werden darf. Da die ũ r h Samples von den ũ h sind, gilt: E[ũ h ] = E[ũ r h ] Nenne nun: ũ r h := X. Dann ist:

12 ] ] E [ E [X] X 2H 10 (D) = E [ E[X] 2H 10 (D) + X 2H 10 (D) 2 E[X], X H 10 [ ] (D) ( ) = E [X] 2 H0 1(D) + E X 2 H0 1(D) 2 E[X], E[X] H 1 0 (D) [ ] = E [X] 2 H0 1(D) + E X 2 H0 1(D) 2 E [X] 2 H0 ] 1(D) = E [X] 2 H0 }{{ 1(D) +E [ X 2H } 10 (D) 0 ] E [ X 2H 10 (D) wobei in ( ) benutzt wurde, dass der Erwartungswert linear ist und in das Skalarprodukt hineingezogen werden kann. Es gilt also, dass: E[E 2 MC] 1 Q 2 Q und mit Lemma 9.13 folgt die Behauptung. E[ ũ r h 2 ] = 1 Q E[ ũ h 2 ] = 1 Q ũ h 2 L 2 (Ω,H 1 0 (D)) Korrolar 9.23 Es gelte die Annahme 9.6, f L 2 (D) und g = 0 und E MC := E[ũ h ] µ Q,h H 1 0 (D). Dann gilt für alle ε > 0: P(E MC Q 1 2 +ε ) LQ 2ε für ein L > 0, das unabhängig ist von h. Um dieses Korollar beweisen zu können, braucht es eine Feststellung aus der Stochastik: Theorem 4.58(i) Falls für ein r, p > 0 und eine Konstante K gilt: dann folgt für jedes ε > 0: E[ X n X p H 1 0 (D)]1/p K n r P( X n X H 1 0 (D) n r+ε ) Kp n pε Beweis. (von Korollar 9.23) Laut Theorem 9.22 gilt: E[E 2 MC] 1/2 K Q 1/2 Hieraus folgt, wendet man Theorem 4.58(i) mit r = 1 2 Behauptung. und p = 2 an, die

13 Es gilt also insgesamt für den Fehlerterm: E[u] µ Q,h H 1 0 (D) E[u] E[ũ h] H 1 0 (D) + E[ũ h ] µ Q,h H 1 }{{} 0 (D). }{{} =:E h,a O(h) =:E MC O(Q 1/2 ) Rechnet man alle Schritte der Monte-Carlo-Methode, inklusive lösen der Q verschiedenen LGS für das Galerkin-Verfahren und das Generieren von Q verschiedenen Gauÿ-Feldern zusammen, so erhält man einen Aufwand im Bereich O(ε 4 ), wenn man die Lösung auf die Genauigkeit von einem ε > 0 approximieren möchte.