Klausur,,Algorithmische Mathematik II

Transkript

1 Institut für angewandte Mathematik Sommersemester 03 Andreas Eberle Matthias Erbar / Jan Maas Klausur Algorithmische Mathematik II Musterlösung. (Zufallsvariablen und ihre Verteilung a Wir nehmen an dass die Würfel fair sind und beide Würfe einer Runde sowie die Ergebisse der Runden untereinander unabhängig sind. Zur Konstruktion des W-Raums setze Ω 0 = {...6} und definiere Ω = Ω 4 0 A = P(Ω P[{ω}] = Ω = ω Ω 648 i.e. P ist die Gleichverteilung auf Ω. Wir schreiben ω = ((x y...(x 4 y 4. Für i =...4 definiere die Ereignisse A i := {Spieler gewinnt Runde i} = {ω Ω x i +y i = 0}. Da es in einer Runde 3 günstige Ausgänge gibt 0 = 6+4 = 5+5 = 4+6 folgt p = P[A i ] = A i Ω = =. b Für i =...4 definiere Zufallsvariable Y i = Ai. Dann gilt: P[Y i = ] = p P[Y i = 0] = p. Die Gesamtzahl der gewonnenen Runden ist beschrieben durch S = 4 i= Y i. Da die Ereignisse A i unabhängig sind ist S Bin(4p-verteilt i.e. P[S = k] = ( 4 k p k ( p 4 k für k = Begründung: Es gibt ( 4 k Möglichkeiten k Runden auszuwählen in denen der Spieler gewinnt. Die Wkeit dass der Spieler in diesen Runden gewinnt und in den übrigen verliert beträgt p k ( p 4 k. Der Erwartungswert errechnet sich wie folgt: E[S] = 4 i= E[Y i ] = 4 E[Y ] = 4p. (Skizze der Massefunktion der Bin(4 p Verteilung

2 c Der Zeitpunkt des ersten Gewinns ist beschrieben durch T := min{i {0...4} Y i = } wobei min =. Die Verteilung von T berechnet sich durch { P[Y = 0...Y k = 0Y k = ] k =...4 P[T = k] = P[Y = 0...Y 4 = 0] k = { ( p k p k =...4 = ( p 4 k = wobei in der letzen Gleichheit Unabhängigkeit benutzt wurde. Die Verteilung der Wartezeit auf den dritten Erfolg ist gegeben durch P[T 3 = k] = P[Y k = Y i = Y j = Y l = 0 l k l ij] i<j k = p 3 ( p k 3 i<j k = p 3 ( p k 3 ( k für k = Wobei wieder in der letzten Gleichheit Unabhängigkeit benutzt wurde. Alternativ kann man auch argumentieren: d Es gilt P[T 3 = k] = P[A k und genau zwei der A...A k treten ein] T {T< } = = P[genau zwei der A...A k treten ein] P[A k ] ( k = p ( p k 3 p. 4 k= 4 k {T=k} = {T k} 4 {T= }. Die Behauptung folgt dann durch nehmen des Erwartungswerts auf beiden Seiten. Wir berechnen nun zunächst: Damit ergibt sich k= P[T k] = P[A c Ac k ] = ( pk P[T = ] = ( p 4. 4 E[T;T < ] = ( p k 4 ( p 4 = [ (+4p( p 4] /p. k=

3 . (Mittelwerte und Varianz a Der Erwartungswert und die Varianz einer Zufallsvariable X : Ω S auf einem W Raum (ΩAP mit S R abzählbar sind definiert durch E[X] := a S a P[X = a] Var[X] := E[(X E[X] ] = a S(a E[X] P[X = a] falls die Summen wohldefiniert sind d.h. unabhängig von der Reihenfolge der Abzählung. Hier wählen wir den W Raum Ω = {...6} n A = P(Ω P[{ω}] = Ω = 6 n ω Ω i.e. P ist die Gleichverteilung auf Ω. Wir schreiben ω = (ω...ω n. Sei weiter X i (ω = ω i. Dann gilt Y n = n i= X i sowie E[X i ] = 6 ( = 7 E[X i ] = 6 ( = 9 6. Daraus schliessen wir E[Y n ] = Var[Y n ] = n E[X i ] = 7 n i= n i= Var[X i ] = n(e[x i ] E[X i] = n 35. b Chebycheff-Ungleichung: Für X L and c > 0 gilt: P[ X E[X] c] c Var[X]. Beweis: Setze A = { X E[X] c} und bemerke dass c (X E[X] auf A. Damit folgt: Damit erhalten wir: P[ X E[X] c] = E[ A ] E[ A c (X E[X] ] E[ c (X E[X] ] = c Var[X]. P[ Y n n ] 00 Var[Y n n ] = n. Damit die rechte Seite 0. ist muss gelten n / 97. 3

4 c Wir berechnen den Erwartungswert durch Bedingen auf N mit Hilfe der Formel von der totalen Wkeit. E[Y N ] = E[Y N N = n] P[N = n] = E[Y n N = n] P[N = n] = n= E[Y n ] P[N = n] = n= n= n= n 7 P[N = n] = 7 E[N] = 70 wobei die dritte Gleichheit aus Unabhängigkeit von N und Y n folgt. 3. (Gleichgewichte von Markovketten a Eine Folge von ZV X 0 X : Ω S auf WRaum (ΩAP heißt zeitlich homogene Markovkette mit Startverteilung ν und Übergangswahrscheinlichkeit p falls: P[X 0 = x 0 ] = ν(x 0 x 0 S P[X 0 = x 0...X n = x n ] = ν(x 0 p(x 0 x p(x n x n n Nx i S. ( Hierbei ist p = p(x y eine stochastische Matrix i.e. xy S p(xy 0 xy S y S p(xy = x S. Anstelle der zweiten Gleichung oben kann man auch fordern: P[X 0 = x 0...X n+ = x n+ X 0 = x 0...X n = x n ] = p(x n x n+ n Nx i S falls P[X 0 = x 0...X n = x n ] 0. Ein Gleichgewicht der Markovkette ist eine Wahrscheinlichkeitsverteilung µ auf S so dass (µp(y := x S µ(xp(xy = µ(y y S. Erfüllt eine W keitsverteilung µ nun Detailed Balance so folgt µ(yp(yx = µ(y x S µ(xp(xy = x S da p stochastische Matrix. Somit ist µ ein Gleichgewicht. b i Die Übergangsw keiten des RW auf (V E sind gegeben durch { {xy} E 3 p(xy = 0 sonst. Damit giltp(xy = p(yxfür allexy V.DieGleichverteilung ν aufv erfüllt ν(x = ν(y = V für alle xy V. Daraus folgt sofort die Detailed Balance Bedingung und somit ist ν ein Gleichgewicht von p nach a. 4

5 ii Zur Simulation von µ verwenden wir den Metropolis Algorithmus: Input: x 0 pµ; Output: Stichproben x 0 x einer MK mit Gleichgewicht µ. For n :=... Do: Erzeuge Stichprobe y n p(x n erzeuge u n Unif(0 If u n µ(y n /µ(x n then x n := y n else x n := x n. Die Übergangsmatrix dieser Markovkette ist gegeben durch { α(xyp(xy x y q(xy = z xα(xzp(xz x = y. mit α(x y = min( µ(y/µ(x. Es genügt zu zeigen dass µ Detailed Balance erfüllt für q dann ist es mit a ein Gleichgewicht. DB muss nur für xy V mit x y geprüft werden. Dann folgt ( µ(xq(xy = µ(xmin µ(y µ(x da der vorletzte Ausdruck symmetrisch in x y ist. p(xy = min(µ(xµ(yp(yx = µ(yq(yx c Wir bestimmen zunächst Gleichgewichte der Kette. µ ist Gleichgewicht genau dann wenn: sowie µ(r+µ(s =. Daraus folgt µ(r = µ(r+q µ(s µ(s = ( q µ(s+ µ(r µ(r = q +q µ(s = +q die Kette besitzt also ein eindeutiges Gleichgewicht. Nach Ausführen des Experiments für lange Zeit erwartet man ein Ergebnis verteilt nach µ nach dem Konvergenzsatz für Markovketten. Nach dem Gesetz der großen Zahlen sollte daher bei vielmaliger Wiederholung gelten: #Ausgänge r #Versuche µ(r #Ausgänge s #Versuche µ(s. Damit folgt µ(r = (+q 0.8 und wir folgern q = /8. 5

6 4. (Iterationsverfahren für lineare Gleichungssysteme a Der Jacobi-Algorithmus ist gegeben durch Input: Matrix A R d d mit a ii 0 für alle i d b R d Startwert x (0 R d Output: Iterationsfolge x (k R d for k = 0... do for i =...d do x (k+ i = ( b i a ij x (k j a ii j i Der Gauß-Seidel-Algorithmus ist gegeben durch Input: Matrix A R d d mit a ii 0 für alle i d b R d Startwert x (0 R d Output: Iterationsfolge x (k R d for k = 0... do for i =...d do x (k+ i = ( b i a ij x (k+ j a ij x (k j a ii j<i j>i b Setze A = D L U wobei d ij = a ij {i=j} l ij = a ij {i>j} u ij = a ij {i<j}. Jacobi: Es gilt x (k+ = D ( b+(l+ux (k also x (k+ = T J x (k +f J mit T J = D (L+U und f J = D b. Gauß-Seidel: x (k+ = D ( b+lx (k+ +Ux (k (I D Lx (k+ = D b+d Ux (k x (k+ = (I D L D b+(i D L D Ux (k x (k+ = (D L b+(d L Ux (k also T GS = (D L U und f GS = (D L b. Der Spektralradius einer Matrix T R d d ist ρ(t := max{ λ : λ C Eigenwert von T}. 6

7 c (3 impliziert mit Induktion dass x (k+ x = T k (x (k x also x (k x = T k (x (0 x. Sei v 0 so dass Tv = λv mit λ und setze x (0 = x +v. Dann gilt für alle k x (k x = T k (x (0 x = T k v = λ k v v also konvergiert {x (k } nicht gegen x. d (i Da A strikt diagonaldominant ist d.h. a ii > j i a ij für i =...d konvergieren das Jacobi- und das Gauß-Seidel-Verfahren monoton bzgl. der Maximumsnorm auf R d. (Satz 5. (ii Es gilt T J = ( 0 0 Dieser Matrix hat Eigenwerte ±. Also impliziert c dass das Jacobi Verfahren nicht für alle Anfangswerte konvergiert. Es gilt T GS = ( 0 ( = ( 0 0 Dieser Matrix hat Eigenwerte 0 und. Also impliziert c dass das Gauß-Seidel- Verfahren nicht für alle Anfangswerte konvergiert. 7

8 5. (Interpolation a Sei f C m+ ([ab] und a x 0 <... < x m b. Zu zeigen: Eindeutigkeit des Interpolationspolynoms p zu (x i f(x i. Angenommen es gibt zwei verschiedenen Polynome p q vom Höchstgrad m mit der Eigenschaft dass p(x k = q(x k = f(x k k = 0...m. Dann besitzt das Polynom p q aber m + Nullstellen. Nach dem Hauptsatz der Algebra(BeweisviaSatzvonRolleisteinPolynomvomGradmmitm+Nullstellen aber identisch 0 d.h. p q 0. Dies steht aber im Widerspruch zur Annahme. Zu zeigen: Existenz des Interpolationspolynoms. Betrachte hierzu die Lagrange-Polynome vom Grad m die gegeben sind durch L i (x = m j=0 j i x x j x i x j. Diese besitzen nun die Eigenschaft dass L i (x k = δ ik. Daher löst aber das Polynom m p(x = f(x i L i (x i=0 gerade das Interpolationsproblem zu (x k f(x k für k = 0...m. Alternativ Beweis der Existenz wie in Vorlesung: Die lineare Abbildung p (p(x 0...p(x m von Π m nach R m+ ist injektiv also aus Dimensionsgründen sogar bijektiv. b Man definiere eine Funktion p durch die rechte Seite: p(x := (x x ip i+k (x (x x k p ik (x x k x i Durch Induktion nach k i folgt: Da p ik und p i+k Polynome mit Höchstgrad k i sind ist p ein Polynom mit Höchstgrad k i. Außerdem gilt p(x i = y i p(x k = y k und für alle j = i+...k gilt p(x j = (x j x i p i+k (x j (x j x k p ik (x j x k x i = (x j x i y j (x j x k y j x k x i = y j. Teil a impliziert dass nur ein Polynom von Höchstgrad k i existiert mit dieser Eigenschaft also gilt p = p ik. 8

9 c Input: Integer 0 m Punkte < x <... < x m < Werte y...y m Rx R Output: Wert p(x des Interpolationspolynoms for k = 0...m do p kk (x = y k for d =...m do for i = 0...m d do p ii+d (x = (x x ip i+i+d (x (x x i+d p ii+d (x x i+d x i p(x = p 0m (x d (i Das lineare Gleichungssystem 0 0 π 6 π 4 π 4 π a b c = 0 hat die Lösung a = 8 8 b = 4 6 c =. π π (ii Setze x = 0 x = π 4 x 3 = π und y = y = y3 = 0. Es gilt L(x = 3 x x j y k x k x j k= j k = (x π(x π 4 ( π 4 ( π + x(x π π 4 ( π +0 {...} = 8 8 x x+. π π (iii Mit der Rekursionsformel zeigt man p 00 (x = p (x = p (x = 0 p 0 (x = 4 π ( x+ p (x = x+ π p 0 (x = 8 8 x x+. π π 9