Aufgabensammlung zur Vorlesung Markovketten SS 2008

Transkript

1 Institut für Mathematische Statistik Universität Münster Aufgabensammlung zur Vorlesung Markovketten SS 8 Aufgabe 4 Punkte Gegeben sei die zeitlich homogene Markovkette X,X, aus Beispiel Irrfahrt in kleiner Stadt mit Startverteilung µ :,,, und Übergangsmatrix P : a Berechnen Sie das Quadrat P der Übergangsmatrix P Wie ist P zu interpretieren? b Zeigen Sie durch Induktion, daß gilt:, µ n,, für n,3,5,,,, für n,4,6, Lösung zu Aufgabe a Die Matrix P : enthält die Übergangswahrscheinlichkeiten der zeitlich homogenen Markovkette X,X, für zwei Zeitschritte Genauer gesagt gibt ein Eintrag P i,j IPX n+ s j X n s i die bedingte Wahrscheinlichkeit an, daß die Markovkette sich im Schritt n + im Zustand s j befindet, wenn sie im Schritt n im Zustand s i war b Es ist zu zeigen, daß für alle k IN gilt: µ k,,, und µ k,,,

2 Wir beweisen dies durch Induktion über k Hierbei beachte man, daß für alle n IN nach Satz µ n µ P n gilt Damit ist für k µ µ P,,, µ µ P,,, Gilt die Behauptung für ein k, so folgt nach Induktionsvoraussetzung µ k+ µ k+ µ k P,,, µ k+ µ k+ µ k P,,,,,,,,,,,,,,,,, Aufgabe 3 Punkte Gegeben sei die zeitlich homogene Markovkette X,X, aus Beispiel Europäisches Wettermodell mit Startverteilung µ :, dh Start an einem regnerischen Tag und Übergangsmatrix P : a Zeigen Sie durch Induktion, daß für jedes n IN gilt: [ µ n + n, n ] b Was passiert mit µ n für n? Lösung zu Aufgabe a Für n ist µ µ P, , 4 Gilt die Behauptung für ein n, so folgt nach Induktionsvoraussetzung µ n+ µ n P [ + n, n ] [ +, ] [ + n+, n+ ]

3 b Für n strebt n gegen und somit µ n gegen, Aufgabe 3 4 Punkte a Gegeben sei die Markovkette X,X, aus Beispiel 3 Kalifornisches Wettermodell mit Startverteilung µ : 6, 5 6 und Übergangsmatrix P : Zeigen Sie, daß µ n µ für alle n gilt Was bedeutet dies anschaulich? b Gibt es eine Startverteilung für die Markovkette aus Aufgabe Europäisches Wettermodell, für die sich dasselbe Verhalten wie in Teil a, dh µ n µ für alle n, einstellt? Vergleichen Sie dieses Resultat mit dem aus Aufgabe b Lösung zu Aufgabe 3 a Induktion über n Für n gilt µ µ P 6, , 5 6 µ Ist die Behauptung wahr für ein n, so folgt nach Definition und Induktionsvoraussetzung µ n+ µ n P 6, , 5 6 µ, also die Behauptung Diese bedeutet, daß die Verteilungen der X j alle gleich sind, dh daß die Regenwahrscheinlichkeit an jedem Tag dieselbe ist b Zur Bestimmung einer derartigen Startverteilung lösen wir die Gleichung µ µ P! µ, dh mit µ x,x die Gleichung also das Gleichungssystem x,x x + 4 x 4 x x! x,x,! x,! x, was äquivalent ist zu x x Unter der Randbedingung x +x Wahrscheinlichkeiten! ergibt sich die Lösung µ, Diese sogenannte Gleichgewichtsverteilung tauchte bereits in Aufgabe b als Grenzwert für n der zu der Startverteilung, gehörigen Verteilungen µ n auf 3

4 Aufgabe 4 4 Punkte Gegeben sei eine zeitlich homogene Markovkette X,X, mit Zustandsraum s,,s k } und Übergangsmatrix P Zeigen Sie, daß für alle m,n und für alle i,j,,k} gilt: IPX m+n s j X m s i P n i,j Lösung zu Aufgabe 4 Seien m sowie i,j,,k} beliebig und im folgenden fest Wir beweisen die Behauptung durch Induktion über n Für n gilt IPX m+ s j X m s i P i,j nach Definition Gilt nun die Induktionsvoraussetzung IPX m+n s j X m s i P n i,j, so folgt nach den elementaren Rechenregeln für bedingte Wahrscheinlichkeiten und der Definition einer zeitlich homogenen Markovkette IPX m+n+ s j X m s i IPX m+n+ s j,x m s i IPX m s i k IPX m+n+ s j,x m+n s l,x m s i IPX m s i l k l l IPX m+n+ s j X m+n s l,x m s i IPX m+n s l,x m s i IPX m s i k IPX m+n+ s j X m+n s l IPX m+n s l X m s i }}}} k P n i,l P l,j l P n+ i,j Def P l,j IV P n i,l Aufgabe 5 5 Punkte Sei X,X, eine zeitlich homogene Markovkette mit Zustandsraum S s,,s k } und Übergangsmatrix P a Zeigen Sie: Zwei kommunizierende Zustände haben dieselbe Periode, dh es gilt: s i s j ds i ds j b Welche Aussage ergibt sich aus a speziell für irreduzible Markovketten? Lösung zu Aufgabe 5 a Die Aussage s i kommuniziert mit s j bedeutet, daß ein k IN existiert mit P k i,j IPX m+k s j X m s i > 4

5 für alle m vgl Aufgabe 4 Ferner sei an die Definition ds i ggtn P n i,i > } erinnert, wobei die auf der rechten Seite von auftretende Menge von der Gestalt A i : n P n i,i > } ds i n li } l I mit durch eine Indexmenge I indizierten natürlichen Zahlen n li ist, für die gilt: ggtn li } l I Nach der Voraussetzung s i s j existieren k,m IN mit P k i,j > bzw P m j,i >, und es ergibt sich das folgende Schema für die zwischen s i und s j möglichen Übergänge: m ds i n li s i s j ds j n lj k Wir zeigen im folgenden, daß ds j den anderen ggt ds i teilt Mit einer analogen Argumentation ergibt sich dann auch ds i ds j und somit die Behauptung ds i ds j Behauptung: ds j ds i : Da es einen Übergang von s i zu sich selbst in k + m Schritten gibt, läßt sich k + m als k + m ds i n l i mit einem festen l I schreiben Da es ebenfalls einen Übergang von s j zu sich selbst in k + m Schritten gibt, folgt ds j k + m und damit ds j ds i n l i Da es des weiteren für alle l I einen Übergang von s j zu sich selbst in k + m + ds i n li Schritten gibt, gilt ds j k + m + ds i n li und damit ds j ds i [n l i + n li ] 3 Wir nun nehmen an, daß ds j den ggt ds i nicht teilt und erhalten mit sowie 3 die Beziehungen und hieraus ds j n l i und ds j n l i + n li für alle l I ds j n li für alle l I im Widerspruch zu ggtn li } l I b Da in einer irreduziblen Markovkette nach Definition alle Zustände kommunizieren, bedeutet a in diesem Fall, daß alle Zustände dieselbe Periode besitzen 5

6 Aufgabe 6 3 Punkte Zeigen Sie, daß eine zeitlich homogene irreduzible Markovkette mit Zustandsraum S s,,s k } und Übergangsmatrix P, die einen Zustand s i mit P ii > besitzt, auch aperiodisch ist Lösung zu Aufgabe 6 Nach Aufgabe 5 haben in einer zeitlich homogenen Markovkette zwei kommunizierende Zustände dieselbe Periode Da in einer irreduziblen Markovkette alle Zustände wechselseitig kommunizieren, ist dort für alle Zustände die Periode gleich: d : ds j ggtn P n j,j > } für alle j,,k} Da ferner nach Voraussetzung ein Zustand s i mit P ii > existiert, liegt der Wert in der Menge n P n j,j > }, über die der ggt gebildet wird, was d ds i zur Folge hat Der Zustand s i und damit auch die gesamte Markovkette ist also aperiodisch Aufgabe 7 5 Punkte Wir modellieren die Bewegung einer einzelnen Schachfigur auf einem Schachbrett als zeitlich homogene Markovkette Dabei sei der Zustandsraum S s,,s 64 } die Menge der Felder, X n die Position der Figur zum Zeitpunkt n und die Übergangsmatrix P dadurch gegeben, daß die Schachfigur in jedem Schritt aus allen möglichen Zügen gleichwahrscheinlich einen auswählt P soll nicht explizit angegeben werden! ¼ ¼Ñ¼ ¼ Bestimmen Sie, ob die Markovkette X,X, irreduzibel bzw aperiodisch ist, wenn es sich bei der Figur um einen a König b Läufer c Springer handelt Lösung zu Aufgabe 7 Die Bewegung einer einzelnen Schachfigur auf einem Schachbrett kann als zeitlich homogene Markovkette mit Zustandsraum S s,,s 64 } und Übergangsmatrix P modelliert werden Dabei bezeichnet X n die Position der Figur zum Zeitpunkt n, und in jedem Schritt wird aus allen 6

7 möglichen Zügen gleichwahrscheinlich einer ausgewählt ¼ ¼Ñ¼ ¼ Es soll bestimmt werden, ob die Markovkette X,X, in den Fällen König, Läufer, Springer irreduzibel bzw aperiodisch ist a König: Da der König von jeder Position aus jedes Feld erreichen kann, ist die Markovkette irreduzibel Sie ist ferner aperiodisch, da jeder Zustand die Periode besitzt, dh für jedes Feld s i gilt ds i ggtn P n i,i > } 4 Dies sieht man leicht ein, da der König stets in oder in 3 Zügen zu seiner Ausgangsposition zurückkehren kann in Zügen: auf Nachbarfeld ziehen und zurück; in 3 Zügen: einmal im Dreieck ziehen Damit muß der ggt der Menge in 4 gleich sein b Läufer: Im Falle eines Läufers ist die resultierende Markovkette reduzibel, da von einer Ausgangsposition nie alle Felder erreicht werden können Denn steht der Läufer auf einem schwarzen Feld, kann er genau die schwarzen Felder erreichen und die weißen nicht Analoges gilt für eine Ausgangsposition auf einem weißen Feld Die Markovkette ist wie im Falle des Königs aperiodisch, da auch der Läufer stets in oder in 3 Zügen zu seiner Ausgangsposition zurückkehren kann c Springer: Der Springer kann von jeder Ausgangsposition aus jedes Feld erreichen Somit ist die resultierende Markovkette irreduzibel Sie ist ferner periodisch mit Periode, dh für jedes Feld s i gilt ds i ggtn P n i,i > } 5 für den größten gemeinsamen Teiler aller mit positiver Wahrscheinlichkeit auftretenden Rückkehrzeiten zu s i Denn wie man sich leicht überlegt, kann der Springer in Zügen zu seiner Ausgangsposition s i zurückkehren Da er aber von einem schwarzen Feld aus nur auf ein weißes gelangt und umgekehrt von einem weißen nur auf ein schwarzes, kann er auch nur in einer geraden Anzahl von Schritten zu seiner Ausgangsposition s i zurückkehren Damit teilt alle n mit P n i,i >, und insgesamt ist der ggt in 5 gleich Aufgabe 8 6 Punkte Beweisen Sie die Formel ν µ max νa µa A S 7

8 für den Abstand in totaler Variation von zwei Wahrscheinlichkeitsmaßen ν und µ auf einer Menge S s,,s k } Hinweis: Zeigen Sie zunächst νa µa ν µ für alle A S und betrachten Sie dann das Ereignis A : s S : νs µs} Lösung zu Aufgabe 8 Für zwei Wahrscheinlichkeitsmaße ν ν,,ν k und µ µ,,µ k auf einer Menge S s,,s k } ist der Abstand in totaler Variation definiert als ν µ k ν i µ i i Wir möchten also die Darstellung k i ν i µ i max νa µa 6 A S zeigen Hierzu verwenden wir die für allgemeine reellwertige Funktionen f gültige Zerlegung in einen Positiv und einen Negativ Teil, dh mit der Notation gilt Zunächst beobachtet man, daß wegen f + : maxf, und f : minf, f f + f und f f + + f k ν i µ i i k ν i µ i i k k ν i µ i + ν i µ i und i k ν i µ i + + i i i k ν i µ i die Beziehung k ν i µ i + i k ν i µ i i k ν i µ i i gilt Damit folgt die Gleichheit 6 aus den folgenden zwei Behauptungen Behauptung : A S : νa µa k i ν i µ i Beweis Für beliebiges A S gilt νa µa ν i µ i ν i µ i + k ν i µ i ν i µ i + i:s i A i:s i A i:s i A i k ν i µ i i 8

9 und umgekehrt mit derselben Argumentation µa νa Zusammengenommen folgt Behauptung : k µ i ν i i k ν i µ i i νa µa k ν i µ i i Behauptung : A S : νa µa k i ν i µ i Wir zeigen, daß die Gleichheit für das Ereignis A : s S : νs µs} s i S : ν i µ i } gilt Denn hierfür ist νa µa i:s i A ν i µ i k ν i µ i + i k ν i µ i i Insbesondere gilt νa µa, also νa µa νa µa und damit Behauptung Aufgabe 9 6 Punkte Wir betrachten eine zeitlich homogene, irreduzible und aperiodische Markovkette X,X, mit Zustandsraum S s,,s k } und Übergangsmatrix P Wie in der Vorlesung sei T i,i die Rückkehrzeit nach s i, wenn die Markovkette in s i startet, dh und bei Start in s bezeichne T i,i minn X n i} mit X s i, i : IPX n s i,t, > n 7 n die mittlere Anzahl von Besuchen in s i bis zur Rückkehr nach s In der Vorlesung wurde gezeigt, daß die invariante Verteilung durch π : π,,π k IE[T, ], IE[T, ],, k IE[T, ] gegeben ist Verallgemeinert man 7 auf einen Start der Markovkette in s m dh es gelte X s m, so bezeichnet m,i : IPX n s i,t m,m > n n die mittlere Anzahl von Besuchen in s i vor der Rückkehr nach s m Insbesondere gilt i,i Zeigen Sie: a π IE[T, ], IE[T, ],, IE[T k,k ] 9

10 b m,i π i π m Lösung zu Aufgabe 9 Startet die Markovkette in s m dh gilt X s m, so ist m,m IPX n s m,t m,m > n, n denn anhand der Definition von T m,m sieht man unmittelbar, daß der Summand für n gleich und alle anderen Summanden gleich sind Schreibt man nun die Formel π π,,π k IE[T, ], IE[T, ],, k IE[T, ] für die invariante Verteilung von P für jeden einzelnen Startpunkt s m und berücksichtigt neben der Gleichheit m,m die Eindeutigkeit der invarianten Verteilung, so gelangt man zu,k π π,,π k IE[T, ],, IE[T, ],,, IE[T, ], IE[T, ],, k, IE[T k,k ], IE[T, ],k IE[T, ] k, IE[T k,k ],, IE[T k,k ] Dabei bedeutet die Gleichheit der k Vektoren die jeweilige Gleichheit der Komponenten 8 a Aus dem Vergleich der Komponenten in 8 man betrachte die Diagonale liest man sofort die gewünschte Darstellung von π ab: π IE[T, ], IE[T, ],, IE[T k,k ] b Die Darstellung 8 liefert für alle m,i,,k} man betrachte die Spalten : m,i IE[T m,m ] also durch Umformen und Einsetzen von a IE[T i,i ], m,i IE[T m,m] IE[T i,i ] π i π m Aufgabe 7 Punkte a Es seien P eine Übergangsmatrix und α Zeigen Sie: Falls π und π invariante Verteilungen von P sind, so gilt dies auch für απ + απ

11 b Sei nun speziell P : i Finden Sie alle invarianten Verteilungen für P ii Sei X,X, eine Markovkette mit Startverteilung µ und Übergangsmatrix P Wie verhält sich µ n für n? Was sind die möglichen Grenzverteilungen? Lösung zu Aufgabe a Es seien π π,,π k und π π,,π k invariante Verteilungen von P Wir zeigen, daß die Mischung απ+ απ ebenfalls invariant für P ist Offensichtlich sind die Komponenten απ + απ i απ i + απ i nichtnegativ und summieren sich zu : k απ + απ α i i Des weiteren gilt für alle j,,k} k i π i }} + α k i π i }} k απ + απ i P i,j α i k π i P i,j i } } π j + α k π ip i,j i } } π j απ + απ j b Wir betrachten nun die spezielle Matrix P 5 5, 9 die sich am geschicktesten als Blockmatrix mit Blöcken schreibt: P 75 5 P mit P : und P : P i Es sei π π,π,π 3,π 4 ein Zeilenvektor mit nichtnegativen Komponenten, die sich zu summieren Die Bedingung dafür, daß π invariante Verteilung von P ist, läßt sich wie folgt äquivalent umformen: πp π π,π P π,π und π 3,π 4 P π 3,π 4 π π π π π + π, P π + π,, π + π π + π π + π π + π π3 π 4 π3 π 4 π 3 + π 4, P π 3 + π 4, π 3 + π 4 π 3 + π 4 π 3 + π 4 π 3 + π 4 π π π π, P,, π + π π + π π + π π + π π3 π 4 π3 π 4, P, π 3 + π 4 π 3 + π 4 π 3 + π 4 π 3 + π 4

12 π,π,π 3,π 4 ist also genau dann invariante Verteilung von P, wenn die normalisierten π π π +π π3 π 4 π 3 +π 4 Teilvektoren π +π, bzw π 3 +π 4, invariante Verteilungen der Teilmatrizen P bzw P sind Man beachte, daß dabei die beiden Teilvektoren auf Komponentensumme normalisiert werden müssen Da nun die zu den beiden Matrizen gehörenden Markovketten irreduzibel und aperiodisch sind, ist die jeweilige zugehörige invariante Verteilung eindeutig, und es folgt nach Aufgabe 3 π π, π + π π + π, π3 π 4 bzw, π 3 + π 4 π 3 + π 4 6, 5 6 Für π bedeutet dies π + π π π,π,π 3,π 4, π + π, π 3 + π 4, 5π 3 + π π + π,,, + π 3 + π 4,, 6, 5 6 α,,, + α,, 6, 5 mit α, 6 wenn wir α : π + π setzen ii Die Verteilung im n ten Schritt berechnet sich anhand von µ n µ P n mit µ µ,µ,µ 3,µ 4 Da die Matrix P blockdiagonal ist, gilt P n P n P n, und die ersten beiden bzw letzten beiden Komponenten von µ n sind gegeben durch µ,µ P n µ µ µ + µ, P n bzw µ + µ µ + µ µ 3,µ 4 P n µ3 µ 4 µ 3 + µ 4, P n µ 3 + µ 4 µ 3 + µ 4 Da die durch die Teilmatrizen P bzw P beschriebenen Markovketten irreduzibel und aperiodisch sind, konvergieren die zu den normalisierten Startverteilungen µ µ3 µ 4 µ 3 +µ 4 µ +µ, µ µ +µ bzw µ 3 +µ 4, gehörenden Verteilungen im n ten Schritt in totaler Variation gegen die eindeutigen invarianten Verteilungen aus Aufgabe 3: µ µ, P n µ + µ µ + µ, µ3 µ 4 bzw, P n µ 3 + µ 4 µ 3 + µ 4 6, 5 6 Insgesamt ergibt sich µ n µ +µ,,, +µ 3 +µ 4,, 6, 5 α 6,,, + α,, 6, 5 6 mit α : µ + µ Die Grenzverteilung von µ n ist also abhängig von der Wahrscheinlichkeit α µ + µ, mit der die Markovkette in dem ersten Block dh in den ersten beiden Zuständen startet

13 Aufgabe 3 Punkte Es sei P eine doppelt stochastische Matrix, dh es gelten P i,j für alle i,j,,k}, k P i,j für alle i,,k}, j k P i,j für alle j,,k} i a Zeigen Sie: π : k, k,, k ist invariante Verteilung von P b Unter welcher Bedingung an P ist π auch reversibel? Lösung zu Aufgabe a π : π,,π k k, k,, k erfüllt die an eine invariante Verteilung gestellten Bedingungen: Offensichtlich sind alle Komponenten π i i,,k nichtnegativ und summieren sich zu Außerdem gilt für alle j,,k} nach Voraussetzung an die Matrix P: k π i P i,j k i k P i,j k i π j b Damit π reversibel ist, muß für alle i, j,, k} gelten: k P i,j π i P i,j! π j P j,i k P j,i, dh P i,j P j,i für alle i,j,,k} Dies ist gleichbedeutend damit, daß es sich bei P um eine symmetrische Matrix handelt Aufgabe 5 Punkte Die Markovkette X,X, beschreibe die reflektierende Irrfahrt mit Zuständen,,,N}, dh mit p <, p + q, gelte P i,i+ p für i,,,n, P i,i q für i,,,n, P N,N p, P, q a Finden Sie eine invariante Verteilung π b Ist π eindeutig festgelegt? Lösung zu Aufgabe Für die reflektierende Irrfahrt mit Zuständen,,,N} ergibt sich das folgende Bild: 3

14 q p p p p p p 3 N- N q q q q q q p a Zur Berechnung einer invarianten Verteilung π π,π,,π N von P machen wir wie in Beispiel 63 der Vorlesung Geburts und Todesprozeß einen reversiblen Ansatz: Damit ergeben sich π i P i,j π j P j,i π P, P, π p q π, π P, P, π P,P, P, P, π p π q und allgemein π i i l P l,l+ P l+,l π p i π q Die Normierung auf Komponentensumme führt zu der Bedingung N i π i π N i p i!, dh π q N p i q i Im Fall p q erhalten wir π N+, und damit π i N+ π N +,, N + Im Fall p > ergibt sich π p q N+ und π π p q, p q, p q,, für alle i,,n}, also p N q b Die reflektierende Irrfahrt ist irreduzibel von jedem Ausgangspunkt aus werden alle Zustände erreicht und aperiodisch der Zustand hat offensichtlich die Periode, und nach Aufgabe 5 gilt dies für alle Zustände Damit ist die invariante Verteilung π eindeutig Aufgabe 3 5 Punkte Wie in Aufgabe 7 modellieren wir die Bewegung eines einzelnen Königs auf einem Schachbrett als zeitlich homogene Markovkette Dabei sei der Zustandsraum S s,,s 64 } die Menge der Felder, X n die Position der Figur zum Zeitpunkt n und die Übergangsmatrix P dadurch gegeben, daß der König in jedem Schritt seinen nächsten Zug rein zufällig wählt Ausgehend von einem Feld s i wählt der König also gleichwahrscheinlich eines der N i Nachbarfelder aus man unterscheide die Fälle Eckfeld/Randfeld/mittleres Feld 4

15 a b c d e f g h ¼ ¼ ¼ a Zeigen Sie, daß π : π,,π 64 mit π i : N i Z eine invariante Verteilung von P ist und berechnen Sie Z und Z : 64 N i i b Der König starte im Feld a Berechnen Sie die erwartete Anzahl der Besuche im Feld i h ii h8 iii g7 iv a3 vor der Rückkehr nach a Lösung zu Aufgabe 3 Die Bewegung eines einzelnen Königs auf einem Schachbrett kann als zeitlich homogene Markovkette mit Zustandsraum S s,,s 64 } und Übergangsmatrix P modelliert werden Dabei bezeichnet X n die Position der Figur zum Zeitpunkt n, und in jedem Schritt wird aus allen möglichen Zügen gleichwahrscheinlich einer ausgewählt a b c d e f g h ¼ ¼ ¼ Steht der König also auf einem Eckfeld, so hat er N i 3 Nachbarfelder und damit Möglichkeiten zu ziehen, für Randfelder ist N i 5 und für mittlere Felder N i 8 Dabei gibt es 4 Eckfelder, 4 Randfelder und 36 mittlere Felder 5

16 a Anhand der obigen Bemerkungen ergibt sich sofort Z : 64 i N i Zur Berechnung der invarianten Verteilung von P modellieren wir die Bewegung des Königs auf dem Schachbrett als Irrfahrt auf einem gewichteten Graphen G V,E Dabei ist die Menge der Ecken V : S s,,s 64 } gleich der Menge der Felder, und zwei Ecken sind genau dann durch eine Kante verbunden, wenn sie benachbart sind, dh wenn der König das eine Feld vom anderen aus in einem Zug erreichen kann Damit befinden wir uns im Szenario von Beispiel 64 der Vorlesung, genauer gesagt in dem Spezialfall, daß alle Gewichte C i,j gleich sind Denn dann gilt für die Übergangswahrscheinlichkeit von s i nach s j P i,j C i,j k : s k Nb von s i C i,k N i Ferner wurde in der Vorlesung bewiesen, daß die Markovkette X,X, die reversible und damit invariante Verteilung π : π,,π 64 mit π i : C i,k und Z : Z k : s k Nb von s i 64 C i,k i k : s k Nb von s i besitzt Daraus folgt wegen π i Z N i und Z 64 N i i die zu zeigende Behauptung b Die durch die Bewegung des Königs auf dem Schachbrett gegebene Markovkette ist nach Aufgabe 7a irreduzibel und aperiodisch, dh wir können Aufgabe 9 anwenden Dort wurde beim Start in s m dh X s m für die erwartete Anzahl von Besuchen in s i vor der Rückkehr nach s m die Darstellung m,i : IPX n s i,t m,m > n n π i π m N i N m gezeigt, wobei π i und π m die entsprechenden Komponenten der invarianten Verteilung sind und für die letzte Gleichung Teil a der aktuellen Aufgabe verwendet wurde Damit ergibt sich in den vier angegebenen Fällen: i a,h N h N a 3 3, ii a,h8 iii a,g7 iv a,a3 N h8 N a 3 3, N g7 N a 8 3 6, N a3 N a

17 Aufgabe 4 Punkte Wie in Beispiel 7 der Vorlesung betrachten wir zufällige q Färbungen q eines Graphen G V,E mit einer endlichen Menge V v,,v k } von Ecken a Zeigen Sie, daß der Gibbs Sampler für zufällige q Färbungen aus Beispiel 7 i aperiodisch ist und ii die Gleichverteilung G,q auf allen q Färbungen von G als invariante Verteilung hat b Wir betrachten nun speziell den Graphen i Zeigen Sie, daß für q 4 der Gibbs Sampler für zufällige q Färbungen irreduzibel ist ii Gilt dies auch für q 3? Lösung zu Aufgabe 4 Wir betrachten zufällige q Färbungen q ; keine zwei benachbarten Ecken haben dieselbe Farbe eines Graphen G V,E mit einer endlichen Menge V v,,v k } von Ecken Der Gibbs Sampler beschreibt eine Markovkette mit dem Zustandsraum der q Färbungen und dem folgenden Übergangsgesetz: Wähle v V rein zufällig dh mit Gleichverteilung auf V Wähle X n+ v gemäß der Gleichverteilung auf der Menge der Farben, die von keinem Nachbarn von v angenommen werden 3 Setze X n+ w : X n w für alle w v a i Der Gibbs Sampler ist aperiodisch, da er von jedem Zustand aus mit positiver Wahrscheinlichkeit in einem Schritt in denselben Zustand zurückkehrt Denn die durch den obigen Algorithmus beschriebene Übergangswahrscheinlichkeit P ξ,ξ von einem zulässigen Zustand ξ dh einer q Färbung in sich selbst ist gegeben durch P ξ,ξ v V >, k a v wobei a v die Anzahl der Farben, die bei keinem der Nachbarn von v auftreten, bezeichnet ii Um zu zeigen, daß der Gibbs Sampler die Gleichverteilung G,q auf allen q Färbungen von G als invariante Verteilung hat, machen wir wie üblich einen reversiblen Ansatz: Für beliebige q Färbungen ξ, ξ ist zu zeigen, daß die Gleichung G,q ξp ξ,ξ G,q ξ P ξ,ξ 9 7

18 erfüllt ist, wobei P ξ,ξ die durch den obigen Algorithmus beschriebene Übergangswahrscheinlichkeit von der Konfiguration ξ nach ξ angibt Für ξ ξ ist 9 trivial, ebenso, wenn sich ξ und ξ in mehr als zwei Ecken unterscheiden dann steht dort Unterscheiden sich ξ und ξ in genau einer Ecke v V, so wird 9 durch G,q ξp ξ,ξ G,q ξ P ξ Z F k a,ξ v verifiziert, wobei a v die Anzahl der Farben, die bei keinem der Nachbarn von v auftreten, bezeichnet und Z F die Anzahl der insgesamt möglichen q Färbungen angibt b Wir betrachten nun speziell zufällige Färbungen des Graphen G: i Der Gibbs Sampler für zufällige q Färbungen ist für q 4 irreduzibel, wie man durch die folgenden Überlegungen einsieht Dazu ist zu zeigen, daß der Algorithmus aus jedem zulässigen Zustand dh jeder q Färbung in jeden beliebigen anderen zulässigen Zustand gelangen kann Hierzu stellt man zunächst fest, daß die q Färbungen des Graphen G von der Gestalt b,d c a b,d sind, wobei die Farben b und d jeweils beliebig gegeneinander ausgetauscht umgefärbt werden können, da hierdurch keinerlei Konflikte hinsichtlich der Zulässigkeit entstehen Der Gibbs Sampler kann also aus jeder dieser vier Konfigurationen in die Referenzkonfiguration b c a d gelangen, so daß es ausreicht, diese im folgenden stellvertretend für alle vier zu betrachten Desweiteren stellt man fest, daß alle zulässigen Zustände von dieser Gestalt sind mit derselben Klassenbildung in der linken oberen und rechten unteren Ecke und durch Permutation der Farben a,b,c,d aus abgeleitet werden können Um zu zeigen, daß der Gibbs Sampler für zufällige 4 Färbungen irreduzibel ist, reicht es also zu zeigen, daß man von der Referenzkonfiguration durch Umfärben in jede 8

19 beliebige Belegung der Ecken mit 4 verschiedenen Farben gelangen kann Hierzu reicht es zu zeigen, daß man in die Färbung zweier beliebiger Ecken vertauschen kann, und aus Symmetriegründen reicht es sogar zu zeigen, daß man obda die Belegungen der beiden unteren Ecken also a und d vertauschen kann Dies wird zb durch die Schritte b c b c b c b c a d a realisiert, was den Beweis abschließt b d ii Für q 3 sind die q Färbungen des Graphen G von der Gestalt b d a c a b wobei es insgesamt 6 Stück gibt, die durch Permutation der Farben a,b und c entstehen Offensichtlich kommt der Gibbs Sampler von einem zulässigen Zustand nicht in einen anderen, da zb in dem obigen Fall weder a, noch b oder c gegen eine andere Farbe ausgetauscht werden können, ohne daß die Menge der zulässigen Zustände verlassen wird c Aufgabe 5 8 Punkte Wir betrachten das folgende verallgemeinerte Hard Core Modell unterschiedliche Packdichten von Einsen In einem Graphen G V,E mit Ecken V v,,v k } und Kanten E e,,e l } besteht eine zulässige Konfiguration aus einer Belegung der Ecken mit und, so daß keine benachbarten Einsen entstehen Die Gleichverteilung µ G auf der Menge der zulässigen Konfigurationen aus dem klassischen Hard Core Modell wird nun durch die Einführung eines Parameters λ > wie folgt modifiziert: Jeder Konfiguration ξ,} V wird die Wahrscheinlichkeit µ G,λ ξ : λ nξ Z G,λ, falls ξ zulässig ist, sonst zugewiesen Dabei bezeichnen nξ die Anzahl der Einsen in ξ und Z G,λ : λ nξ ξ zulässig} ξ,} V eine Normierungskonstante a Zeigen Sie: Für jede Ecke v V ist die bedingte Wahrscheinlichkeit, daß v den Wert annimmt, gegeben die Werte in allen Ecken w v, gleich λ λ+, falls alle Nachbarn von v den Wert haben,, sonst 9

20 Je größer also λ ist, desto eher wird der Ecke v eine zugewiesen b Konstruieren Sie einen MCMC Algorithmus für dieses verallgemeinerte Hard Core Modell Lösung zu Aufgabe 5 In dem verallgemeinerten Hard Core Modell auf einem Graphen G V,E mit Ecken V v,,v k } und Kanten E e,,e l } besteht eine zulässige Konfiguration aus einer Belegung der Ecken mit und, so daß keine benachbarten Einsen entstehen Die Menge aller zulässigen Konfigurationen bezeichnen wir mit Für festes λ > wird durch die Zuordnung µ G,λ ξ : S : ξ,} V ξ zulässig } λ nξ Z G,λ, falls ξ zulässig ist, sonst, ξ,} V, eine Wahrscheinlichkeitsverteilung auf,} V definiert Dabei bezeichnen nξ die Anzahl der Einsen in der Konfiguration ξ und Z G,λ : λ nξ ξ zulässig} ξ,} V eine Normierungskonstante a Es soll gezeigt werden, daß für jede Ecke v V die bedingte Wahrscheinlichkeit, daß v den Wert annimmt, gegeben die Werte in allen Ecken w v, gleich λ λ+, falls alle Nachbarn von v den Wert haben,, sonst ist Um dies formal besser fassen zu können, definieren wir uns eine Zufallsvariable X auf einem Wahrscheinlichkeitsraum Ω mit Werten in,} V und Verteilung µ G,λ, dh X : Ω, A,IP,} V, P,} V,µ G,λ und halten v V fest Es ist nun zu zeigen, daß für jede feste Konfiguration ξ,} V \v} die obda zulässig sei, sonst ist das weitere Vorgehen nicht sinnvoll gilt: λ IPXv Xw ξ w w v λ+, ξ w für alle Nachbarn w von v,, sonst Um dies zu zeigen, definieren wir uns die beiden möglichen Fortsetzungen von ξ,} V \v} zu einer Konfiguration auf,} V :, w v,, w v, ξ w : ξ und ξ w : w, w v, ξ w, w v Damit läßt sich die gesuchte Wahrscheinlichkeit umschreiben zu IPXv Xw ξ w w v IPXv,Xw ξ w w v IPXw ξ w w v IPX ξ IPX ξ + IPX ξ µ G,λ ξ µ G,λ ξ + µ G,λ ξ,

21 und wir beenden den Beweis durch eine Fallunterscheidung Fall : ξ w für alle Nachbarn w von v: In diesem Fall sind die Konfigurationen ξ und ξ nach Definition zulässig, und da ξ genau eine mehr hat als ξ, gilt nξ nξ Damit folgt die Behauptung: IPXv Xw ξ w w v µ G,λ ξ µ G,λ ξ + µ G,λ ξ λ nξ Z G,λ λ nξ Z G,λ + λnξ Z G,λ λ nξ λ nξ + λ nξ λ nξ nξ + λ nξ nξ λ λ + Fall : Es existiert ein Nachbar w von v mit ξ w : In diesem Fall ist die Konfiguration ξ zulässig und damit µ G,λ ξ, da nach der obigen Annahme ξ,} V \v} war ξ ist jedoch nicht zulässig und damit µ G,λ ξ, was uns die Behauptung liefert: IPXv Xw ξ w w v µ G,λ ξ µ G,λ ξ + µ G,λ ξ b Den zugehörigen MCMC Algorithmus konstruiert man analog zum klassischen Hard Core Modell Damit ist die Konstruktion einer Markovkette X,X, mit Zustandsraum S und invarianter Verteilung µ G,λ gemeint, wobei der Übergang von n nach n+ wie folgt vonstatten geht: Wähle v V rein zufällig dh mit Gleichverteilung auf V Wir betrachten die Realisierung einer Zufallsvariablen U mit Gleichverteilung auf, und setzen X n+ v :, falls < U λ λ+ und alle Nachbarn von v den Wert in X n haben, X n+ v :, sonst 3 Für alle w v setzen wir X n+ w : X n w Damit diese Rechenvorschrift ein gültiger MCMC Algorithmus ist, muß noch gezeigt werden, daß die Markovkette X,X, irreduzibel und aperiodisch ist und µ G,λ als invariante Verteilung besitzt Dabei zeigt man ersteres wie im klassischen Hard Core Modell X,X, ist irreduzibel, da man von jeder zulässigen Konfiguration aus mit positiver Wahrscheinlichkeit in endlich vielen Schritten die Referenzkonfiguration, die nur aus Nullen besteht, erreichen kann siehe Vorlesung X,X, ist des weiteren aperiodisch, da man von jeder Konfiguration ξ aus mit positiver Wahrscheinlichkeit in einem Schritt zu ξ zurückkehren kann: Findet der Übergang in einer Ecke v mit ξv statt, so haben wegen der Zulässigkeit von ξ alle Nachbarn von

22 λ v den Wert, und die Übergangswahrscheinlichkeit ist λ+ > Findet der Übergang hingegen in einer Ecke v mit ξv statt und haben alle Nachbarn von v den Wert, so ist die Übergangswahrscheinlichkeit gleich λ+ >, und hat schließlich bei einem Übergang in v mit ξv einer der Nachbarn den Wert, so ist die Übergangswahrscheinlichkeit nach Definition gleich Für die durch den oben vorgeschlagenen Algorithmus beschriebene Übergangswahrscheinlichkeit P ξ,ξ von der Konfiguration ξ zu sich selbst gilt damit P ξ,ξ [ λ k λ + Übergang in v, ξv } + v V k λ + Übergang in v, ξv, w Nb von v: ξw } + k Übergang in v, ξv, w Nb von v: ξw } ] > Schließlich besitzt die Markovkette X,X, die invariante Verteilung µ G,λ Dies zeigt man wie im klassischen Hard Core Modell durch den reversiblen Ansatz µ G,λ ξp ξ,ξ µ G,λ ξ P ξ,ξ für zwei beliebige Konfigurationen ξ und ξ In den Fällen ξ ξ und daß ξ und ξ sich um mehr als zwei Ecken unterscheiden, ist trivial Falls ξ und ξ in genau einer Ecke v differieren, müssen allen Nachbarn von v aus Zulässigkeitsgründen die Belegung in ξ und ξ haben Ist obda ξv und ξ v, so verifiziert man durch die Überlegung µ G,λ ξp ξ,ξ λnξ λ Z G,λ k λ + λnξ+ Z G,λ k λ + λnξ Z G,λ k λ + µ G,λ ξ P ξ,ξ Aufgabe 6 5 Punkte Es stehen n unabhängige und identisch verteilte Zufallsvariablen U,,U n mit Gleichverteilung auf [, ] zur Verfügung Geben Sie einen Algorithmus an, der eine daraus zufällige Permutation der Zahlen,,n} mit der Gleichverteilung auf der Menge aller Permutationen von,,n} erzeugt und mit möglichst wenigen Schritten auskommt Lösung zu Aufgabe 6 Prinzipiell verwenden wir eine auf [, ] gleichverteilte Zufallsvariable U dazu, um aus den Zahlen,,k} k,,n} rein zufällig eine auszuwählen dh jede Zahl soll mit Wahrscheinlichkeit k gezogen werden Dies realisiert man zb dadurch, daß man das Intervall [,] in die k gleichen Teile [, k, k, 3 k,, k k, k ] k, unterteilt und sagt, die Zahl j sei [ gezogen] worden j,,k}, wenn die Realisierung der Zufallsvariablen U in das Intervall j k, j k fällt Da U gleichverteilt auf [, ] ist, geschieht dies mit der Wahrscheinlichkeit k, und wir haben das gewünschte Laplace Experiment auf,,k} modelliert Ein möglicher Algorithmus, um anhand von n unabhängigen und identisch verteilten Zufallsvariablen U,,U n mit Gleichverteilung auf [,] eine zufällige Permutation der Zahlen,,n}

23 nach der Gleichverteilung auf der Menge aller Permutationen von,,n} zu erzeugen, ist der folgende: Schrittweises Einsortieren der Zahlen: Schritt : Starte mit der die Zufallsvariable U wird eigentlich nicht gebraucht: Schritt : Verwende U, um die Zahl mit Wahrscheinlichkeit rechts oder links von der einzusortieren die beiden möglichen Plätze sind durch senkrechte Striche markiert: zb Schritt 3: Verwende U 3, um die Zahl 3 mit Wahrscheinlichkeit 3 senkrechte Striche markierten Plätzen einzusortieren: zb an den drei möglichen, durch 3 Schritt k: Verwende U k, um die Zahl k mit Wahrscheinlichkeit k einzusortieren an den k möglichen Plätzen Dieses Vorgehen Schritt bis Schritt n liefert die Realisierung π π,,π n einer zufälligen Permutation R R,,R n der Zahlen,,n Aufgrund der Unabhängigkeit der Zufallsvariablen U,,U n tritt jede dieser Realisierungen mit Wahrscheinlichkeit n! auf dh R besitzt die Gleichverteilung auf der Menge aller Permutationen von,, n}: IPR π,,r n π n 3 n n! Alternativ kann man den folgenden Algorithmus wählen: Schrittweises Belegen der Plätze mit Zahlen: Schritt : Wähle anhand von U eine der n möglichen Zahlen aus, um den ersten Platz der Permutation zu belegen Schritt : Wähle anhand von U eine der verbleibenden n möglichen Zahlen aus, um den zweiten Platz der Permutation zu belegen Schritt k: Wähle anhand von U k eine der verbleibenden n k + möglichen Zahlen aus, um den k ten Platz der Permutation zu belegen Auch dieser Algorithmus realisiert die Gleichverteilung auf der Menge aller Permutationen von,, n} und benötigt wie der erste Vorschlag n Schritte, wobei in jedem Schritt ein Zufallsexperiment Realisierung von U k durchgeführt werden muß Aufgabe 7 4 Punkte Es seien X,,X n n IN auf einem Wahrscheinlichkeitsraum Ω, A,IP definierte IN wertige Zufallsvariablen, A Ω ein Ereignis und α > 3

24 a Es gelte IPA X x,,x n x n α für alle x,,x n IN Zeigen Sie, daß daraus IPA α folgt b An welcher Stelle beim Beweis von Satz 8 wurde das Argument aus a gebraucht? Lösung zu Aufgabe 7 Es seien X,,X n n IN auf einem Wahrscheinlichkeitsraum Ω, A,IP definierte IN wertige Zufallsvariablen, A Ω ein Ereignis und α > a Unter der Voraussetzung IPA X x,,x n x n α für alle x,,x n IN ist IPA α zu zeigen Dies folgt aus der Überlegung IPA IPA X x,,x n x n } x,,x n IN IPA X x,,x n x n IPX x,,x n x n x,,x n IN α IPX x,,x n x n x,,x n IN α, wobei sich die Summation jeweils über alle x IN,,x n IN erstreckt b Das Argument aus a wurde im Beweis von Satz 8 implizit gebraucht, und zwar beim Übergang von Gleichung 83 zu Gleichung 84 Dort wurde die Konvergenzgeschwindigkeit des systematischen Gibbs Samplers X,X, zum Färben eines Graphen G V,E, V v,,v k }, mit q Farben betrachtet Für jede Ecke v V wurde mit den Bezeichnungen F : Farben aus,,q}, die weder in X n noch in X n bei einem Nachbarn von v angenommen werden F : Farben aus,,q}, die entweder in X n oder in X n bei einem Nachbarn von v angenommen werden F : Farben aus,,q}, die sowohl in X n als auch in X n bei einem Nachbarn von v angenommen werden sowie B : F, B : F, B : F in Gleichung 83 gezeigt: IPX n v X nv F,F,F B B + B d q, wobei d die maximale Anzahl von Nachbarn einer Ecke angibt und die obere Schranke d q nicht mehr von dem bedingenden Ereignis abhängt In der darauffolgenden Gleichung 84 wurde implizit verwendet, daß sich diese Abschätzung auf die nicht mehr bedingte Wahrscheinlichkeit überträgt: IPX n v X nv d q 4

25 Aufgabe 8 5 Punkte Für zwei Zufallsvariablen X bzw Y mit den Verteilungen µ und ν auf der endlichen Menge S gelte IPX Y δ mit < δ < Zeigen Sie, daß für den Abstand von µ und ν in totaler Variation die Abschätzung µ ν δ gilt Hinweis: Dasselbe Argument wurde im Beweis von Satz 8 verwendet Lösung zu Aufgabe 8 X und Y seien zwei Zufallsvariablen mit Werten in der endlichen Menge S und den Verteilungen µ bzw ν, für die zusätzlich gelte IPX Y δ mit einem δ, Es soll gezeigt werden, daß dann auch die Abschätzung µ ν δ gilt Wegen µ ν max µa νa A S max IPX A IPY A A S untersuchen wir zunächst die Differenz IPX A IPY A für beliebiges A S Wie man an dem Diagramm Ω, A,IP X A Y A erkennt, gilt unter Berücksichtigung der Voraussetzungen IPX A IPY A IPX A,Y / A IPX / A,Y A IPX A,Y / A IPX Y δ Durch Vertauschen der Rollen von X und Y erhält man analog IPY A IPX A IPY X δ und daraus insgesamt für den Betrag der Differenz IPX A IPY A δ Da A S beliebig war, folgt µ ν max IPX A IPY A δ A S 5

26 Aufgabe 9 6 Punkte Wir nennen eine Permutation der Zahlen,,q} zulässig, wenn sich keine benachbarten Ziffern um unterscheiden So ist zb die Permutation,3,5,,4 der Zahlen,,5} zulässig, die Permutation 5, 3,, 4, hingegen nicht a Wie viele zulässige Permutationen gibt es für q 5? b Um die Gleichverteilung π auf der Menge S der zulässigen Permutationen zu erzeugen, konstruieren wir die folgende Metropolis Kette: Der zugrundeliegende Graph habe als Ecken genau die Elemente aus S Die Kanten werden dadurch definiert, daß zwei Ecken dh zwei zulässige Permutationen s i und s j genau dann benachbart sind, wenn s i aus s j durch eine der folgenden Operationen entsteht: Ansetzen der letzten Ziffer vorne oder der ersten Ziffer hinten zb wird aus,3,5,,4 entweder 4,,3,5, oder 3,5,,4,, Vertauschen der letzten beiden Ziffern zb wird aus,4,,3,5 die Permutation,4,,5,3, Spiegelung zb wird aus,3,5,,4 die Permutation 4,,5,3, Die Übergangsmatrix der zugehörigen Metropolis Kette ist per definitionem gegeben durch } πj N N i min i π i N j,, s i, s j benachbart, i j,, s P i,j i, s j nicht benachbart, } πl N i min,, i j, N i π i N l l : s l Nb von s i wobei N i die Anzahl der Nachbarn von s i bezeichnet i Ist der so konstruierte Graph zusammenhängend und damit die zugehörige Metropolis Kette irreduzibel? ii Berechnen Sie für q 5 und s i,3,5,,4 die i te Zeile der Übergangsmatrix P i,j Lösung zu Aufgabe 9 Eine Permutation der Zahlen,,q} heiße zulässig, wenn sich keine benachbarten Ziffern um unterscheiden a Für q 5 gibt es 4 zulässige Permutationen, wie man durch simples Aufzählen herausfindet:,3,5,,4 3,5,,4,,4,,5,3 3,5,,4,,4,,3,5 4,,3,5,,4,,5,3 4,,5,,3,5,3,,4 4,,5,3, 3,,4,,5 5,,4,,3 3,,5,,4 5,3,,4, 6

27 b i Für q 5 ist der zugehörige Graph zusammenhängend, wie man an der Graphik am Ende von ii sieht Im allgemeinen ist dies jedoch nicht der Fall, wie man an dem folgenden Gegenbeispiel für q 6 erkennt: Die Permutationen 3,6,,5,,4 und 4,,5,,6,3 gehen aus einander durch Spiegelung hervor und bilden eine eigene, vom Rest des Graphen abgeschnittene Zusammenhangskomponente Denn alle anderen auf den beiden Permutationen durchgeführten erlaubten Operationen Ansetzen oder Vertauschen von Ziffern führen nicht auf eine zulässige Permutation Insbesondere ist von dieser Zusammenhangskomponente aus die Permutation, 3, 5,, 4, 6 nicht erreichbar ii Nach den Überlegungen in a gibt es für q 5 genau 4 zulässige Permutationen Bezeichnet man diese mit s,,s 4 }, so ergibt sich für die Gleichverteilung π: π π,,π 4 4,, 4 Bezeichnet N i die Anzahl der Nachbarn von s i, so berechnet sich die Übergangsmatrix der zugehörigen Metropolis Kette also zu } N i min Ni N j,, s i, s j benachbart, i j,, s P i,j i, s j nicht benachbart, }, Ni min,, i j, N i N l l : s l Nb von s i und anhand der Fallunterscheidung N i N j bzw N i > N j schließlich zu P i,j maxn i,n j }, s i, s j benachbart, i j,, s i, s j nicht benachbart,, i j, max N i,n l : s l Nb von s l } i Für die Übergangswahrscheinlichkeiten, die von s i,3,5,,4 ausgehen, ergibt sich dementsprechend P,3,5,,4,3,5,,4, P,3,5,,4,4,,3,5, 3, P,3,5,,4,4,,5,3, 4, P,3,5,,4,,3,5,, und P,3,5,,4,sj für alle übrigen Zustände, wie man an dem nachfolgenden Nachbarschaftsgraphen abliest 7

28 Aufgabe 3 Punkte Es sei G ein Graph mit k isolierten Ecken dh Ecken ohne Nachbarn und l Paaren von Ecken, so daß jedes Paar durch genau eine Kante verbunden ist und keine weiteren Nachbarn besitzt: Zeigen Sie, daß die Anzahl der q Färbungen von G gleich q k+l q l ist 8

29 Lösung zu Aufgabe Für jede der k isolierten Ecken hat man q Möglichkeiten, sie einzufärben, da die Belegung einer Ecke ohne Nachbarn mit einer Farbe keiner Einschränkung unterworfen ist Für alle isolierten Ecken zusammen ergibt dies q k Möglichkeiten Für ein durch genau eine Kante verbundenes und vom Rest des Graphen isoliertes Paar von Ecken hat man qq Möglichkeiten, die beteiligten Ecken einzufärben, da für die erste Ecke q Farben zur Verfügung stehen und für die zweite nur noch q Für die l Paare von Ecken zusammen ergibt dies [qq ] l Möglichkeiten Die Gesamtzahl der Möglichkeiten ergibt sich durch Multiplikation: q k [qq ] l q k+l q l Aufgabe 8 Punkte a Für jede der unabhängigen Zufallsvariablen X,,X m m IN gelte IPX i / [a,b] p mit einem Intervall [a,b] IR und einem p, Für ungerades m sei Ym der Median von X,,X m dh man ordnet die X,,X m der Größe nach und nimmt den m+ ten Wert dieser Aufzählung Zeigen Sie: IP Y m / [a,b] m p Hinweis: Das Ereignis Y m / [a,b]} impliziert, daß mindestens m+ der Zufallsvariablen X,,X m außerhalb von [a,b] liegen b Gegeben sei ein randomisiertes Approximationsschema in polynomialer Zeit, das zu ε > und einer Eingabe der Größe k in höchstens nε, k Schritten eine zufällige Näherung X für eine unbekannte Größe N liefert, die mit einer Wahrscheinlichkeit von mindestens 3 4 zwischen εn und + εn liegt Nachdem der Algorithmus nε,k Schritte gelaufen ist, gilt also IP εn X + εn 3 4 Konstruieren Sie darauf aufbauend für ein beliebig kleines δ > ein randomisiertes Approximationsschema in polynomialer Zeit, das nach höchstens 4 δ + nε,k Schritten eine Ausgabe Y liefert, die mit Wahrscheinlichkeit δ zwischen εn und + εn liegt, dh es soll gelten: IP εn Y + εn δ Lösung zu Aufgabe a Es seien X,,X m m IN ungerade unabhängige Zufallsvariablen mit IPX i / [a,b] p, Für jedes ω Ω bezeichne Y m ω den m+ größten Wert von X ω,,x m ω Um die Wahrscheinlichkeit des Ereignisses Y m / [a,b]} abzuschätzen, stellen wir fest, daß Y m / [a,b] impliziert, daß mindestens m+ der Zufallsvariablen X,,X m außerhalb von [a,b] liegen 9

30 Aufgrund der Voraussetzungen ist die Anzahl der X i, die außerhalb von [a,b] liegen, dh die Summe S m : m Xi / [a,b]} Binm,p i binomialverteilt mit den Parametern m und p, und für die ersten beiden Momente von S m ergibt sich IE[S m ] mp, V ars m mp p Insgesamt folgt unter Beachtung von p,, mit Anwendung der Chebychev Ungleichung und unter Berücksichtigung von p p 4 für alle p Kurvendiskussion! IPY m / [a,b] IP S m m + IP S m mp m p + }} > IP S m mp m p V ars m m mp p p m p m 4 p b Sei ε > fest Das gegebene randomisierte Approximationsschema in polynomialer Zeit liefert zu einer Eingabe der Größe k in höchstens nε,k Schritten eine zufällige Näherung X für eine unbekannte Größe N, so daß gilt: IP εn X + εn 3 4 Um eine zufällige Näherung Y zu konstruieren, die mit einer Wahrscheinlichkeit beliebig nahe an zwischen εn und + εn liegt, verwenden wir Teil a dieser Aufgabe mit [a, b] : [ εn, + εn] Denn lassen wir das randomisierte Approximationsschema eine ungerade Anzahl m von Malen laufen und bezeichnen die in den einzelnen Durchläufen erhaltenen Näherungen mit X,,X m, so gilt nach Voraussetzung IPX i / [ εn, + εn] p 4 Für den Median Y m dieser m Näherungen folgt nach a IPY m / [ εn, + εn] Um die Anforderung m p m 4 m 4 IP εn Y + εn δ also IPY m / [ εn, + εn] δ zu erfüllen, setzen wir δ : 4 m, also m : 4 δ und addieren noch zwei weitere Schritte samt Gaußklammerbildung, um sicher zu gehen, daß die Abschätzung eine ganze ungerade Zahl beinhaltet 3

31 Fassen wir das gesamte Procedere zu einem neuen randomisierten Approximationsschema zusammen, so haben wir ein Verfahren in polynomialer Zeit konstruiert, das in höchstens 4 δ + nε,k Schritten eine Ausgabe Y m liefert, die mit Wahrscheinlichkeit δ zwischen εn und + εn liegt Aufgabe 9 Punkte Gegeben seien ein Vektor a a,,a m IN m und eine Zahl b IN mit m i a i b Gesucht ist die Anzahl N der Tupel y y,,y m,} m mit a,y : m a i y i b i Falls zb a,,a m die Größen von m Gegenständen beschreiben, ist N die Anzahl der Möglichkeiten, die a,,a m in einen Rucksack der Größe b zu packen Dabei wird y i interpretiert als Gegenstand a i wird eingepackt und y i als Gegenstand a i bleibt draußen Die Menge S : y,} m a,y b} beschreibt gerade die gesuchten Tupel, dh es gilt N S Bezeichnet die Euklidnorm, so definieren wir eine Übergangsmatrix P auf S durch m, y ỹ P y,ỹ :, y ỹ >, y,ỹ S z S,z y P y,z, y ỹ a Zeigen Sie: Die Gleichverteilung S auf S ist reversibel für P b Wir ordnen die Elemente von a der Größe nach und bezeichnen das j kleinste mit a j, dh a a a m Ferner setzen wir b :, S :,,} und mit der Notation für Minimum b i : i b sowie S i : y,} m a,y b i } j a j jeweils i m; insbesondere ist b m b und S m S Zeigen Sie: Für i m gilt c Offensichtlich ist N S S i S i+ m + S i m i S i S i durch ein ˆβ i schätzen und daraus einen Schätzer ˆN : S i Um N zu approximieren, kann man also die Faktoren S i ˆβ ˆβ m für N konstruieren Geben Sie algorithmische Verfahren an, die als Ausgabe jeweils einen Schätzer ˆβ i für S i S i liefern, indem Sie den Quotienten S i S i als Wahrscheinlichkeit bzgl der Gleichverteilung auf S i interpretieren 3

32 Lösung zu Aufgabe a Um zu zeigen, daß die Gleichverteilung S auf S y,} m a,y b} reversibel für P mit P y,ỹ m, y ỹ, y ỹ > z S,z y P y,z, y ỹ ist, muß die Gleichung SyP y,ỹ SỹPỹ,y für alle y,ỹ S überprüft werden Dies ist jedoch aufgrund von Sy Sỹ S und der Symmetrie von P dh P y,ỹ Pỹ,y trivial b Wegen S :,,} und b i b i+, also N S i y,} m a,y b i } y,} m a,y b i+ } S i+ für i,,m, ist die erste Ungleichung S i S i+ i m trivial Zum Beweis der zweiten Ungleichung S i+ m + S i zeigen wir in einem ersten Schritt, daß man zu jedem y S i+ durch Umwandeln der größten in eine dh der, die zu dem größten a j gehört; in Worten: Auspacken des größten a j aus dem Rucksack ein Element aus S i erhält In einem zweiten Schritt überlegt man sich dann die eigentliche Behauptung Schritt: Jedes y S i+ liegt nach Umwandeln der größten in eine in S i : Sei y S i+ beliebig Wir bezeichnen mit a : a,a,,a m bzw mit y : y,y,,y m den zu a gehörigen aufsteigend sortierten Vektor bzw den zu y gehörigen, entsprechend der Permutation von a mitsortierten Vektor aus Nullen und Einsen Insbesondere gilt a,y a,y Wir bezeichnen nun mit j den größten Index in y, an dem eine steht, dh und erklären ỹ durch y y,y,,y j,,,, ỹ : y,y,,y j,,,, Beh: Für die zu ỹ gehörige ursprüngliche Sortierung ỹ gilt: ỹ S i : Bew: Nach Voraussetzung und Konstruktion gilt a, y j j a j y j a,ỹ + a j i a j + a i+ b, j 3

33 i und zu zeigen ist a,ỹ j j a b Dabei ist die Ungleichung a,ỹ b klar nach Voraussetzung und wegen a j Zum Beweis der zweiten Ungleichung a,ỹ i j a j unterscheiden wir zwei Fälle: Ist j i +, so gilt offensichtlich a, ỹ j j a j y j i a j j Im zweiten Fall j > i + folgt die Behauptung aus und a j a i+ Schritt: Herleiten der gesuchten Ungleichung: Für die Menge M aller Vektoren aus,} m, die aus Elementen von S i durch Verändern von höchstens einer Komponente hervorgehen, gilt M m + S i Ferner gilt nach dem Ersten Schritt S i+ M, also insgesamt S i+ M m + S i c Es soll die Gesamtanzahl N anhand der Darstellung N S m i S i S i m i β i gechätzt werden, wobei zunächst unabhängige Schätzer ˆβ i für die einzelnen Faktoren β i : S i S i, i,,m, zu konstruieren sind Aus diesen erhält man dann durch Produktbildung einen Schätzer ˆN : für N Aufgrund technischer Vorteile betrachten wir im folgenden anstelle von ˆN den Schätzer ˆN m ˆβ i i für N m i β i Schritt: Reduktion des Problems: Wir formulieren Bedingungen an die einzelnen Schätzer ˆβ i i,,m, um eine untere Schranke für die Wahrscheinlichkeit IP εn ˆN + εn ε > beliebig zu erhalten Hierzu bemerken wir, daß die gesuchten Ungleichungen m i ˆβ i εn ˆN + εn ε m i ˆβ i m i β i + ε nach Lemma 93 der Vorlesung von den Ungleichungen ε m ˆβ i β i + ε m 33 ε m β i ˆβ i β i ε m β i

34 für alle i,,m impliziert werden Diese wiederum werden wegen β i m+ nach b impliziert von ε mm + ˆβ ε i β i mm + für alle i Unter Berücksichtigung der geforderten Unabhängigkeit der Schätzer ˆβ,, ˆβ m erhalten wir also die Abschätzung IP εn ˆN + εn ε IP i,,m} : mm + ˆβ ε i β i mm + m ε IP ˆβi β i 3 mm + i und achten bei der folgenden Konstruktion der ˆβ i darauf, daß der Ausdruck in 3 nahe bei liegt Schritt: Konstruktion von ˆβ i für festes i,,m}: Nach den Überlegungen in b gilt S i y S i a,y b i } S i, und wir können den Anteil β i S i S i der Elemente von S i, die sogar in S i liegen, als Wahrscheinlichkeit bzgl der Gleichverteilung Si auf S i interpretieren: β i Si y S i a,y b i } Zur Approximation dieser Wahrscheinlichkeit dh zur Konstruktion eines ˆβ i verwenden wir einen MCMC Algorithmus, der eine Markovkette Xn i n mit der in der Aufgabenstellung angegebenen Übergangsmatrix P y,ỹ : m, y ỹ, y ỹ > z S i,z y P y,z, y ỹ, y,ỹ S i auf S i realisiert Diese Markovkette startet zb in dem immer zulässigen Zustand X i :,, S i Beim Übergang von Xn i nach Xi n+ wählt man eine der m Komponenten von Xn i gleichverteilt aus und wirft eine Münze Zeigt diese Kopf, ändert man die ausgewählte Komponente von zu und umgekehrt und läßt alle anderen Komponenten unverändert, sofern der entstehende Vektor in S i liegt In allen anderen Fällen setzt man Xn+ i : Xi n Dieses Übergangsgesetz entspricht gerade der Übergangsmatrix P und hat nach a die Gleichverteilung Si auf S i als reversible, also invariante Verteilung Da die Markovkette außerdem aperiodisch wegen P yy > und irreduzibel zwei Zustände aus S i kommunizieren über,, S i miteinander ist, konvergiert die Verteilung µ n von Xn i nach Theorem 5 in totaler Variation gegen die Gleichverteilung Si auf S i Wir simulieren diese Markovkette nun t mal in unabhängiger Folge jeweils n Schritte lang, wobei t und n groß und noch genauer zu bestimmen sind Als Ergebnisse erhält man die unabhängigen Kopien X i n,,x i n,,,x i n,t 34 iid µ n

35 und nimmt als Schätzer für β i den Durchschnitt der Werte, die in S i liegen: ˆβ i : t t j X i n,j S i } Dabei ist die Summe tˆβ i t j X i n,j S i } Bint,p n binomialverteilt mit Parametern t und p n : IP Xn, i S i µ n y S i a,y b i } Bei der Wahl von t und n ist zu berücksichtigen, daß die Wahrscheinlichkeit aus Gleichung 3 IP ˆβi β i ε mm+ nahe bei liegen muß Da nach der Dreiecksungleichung ε ε IP ˆβi β i IP ˆβi p n mm + 4mm +, p ε n β i 4mm + gilt, ist dies gewährleistet, sobald die beiden Forderungen i ii ε p n β i 4mm + ε IP ˆβi p n 4mm + nahe bei erfüllt sind Forderung i ist erfüllt, wenn man n hinreichend groß wählt, dh wenn man die Markovketten Xn,j i nur lange genug laufen läßt Denn aus der Darstellung µ n Si maxa S µ n A Si A des Variationsabstandes erhalten wir die obere Schranke p n β i µ n y S i a,y b i } Si y S i a,y b i } µ n Si für die zu untersuchende Größe, die nach Theorem 5 gegen strebt Wir wählen also n so groß daß µ n Si ε 4mm+ gilt Zur Untersuchung von Forderung ii verwenden wir die Identität V artˆβ i tp n p n, die Chebychev Ungleichung und die Tatsache p n p n 4 Kurvendiskussion!, um die folgende Ungleichungskette herzuleiten: ε εt IP ˆβi p n IP tˆβi tp n > 4mm + 4mm + V artˆβ i 6m m + tp n p n ε t εt 4mm+ 4m m + ε t δ 4 Wählt man die Anzahl t der unabhängigen Kopien groß genug, so ist die untere Schranke für unsere abzuschätzende Wahrscheinlichkeit beliebig nahe bei, oder anders ausgedrückt 35