Lösungen zu Übungsblatt 10 Höhere Mathematik Master KI Diskrete Zufallsgrößen/Markov-Ketten

Transkript

1 Lösungen zu Übungsblatt 0 Höhere Mathematik Master KI Hinweise: Die Aufgaben - beziehen sich auf das Thema Diskrete Zufallsgrößen, Ihre Verteilungen und Erwartungswerte. Siehe dazu auch das auf der Homepage zur Verfügung gestellte Skript: Stochastik für Informatiker, Kap..,.,.. Die Aufgaben und 7 beziehen sich auf das Thema Markov-Ketten. Siehe dazu auch das auf der Homepage zur Verfügung gestellte Skript: Stochastik für Informatiker, Kap Zu Aufgabe ) Kreuzen Sie alle Zufallsgrößen an, die diskret sind! Überlegen Sie sich eweils zuerst, wie der Wertebereich X der betreffenden Zufallsgröße aussieht! a) X = Hersteller einer zufällig aus einer Grundgesamtheit von Platinen ausgewählten Platine. Nein b) X = Gewicht eines zufällig aus einer Grundgesamtheit von Bildschirmen ausgewählten Bildschirms. x c) X = zufällige Anzahl der eintreffenden Signale pro Minute in einer Vermittlungsstelle. Nein d) X = zufällige Zeit zwischen dem Eintreffen zweier aufeinanderfolgender Signale in einer Vermittlungsstelle x : Der Wertebereich von X ist endlich bzw. abzählbar. Zu Aufgabe ) Welche der folgenden grafischen Darstellungen und Tabellen zeigen keine (Einzel-)Wahrscheinlichkeitsverteilung? Kreuzen Sie Ihre Antworten an! pi für x = ai f X ( x) = 0 sonst a) b) c) d) a) und d) : keine Verteilung, da die Summe der Wahrscheinlichkeiten > ist! b) : Keine Verteilung, da Wahrscheinlichkeiten nicht negativ sind! c) : Ist eine Wahrscheinlichkeitsverteilung!

2 Lösungen zu Übungsblatt 0 Höhere Mathematik Master KI Zu Aufgabe ) Sei X die zufällige Augenzahl bei Durchführung des zufälligen Versuchs V :'Würfeln mit zwei Würfeln'. Berechnen Sie die Wahrscheinlichkeiten folgender Ereignisse: a)' X 9 ' b)'x = ' c)' X {, } ' d)' < X 7 ' Sei X i = Augenzahl des i.ten Würfels, i=,. Offensichtlich gilt: P(X i = ) = / für alle {,,...,}, i=,. Aufgrund der stochastischen Unabhängigkeit der Würfelergebnisse von Würfel und gilt weiterhin: P(X = i X = ) = P(X = i)p(x = ) = / Damit können wir alle Einzel-Wahrscheinlichkeiten P(X=i), i=,...,, berechnen. Z.B. gilt P(X=) = P((X = X =) (X = X =)) = P(X = X =)+P(X = X =) =/ + / = / Wir erhalten auf analoge Weise alle anderen Einzelwahrscheinlichkeiten und damit folgende Verteilungstabelle für X: X: i X X P(X=i) / / / / / / / / / / / Zu a) P(X 9) = P(X=9 X=0 X= X=) =P(X=9)+P(X=0)+P(X=)+P(X=) = 0/ Zu b) P(X=) = / Zu c) P(X {, })=P(X= X=)=P(X=) + P(X=)=/ Zu d) P( < X 7) = P(X= X= X=7) = P(X=)+P(X=)+P(X=7) = / Zu Aufgabe ) Die zufällige Anzahl X von Ausfällen eines Servers pro Monat genüge folgender Verteilung: ai 0 > pi /0 /0 /0 /0 /0 0

3 Lösungen zu Übungsblatt 0 Höhere Mathematik Master KI Ein Ausfall des Servers verursacht Kosten. Fällt der Server mal aus, so kostet das 000 Euro, bei maligem Ausfall müssen 00 Euro bezahlt werden. Bei und maligem Ausfall sind es bereits eweils 000 Euro. a) Wie groß ist die Wahrscheinlichkeit dafür, dass mehr als 000 Euro Kosten im Monat wegen Serverausfalls anfallen? b) Wie groß sind die im Monat zu erwartenden Kosten? Die zufälligen Kosten Y pro Monat wegen Serverausfällen genügt folgender Verteilung: Ausfall 0 > Kosten pi /0 /0 /0 /0 /0 0 Zu a) P(Y>000) = P(X>)=P(X= X= X=) = P(X=)+P( X=)+P( X=) =/0 = 0, Zu b) EY = = 80 Euro Zu Aufgabe ) Die zufällige Anzahl der Fahrgäste in einem Bus zwischen e zwei Haltestellen sei eine Zufallsgröße X mit der folgenden Wahrscheinlichkeitsverteilung: a i 0 X 0 0 < X 0 0 < X 0 0 < X 0 0 < X 0 p i Es sollen so viele Sitzplätze zur Verfügung stehen, dass in mindestens 80% aller Fahrten alle Fahrgäste sitzen können. Wie viel Sitzplätze muss man mindestens in den Bus einbauen? Geben Sie die kleinst mögliche Anzahl von Sitzplätzen an! Gesucht ist die kleinste Anzahl a mit P(X a) 0,8 Offensichtlich ist a = 0. Dann gilt: P(X a)= 0,8. Zu Aufgabe ) Eine Nachricht der Form a wird durch mündliche Zwischenträger weitergegeben. Bei eder Weitergabe wird a mit der Wahrscheinlichkeit α=0, in nein und mit der Wahrscheinlichkeit α=0, in ein abgefälscht; nein wird mit der Wahrscheinlichkeit β=0, in a und β=0, in ein verfälscht und ein ein wird mit Wahrscheinlichkeit γ=0, in nein und mit γ=0, in a verfälscht. Dieses System wird durch eine homogene Markov-Kette (X(n)) n N. Ordnung beschrieben, wobei X(n) die Nachricht ( a = oder ein =, nein =) im Takt n (vor der n+.ten Weitergabe) darstellt. a) Stellen Sie den Markov-Grafen und die Übergangsmatrix auf. b) Wie groß ist die Wahrscheinlichkeit dafür, dass nach Zwischenträgern der Empfänger die Nachricht a erhält?

4 Lösungen zu Übungsblatt 0 Höhere Mathematik Master KI c) Wie groß ist die Wahrscheinlichkeit für folgenden Zustandsverlauf P(X(0)= X()= X()=)? d) Mit welcher Wahrscheinlichkeit ist nach einer sehr langen Reihe von Zwischenträgern damit zu rechnen, dass die Nachricht a beim Empfänger ankommt? Hinweis zu d) Die gesuchte Wahrscheinlichkeit ist P(X(n)=) für n. Die Zustandswahrscheinlichkeiten P(X(n)=), =,,, erfüllen nach Formel der totalen Wahrscheinlichkeit folgendes Gleichungssystem: P( = ) = P( = X ( n ) = ) P( X ( n ) = ) + P( = X ( n ) = ) P( X ( n ) = ) + P( = X ( n ) = ) P( X ( n ) = ) = P( = ) + P( = ) + P( = ) =,, () Sei P : = lim P( ), =,,. Lassen Sie im obigen GS () n gegen gehen und stellen Sie = n das entsprechende GS unter Verwendung der Bezeichnung Lösen Sie dann dieses GS nach Zu a) Markovgraf: P auf! P auf! Übergangsmatrix: (Matrix der Übergangswahrscheinlichkeiten pi = P(X(n)= X(n-)=i): Von (i)\nach () Ja () Jein () Nein () Ja () 0, 0, 0, Jein () 0, 0, 0, Nein () 0, 0, 0, 0, Die Übergangsmatrix ist damit P= 0, 0, 0, 0, 0, 0, 0,. 0,

5 Lösungen zu Übungsblatt 0 Höhere Mathematik Master KI Zu b) Gesucht P(X()= a ) bzw. P(X()=) Die gesuchte Wahrscheinlichkeit berechnen wir rekursiv: Die Zustandswahrscheinlichkeiten P(X(n)=), =,,, erfüllen nach Formel der totalen Wahrscheinlichkeit folgendes Gleichungssystem: P( = ) = P( = X ( n ) = ) P( X ( n ) = ) + P( = X ( n ) = ) P( X ( n ) = ) + P( = X ( n ) = ) P( X ( n ) = ) =,, () Wir lösen das einfach für n= rekursiv nach P(X() =) auf unter Berücksichtigung von P(X(0)=) =, P(X(0)=)=P(X(0)=)=0 (Am Anfang wird a gesendet). Wir erhalten das Ergebnis: P(X()=) = 0,0 Im folgenden wird dieses Ergebnis (etwas eleganter) unter Verwendung der Matrizenrechnung hergeleitet: P( = ) Sei P T die Transponierte der Übergangs-Matrix P und p ( n) = P( = der Vektor der P( = Zustandswahrscheinlichkeiten im Takt n. In Matrizenschreibweise hat das obige GS () folgende Gestalt: p (n) = P T p ( n ), p (0) = 0 0 Folglich erhalten wir für den Zustandsvektor im Takt n=: p () = P T T T T p( ) = P P P p(0), p (0) = 0 0 Weiterhin ist: 0, 0, 0, 0, P T p(0) = 0, 0, 0, 0 = 0, und 0, 0, 0, 0 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, P T P T = 0, 0, 0, 0, 0, 0, = 0, 0, 0, 0, 0, 0, 0, 0, 0, 0,9 0, 0,8

6 Lösungen zu Übungsblatt 0 Höhere Mathematik Master KI Demzufolge ist p T T T () = P P P p(0) = 0, 0, 0,9 0, 0, 0, 0, 0, 0,0 0, 0, = 0,7 0,8 0, 0, Demzufolge ist die Wahrscheinlichkeit dafür, dass nach Zwischenträgern der Empfänger die Nachricht a erhält, gleich P(X()=) = 0,0. D.h., nur in 0,% aller Fälle wird ein a nach Zwischenträgern auch als a empfangen! Zu c) Nach Multiplikationssatz gilt: P(X(0)= X()= X()=) = P ( X (0) = ) P( X () = / X (0) = ) P( X () = / X () = ) = p () p () wobei p () = P( X ( n + ) = / = ) die Übergangswahrscheinlichkeit in Schritten (-Schritt-Übergangswahrscheinlichkeit) vom Zustand in den Zustand ist. In Anwendung der Formel der totalen Wahrscheinlichkeit ergibt sich folgende Rekursionsformel für die -Schritt-Übergangswahrscheinlichkeiten : p ) = p k () pk = p k pk = p + p p + k= k = ( p p = (0,) + 0, 0, + (0,) = 0, + 0,0 + 0,0 = 0, Demzufolge lautet das Ergebnis: P(X(0)= X()= X()=) = p () p() = (0,) =0, Zu d) Wir folgen dem Hinweis zu d). Das obige GS () hat in Matrizenschreibweise die Gestalt: p (n) = P T p ( n ), = P(X(n)=)+P(X(n)=)+P(X(n)=) Lassen wir in diesem GS n gegen konvergieren und bezeichnen P : = lim P( ) und = n

7 Lösungen zu Übungsblatt 0 Höhere Mathematik Master KI P p = P P bzw. so erhalten wir das GS: p = P T p, = P + + P P = = (P T I) p, P + + P P (I ist die -dimensionale Einheitsmatrix) bzw. 0 0, 0 0, = 0 0, 0, 0, 0, 0, P 0, P 0, P Das lösen wir mittels Gauss schem Algorithmus nach P, P auf und erhalten: P, P p = P P 0,87 = 0,7 0,9 D.h., nach einer sehr langen Reihe von Zwischenträgern ist mit der Wahrscheinlichkeit von 0,87 damit zu rechnen, dass die Nachricht a beim Empfänger ankommt. Zu Aufgabe 7) Sei (X(n))n N eine Markov-Kette. Ordnung. Was heißt: a) die Markov-Kette ist homogen? b) die homogene Markov-Kette ist stationär? c) die homogene Markov-Kette ist ergodisch? Zu a) Die bedingten Wahrscheinlichkeiten p i ( n, n + k) = P( X ( n + k) = / = i) heißen Übergangswahrscheinlichkeiten der Markov-Kette (X(n))n N, wobei i und Zustände aus dem Zustandsraum der Markov-Kette darstellen. 7

8 Lösungen zu Übungsblatt 0 Höhere Mathematik Master KI Eine Markov-Kette heißt homogen, falls die Übergangswahrscheinlichkeiten p i ( n, n + k) nicht vom Zeitpunkt t abhängen, also gilt: p ( n, n + k) = p (0, k) :: p ( k).. i i = i p i (k) wird auch als k-schritt-übergangswahrscheinlichkeit bezeichnet. Für die Einschritt- Übergangswahrscheinlichkeiten verwenden wir die Bezeichnung: p ) = p. i ( i Die Zustandsübergangswahrscheinlichkeiten in homogenen Markov-Ketten werden grafisch als sogenannter Markov-Graf dargestellt, wobei die Kreise die Zustände darstellen und an die gerichteten Kanten von Zustand i nach die Übergangswahrscheinlichkeiten p. i rangeschrieben werden, falls diese ungleich Null sind. Zu b) Definition: Gilt bei einer festgelegten Anfangsverteilung p (0) lim p ( n) = p n für alle E, so heißt die Markov-Kette stationär. Die Verteilung p, E, heißt stationäre Verteilung von (X(n)) n N bzgl. p (0). Die stationäre Verteilung p kann also abhängig von der Anfangsverteilung sein. Interessant ist der Fall, wenn eine Markov-Kette unabhängig davon, in welchem Zustand sie startet, immer in die gleiche stationäre Zustandsverteilung gelangt. Solche Markov-Ketten heißen ergodisch. Zu c) Definition: Gilt: lim p ( n) = p n für alle E, und sind die stationären Verteilungen für alle Anfangsverteilungen identisch, so heißt (X(n)) n N heißt ergodisch (bzw. stabil). p, E, wird als ergodische Verteilung von (X(n)) n N bezeichnet. Ergodische Markov-Ketten zeigen nach einer mehr oder weniger langen Anlaufphase ein typisches Verhalten, das in der in der stabilen Phase. Die Zustandsverteilungen ändert sich mit wachsendem n nicht mehr. 8