21 Der Bernoulliprozess

Transkript

1 21 Der Bernoulliprozess p_d := posliste, m, punkte<, liste = RandomInteger@BinomialDistribution@1, pd, 8n<D; posliste = Flatten@Position@liste, 1DD; m = Length@poslisteD; punkte = Table@Graphics@8PointSize@0.015D, Red, Point@8poslistePiT, 0<D<D, 8i, 1, m<d; Print@listeD; Show@8punkte<, Axes Æ 8True, False<, AxesOrigin Æ 8-1, 0<, AspectRatio Æ 0.03, PlotRange Æ 880, n<, 8-0.1, 0.1 Wir haben uns bereits ausführlich damit befasst, die Verteilung (also die Verteilungsdichte bzw die Verteilungsfunktion) einer Zufallsvariablen Z zu ermitteln. In diesem und den drei folgenden Kapiteln werden wir uns mit der Frage befassen, in welchen Situationen die in Mathematica implementierten Verteilungen (es handelt sich dabei um die wesentlichsten Verteilungen der Stochastik) auftreten. Wir werden dabei sehen, dass manche dieser Verteilungen untereinander eng zusammenhängen und damit eine Art "Familie von Verteilungen" bilden. In diesem Abschnitt befassen wir uns mit dem sogenannten Bernoulliprozess und den damit eng zusammenhängenden Verteilungen. Es handelt sich dabei um die Binomialverteilung, die negative Binomialverteilung und die hypergeometrische Verteilung sowie die Multinomialverteilung als mehrdimensionale Verallgemeinerung der Binomialverteilung. Wir werden ausführlich darauf eingehen, bei welchen Fragestellungen diese Verteilungen auftreten und welche Eigenschaften diese Verteilungen besitzen. Außerdem werden wir an Hand von zahlreichen Beispielen zeigen, wie mit diesen Verteilungen gearbeitet wird Der Bernoulliprozess Wir beginnen mit einer zentralen Begriffsbildung: Definition: Wir betrachten ein Zufallsexperiment, bei dem ein gewisses Ereignis A mit der Wahrscheinlichkeit p eintreten kann (tritt das Ereignis A ein, so spricht man von einem Erfolg). Wird dieses Zufallsexperiment laufend unabhängig wiederholt, so sagt man, es liegt ein Bernoulliprozess mit Parameter p vor. Beispiele für Bernoulliprozesse sind ä das wiederholte Werfen einer Münze oder eines Würfels; ä das wiederholte Ziehen mit Zurücklegen von Kugeln aus einer Urne; ä das laufende Befragen von zufällig ausgewählten Personen (Meinungsumfrage); ä das laufende Überprüfen der Qualität eines Produktionsprozesses (Qualitätskontrolle). Mit dem Befehl BernoulliProzess@n, pd lässt sich eine zufällige Realisierung w eines Bernoulliprozesses erzeugen. Der erste Parameter n gibt dabei an, wie oft das Zufallsexperiment wiederholt wird, der zweite Parameter p beschreibt die Erfolgswahrscheinlichkeit. Die Einser bzw die roten Punkte entsprechen jenen Wiederholungen, in denen das Ereignis A eintritt, also ein Erfolg zu verzeichnen ist. BernoulliProzess@50, 1 ê3d 80, 1, 0, 0, 0, 0, 0, 1, 1, 1, 0, 0, 0, 0, 1, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 1, 0, 1, 1, 0, 0, 1, 0, 1, 0, 1, 1, 1, 1, 0, 0, 1, 0, 1, 1, 1, 1<

2 110 21_Der_Bernoulliprozess.nb Mit einem Bernoulliprozess mit Parameter p sind eine Reihe von Zufallsvariablen bzw Verteilungen eng verbunden. Wir werden nun diese Zufallsvariablen zusammen mit ihren Eigenschaften und Verteilungen angeben und diese Verteilungen in den folgenden Abschnitten im Detail besprechen: Definition: Für jedes i œ 81, 2, < sei X i =: 1 falls bei der i- ten Wiederholung ein Erfolg eintritt 0 falls bei der i- ten Wiederholung kein Erfog eintritt Die diskreten Zufallvariablen X 1, X 2, sind offenbar vollständig unabhängig und pd-verteilt. Wenn man von einem Bernoulliprozess mit Parameter p spricht, so versteht man in der Stochastik darunter oft diese Familie =8X i iœ < von vollständig unabhängigen, pd-verteilten Zufallsvariablen Beispiel: Mit einem Würfel wird n = 100 mal gewürfelt und das Auftreten eines Sechsers beobachtet. Man simuliere eine typische Realisierung. Lösung: Beim laufenden Würfeln mit einem homogenen Würfel und der anschließenden Beobachtung, ob ein Sechser gewürfelt wurde, handelt es sich um einen Bernoulliprozess mit Parameter p = 1 ê6. Die Simulation einer typischen Realisierung kann daher mit dem Befehl BernoulliProzess@100, 1ê6D erfolgen: BernoulliProzess@100, 1 ê6d 80, 0, 0, 0, 0, 0, 1, 1, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 1, 1, 0, 1, 0, 1, 1, 0, 0, 0, 1, 0, 0, 1, 0, 0, 0, 1, 0, 1, 0, 0, 0, 0, 0, 1, 1, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 1, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 1, 0, 0, 0, 1, 0, 0, 0, 0, 1< Im Folgenden sei =8X i iœ < ein Bernoulliprozess mit Parameter p Definition: Für jedes nœ81, 2, < gibt die Zufallsvariable Z n = n i=1 X i die Anzahl der Erfolge bei den ersten n Wiederholungen an. Da die Zufallsvariablen X 1, X 2, vollständig unabhängig und pd-verteilt sind, folgt aus der Formel von Bernoulli (aber auch aus der Faltungsformel für Binomialverteilungen), dass die Zufallsvariable Z n pd-verteilung genügt. In den beiden Familien =8X i iœ < und =8Z n nœ < steckt die gleiche Information. Daher versteht man in der Stochastik unter einem Bernoulliprozess mit Parameter p gelegentlich auch diese Familie =8Z n nœ < pd-verteilten Zufallsvariablen Definition: Für jedes nœ81, 2, < gibt die Zufallsvariable Y n = Min8k kœ und k i=1 X i = n<-n die Anzahl der Misserfolge vor dem n-ten Erfolg an. Da die Zufallsvariablen X 1, X 2, vollständig unabhängig und pd-verteilt sind, folgt aus Beispiel , dass die Zufallsvariable Y n pd-verteilung genügt. In der Literatur verwendet man gelegentlich an Stelle der Anzahl der Misserfolge Y n vor dem n-ten Erfolg die Anzahl der Wiederholungen Y n * = Yn + n bis zum n-ten Erfolg und spricht im Zusammenhang mit der Verteilung

3 21_Der_Bernoulliprozess.nb 111 dieser Zufallsvariablen Y n * ebenfalls von einer negativen Binomialverteilung. Man achte daher genau darauf, in welchem Zusammenhang der Begriff "negative Binomialverteilung" jeweils verwendet wird. Beim Arbeiten mit Bernoulliprozessen sind manchmal die beiden folgenden Bemerkungen von Bedeutung: Bemerkung: Für alle n 1 < n 2 < n 3 œ sind die Zuwächse Z n1, Z n2 - Z n1, Z n3 - Z n2, vollständig unabhängig und binomialverteilt mit den Parametern n 1, n 2 - n 1, n 3 - n 2, und p. Beweis: Diese Behauptung folgt unmittelbar aus der Familieneigenschaft von vollständig unabhängigen Zufallsvariablen zusammen mit der Faltungsformel für Binomialverteilungen Bemerkung: Die Anzahl der Misserfolge Y 1, Y 2 - Y 1, Y 3 - Y 2, zwischen je zwei aufeinanderfolgenden Erfolgen sind vollständig unabhängig und pd-verteilt. Beweis: Wir zeigen exemplarisch, dass die beiden Zufallsvariablen Y 1 und Y 2 - Y pd-verteilt und unabhängig sind. Für alle k, lœ80, 1, 2, < 1 = k< 8Y 2 - Y 1 = l<d= 1 = 0< 8X k = 0< 8X k+1 = 1< 8X k+2 = 0< 8X k+l+1 = 0< 8X k+l+2 = 1<D= = ph1- pl k ph1- pl l Das hat aber 2 - Y 1 = l<d= = j< 8Y 2 - Y 1 = l<d= j=0 ph1- pl j ph1- pl l = ph1- pl l unmittelbar zur Folge, dass nicht nur Y 1 (das ist ohnehin bekannt), sondern auch Y 2 - Y 1 pd- Verteilung genügt und damit die beiden Zufallsvariablen Y 1 und Y 2 - Y 1 unabhängig sind.

4 112 21_Der_Bernoulliprozess.nb 21.2 Die pd Wir fassen die bereits bekannten Eigenschaften der pd zusammen: Bemerkung: Die pd besitzt den Träger =80, 1, 2,, n< die Kn z O pz H1- pl n-z für zœ80, 1, 2,, n< 0 sonst und die Verteilungsfunktion 0 für dzt K n k=0 k O pk H1- pl n-k =B p, n-dzt, 1+dztD für z 0 pd-verteilte Zufallsvariable Z besitzt den p und die ph1- pl Für Binomialverteilungen mit dem gleichen! Parameter p gilt die pd Es folgen nun eine Reihe von Beispielen, mit denen gezeigt wird, wie sich die Binomialverteilung bei der Behandlung von konkreten Problemen einsetzen lässt: Beispiel: In einer Urne befinden sich r= 15 rote und s=12 schwarze Kugeln. Aus dieser Urne wird n = 20 mal mit Zurücklegen jeweils eine Kugel entnommen und beobachtet, wieviele rote Kugeln dabei insgesamt gezogen werden. Man simuliere k= 100 typische Realisierung dieser Beobachtung. Lösung: Beim laufenden Ziehen mit Zurücklegen von Kugeln aus einer Urne mit r roten und s schwarzen Kugeln und der anschließenden Beobachtung, ob dabei eine rote Kugel gezogen wurde, handelt es sich um einen Bernoulliprozess mit Parameter p=rêhr+sl. Die Anzahl Z n der roten Kugeln beim n maligen Ziehen ist damit binomialverteilt mit den Parametern n und p=rêhr+sl. Mit dem Befehl RandomInteger lassen sich leicht k typische Realisierung dieser Beobachtung simulieren: r = 15; s = 12; n = 20; k = 100; RandomInteger@BinomialDistribution@n, rêhr + sld, 8k<D Clear@r, s, n, kd 89, 16, 12, 11, 11, 11, 8, 14, 11, 8, 13, 9, 13, 10, 14, 15, 13, 12, 14, 9, 14, 15, 8, 13, 6, 13, 15, 9, 11, 13, 13, 13, 11, 13, 7, 13, 13, 12, 10, 13, 11, 11, 10, 13, 9, 10, 10, 11, 10, 9, 10, 8, 10, 12, 13, 13, 15, 11, 9, 11, 15, 13, 8, 10, 12, 12, 11, 10, 11, 14, 11, 14, 8, 12, 11, 12, 11, 10, 9, 11, 13, 11, 6, 10, 9, 15, 14, 13, 13, 14, 14, 12, 11, 11, 13, 14, 15, 11, 10, 9< Beispiel: Mit einem Würfel wird n = 30 mal gewürfelt. Wie groß ist die Wahrscheinlichkeit dafür, dass dabei maximal z = 3 Sechser auftreten? Lösung: Beim laufenden Werfen eines (homogenen) Würfels und der anschließenden Beobachtung, ob dabei ein Sechser aufgetreten ist, handelt es sich um einen Bernoulliprozess mit Parameter p=1ê6. Die Anzahl Z n der

5 21_Der_Bernoulliprozess.nb 113 Sechser beim n maligen Würfeln ist damit binomialverteilt mit den Parametern n und p. Für die von uns gesuchte n z<d gilt damit n = 30; p = 1ê6; z = 3; CDF@BinomialDistribution@n, pd, 3D êê N Clear@n, p, zd Beispiel: In einer Fabrik arbeitet jede von n = 200 Maschinen zu einem beliebigen Zeitpunkt mit der Wahrscheinlichkeit p = 0.95 und ist mit der Wahrscheinlichkeit 1- p = 0.05 in Reparatur. Die einzelnen Maschinen arbeiten voneinander unabhängig. Wie groß ist die Wahrscheinlichkeit dafür, dass zu einem gegebenen Zeitpunkt mindestens m=190 Maschinen arbeiten? Lösung: Beim Überprüfen der einzelnen Maschinen, ob sie zum gegebenen Zeitpunkt arbeitet, handelt es sich um einen Bernoulliprozess mit Parameter p. Die Anzahl Z n der Maschinen, die zum gegebenen Zeitpunkt arbeiten, ist damit binomialverteilt mit den Parametern n und p. Für die gesuchte n m<d gilt daher n = 200; p = 0.95; m=190; 1- CDF@BinomialDistribution@n, pd, m- 1D Clear@n, p, md

6 114 21_Der_Bernoulliprozess.nb Beispiel: Im Unterricht stellt der Lehrer die Aufgabe, mit einer Münze n=150 mal zu werfen und das Ergebnis zu protokollieren. Max verzichtet auf das tatsächliche Münzwerfen und erfindet das folgende Protokoll (dabei steht 1 für das Ereignis "Adler" und 0 für das Ereignis "Zahl") 1,1,0,0,1,1,1,0,1,0, 1,1,0,1,1,0,1,0,1,0, 1,1,1,0,1,0,0,1,1,1, 1,0,1,1,0,1,1,0,1,0, 1,1,0,1,1,0,0,1,1,0, 1,0,1,1,0,0,1,1,0,0, 1,0,1,1,1,0,1,0,1,0, 1,1,0,1,0,1,1,0,0,1, 0,0,1,0,1,1,1,0,1,0, 1,1,0,1,1,0,0,1,0,1, 1,1,0,1,0,0,1,1,0,1, 0,1,1,0,1,0,1,0,1,1, 0,1,1,1,0,1,0,1,1,0, 1,0,1,1,0,1,0,1,1,0, 0,1,0,1,1,0,0,1,0,0. Warum ist der Lehrer davon überzeugt, dass Max geschwindelt hat? Lösung: Beim laufenden Werfen einer (homogenen) Münze und der anschließenden Beobachtung, ob dabei ein Adler aufgetreten ist, handelt es sich bekanntlich um einen Bernoulliprozess mit Parameter p=1ê2. Die Anzahl Z n der Adler beim n maligen Werfen ist damit binomialverteilt mit den Parametern n und p. Es ist daher damit zu rechnen, dass in unserem konkreten Fall etwa n p=75 Adler auftreten. Tatsächlich tritt in dem von Max abgegebenen Protokoll aber z= 87 mal ein Adler auf. Dieses Ergebnis macht den Lehrer stutzig. Er berechnet daher die n 87<D n = 150; p = 1ê2; z = 87; 1 - CDF@BinomialDistribution@n, pd, z- 1D êê N Clear@n, p, zd Da diese Wahrscheinlichkeit sehr klein ist, ist der Lehrer davon überzeugt, dass Max geschwindelt und dieses Protokoll erfunden und nicht durch tatsächliches Experimentieren erzeugt hat. Er nimmt dabei in Kauf, Max mit einer Wahrscheinlichkeit von 3% ungerechtfertigt zu beschuldigen. Wir erzeugen durch Simulation ein vom Lehrer gewünschtes Protokoll und ermittelt mit Hilfe von Apply und Plus die Anzahl der dabei auftretenden Adler. Dabei erkennen wir, dass diese Anzahl tatsächlich meistens in der Nähe des Erwartungswerts n p=75 liegt und nur sehr selten einen Wert größer als 86 annimmt. Table@Random@BinomialDistribution@1, 1 ê2dd, 8150<D Apply@Plus, %D 80, 0, 0, 1, 1, 0, 1, 1, 0, 1, 1, 1, 0, 0, 1, 1, 0, 0, 1, 0, 0, 1, 1, 1, 1, 1, 1, 1, 0, 0, 1, 0, 1, 0, 1, 0, 1, 1, 0, 1, 1, 1, 1, 0, 1, 1, 1, 1, 1, 0, 1, 0, 0, 1, 0, 0, 0, 1, 0, 0, 1, 1, 0, 1, 0, 1, 1, 0, 1, 0, 1, 0, 0, 0, 1, 0, 1, 0, 1, 1, 0, 1, 0, 1, 1, 0, 0, 0, 0, 0, 1, 0, 1, 1, 1, 1, 1, 1, 0, 1, 0, 0, 0, 1, 1, 1, 1, 1, 0, 1, 0, 0, 1, 1, 1, 0, 1, 1, 1, 0, 0, 0, 1, 1, 0, 1, 0, 0, 0, 1, 0, 0, 0, 0, 1, 0, 1, 1, 0, 1, 1, 1, 1, 0, 1, 1, 0, 1, 1, 1< Beispiel: Nachdem der Lehrer genau erklärt hat, warum er Max auf die Schliche gekommen ist, lässt er Max die Aufgabe wiederholen. Max ist noch immer zu faul, tatsächlich mit einer Münze zu werfen, passt nun aber peinlich genau darauf auf, dass die Anzahl der Adler "stimmt" und liefert das folgende Protokoll 1,0,1,1,0,1,0,0,1,0, 1,0,1,1,0,0,1,0,1,0, 1,0,0,1,0,1,1,0,1,0, 1,0,1,0,1,0,1,0,0,1, 0,1,0,1,0,1,0,0,1,0, 1,1,0,1,0,1,1,0,1,0, 1,0,1,1,0,1,0,1,0,1, 0,0,1,0,1,0,1,1,0,1, 0,1,0,0,1,0,1,0,1,1, 0,1,1,0,1,0,1,0,1,1, 0,1,0,1,0,1,1,0,1,0, 1,0,0,1,0,1,0,1,0,1, 1,0,0,1,0,0,1,0,1,0, 0,1,0,0,1,0,1,0,0,1, 1,0,1,0,0,1,1,0,1,0. Warum kommt ihm der Lehrer auch diesmal auf die Schliche? Lösung: Beim laufenden Beobachten der "Vorzeichenwechsel" (also eines Wechsels von Adler zu Zahl oder umgekehrt) handelt es sich ebenfalls um einen Bernoulliprozess mit Parameter p=1ê2. Die Anzahl V n dieser

7 21_Der_Bernoulliprozess.nb 115 Vorzeichenwechsel beim n maligen Werfen ist damit binomialverteilt mit den Parametern n- 1 und p. Es ist daher damit zu rechnen, dass in unserem konkreten Fall etwa Hn- 1L p = 74.5 Vorzeichenwechsel auftreten. Tatsächlich treten in dem von Max abgegebenen Protokoll aber v = 121 Vorzeichenwechsel auf. Der Lehrer wird wieder stutzig und berechnet die n 121<D: n = 150; p = 1ê2; v=121; 1- CDF@BinomialDistribution@n- 1, pd, v- 1D êê N Clear@n, p, zd Da diese Wahrscheinlichkeit extrem klein ist, ist der Lehrer davon überzeugt, dass Max wieder geschwindelt hat. (Es ist interessant zu bemerken, dass Finanzämter mit ähnlichen Methoden arbeiten, um zu überprüfen, ob die Steuererklärung von Betrieben "geschönt" ist.) Beispiel: Bei jedem Versuch sei die Wahrscheinlichkeit für das Eintreten des Ereignisses A gleich p. Mit welcher Wahrscheinlichkeit tritt dieses Ereignis bei n unabhängigen Wiederholungen geradzahlig oft auf? Lösung: Beim laufenden Überprüfen, ob das Ereignis A eintritt, handelt es sich um einen Bernoulliprozess mit Parameter p. Die Zufallsvariable Z n, welche angibt, wie oft dieses Ereignis bei n Wiederholungen auftritt, ist damit binomialverteilt mit den Parametern n und p. Für die gesuchte Wahrscheinlichkeit gilt damit n ist gerade<d= K n k O pk H1- pl n-k n n = K k O 1 k=0 k=0 2 Hpk +H-pL k LH1- pl n-k = 1 2 H1+H1-2 pln L k gerade wobei wir die Summe mittels Sum und FullSimplify (unter Berücksichtigung von 0 p 1) berechnet haben: FullSimplify@Sum@Binomial@n, kdhp k + H-pL k LH1 - pl n-k ê2, 8k, 0, n<d, 0 p 1D 1 I1+H1 2 pl n M Beispiel: Zwei gleich gute Schützen geben (unabhängig voneinander) je n Schüsse auf eine Schießscheibe ab. Wie groß ist die Wahrscheinlichkeit dafür, dass beide Schützen die gleiche Anzahl von Treffern erzielen? Lösung: Für jeden der beiden Schützen bilden die Treffer einen Bernoulliprozess mit Parameter p. Die Trefferanzahlen Z n H1L bzw Z n H2L der beiden Schützen bei jeweils n Schüssen sind somit unabhängige, mit den Parametern n und p binomialverteile Zufallsvariable. Damit ergibt sich für die von uns gesuchte Wahrscheinlichkeit H1L n = Zn H2L H1L = H2L = k<d k=0 Diese Summe lässt sich unter Verwendung von Mathematica für beliebige Werte von n und p auswerten: n = 10; p = 1ê3; Sum@HPDF@BinomialDistribution@n, pd, kdl 2, 8k, 0, n<dêê N Clear@n, pd Beispiel (Überbuchungen): Häufig ist die Zahl der zu einem Flug erschienenen Passagiere geringer als die Zahl der Buchungen für diesen Flug. Die Fluggesellschaften überbuchen daher den Flug (sie verkaufen

8 116 21_Der_Bernoulliprozess.nb also mehr Tickets als Sitze vorhanden sind) mit dem Risiko, eventuell überzählige Passagiere mit Geld entschädigen zu müssen. Wir nehmen an, dass die Fluggesellschaft bei jedem mitfliegenden Fluggast Einnahmen von e=300 und für jede überzählige Person einen Verlust von v=500 hat. Außerdem nehmen wir an, dass jede Person, die einen Platz gebucht hat, mit einer Wahrscheinlichkeit von p = 0.95 auch tatsächlich zum Flug erscheint. Wieviele Plätze soll diese Fluggesellschaft bei einem Airbus mit s = 364 Sitzplätzen verkaufen, um den zu erwartenden Gewinn zu maximieren? Lösung: Falls die Fluggesellschaft n Plätze verkauft, ist die Anzahl Z der zum Flug tatsächlich erscheinenden pd-verteilt. Für den zu erwartenden Gewinn g n gilt dann s n g n = k = k<d+ Hs e-hk- sl = k<d k=0 k=s+1 Wir bestimmen n mit Hilfe von Mathematica so, dass g n maximal ist, was offenbar n=382 zur Folge hat. p = 0.95; e = 300; v=500; s = 364; Table@8n, Sum@k e PDF@BinomialDistribution@n, pd, kd, 8k, 0, s<d + Sum@Hs e -Hk - sl vl PDF@BinomialDistribution@n, pd, kd, 8k, s+1, n<d<, 8n, s, s + 20<D Clear@p, e, v, sd 88364, <, 8365, <, 8366, <, 8367, <, 8368, <, 8369, <, 8370, <, 8371, <, 8372, <, 8373, <, 8374, <, 8375, <, 8376, <, 8377, <, 8378, <, 8379, <, 8380, <, 8381, <, 8382, <, 8383, <, 8384, << In Beispiel haben wir (unter Verwendung von charakteristischen Funktionen) gezeigt, dass sich für große n und kleine p die Verteilungsfunktion der pd durch die Verteilungsfunktion der pd approximieren lässt. Wir zeigen nun, dass diese Approximation auch für die entsprechenden Verteilungsdichten gilt (da die pd diskret ist, sind diese beiden Konvergenzen gleichwertig): Satz (Gesetz der seltenen Ereignisse): Ist Hp n L nœ eine Folge von Zahlen aus dem Intervall D 0, 1@ mit der Eigenschaft, dass die Folge Hn p n L nœ gegen eine Zahl l>0 konvergiert, so gilt für alle kœ 0 lim nø K n k O p n k H1- p n L n-k = -a lk k! Beweis: Für alle k œ 80, 1, 2, < gilt lim Kn nø k O p n k H1- p n L n-k nhn-1l Hn- k+ 1L = lim nø k! n k Hn p n L k H1- p n L n-k = = 1 k! lim H1-1 nø n L lim nø =1 k- 1 H1- n L lim Hn p nl k nø =1 =a k lim H1- n p n nø n Ln = -a lim H1- p nl -k = -a a k nø k! =1

9 21_Der_Bernoulliprozess.nb 117 Wie gut diese Approximation der Verteilungsdichte der Binomialverteilung durch die Verteilungsdichte der Poissonverteilung funktioniert, wird mit dem folgende Beispiel demonstriert: Beispiel: Für große n und kleine p vergleiche man graphisch die Verteilungsdichte pd- Verteilung mit der Verteilungsdichte pd-verteilung. Lösung: Wir plotten die Verteilungsdichten pd-verteilung (rot) und pd-verteilung (blau) und erkennen, dass sich für große n und kleine p diese beiden Verteilungsdichten kaum unterscheiden. Manipulate@l = n p; ListPlot@8Table@8z, PDF@BinomialDistribution@n, pd, zd<, 8z, 0, 3 l<d, Table@8z, PDF@PoissonDistribution@n pd, zd<, 8z, 0, 3 l<d<, PlotStyle Æ 88PointSize@0.03D, Red<, 8PointSize@0.03D, Blue<<, Filling Æ Axis, AspectRatio Æ 0.4, AxesOriginÆ80, 0<, PlotRange Æ All, AxesLabel Æ ImageSizeÆ8200, 120<D, 8n, 2, 50, 1, Appearance Æ "Labeled"<, 88p, 0.5<, 0.03, 0.5, Appearance Æ "Labeled"<D n 47 p In den Zeiten, als man noch keinen Computer zur Verfügung hatte, kam dem Gesetz der seltenen Ereignisse auch eine große praktische Bedeutung zu, da man damit Wahrscheinlichkeiten oft wesentlich leichter berechnen konnte. Wir machen dazu ein einfaches Beispiel: Beispiel: 1% der von einer Maschine angefertigten Stücke seien defekt. Wie groß ist die Wahrscheinlichkeit dafür, dass in einer Stichprobe von 100 Stück 3 oder mehr Stücke defekt sind? (i) näherungsweise mit dem Gesetz der seltenen Ereignisse (ii) exakt Lösung: Z n - die Anzahl von defekten Stücken; Z n ~ (n, p n ), wobei n=100 und p n n n < 3<D=1-2 i=0 K n i Op n i H1- p n L n-i =0.079.

10 118 21_Der_Bernoulliprozess.nb n = 100; p=0.01; 1 SumABinomial@n, id p i H1 pl n i, 8i, 0, 2<E Clear@n, pd Gesetz der seltenen Ereignisse: Dieses Gesetz der seltenen Ereignisse besagt, dass für große n und kleine p die Binomialverteilung mit den Parametern n und p durch die Poissonverteilung mit dem Parameter a=n p approximiert werden kann lim nø K n k O p n k H1- p n L n-k = -a ak k! [{Z n 3}]=1-2 a i i=0 i! -a = ï für a= =1 erhält man also α = 1; α i 1 SumB i! Clear@αD Exp@ αd, 8i, 0, 2<F êê N Beispiel: In einem Postamt werden in einem Jahr durchschnittlich 1017 Briefe ohne Adresse aufgegeben. Wie groß ist die Wahrscheinlichkeit dafür, dass an einem bestimmten Tag mehr als drei Briefe ohne Adresse aufgegeben werden? Lösung: Teilt man das Jahr in n sehr kurze Zeitintervalle - etwa Minuten - ein, so kann man in erster Näherung annehmen, dass die Zeitpunkte, in denen ein Brief ohne Adresse aufgegeben wird, einen Bernoulliprozess mit dem sehr kleinen Parameter p n bilden. Nun kennt man aber den Erwartungswert der Anzahl Z n der Briefe, welche in einem Jahr ohne Adresse aufgegeben werden. Aus der Beziehung n D=n p n ergibt sich für diesen Parameter daher der Wert p n = 1017ên. Nimmt man nun an, dass der zur Diskussion stehende Tag mit dem n ten Zeitintervall beginnt und mit dem n 2 - ten Zeitintervall endet (wobei Hn 2 - n 1 L=nê365 gilt), so entspricht die Anzahl der Briefe, welche an diesem Tag ohne Adresse aufgegeben werden, dem Zuwachs Z n2 - Z n1. Dieser Zuwachs ist aber 2 - n 1, p n D-verteilt und damit nach dem Gesetz der seltenen Ereignisse (n 2 - n 1 ist sehr groß, p n ist sehr klein) wegen Hn 2 - n 1 L p n = 1017ê365 Für die von uns gesuchte n2 - Z n1 > 3<D ergibt sich somit a = 1017ê365; 1 - CDF@PoissonDistribution@aD, 3D êê N Clear@aD Die negative pd 21.4 Die hypergeometrische n suc, n tot D

11 21_Der_Bernoulliprozess.nb Die 8 p 1, p 2,, p r <D Wir haben bereits erwähnt, dass die Multinomialverteilung in gewissem Sinn eine Verallgemeinerung der Binomialverteilung darstellt. Diese Analogie wird durch die folgende Bemerkung noch deutlicher: Bemerkung: Wir betrachten ein Zufallsexperiment, bei dem die paarweise disjunkten Ereignisse A 1, A 2,, A r mit den Wahrscheinlichkeiten p 1, p 2,, p r eintreten können und setzen weiter voraus, dass A 1 A 2 A r =W und damit p 1 + p p r = 1 gilt. Wird dieses Zufallsexperiment n mal unabhängig wiederholt und gibt für jedes iœ81, 2,, r< die Zufallsvariable Z i an, wie oft dabei das Ereignis A i eintritt, so gilt Z1,Z 2,,Zr 8p 1, p 2,, p r <D. Beweis: Für alle k 1, k 2,, k r œ80, 1, 2,, n< mit k 1 + k 2 + +k r = n folgt aus dem Multiplikationssatz und unseren Ausführungen über die Binomialverteilung Z1,Z 1, k 2,, k r 1 = k 1 < 8Z 2 = k 2 < 8Z r-1 = k r-1 <D= 1 = k 1 2 = k 2 < 8Z 1 = k 1 r-1 = k r-1 < 8Z 1 = k 1 < 8Z r-2 = k r-2 <D= =K n k O p 1 k 1 1 H1- p1 L n-k1 K n-k 1 p 2 OH L k2 H1- k 2 1- p 1 = K n-k 1 - -k r-2 k r-1 p r-1 OH L k 1- p p r-1 H1- r-2 n! k 1! k 2! k r-1! k r! p k 1 k 1 p2 2 k pr-1 r-1 pr kr p 2 1- p 1 L n-k 1 -k2 p r-1 1- p p r-2 L n-k 1 - -k r-1 = Wir fassen die bereits bekannten Eigenschaften der 8p 1, p 2,, p r <D zusammen: Bemerkung: Die 8p 1, p 2,, p r <D besitzt den Träger =88z 1, z 2,, z r < z i œ80, 1, 2,, n< und z 1 + z z r = n< die 1, z 2,, z r D= und die 1, z 2,, z r D= n! z 1! z 2! z r! p z 2 z 1 p2 2 pr zr für z i œ80, 1, 2, < mit z 1 + z 2 + +z r = n 0 sonst dz 1 t dz i1 =0 i2 2 t dzrt =0 i r=0 i 1 +i 2 + +ir=n n! i 1! i 2! i r! = p i 2 i 1 p22 pr ir für z 1 0,, z r 0 0 8p 1, p 2,, p r <D-verteilte Zufallsvariablen Z 1, Z 2,, Z r besitzen den Erwartungswertvektor 1 2 r D<=8n p 1, n p 2,, n p r < und die Kovarianzmatrix i, Z k DL i,kœ81,2,,r< = n p 1 H1- p 1 L -n p 1 p 2 -n p 1 p r -n p 2 p 1 n p 2 H1- p 2 L -n p 2 p r ª ª ª -n p r p 1 -n p r p 2 n p r H1- p r L

12 120 21_Der_Bernoulliprozess.nb Es folgen wieder einige Beispiele, mit denen gezeigt wird, wie die Multinomialverteilung verwendet wird: Beispiel: Eine Urne enthält r=5 rote, w=4 weiße und b=3 blaue Kugeln. Eine Kugel wird zufällig gezogen, ihre Farbe notiert und wieder in die Urne zurückgelegt. Man bestimme die Wahrscheinlichkeit dafür, dass von n=6 so ausgewählten Kugeln k 1 = 3 rot, k 2 = 2 weiß und k 3 = 1 blau sind. Lösung: Wir bezeichnen mit Z 1 bzw Z 2 bzw Z 3 die Anzahl der beim n=6 maligen Ziehen gezogenen roten bzw weißen bzw blauen Kugeln. Wegen Bemerkung handelt es sich bei der gemeinsamen Verteilung dieser Zufallsvariablen Z 1, Z 2, Z 3 um eine Multinomialverteilung mit den Parametern n=6, p 1 = 5ê12, p 2 = 4ê12 und p 3 = 3ê12. Für die von uns gesuchte Wahrscheinlichkeit gilt somit n = 6; p1 = 5ê12; p2 = 4ê12; p3=3ê12; PDF@MultinomialDistribution@n, 8p1, p2, p3<d, 83, 2, 1<D êê N Clear@n, p1, p2, p3d Beispiel: n=8 Kugeln werden zufällig auf r= 5 Urnen verteilt, wobei jede Kugel mit der gleichen Wahrscheinlichkeit in jede Urne gelangen kann. Wie groß ist die Wahrscheinlichkeit dafür, dass dabei keine Urne leer bleibt (man vergleiche dazu auch Beispiel 8.2.2). Lösung: Wir bezeichnen mit Z 1, Z 2,, Z r die Anzahl der Kugeln in den einzelnen Urnen. Da jede Kugel mit der gleichen Wahrscheinlichkeit in jede Urne gelangen kann, handelt es sich bei der gemeinsamen Verteilung der Zufallsvariablen Z 1, Z 2,, Z r um eine Multinomialverteilung mit den Parametern n und 81êr, 1êr,, 1êr<. Für die von uns gesuchte 1 > 0< 8Z 2 > 0< 8Z r > 0<D ergibt sich daher unter Verwendung von Mathematica n = 8; r = 5; p = Table@1êr, 8i, 1, r<d; Sum@PDF@MultinomialDistribution@n, pd, Array@z, rdd, Evaluate@Apply@Sequence, Table@8z@iD, 1, r<, 8i, 1, r<dddd êê N Clear@n, r, pd (Man beachte dabei: Der für den Befehl Sum erforderliche Summationsbereich hat die Gestalt 8z@1D, 1, r<, 8z@2D, 1, r<,, 8z@rD, 1, r< Mit Hilfe von Table lässt sich aber nur eine Liste der Form 88z@1D, 1, r<, 8z@2D, 1, r<,, 8z@rD, 1, r<< erzeugen (man achte dabei genau auf die Klammerung). Um nun für beliebige Werte von r den geeigneten Summationsbereich zu erzeugen, verwenden wir einen Trick: Wir erzeugen dazu zuerst mit Hilfe von Table in der üblichen Weise die Liste 88z@1D, 1, r<, 8z@2D, 1, r<,, 8z@rD, 1, r<<, wenden auf diese Liste den Befehl Apply zusammen mit dem Befehl Sequence an und evaluieren diesen Ausdruck mit Hilfe von Evaluate.) Beispiel: n=12 Kugeln werden zufällig auf r=6 Urnen verteilt, wobei jede Kugel mit der gleichen Wahrscheinlichkeit in jede Urne gelangen kann. Wie groß ist die Wahrscheinlichkeit dafür, dass dabei in genau k= 3 Urnen jeweils genau eine Kugel gelangt?

13 21_Der_Bernoulliprozess.nb 121 Lösung: Wir bezeichnen mit Z 1, Z 2,, Z r wieder die Anzahl der Kugeln in den einzelnen Urnen. Da jede Kugel mit der gleichen Wahrscheinlichkeit in jede Urne gelangen kann, handelt es sich bei der gemeinsamen Verteilung der Zufallsvariablen Z 1, Z 2,, Z r um 81êr, 1êr,, 1êr<D-Verteilung. Nun lassen sich aber jene k Urnen, in die jeweils genau eine Kugel gelangen soll, bekanntlich auf r über k verschiedene Arten auswählen. Für die von uns gesuchte Wahrscheinlichkeit p gilt somit p=k r k 1 = 1< 8Z 2 = 1< 8Z k = 1< 8Z k+1 1< 8Z k+2 1< 8Z r 1<D Wir werten diese Formel wieder mit Hilfe von Mathematica aus, indem wir zuerst unter Verwendung von Tuples eine liste aller Tupel der Form 8z k+1, z k+2,, z r < mit z i œ80, 2, 3,, n- k< erzeugen und anschließend mit Hilfe von Table und Join jedem dieser Tupel k Einser voransetzen (die dabei entstehende Liste nennen wir summationsbereich). Schließlich summieren wir die Wahrscheinlichkeiten aller 1 = 1< 8Z 2 = 1< 8Z k = 1< 8Z k+1 1< 8Z k+2 1< 8Z r 1<D mit Sum auf und multiplizieren das Ergebnis mit dem Faktor r über k: n = 12; r = 6; k = 3; p = Table@1êr, 8r<D; liste = Tuples@Delete@Table@i, 8i, 0, n- k<d, 2D, r - kd; summationsbereich = Table@Join@Table@1, 8k<D, liste@@iddd, 8i, Hn-kL r-k <D; Binomial@r, kd Sum@PDF@MultinomialDistribution@r, pd, summationsbereich@@iddd, 8i, Hn - kl r-k <D êê N Clear@n, r, k, p, liste, summationsbereichd Beispiel: Man zeige: Genügen die Zufallsvariablen X 1, X 2,, X r einer Multinomialverteilung mit den Parametern m und 8p 1, p 2,, p r <, die Zufallsvariablen Y 1, Y 2,, Y r einer Multinomialverteilung mit den Parametern n und 8p 1, p 2,, p r < und sind alle Zufallsvariablen X i von allen Zufallsvariablen Y k vollständig unabhängig, so genügen die Zufallsvariablen Z 1, Z 2,, Z r mit Z i = X i + Y i einer Multinomialverteilung mit den Parametern m+n und 8p 1, p 2,, p r <. Lösung: Wir betrachten ein Zufallsexperiment, bei dem die paarweise disjunkten Ereignisse A 1, A 2,, A r mit den Wahrscheinlichkeiten p 1, p 2,, p r eintreten können und setzen voraus, dass A 1 A 2 A r =W und damit p 1 + p p r = 1 gilt. Wird dieses Zufallsexperiment m mal unabhängig wiederholt und gibt für jedes iœ81, 2,, r< die Zufallsvariable X i an, wie oft dabei das Ereignis A i eintritt, so gilt für die gemeinsame Verteilung der Zufallsvariablen X 1, X 2,, X r wegen Bemerkung bekanntlich X1,X 2,,Xr 8p 1, p 2,, p r <D Wird dieses Zufallsexperiment anschließend n mal unabhängig wiederholt und gibt für jedes k œ 81, 2,, r< die Zufallsvariable Y k an, wie oft nun das Ereignis A k eintritt, so sind alle Zufallsvariablen X i von allen Zufallsvariablen Y k vollständig unabhängig und für die gemeinsame Verteilung der Zufallsvariablen Y 1, Y 2,, Y r gilt Y1,Y 2,,Yr 8p 1, p 2,, p r <D Insgesamt wurde dieses Zufallsexperiment damit m+n mal unabhängig wiederholt, wobei Z i = X i + Y i mal das Ereignis A i eingetreten ist. Für die gemeinsame Verteilung der Zufallsvariablen Z 1, Z 2,, Z r gilt daher Z1,Z 2,,Zr 8p 1, p 2,, p r <D