Definition: Ein endlicher Ergebnisraum ist eine nichtleere Menge, deren. wird als Ereignis, jede einelementige Teilmenge als Elementarereignis

Transkript

1 Stochastische Prozesse: Grundlegende Begriffe bei zufälligen Prozessen In diesem Abschnitt beschäftigen wir uns mit den grundlegenden Begriffen und Definitionen von Zufallsexperimenten, also Prozessen, bei denen der Ausgang im Rahmen gewisser Möglichkeiten ungewiß oder zufällig ist, die aber bei Beibehaltung gewisser Rahmenbedingungen beliebig oft wiederholt werden können und damit einer systematischen und mathematischen Beschreibung zugänglich sind Zum Einstieg ist es sinnvoll, zunächst nur eine diskrete und endliche Menge von möglichen Ausgängen zu betrachten, da hier die Mathematisierung verständlicher dargestellt werden kann 91 Ein endlicher Ergebnisraum ist eine nichtleere Menge, deren Elemente Ergebnisse genannt werden Jede Teilmenge wird als Ereignis, jede einelementige Teilmenge als Elementarereignis bezeichnet Nach dieser Definition sind der Ergebnisraum selbst sowie die leere Menge stets Ereignisse, die man das sichere bzw unmögliche Ereignis nennt Gleichzeitig folgt, dass die Menge aller Ereignisse gerade die Potenzmenge von ist, also die Menge aller Teilmengen von und für die Mächtigkeit gilt die Beziehung! %'&(*) "$# + Da Ereignisse gerade als Elemente der Potenzmenge definiert sind, lassen sich Ereignisse nach den Regeln der Mengenlehre verknüpfen 92

2 Beispiel: Gilt, so ist ein Teilereignis von ; zwei Ereignisse und sind gleich, falls und gilt Das entgegengesetzte Ereignis ist was man in der Mengenlehre auch als Negation oder das Komplement von bezeichnet Sind und Ereignisse und gilt, so heißen und disjunkt oder unvereinbar Betrachtet man nun ein durch und beschriebenes Zufallsexperiment und führt man unabhängige Wiederholungen durch, so kann man Wiederholungen zählen, wie of ein Ereignis als Ergebnis der eintritt 93 Tritt ein Ereignis bei unabhängigen Versuchen mal ein, so nennt man die absolute Häufigkeit und die relative Häufigkeit von in Versuchen Man verifiziert leicht, dass die relative Häufigkeit die folgenden Eigenschaften besitzt: 1) Für alle gilt: 2) Es gilt: $,, 3) Für alle mit gilt: 94

3 ) ) ) ) Man kommt damit zur Definition des Laplaceschen Zufallsexperiments und dem folgenden Wahrscheinlichkeitsbegriff Sind in einem endlichen Ergebnisraum alle Elementarereignisse gleich häufig, so nennt man das zugehörige Zufallsexperiment ein Laplacesches Zufallsexperiment Die Wahrscheinlichkeit des Ereignisse ist dann gegeben durch $ Anzahl der Elementarereignisse Gesamtzahl der Elementarereignisse Zufallsexperimente, die us kombinatorischen Überlegungen beruhen, lassen sich mit Hilfe der Laplaceschen Definition einer Wahrscheinlichkeit mathematisch und beschreiben und wir geben dazu nur ein konkretes Beispiel 95 Beispiel: & Eine Urne enthält (bis auf die Farbe) gleiche Kugeln, von denen rot und & weiß sind Aus der Urne werden zufällig Kugeln gezogen Wie groß ist die Wahrscheinlichkeit dafür, dass unter den Kugeln rote und weiße sind? % & Zunächst kann man Kugel auf % & verschiedene Arten aus & Kugeln auswählen, dh ist die Gesamtzahl der Elementarereignisse des % oben formulierten Zufallsexperiments Aus roten Kugeln können auf verschiedene Arten ausgewählt werden; weiße aus & % & vorhandenen auf genau Arten 96

4 ) ) ) % & % & Für die Laplacesche Wahrscheinlichkeit % folgt dann was man auch als hypergeometrische Verteilung bezeichnet Es ist offensichtlich, dass man sich bei der stochastischen Modellierung nicht allein auf endliche Ergebnisräume mit gleichwahrscheinlichen Elementarereignissen beschränken kann Dies führt auf eine Definition der Wahrscheinlichkeit für allgemeine (endliche, abzählbar und überabzählbar unendliche) Räume, wie sie 1933 von Kolmogorov auf axiomatischem Weg eingeführt wurde Andrej Nikolaevich Kolmogorov, russischer Mathematiker, 25 April 1903 in Tambov, 20 Oktober 1987 in Moskau 97 Eine Schwierigkeit, die bei der mathematischen Formulierung auftaucht, ist dabei, dass bei überabzählbar unendlichen Ergebnisräumen auch überabzählbar viele Elementarereignisse auftreten und man daher Probleme hat, jedem Elementarereignis eine positive Wahrscheinlichkeit zuzuordnen Man beschränkt sich daher darauf, Wahrscheinlichkeiten nur für gewisse Teilmengen der Potenzmenge zu definieren Diese Teilmengen sich durch den Begriff einer Algebra charakterisiert Ein nichtleeres System von Teilmengen eines Ergebnisraums heißt Algebra über, wenn gilt: + ' & + " 98

5 Der Gesamtraum und die leere Menge sind stets Elemente einer Algebra: nach 1) folgt aus auch und demnach Abzählbare Durchschnitte von Elementen aus sind ebenfalls wieder Elemente von, dh es gilt und weiter gilt & + " Man kann aus jeder Teilmenge auf eindeutige Weise eine Algebra konstruieren, die man als die von erzeugte Algebra bezeichnet Diese Algebra $ ist auch die kleinste Algebra, die die Ausgangsmenge selbst enthält, dh es gilt: + $ Ist eine Algebra, die enthält, so gilt $ 99 ge Für einen endlichen Ergebnisraum ist die Potenzmen- offensichtlich eine Algebra Ein weiteres eichtiges Beispiel für eine Algebra ist die durch die halboffenen Intervalle erzeugte Algebra über den Ergebnisraum, die auch Borelsche Algebra genannt wird Mit Hilfe des Begriffs Algebra läßt sich jetzt durch die Kolmogorovschen Axiome eine Verallgemeinerung der Laplaceschen Wahrscheinlichkeit für allgemeine Räume definieren 100

6 Gegeben seien ein Ereignisraum und eine geeignete Algebra über, sodass die Elemente von die Ereignisse eines Zufallsexperimentes definieren Weiter sei eine Funktion, die jedem Ereignis eine reelle Zahl zuordnet und die folgenden Bedingungen (Kolmogorovschen Axiome) erfüllt: A1) Für alle gilt: A2) Es gilt: $ A3) Für paarweise disjunkte Ereignisse & +, gilt: "! " Dann nennt man die Wahrscheinlichkeit des Ereignisse 101 Um nun ein gegebenes Zufallexperiment mit Hilfe eines mathematischen Modells zu beschreiben verwendet man einen Wahrscheinlichkeitsraum bestehend aus dem Ereignisraum, einer Algebra aus Teilmengen von und eine Wahrscheinlichkeitsfuntkion Satz: Es gilt stets $ + # Beweis: Da die leere Menge ein Element von ist, ist wohldefiniert und aus A1) aus obiger Definition folgt 102

7 Sei nun ein Element von Dann gilt' und' Aus der Bedingung A3) erhalten wir demnach $ ' und daher Für Teil 2) bemerken wir, dass aus Verwendung von A2) und A3) folgt: und und daher Für den letzten Teil des Satzes bemerken wir zunächst unter wobei die drei auf der rechten Seite stehenden Ereignisse paarweise disjunkt sind und außerdem die Beziehungen 103 gelten Aus A3) folgt demnach Eine Kombination der drei Gleichungen ergibt aber Bemerkung: & Ein höchstens abzählbares System nennt man auch eine vollständige Ergebnisdisjunktion, falls gilt " 104

8 Für ein solches System gilt wegen A2) " Weiter zeigt man mit Hilfe von A3) für zwei Elemente mit die Abschätzung Ein weiterer zentraler Begriff bei der stochastischen Modellierung ist der Begriff der bedingten Wahrscheinlichkeit Sei ein Wahrscheinlichkeitsraum eines Zufallsexperimentes und mit zwei Ereignisse Dann nennt man $ (9) die bedingte Wahrscheinlichkeit von unter der Bedingung 105 Die bedingte Wahrscheinlichkeit bewertet also das Eintreffen des Ereignisses unter der Voraussetzung, dass das Ereignis mit Sicherheit passiert ist Beispiel: Wir betrachten ein Zufallsexperiment mit zwei Würfeln und fragen nach der Wahrscheinlichekit zwei Sechsen zu werfen, unter der Bedingung, dass mit einem Würfel eine Sechs gewürfelt wird Der Ergebnisraum dieses Zufallsexperiments ist die Menge das Ereignis zwei Sechsen zu würfeln ist dann und 106

9 beschreibt das Ergebnis, dass mit dem zweiten Würfel eine Sechs gewürfelt wird und mit dem ersten eine beliebige Augenzahl zwischen und Nun gilt wegen und $ Daraus folgt $ Die Wahrscheinlichkeit, zwei Sechsen zu werfen, unter der Bedingung, dass mit einem der Würfel eine gerade Augenzahl gewürfelt wird, sollte natürlich kleiner als sein Mit ergibt sich Einige Eigenschaften und Folgerungen der bedingten Wahrscheinlichekit sind im Folgenden kurz zusammengefasst: 1) Es gilt stets dh im Allgemeinen 2) Setzen wir für festes so erfüllt die Kolmogorovschen Axiome aus obiger Definition und definiert also einen Wahrscheinlichkeitsraum Insbesondere gilt: 108

10 3) Die bedingte Wahrscheinlichkeit kann man dazu verwenden, um eine Multiplikationsregel für Wahrscheinlichkeiten zu definieren: aus (9) folgt $ beziehungsweise Mit Hilfe vollständiger Induktion beweist man ferner die Beziehung: (10) " " " Eine Anwendung von (10) besprechen wir im folgenden Beispiel 109 Beispiel: In einem Raum befinden sich & Personen Wie hoch ist die Wahrscheinlichkeit, dass mindestens 2 Personen im Raum am gleichen Tag Geburtstag haben? Um diese Frage zu beantworten, müssen wir zunächst einige zusätzlichen Modellannahmen machen: wir vernachlässigen Schaltjahre, dh wir gehen davon aus, dass jedes Jahr 365 Tage hat, die Geburtstage der & Personen sind übers Jahr gleichverteilt, dh jeder Geburtstag besitzt diesselbe Wahrscheinlichkeit Sei das Ereignis mindestens 2 Personen haben am gleichen Tag Geburtstag dann gilt natürlich für & 110

11 (! ( & & Für nummerieren wir die Personen durch und definieren die folgenden Ereignisse alle Personen haben an verschiedenen Tagen Geburtstag die te Person hat an einem anderen Tag als die Es folgt & Wegen folgt mit der Beziehung (10) te Person 111 und daraus & + + Für verschiedene Werte von & erhält man: *& &, seien eine vollständige & Ereignisdisjunk- für alle Dann folgt für jedes Satz: Die Ereignisse tion und es gelte die Formel von der totalen Wahrscheinlichkeit $ " 112

12 und falls die Formel von Bayes " Bemerkung: Man nennt die Wahrscheinlichkeiten die a posteriori Wahrscheinlichkeiten, dagegen die a priori Wahrscheinlichkeiten Die bedingte Wahrscheinlichkeit gibt die Wahrscheinlichkeit für das Eintreten des Ereignisses an, unter der Bedingung, dass das Ereignis sicher eingetreten ist Im allgemeinen gilt daher Gilt dagegen die Gleichheit, so ist das Eintreten von vollkommen unabhängig davon, ob eingetreten ist oder nicht 113 Gilt für so nennt man unabhängig von Ist unabhängig von, so gilt für die Multiplikation $ und daraus folgt direkt dh ist unabhängig von, so ist auch unabhängig von Man sagt daher zusammenfassend, dass und voneinander unabhängig sind 114

13 Beispiel: Ein klassisches Zufallsexperiment mit stochastisch unabhängigen Ereignissen ist das Ziehen mit Zurücklegen So ist etwas die Wahrscheinlichkeit bei zweimaligen Ziehen einer Karte aus einem Skatspiel, bei dem man die erste Karte nach dem Ziehen wieder auf den Kartenstapel zurücklegt, zwei Asse zu ziehen gleich & Die Ereignisse,, + nennt & man vollständig unabhängig, & wenn für jede natürliche Zahl und beliebige Zahlen gilt " " 115 Zufallsvariablen und Wahrscheinlichkeitsverteilungen Gegeben sei ein Wahrscheinlichkeitsraum Eine Funktion die jedem Ereignis ' eine reelle Zahl zuordnet, heißt Zufallsvariable, wenn das Urbild eines jeden Intervalls ein Ereignis aus ist: Die Funktion der reellen Variablen heißt Verteilungsfunktion der Zufallsvariablen 116

14 + ) Verteilungsfunktion besitzen stets die folgenden Eigenschaften: 1 Es gilt: 2 Die Funktion und ist monoton nichtfallend: 3 Die Verteilungsfunktion ist rechtsseitig stetig: # 4 Stetige Zufallsvariablen: integrierbare, nicht negative Funktion mit Man nennt dann die Dichte der Zufallsvariablen 117 Wichtige Beispiele für stetige Zufallsvariablen und deren Dichten: 1) Die Dichte sonst beschreibt die sogenannte Gleichverteilung mod 1 2) Die Dichte % + ist die Dichte der Standardnormalverteilung 3) Die Dichte mit beschreibt die Exponentialverteilung 118

15 Momente einer Zufallsvariablen: Gegeben sei eine ZUfallsvariable Existiert das uneigentliche Integral mit der Dichte so nennt man den Erwartungswert oder auch Mittelwert der Zufallsvariablen Existiert für das uneigentliche Integral so nennt man das te Moment der Zufallsvariablen 119 Der Erwartungswert heißt tes zentrales Moment der Zufallsvariablen Spezialfälle: $ var nennt man Varianz oder auch Dispersion der Zufallsvariablen ist die Standardabweichung der Zufallsvariablen 120

16 Charakteristische Funktion einer Zufallsvariablen Der Erwartungswert heißt charakteristische Funktion der Zufallsvariablen Satz: Existiert das te Moment einer Zufallsvariablen + +, so gilt Bemerkung: Man beachte den Zusammenhang zur Fourier Transformation: 121