Teil VI. Gemeinsame Verteilungen. Lernziele. Beispiel: Zwei Würfel. Gemeinsame Verteilung

Transkript

1 Zusammenfassung: diskrete und stetige Verteilungen Woche 4: Verteilungen Patric Müller diskret Wahrscheinlichkeitsverteilung p() stetig Wahrscheinlichkeitsdichte f () ETHZ WBL 17/19, P(X = k ) [0, 1], k W P(X = ) = 0, R Wahrscheinlichkeit und Statistik Patric Müller WBL 2017 Wahrscheinlichkeit und Statistik 2 / 22 WBL 2017 Zusammenfassung: diskrete und stetige Verteilungen Zusammenfassung: diskrete und stetige Verteilungen diskret Kumulative Verteilungsfunktion F () 1 stetig Kumulative Verteilungsfunktion F () 1 diskret stetig Erwartungswert Erwartungswert E(X ) = k 1 k P(X = k ) E(X ) = f () d F () = P(X = k ) F () = k : k f (u) du Varianz Varianz Var(X ) = k 1( k E(X )) 2 p( k ) Var(X ) = ( E(X )) 2 f () d Wahrscheinlichkeit und Statistik 3 / 22 WBL 2017 Wahrscheinlichkeit und Statistik 4 / 22 WBL 2017

2 Lernziele Teil VI Gemeinsame Verteilungen Sie können die gemeinsame Verteilung von zwei Zufallsvariablen angeben.... aus der gemeinsamen Verteilung zweier Zufallsvariablen deren Randverteilungen berechnen.... feststellen, ob zwei Zufallsvariablen unabhängig sind.... die Kovarianz und den Korrelationskoeffizient zweier Zufallsvariablen berechnen und interpretieren.... Erwartungswert und Varianz einer Linearkombination zweier Zufallsvariablen berechnen. Wahrscheinlichkeit und Statistik 5 / 22 WBL 2017 Wahrscheinlichkeit und Statistik 6 / 22 WBL 2017 Gemeinsame Verteilung Beispiel: Zwei Würfel Bisher haben wir immer die Verteilung einer einzelnen Zufallsvariablen betrachtet. In der Prais betrachten wir natürlich oft mehrere Grössen gleichzeitig. Zwei (oder mehr) Zufallsvariablen lassen sich mit Hilfe ihrer gemeinsamen Verteilung beschreiben. Zufallseperiment: Man würfelt zwei faire Würfel. X : Ergebnis des ersten Würfels. 1. Würfel: Laplace Eperiment (alle Elementarereignisse haben die gleiche Wahrscheinlichkeit). X ist gleichverteilt auf {1,..., 6} Y : Ergebnis des zweiten Würfels. 2. Würfel: Laplace Eperiment. Y ist gleichverteilt auf {1,..., 6} Die gemeinsame Verteilung ist gegeben durch: P(X =, Y = y) = 1 36 Enthalten die einzelnen Verteilungen von X und Y genug Informationen, um die gemeinsame Verteilung der zwei Funktionen herzuleiten? Wahrscheinlichkeit und Statistik 7 / 22 WBL 2017 Wahrscheinlichkeit und Statistik 8 / 22 WBL 2017

3 Diskrete gemeinsame Verteilungen Beispiel: gemeinsame Wahrscheinlichkeitsverteilung Situation: X : diskrete Zufallsvariable mit Werten in W X = { 1, 2, 3,...} Y : diskrete Zufallsvariable mit Werten in W Y = {y 1, y 2, y 3,...} Definition Die gemeinsame kumulative Verteilungsfunktion von X und Y ist die Funktion F X,Y (, y) := P(X, Y y). Die gemeinsame Wahrscheinlichkeitsverteilung von X und Y bezeichnet die Wahrscheinlichkeiten P(X =, Y = y), W X, y W Y. Eine gemeinsame Wahrscheinlichkeitsverteilung zweier Zufallsvariablen kann als Tabelle angegeben werden. Beispiel: parallelisierter Algorithmus läuft auf zwei Prozessorkernen. Zufallsvariablen X und Y : diskretisierte Last der beiden Kerne (1 = tiefe Last, 2 = mittlere Last, 3 = hohe Last) X /Y Wie kann man die Verteilung in Worte fassen? Ist die Auslastung der Kerne z.b. gleichmässig? Wahrscheinlichkeit und Statistik 9 / 22 WBL 2017 Wahrscheinlichkeit und Statistik 10 / 22 WBL 2017 Randverteilungen Bedingte Verteilungen X und Y seien zwei diskrete Zufallsvariablen mit den Wertebereichen W X und W Y. Definition (Randverteilung) Die Verteilung von X allein heisst Randverteilung; sie wird berechnet als P(X = ) = y W Y P(X =, Y = y) für beliebige W X. Definition X und Y sind unabhängig wenn P(X =, Y = y) = P(X = ) P(Y = y) gilt für alle Werte und y, die X und Y annehmen können. X und Y seien zwei diskrete Zufallsvariablen mit gemeinsamer Verteilung P(X =, Y = y). Definition (Bedingte Wahrscheinlichkeitsverteilung) Die bedingte Wahrscheinlichkeitsverteilung von X gegeben Y = y ist P(X = Y = y) = P(X =, Y = y) P(Y = y) Wahrscheinlichkeit und Statistik 11 / 22 WBL 2017 Wahrscheinlichkeit und Statistik 12 / 22 WBL 2017

4 Stetige gemeinsame Verteilungen Sind X und Y zwei stetige Zufallsvariablen, besitzen sie eine gemeinsame Wahrscheinlichkeitsdichte f X,Y (, y). Die Wahrscheinlichkeit, dass X in einem Intervall [a, b] und Y in einem Intervall [c, d] liegt, berechnet sich gemäss P(a X b, c Y d) = b d a c f X,Y (, y) dy d Die Randdichte von X erhält man durch Ausintegrieren über Y : f X () = f X,Y (, y) dy. Wie bei diskreten Verteilungen kann man die bedingte Verteilung von X gegeben Y definieren; sie hat die Dichte f X Y =y () = f X,Y (, y) f Y (y) Graph der gemeinsamen Verteilung (Quelle: Wahrscheinlichkeit und Statistik 13 / 22 WBL 2017 Wahrscheinlichkeit und Statistik 14 / 22 WBL 2017 Kontur-Plot Eine gemeinsame Dichte lässt sich mit einem (2-dimensionalen) Kontur-Plot visualisieren: eine Art Plot von Höhenkurven der Dichte. Höhenkurve hier: Linie aller Punkte, wo die gemeinsame Dichte einen bestimmten Wert hat. y Kovarianz und Korrelationskoeffizient Oft ist die Beziehung zweier Zufallsvariablen viel wichtiger als die Verteilung der einzelnen Variablen. Beispiele: X = mg-schmerzmittel, Y = gefühlte Schmerzen. X = Begabung in Mathematik, Y = Begabung in Musik. Es ist deswegen von grossem Interesse eine (einfache) Messgrösse zu finden, um Beziehungen zwischen Zufallsvariablen zu beschreiben / zusammenzufassen. Bemerkung: Man muss die gemeinsame Verteilung kennen, um die Beziehung zweier Zufallsvariablen vollständig beschrieben zu können Wahrscheinlichkeit und Statistik 15 / 22 WBL 2017 Wahrscheinlichkeit und Statistik 16 / 22 WBL 2017

5 Kovarianz und Korrelationskoeffizient Korrelation: Beispiele X und Y seien zwei (diskrete oder stetige) Zufallsvariablen. Definition Die Kovarianz von X und Y ist definiert als [ (X ) ( ) ] Cov(X, Y ) := E E(X ) Y E(Y ). ρ XY = 0.5 ρ XY = 0 ρ XY = 0.5 Ihr Korrelationskoeffizient ist ρ XY = Eigenschaften: Cov(X, Y ) Var(X ) Var(Y ). Falls X und Y unabhängig sind, ist Cov(X, Y ) = 0 und ρ XY = 0 (die andere Richtung ist i.a. falsch!!) 1 ρ XY 1 ρ XY = ±1 falls Y deterministisch linear von X abhängt (Beispiel: X = Temperatur in C, Y = Temperatur in F ) Wahrscheinlichkeit und Statistik 17 / 22 WBL 2017 ρ XY = 0.7 ρ XY = 0.9 ρ XY = Mehr dazu: Kapitel deskriptive Statistik, nächste Vorlesung. Wahrscheinlichkeit und Statistik 18 / 22 WBL Unabhängigkeit und Kausalität Verbreitete Fehlvorstellung: Unkorreliertheit impliziert Unabhängigkeit Beispiel: Y Uniform([ 1, 1]) und X = Y 2 Unabhängigkeit und Kausalität Verbreitete Fehlvorstellung: Abhängigkeit impliziert Kausalität y (Quelle: Messerli (2012)) Wahrscheinlichkeit und Statistik 19 / 22 WBL 2017 Wahrscheinlichkeit und Statistik 20 / 22 WBL 2017

6 Rechenregeln für Erwartungswert und Varianz Literatur X und Y seien (diskrete oder stetige) Zufallsvariablen, a R eine reelle Zahl. E(X + Y ) = E(X ) + E(Y ) Falls X und Y unabhängig sind, gilt E(X Y ) = E(X ) E(Y ) E(a X ) = a E(X ) Var(X + Y ) = Var(X ) + Var(Y ) + 2 Cov(X, Y ) Folge: falls X und Y unabhängig sind, gilt Var(X + Y ) = Var(X ) + Var(Y ) Var(a X ) = a 2 Var(X ) Franz H. Messerli. Chocolate consumption, cognitive function, and nobel laureates. New England Journal of Medicine, 367(16): , doi: 1056/NEJMon URL PMID: Wahrscheinlichkeit und Statistik 21 / 22 WBL 2017 Wahrscheinlichkeit und Statistik 22 / 22 WBL 2017