Statistik. R. Frühwirth. Statistik. VO Februar R. Frühwirth Statistik 1/319

Transkript

1 VO Februar /319

2 Übersicht über die Vorlesung Teil 1: Deskriptive Teil 2: Wahrscheinlichkeitsrechnung Teil 3: Teil 4: Parameterschätzung 2/319

3 Übersicht über die Vorlesung Teil 5: Testen von Hypothesen Teil 6: Regressionsanalyse Teil 7: Simulation von Experimenten 3/319

4 Diskrete Stetige bedingte Wichtige Rechnen mit Teil 3 165/319

5 Übersicht Teil 3 Diskrete Stetige bedingte Wichtige Rechnen mit Wichtige Rechnen mit 166/319

6 Abschnitt 8: Diskrete Stetige bedingte Wichtige Rechnen mit 8 Diskrete Stetige 9 10 Wichtige Rechnen mit 167/319

7 Unterabschnitt: Diskrete Stetige bedingte Wichtige Rechnen mit 8 Diskrete Stetige 9 10 Wichtige Rechnen mit 168/319

8 Diskrete Stetige bedingte Wichtige Rechnen mit Definition () Eine Abbildung X: ω Ω x = X(ω) R die jedem Element ω des Ereignisraums Ω eine reelle Zahl zuordnet, heißt eine (eindimensionale). Ist Ω endlich oder abzählbar unendlich, ist jede beliebige Abbildung X zugelassen. Ist Ω überabzählbar unendlich, muss X eine messbare Abbildung sein. Da der Wert einer n vom Ausgang des Experiments abhängt, kann man den möglichen Werten Wahrscheinlichkeiten zuschreiben. 169/319

9 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel Nimmt die X nur endlich oder abzählbar unendlich viele Werte an, heißt sie diskret. Nimmt die X ein Kontinuum von Werte an, heißt sie kontinuierlich. Die Abbildung, die beim Würfeln dem Elementarereignis e i die Augenzahl i zuordnet, ist eine diskrete. Natürlich wäre auch die Abbildung e i : 7 i eine diskrete. Beispiel Die Abbildung, die dem Zerfall eines Teilchens die Lebensdauer x zuordnet, ist eine kontinuierliche. 170/319

10 Unterabschnitt: Diskrete Diskrete Stetige bedingte Wichtige Rechnen mit 8 Diskrete Stetige 9 10 Wichtige Rechnen mit 171/319

11 Diskrete Diskrete Stetige bedingte Wichtige Rechnen mit Diskrete sind oft das Resultat von Zählvorgängen. In der physikalischen Praxis kommen diskrete häufig vor: man denke an das Zählen von Ereignissen in einem festen Zeitintervall (Poissonverteilung), an das Abzählen von Alternativversuchen (Binomialverteilung), oder auch an die Besetzungshäufigkeit der diskreten Energieniveaus des Wasserstoffatoms. Im folgenden nehmen wir an, dass die Werte einer diskreten n nichtnegative ganze Zahlen sind. Dies ist keine Einschränkung, weil jede abzählbare Menge von reellen Zahlen bijektiv auf (eine Teilmenge von) N 0 abgebildet werden kann. Die Ereignisalgebra ist die Potenzmenge (Menge aller Teilmengen) P von N /319

12 Diskrete Diskrete Stetige bedingte Wichtige Rechnen mit Ist auf der Ereignisalgebra Σ(Ω) ein Wahrscheinlichkeitsmaß W definiert, so kann man mit Hilfe der n X auf der Potenzmenge P von N 0 ebenfalls ein Wahrscheinlichkeitsmaß definieren. Definition (Verteilung einer diskreten n) Es sei Σ(Ω) eine diskrete Ereignisalgebra. Die diskrete X : Ω N 0 induziert ein Wahrscheinlichkeitsmaß auf N 0 mittels W X ({k}) = W (X 1 (k)) = W ({ω}) X(ω)=k W X wird als die Verteilung von X bezeichnet, und zwar als diskrete oder Spektralverteilung. 173/319

13 Diskrete Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel Wir ordnen den geraden Augenzahlen des Würfels die Zahl 0 zu, den ungeraden die Zahl 1: X : ω mod (ω, 2) Die Verteilung von X ist dann gegeben durch W X(0) = W (X 1 (0)) = W ({2, 4, 6}) = 1 2 W X(1) = W (X 1 (1)) = W ({1, 3, 5}) = /319

14 Diskrete Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel Wir ordnen dem Ausgang eines Doppelwurfs die Summe der Augenzahlen zu: X : (i, j) i + j Die Werte von X sind die natürlichen Zahlen von 2 bis 12. Die Verteilung von X ist dann gegeben durch W X(k) = W (X 1 (k)) = i+j=k W ({(i, j)}) = k 1 36, k 7 13 k, 36 k 7 175/319

15 Diskrete Diskrete Stetige bedingte Wichtige Rechnen mit Die Zahlen W X (k) können als Funktionswerte einer Spektralfunktion f X angesehen werden: { W X (k), wenn x = k f X (x) = 0, sonst Definition (Diskrete Dichtefunktion) Die Funktion f X (k) wird als Wahrscheinlichkeitsdichtefunktion oder kurz Dichte der n X bezeichnet. 176/319

16 Diskrete Die Dichte der n X = i + j: Diskrete Stetige bedingte Wichtige Rechnen mit f(x) Dichtefunktion x 177/319

17 Diskrete Diskrete Stetige bedingte Wichtige Rechnen mit Die Wahrscheinlichkeit W X (E) eines Ereignisses E lässt sich bequem mit Hilfe der Dichte von X berechnen: W X (E) = k E f X (k) Definition (Diskrete Verteilungsfunktion) Ist X eine diskrete, so ist die Verteilungsfunktion F X von X definiert durch: Es gilt offenbar: F X (x) = k x F X (x) = W (X x) f X (k) = k x W X ({k}) 178/319

18 Diskrete Diskrete Stetige bedingte Wichtige Rechnen mit Eigenschaften einer diskreten Verteilungsfunktion F 1 F hat eine Sprungstelle in allen Punkten des Wertebereichs 2 Die Sprunghöhe im Punkt k ist gleich f X (k) 3 0 F (x) 1 x R 4 x y = F (x) F (y) x, y R 5 lim x F (x) = 0; lim x F (x) = 1 6 Die Wahrscheinlichkeit, dass r in das Intervall (a, b] fällt, ist F (b) F (a): W (r a) + W (a < r b) = W (r b) = W (a < r b) = F (b) F (a) 179/319

19 Diskrete Die Verteilungsfunktion der n X = i + j: Diskrete Stetige bedingte Wichtige Rechnen mit F(x) Verteilungsfunktion x 180/319

20 Unterabschnitt: Stetige Diskrete Stetige bedingte Wichtige Rechnen mit 8 Diskrete Stetige 9 10 Wichtige Rechnen mit 181/319

21 Stetige Diskrete Stetige bedingte Wichtige Rechnen mit Bisher wurden nur solche behandelt, die auf diskreten Ereignisalgebren definiert waren. Diese Beschränkung soll nun fallengelassen werden, d.h es werden jetzt überabzählbar viele Elementarereignisse zugelassen. Das ist notwendig, wenn nicht nur Zählvorgänge, sondern beliebige Messvorgänge zugelassen werden. Eine Funktion X, die auf einer solchen überabzählbaren Menge von Elementarereignissen definiert ist, kann beliebige reelle Werte annehmen. 182/319

22 Stetige Diskrete Stetige bedingte Wichtige Rechnen mit Definition (Stetige Verteilungsfunktion) Es sei (Σ, W ) ein Wahrscheinlichkeitsraum über einer überabzählbaren Ergebnismenge Ω. X sei eine, also eine (messbare) Funktion von Ω in R. Die Funktion F X, definiert durch: F X (x) = W (X x) heißt die Verteilungsfunktion von X. Die Wahrscheinlichkeit, dass X in ein Intervall (x, x + x] fällt, ist dann: W (x < X x + x) = F X (x + x) F X (x) = F X. 183/319

23 Stetige Diskrete Stetige bedingte Wichtige Rechnen mit Eigenschaften einer stetigen Verteilungsfunktion 1 0 F (x) 1 x R 2 x 1 x 2 = F (x 1 ) F (x 2 ) x 1, x 2 R 3 lim x F (x) = 0; lim x F (x) = 1 Definition (Quantil) Es sei F X (x) eine stetige Verteilungsfunktion. Der Wert x α, für den F X (x α ) = α, 0 < α < 1 gilt, heißt das α-quantil der Verteilung von X. Die Funktion x = F 1 X (α), 0 < α < 1 heißt die Quantilsfunktion der Verteilung von X. 184/319

24 Stetige Diskrete Stetige bedingte Wichtige Rechnen mit Definition (Quartil) Die Quantile zu den Werten α = 0.25, 0.5, 0.75 heißen Quartile. Das Quantil zum Wert α = 0.5 heißt Median der Verteilung. Quantile können auch für diskrete definiert werden, jedoch sind sie dann nicht immer eindeutig. 185/319

25 Stetige Diskrete Stetige bedingte Wichtige Rechnen mit Definition (Stetige Dichtefunktion) Ist F X differenzierbar, heißt X eine stetige. Für die Verteilung von X gilt nach dem Hauptsatz der Integralrechnung: W X (x 1 < X x 2 ) = F X (x 2 ) F X (x 1 ) = x2 x 1 f X (x) dx wobei f X (x) = F X (x) ist. Die Ableitung der Verteilungsfunktion, die Funktion f X, wird als Wahrscheinlichkeitsdichtefunktion oder wieder kurz Dichte von X bezeichnet. 186/319

26 Stetige Diskrete Stetige bedingte Wichtige Rechnen mit Das Wahrscheinlichkeitsmaß W X heißt die Verteilung von X. Es ist auf einer Ereignisalgebra Σ definiert, die aus Mengen reeller Zahlen besteht und zumindest alle Intervalle und deren Vereinigungen als Elemente enthält. Ähnlich wie bei diskreten n lässt sich die Wahrscheinlichkeit W X einer Menge M Σ leicht mit Hilfe der Dichte angeben: W X (M) = f X (x) dx Die Wahrscheinlichkeit eines einzelnen Punktes ist immer gleich 0: W X ({x}) = x x M f X (x) dx = 0 187/319

27 Stetige Diskrete Stetige bedingte Wichtige Rechnen mit Daher ist auch W X ((x 1, x 2 ]) = W X ((x 1, x 2 )) = W X ([x 1, x 2 ]). Ganz allgemein erhält man eine Aussage über stetige dadurch, dass man in einer Aussage über diskrete die Summation durch eine Integration ersetzt. Gilt zum Beispiel für eine diskrete Dichte f: k N 0 f(k) = 1 so gilt für eine stetige Dichte f: f(x) dx = 1 188/319

28 Stetige Diskrete Stetige bedingte Wichtige Rechnen mit f(x) Dichtefunktion x F(x) Verteilungsfunktion x 189/319

29 Abschnitt 9: Diskrete Stetige bedingte Wichtige Rechnen mit 8 9 bedingte 10 Wichtige Rechnen mit 190/319

30 Unterabschnitt: Diskrete Stetige bedingte Wichtige Rechnen mit 8 9 bedingte 10 Wichtige Rechnen mit 191/319

31 Diskrete Stetige bedingte Wichtige Rechnen mit Definition () Eine Abbildung X: ω Ω x = X(ω) R d die jedem Element ω des Ereignisraums Ω einen reellen Vektor x R d zuordnet, heißt eine d-dimensionale. n können diskret oder stetig sein. 192/319

32 Diskrete Stetige bedingte Wichtige Rechnen mit Definition (Verteilungsfunktion) Ist X = (X 1,..., X d ) eine d-dimensionale, so ist die Verteilungsfunktion F X durch definiert. F X (x 1,..., x d ) = W (X 1 x 1... X d x d ) Definition (Dichtefunktion) Ist X = (X 1,..., X d ) eine d-dimensionale diskrete, so ist die Dichtefunktion f X durch definiert. f X (x 1,..., x d ) = W (X 1 = x 1... X d = x d ) 193/319

33 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel Die zweidimensionale X = (X 1, X 2) ordnet dem Ergebnis des Wurfs mit zwei Würfeln die Augenzahlen (i, j) zu. Sind alle Ausgänge gleichwahrscheinlich, so ist W X gegeben durch: W X ( {(i, j)} ) = 1 36 Die Dichte f X lautet: { 1, x1 {1,..., 6} x2 {1,..., 6} f X (x 1, x 2) 36 = 0, sonst 194/319

34 Diskrete Stetige bedingte Wichtige Rechnen mit w(x 1,x 2 ) x 1 2 x 1 195/319

35 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Fortsetzung) Die Verteilungsfunktion F ist daher: F (x 1, x 2) = W (X 1 x 1 X 2 x 2) = Beispielsweise ist F (3, 4) = i 3 j = = 1 3. i x 1 j x 2 f(i, j) Wegen der Abzählbarkeit der Elementarereignisse können diese auch durch eine eindimensionale Y eindeutig in R abgebildet werden, z. B.: Y : (e i, e j ) 6i + j 6 Der Wertevorrat von Y sind die natürlichen Zahlen zwischen 1 und 36, und W s ist gegeben durch: W s ( {k} ) = 1 36, 1 k /319

36 Diskrete Stetige bedingte Wichtige Rechnen mit Definition (Dichtefunktion) Ist X = (X 1,..., X d ) eine d-dimensionale stetige, so ist die Dichtefunktion f X durch definiert. d F X f X (x 1,..., x d ) = x 1... x d 197/319

37 Unterabschnitt: bedingte Diskrete Stetige bedingte Wichtige Rechnen mit 8 9 bedingte 10 Wichtige Rechnen mit 198/319

38 bedingte Diskrete Stetige bedingte Wichtige Rechnen mit Sind X 1 und X 2 zwei (diskrete oder stetige) 1-dimensionale, so ist X = (X 1, X 2 ) eine zweidimensionale. Die Verteilung (Verteilungsfunktion, Dichte) von X heißt auch die gemeinsame Verteilung (Verteilungsfunktion, Dichte) von X 1 und X 2. Es stellt sich nun das folgende Problem: Kann man die Verteilung von X 1 bzw. X 2 aus der gemeinsamen Verteilung berechnen? 199/319

39 bedingte Diskrete Stetige bedingte Wichtige Rechnen mit Es sei F die Verteilungsfunktion und f die Dichte der stetigen n X = (X 1, X 2 ). Dann ist die Verteilungsfunktion F 1 von X 1 gegeben durch: F 1 (x 1 ) = W (X 1 x 1 ) = W (X 1 x 1 < X 2 < ) = = Daraus folgt: x1 f(x 1, x 2 ) dx 2 dx 1 f 1 (x 1 ) = ist die Dichte von X 1. f(x 1, x 2 ) dx 2 200/319

40 bedingte Diskrete Stetige bedingte Wichtige Rechnen mit Definition (Randverteilung) Es sei X = (X 1, X 2 ) eine zweidimensionale stetige mit der Verteilungsfunktion F und der Dichte f. Die Verteilung von X 1 heißt die Randverteilung von X 1 bezüglich X. Ihre Dichte f 1 lautet: f 1 (x 1 ) = f(x 1, x 2 ) dx 2. Ist X = (X 1, X 2 ) diskret mit der Dichte f, so ist analog die Dichte f 1 der Randverteilung von X 1 bezüglich X gegeben durch: f 1 (k 1 ) = k 2 f(k 1, k 2 ) 201/319

41 bedingte Diskrete Stetige bedingte Wichtige Rechnen mit Die von X 1 und X 2 lassen sich also aus der gemeinsamen Verteilung von X 1 und X 2 berechnen. Der umgekehrte Vorgang ist im allgemeinen nicht möglich, da die gemeinsame Verteilung auch Information über mögliche Zusammenhänge (Kopplung) zwischen X 1 und X 2 enthält. Es seien X 1 und X 2 zwei diskrete mit der gemeinsamen Dichte f(k 1, k 2 ) und den Randverteilungsdichten f 1 (k 1 ) und f 2 (k 2 ). Dann ist die bedingte Wahrscheinlichkeit des Ereignisses X 1 = k 1 unter der Bedingung X 2 = k 2 gegeben durch: W (X 1 = k 1 X 2 = k 2 ) = W (X 1 = k 1 X 2 = k 2 ) W (X 2 = k 2 ) = f(k 1, k 2 ) f 2 (k 2 ) 202/319

42 bedingte Diskrete Stetige bedingte Wichtige Rechnen mit Definition (Bedingte Dichte) Es sei X = (X 1, X 2 ) eine 2-dimensionale diskrete mit der Dichte f(k 1, k 2 ) und den Randverteilungsdichten f 1 (k 1 ) bzw. f 2 (k 2 ). Die Funktion f(k 1 k 2 ), definiert durch: f(k 1 k 2 ) = f(k 1, k 2 ) f 2 (k 2 ) heißt die durch X 2 bedingte Dichte von X 1. Die bedingte Dichte ist für festes k 2 die Dichte eine Verteilung, der durch X 2 = k 2 bedingten Verteilung von X /319

43 bedingte Diskrete Stetige bedingte Wichtige Rechnen mit Ist X = (X 1, X 2 ) stetig, so ist analog f(x 1 x 2 ) definiert durch: f(x 1 x 2 ) = f(x 1, x 2 ) f 2 (x 2 ) (f 2 (x 2 ) 0) f(x 1 x 2 ) ist für festes x 2 die Dichte einer Verteilung, der durch X 2 = x 2 bedingten Verteilung von X 1. Dass f(x 1 x 2 ) tatsächlich eine Dichte ist, läßt sich leicht nachprüfen: f(x 1 x 2 ) dx 1 = und analog für diskretes X. f(x 1, x 2 ) f 2 (x 2 ) dx 1 = f 2(x 2 ) f 2 (x 2 ) = 1 204/319

44 bedingte Es gilt: Diskrete Stetige bedingte Wichtige Rechnen mit f(x 1, x 2 ) = f(x 1 x 2 ) f 2 (x 2 ) f 1 (x 1 ) = und analog für diskrete. f(x 1 x 2 ) f 2 (x 2 ) dx 2 Definition (Unabhängigkeit von n) Ist die (unbedingte) Dichte der Randverteilung von X 1 gleich der durch X 2 bedingten Dichte, so heißen X 1 und X 2 unabhängig. X 1 und X 2 unabhängig f(x 1 x 2 ) = f 1 (x 1 ) 205/319

45 bedingte Diskrete Stetige bedingte Wichtige Rechnen mit Für unabhängige n X 1 und X 2 gilt: f(x 1 x 2 ) = f 1 (x 1 ) f(x 2 x 1 ) = f 2 (x 1 ) und analog für diskretes X. f(x 1, x 2 ) = f 1 (x 1 ) f 2 (x 2 ) Für unabhängige X 1,X 2 ist also die Dichte der gemeinsamen Verteilung gleich dem Produkt der einzelnen. Ist X = (X 1,..., X d ), d > 2, so müssen die Definitionen der Randverteilung, der bedingten und der Unabhängigkeit entsprechend verallgemeinert werden. 206/319

46 bedingte Diskrete Stetige bedingte Wichtige Rechnen mit Die Dichte der Randverteilung von X i1,..., X im ist gegeben durch: f i1,...,i m (x i1,..., x im ) =... f(x 1,..., x n ) dx im+1... dx in Die durch X j bedingte Dichte von X i ist gegeben durch: f(x i x j ) = f i,j(x i, x j ) f j (x j ) wobei f i,j (x i, x j ) die Randverteilungsdichte von X i, X j ist. 207/319

47 bedingte Diskrete Stetige bedingte Wichtige Rechnen mit X i1,..., X ik heißen unabhängig, wenn die Dichte der Randverteilung von X i1,..., X ik das Produkt der der Randverteilungen der einzelnen X ij ist. 208/319

48 bedingte Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die Akzeptanz oder Nachweiswahrscheinlichkeit) X sei eine mit der Dichte f(x). Nimmt X den Wert x an, so gibt es eine Wahrscheinlichkeit a(x) dafür, dass x auch tatsächlich beobachtet wird. Man definiert nun eine I, die 1 ist, wenn x beobachtet wird, und 0 sonst. Dann ist I unter der Bedingung X = x alternativ nach A a(x) verteilt: W (I = 1 X = x) = a(x) W (I = 0 X = x) = 1 a(x) Die gemeinsame Dichte von X und I ist daher: f(x, 1) = a(x)f(x) f(x, 0) = [1 a(x)]f(x) 209/319

49 bedingte Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Fortsetzung) Da der Experimentator nur mit beobachteten Größen arbeiten kann, schränkt er seine Grundgesamtheit auf die nachgewiesenen Ereignisse ein, d.h. er braucht die Dichte von X unter der Bedingung, dass X beobachtet wird: f A(x) = f(x I = 1) = f(x, 1) f 2(1) = a(x)f(x) a(x)f(x) dx Als konkretes Beispiel diene die Messung einer Lebensdauer. Die Messung möge bei t min beginnen und bei t max enden. Dann hat a(t) die folgende Gestalt: 0, für t t min a(t) = 1, für t min < t t max 0, für t > t max 210/319

50 bedingte Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Fortsetzung) Für die gemessene Wahrscheinlichkeitsdichte gilt: 0, t t min 1 f A(t) = exp( t/τ) τ, tmin t < tmax exp( t min/τ) exp( t max/τ) 0, t > t max Der Faktor 1/[exp( t min/τ) exp( t max/τ)] korrigiert für jene Teilchen, die vor t min oder nach t max zerfallen. Die Nachweiswahrscheinlichkeit a(t) kann auch von der Geometrie des Detektors oder deren Ansprechwahrscheinlichkeit bestimmt werden und eine komplizierte Abhängigkeit von t haben. So kann es etwa von der Konfiguration der Zerfallsprodukte abhängen, ob ein Zerfall bei t beobachtet werden kann oder nicht. 211/319

51 Abschnitt 10: Wichtige Diskrete Stetige bedingte Wichtige Rechnen mit Wichtige Rechnen mit 212/319

52 Unterabschnitt: Diskrete Stetige bedingte Wichtige Rechnen mit Wichtige Rechnen mit 213/319

53 Die diskrete Gleichverteilung auf n Punkten, Gl(n) Diskrete Stetige bedingte Wichtige Rechnen mit Die Verteilung einer n X, die die Werte 1,..., n mit gleicher Wahrscheinlichkeit annimmt.. Die Dichte f X lautet: f X = { 1 n, x {1,..., n} 0, sonst Die Verteilungsfunktion F X ist eine Stufenfunktion mit Sprüngen der Größe 1 n in den Punkten 1,..., n. 214/319

54 Die Alternativ- oder Bernoulliverteilung Al(p) Diskrete Stetige bedingte Wichtige Rechnen mit Die Verteilung einer n, die den Ausgängen eines Alternativversuchs die Werte 1 (Erfolg) bzw. 0 (Misserfolg) zuordnet. Die Dichte f X lautet: f X (0) = 1 p, f X (1) = p oder f X (x) = p x (1 p) 1 x, 215/319

55 Diskrete Stetige bedingte Wichtige Rechnen mit Die Binomialverteilung Bi(n, p) Wird der Alternativversuch n mal unabhängig durchgeführt, so gibt es 2 n Elementarereignisse, nämlich die Folgen der Form e = (e i1,..., e in ), i j = 0 oder 1. Die diskrete X bildet die Folge e auf die Häufigkeit von e 1 ab: r(e) = n j=1 Der Wertebereich von X ist die Menge {0, 1,..., n}. Auf die Zahl k (0 k n) werden alle Folgen abgebildet, bei denen e 1 genau k-mal eintritt. Es gibt Ck n solche Folgen, und jede hat die Wahrscheinlichkeit p k (1 p) n k. i j 216/319

56 Diskrete Stetige bedingte Wichtige Rechnen mit Die Dichte f ist daher: ( ) n f(k) = p k (1 p) n k, 0 k n k Die Verteilung von X wird als Binomialverteilung Bi(n, p) mit den Parametern n und p bezeichnet. Es gilt n f(k) = k=0 ( ) n n p k (1 p) n k = 1 k k=0 Das ist gerade der binomische Lehrsatz. 217/319

57 Diskrete Stetige bedingte Wichtige Rechnen mit P(k) P(k) Bi(10,0.3) k Bi(10,0.7) k P(k) P(k) 0.4 Bi(10,0.5) k 0.4 Bi(10,0.9) k 218/319

58 Die Multinomialverteilung Mu(n, p 1,..., p d ) Diskrete Stetige bedingte Wichtige Rechnen mit Der Alternativversuch kann dahingehend verallgemeinert werden, dass man nicht nur zwei, sondern d Elementarereignisse e 1,..., e d zulässt, denen die Wahrscheinlichkeiten p 1,..., p d zugeordnet werden, die nur erfüllen müssen. d p i = 1 i=1 Führt man den verallgemeinerten Alternativversuch n-mal durch, so sind die Elementarereignisse die Folgen der Form: (e i1,..., e in ), 1 i j d 219/319

59 Diskrete Stetige bedingte Wichtige Rechnen mit Sind die n Teilversuche unabhängig, gilt: W (e i1,..., e in ) = n W (e ij ) = j=1 n p ij = j=1 d i=1 p ni i wobei n i die Anzahl des Eintretens von e i ist. Die Summe der n i ist daher n. Die d-dimensionale X = (X 1,..., X d ) bildet die Folge (e i1,..., e in ) auf den Vektor (n 1,..., n d ) ab. Dabei werden n!/(n 1! n d!) Folgen auf den gleichen Vektor abgebildet. Die Dichte von X lautet daher: f(n 1,..., n d ) = n! n 1!... n d! d i=1 p ni i, d n i = n, i=1 d p i = 1 i=1 220/319

60 Diskrete Stetige bedingte Wichtige Rechnen mit Die Verteilung von X wird als Multinomialverteilung mit den Parametern n und p 1,..., p d bezeichnet: W X = Mu(n, p 1,..., p d ) Das klassische Beispiel einer multinomialverteilten n ist das Histogramm (gruppierte Häufigkeitsverteilung), das zur graphischen Darstellung der (absoluten) experimentellen Häufigkeit verwendet wird. X i ist die Anzahl der Fälle, in denen die R, das experimentelle Ergebnis, in Gruppe i fällt. Die Wahrscheinlichkeit, dass R in Gruppe i fällt, sei gleich p i. Werden in das Histogramm n Ergebnisse eingefüllt, so sind die Gruppeninhalte (X 1,..., X d ) multinomial nach Mu(n, p 1,..., p d ) verteilt. 221/319

61 Diskrete Stetige bedingte Wichtige Rechnen mit n i Ein Histogramm x 222/319

62 Die Poissonverteilung Po(λ) Diskrete Stetige bedingte Wichtige Rechnen mit Die Poissonverteilung entsteht aus der Binomialverteilung durch den Grenzübergang n unter der Bedingung n p = λ. Das klassische Beispiel einer Poissonverteilten n ist die Anzahl der Zerfälle pro Zeiteinheit in einer radioaktiven Quelle. Allgemein gilt: Ist die Wartezeit zwischen zwei Ereignissen eines Zufallsprozesses exponentialverteilt, so ist die Anzahl der Ereignisse pro Zeiteinheit Poissonverteilt. 223/319

63 Diskrete Stetige bedingte Wichtige Rechnen mit Die Dichte der Poissonverteilung folgt aus der Berechnung des Grenzwertes: P λ (k) = lim B n n; n λ (k) = lim n = lim n λ k = lim n k! = λk k! e λ n! k!(n k)! ( ) k ( λ 1 λ ) n k = n n ( 1 λ n(n 1)... (n k + 1) n k [ k ( ) ] 1 i 1 n ( ) 1 λ i=1 n λ k k! n ( 1 λ n ( 1 λ ) n = n ) n ) k = 224/319

64 Diskrete Stetige bedingte Wichtige Rechnen mit w(k) w(k) Po(1) k Po(5) k w(k) w(k) 0.4 Po(2) k 0.2 Po(10) k 225/319

65 Diskrete Stetige bedingte Wichtige Rechnen mit Die hypergeometrische Verteilung Hy(N, M, n) Grundgesamtheit von N Objekten, davon haben M eine bestimmte Eigenschaft E. Es werden n Objekte gezogen, wobei jedes Objekt die gleiche Wahrscheinlickeit hat, gezogen zu werden. Einmal gezogene Objekte werden nicht zurückgelegt. Die Anzahl der gezogenen Objekte mit der Eigenschaft E ist eine X. Die Verteilung von X wird hypergeometrische Verteilung Hy(N, M, n) genannt. Ihre Dichte lautet: f(m) = ( M m )( ) N M n m ( ) N, 0 m min(n, M) n 226/319

66 Diskrete Stetige bedingte Wichtige Rechnen mit P(k) P(k) Hy(20,12,10) k Hy(100,40,10) k P(k) P(k) Bi(10,0.6) k Bi(10,0.4) k Zwei Hypergeometrische und die entsprechenden Binomialverteilungen 227/319

67 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Wiederholung eines Alternativversuchs.) Die Ereignisalgebra hat 2 n Elementarereignisse, nämlich die Folgen der Form f = (e i1,..., e in ), i j = 0 oder 1. Die diskrete X bildet die Folge f auf die Häufigkeit von e 1 ab: r(f) = Der Wertebereich von X ist die Menge {0, 1,..., n}. Auf die Zahl k, 0 k n werden alle Folgen abgebildet, bei denen e 1 genau k-mal eintritt. Es gibt Ck n solche Folgen, und jede hat die Wahrscheinlichkeit p k (1 p) n k. Es gilt daher ( ) n W X(k) = f(k) = p k (1 p) n k, 0 k n k n j=1 i j 228/319

68 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Wiederholung eines Alternativversuchs) Die Wahrscheinlichkeit, dass e 1 höchstens einmal eintritt, ist gleich W X(k 1) = f(0) + f(1) = (1 p) n + np(1 p) n 1 229/319

69 Unterabschnitt: Diskrete Stetige bedingte Wichtige Rechnen mit Wichtige Rechnen mit 230/319

70 Diskrete Stetige bedingte Wichtige Rechnen mit Die stetige Gleichverteilung Un(a, b) f(x) Die stetige Gleichverteilung auf dem Intervall [a, b] hat die Dichte: f(x a, b) = 1 0, x < a b a I [a,b] = 1/(b a), a x b 0, b < x Dichtefunktion der Gleichverteilung Un(0,1) x F(x) Verteilungsfunktion der Gleichverteilung Un(0,1) x 231/319

71 Diskrete Stetige bedingte Wichtige Rechnen mit Die Gauß- oder Normalverteilung No(µ, σ 2 ) ist eine der wichtigsten in Wissenschaft und Technik. Ihre Dichte lautet: f(x µ, σ 2 ) = 1 e (x µ)2 2σ 2 2πσ Im Fall von µ = 0, σ = 1 heißt sie Standardnormalverteilung. Die Verteilungsfunktion Φ(x) ist nicht durch elementare Funktionen darstellbar. 232/319

72 Diskrete Stetige bedingte Wichtige Rechnen mit f(x) Dichtefunktion der Standardnormalverteilung x F(x) Verteilungsfunktion der Standardnormalverteilung x 233/319

73 Diskrete Stetige bedingte Wichtige Rechnen mit Die Exponentialverteilung Ex(τ) Die Exponentialverteilung ist die Wartezeitverteilung des radioaktiven Zerfalls von Atomen und allgemein des Zerfalls von Elementarteilchen. Ihre Dichte lautet: f(x τ) = 1 τ e x/τ I [0, ) (x) Ihre Verteilungsfunktion lautet: ( ) F (x τ) = 1 e x/τ I [0, ) (x) 234/319

74 Dichtefunktion der Exponentialverteilung Ex(2) Verteilungsfunktion der Exponentialverteilung Ex(2) Diskrete Stetige bedingte Wichtige Rechnen mit f(x) F(x) x x 235/319

75 Diskrete Stetige bedingte Wichtige Rechnen mit Der Poissonprozess Wir beobachten einen Prozess, bei dem gewisse Ereignisse zu zufälligen Zeitpunkten eintreten. Ist die Anzahl der Ereignisse pro Zeiteinheit unabhängig und Poisson-verteilt gemäß Po(λ), sprechen wir von einem Poissonprozess mit Intensität λ. Eigenschaften eines Poissonprozesses 1 Die Anzahl der Ereignisse in einem Zeitintervall der Länge T ist Poisson-verteilt gemäß Po(λT ). 2 Die Wartezeit zwischen zwei aufeinanderfolgenden Ereignissen ist exponentialverteilt gemäß Ex(1/λ). 3 Sind die Wartezeiten eines Prozesses unabhängig und exponentialverteilt gemäß Ex(τ), so ist der Prozess ein Poissonprozess mit Intensität λ = 1/τ. 236/319

76 Diskrete Stetige bedingte Wichtige Rechnen mit Die Gammaverteilung Ga(a, b) Die Exponentialverteilung ist eine Spezialfall einer allgemeineren Familie von, der Gammaverteilung. Die Dichte der Gammaverteilung lautet: f(x a, b) = xa 1 e x/b b a Γ(a) I [0, ) (x) Ihre Verteilungsfunktion ist die regularisierte unvollständige Gammafunktion: F (x a, b) = x 0 x a 1 e x/b b a Γ(a) dx = γ(a, x/b Γ(a) 237/319

77 Diskrete Stetige bedingte Wichtige Rechnen mit f(x) f(x) Ga(2,1) x Ga(5,1) x f(x) f(x) Ga(3,1) x Ga(10,1) x 238/319

78 Unterabschnitt: Diskrete Stetige bedingte Wichtige Rechnen mit Wichtige Rechnen mit 239/319

79 Die eindimensionale Normalverteilung Diskrete Stetige bedingte Wichtige Rechnen mit Ihre Dichte ist die bekannte Glockenkurve: f(x) = 1 σ (x µ) 2 2π e 2σ 2 Das Maximum ist bei x = µ, die Wendepunkte bei x = µ ± σ. Die halbe Breite auf halber Höhe (HWHM) ist gleich σ 2 ln 2 1, 177σ. 240/319

80 Diskrete Stetige bedingte Wichtige Rechnen mit f((x µ)/σ) f max = HWHM (x µ)/σ Normalverteilung, gelber Bereich = 68.2% 241/319

81 Diskrete Stetige bedingte Wichtige Rechnen mit Es gilt: W ( r µ σ) = 31.8% W ( r µ 2σ) = 4.6% W ( r µ 3σ) = 0.2% Eigenschaften der Normalverteilung 1 Die Faltung zweier Normalverteilungen ist wieder eine Normalverteilung. 2 Ist die Faltung von zwei eine Normalverteilung, so sind auch die beiden Summanden Normalverteilungen. 242/319

82 Diskrete Stetige bedingte Wichtige Rechnen mit Die d-dimensionale Normalverteilung No(µ, V) Ihre Dichte lautet: ( 1 f(x) = exp 1 ) (2π) d 2 V 2 (x µ)t V 1 (x µ) V und V 1 sind symmetrische positiv definite d d-matrizen. Ist X normalverteilt gemäß No(µ, V) und H eine m d Matrix, so ist Y = HX normalverteilt gemäß No(Hµ, HVH T ). Jede Randverteilung einer Normalverteilung ist wieder eine Normalverteilung. Mittelwert und Matrix der Randverteilung entstehen durch Streichen der Spalten und Zeilen der restlichen Variablen. 243/319

83 Diskrete Stetige bedingte Wichtige Rechnen mit Jede bedingte Verteilung einer Normalverteilung ist wieder eine Normalverteilung. Ist X normalverteilt gemäß No(µ, V), so kann V als positiv definite symmetrische Matrix mittels einer orthogonalen Transformation auf Diagonalform gebracht werden: UVU T = D 2 Alle Digonalelemente von D 2 sind positiv. Die Y = DU(X µ) ist dann standardnormalverteilt. Die Drehung U heißt Hauptachsentransformation. 244/319

84 Diskrete Stetige bedingte Wichtige Rechnen mit Die zweidimensionale Normalverteilung Für d = 2 und µ = 0 kann die Dichte folgendermaßen angeschrieben werden: [ ( )] 1 f(x 1, x 2 ) = exp 1 x 2 2πσ 1σ 2 1 ρ 2 2(1 ρ ρ x1 x2 ) σ1 2 σ 1 σ 2 + x2 2 σ2 2 ρ = σ 12 /(σ 1 σ 2 ) ist der Korrelationskoeffizient. Sind X 1 und X 2 unkorreliert, also ρ = 0, folgt: [ 1 f(x 1, x 2 ) = exp 1 ( )] x 2 1 2πσ 1 σ 2 2 σ1 2 + x2 2 σ2 2 = f 1 (x 1 ) f 2 (x 2 ) Zwei unkorrelierte normalverteilte mit gemeinsamer Normalverteilung sind daher unabhängig. 245/319

85 Diskrete Stetige bedingte Wichtige σ 1 =1, σ 2 =1, ρ= Rechnen mit 246/319

86 Diskrete Stetige bedingte Wichtige Rechnen mit Die bedingte Dichte f(x 1 x 2 ) ist gegeben durch f(x 1 x 2 ) = f(x 1, x 2 ) f(x 2 ) 1 = exp 1 [ 2πσ1 1 ρ 2 2 σ1 2 (1 ρ2 ) = ( x 1 ρ x ) ] 2 2 σ 1 σ 2 X 1 X 2 = x 2 ist also eine normalverteilte mit der E[X 1 X 2 ] = ρx 2 σ 1 /σ 2 E[X 1 X 2 ] heißt die bedingte. 247/319

87 Diskrete Stetige bedingte Wichtige Rechnen mit Je nach Vorzeichen von ρ fällt oder wächst die bedingte von X 1, wenn X 2 wächst. Ist ρ = 1, sind X 1 und X 2 proportional: X 1 = X 2 σ 1 /σ 2. Die Höhenschichtlinien der Dichtefunktion sind Ellipsen. Die Hauptachsentransformation ist jene Drehung, die die Ellipsen in achsenparallele Lage bringt. Sie hängt im Fall d = 2 nur von ρ ab. Ist ρ = 0, sind X 1 und X 2 bereits unabhängig, und der Drehwinkel ist gleich 0. Ist ρ 0, ist die Drehmatrix U gleich U = ( cos ϕ sin ϕ ) sin ϕ cos ϕ mit ϕ = 1 2 arccot σ2 2 σ 2 1 2ρσ 1 σ 2 248/319

88 Die t-verteilung t(n) Diskrete Stetige bedingte Wichtige Rechnen mit Die Dichte der t-verteilung mit n Freiheitsgraden lautet: f(x n) = Die χ 2 -Verteilung χ 2 (n) Γ( n+1 2 ) nπ Γ( n 2 ) ) (n+1)/2 (1 + x2 n Die Dichte der χ 2 -Verteilung mit n Freiheitsgraden lautet: f(x n) = 1 2 n/2 Γ( n 2 ) xn/2 1 e x/2 I [0, ) (x) Sie ist die Gammaverteilung Ga(n/2, 2). Ist X standardnormalverteilt, so ist Y = X 2 χ 2 -verteilt mit einem Freiheitsgrad. 249/319

89 Die F-Verteilung F(n, m) Diskrete Stetige bedingte Wichtige Rechnen mit Die Dichte der F-Verteilung (Fisher-Snedecor-Verteilung) mit n bzw. m Freiheitsgraden lautet: f(x n, m) = Γ( n+m 2 )n n/2 m m/2 Γ( n 2 )Γ( m 2 ) x n/2 1 (m + nx) (n+m)/2 I [0, )(x) Sind X und Y unabhängig und χ 2 -verteilt mit n bzw. n Freiheitsgraden, so ist verteilt gemäß F(n, m). F = X/n Y/m 250/319

90 Abschnitt 11: Diskrete Stetige bedingte Wichtige Rechnen mit Wichtige Rechnen mit 251/319

91 Unterabschnitt: Diskrete Stetige bedingte Wichtige Rechnen mit Wichtige Rechnen mit 252/319

92 Diskrete Stetige bedingte Wichtige Rechnen mit Definition () Es sei X eine (diskrete oder stetige) mit der Dichte f(x). Ferner sei g eine beliebige stetige reelle oder komplexe Funktion. Man definiert E X [g] = E[g(X)] durch: E[g(X)] = k N 0 g(k)f(k) bzw. E[g(X)] = g(x)f(x) dx E X [g] = E[g(X)] heißt die von g(x). Ist g ein k-dimensionaler Vektor von Funktionen, dann ist auch E[g(X)] ein k-dimensionaler Vektor. 253/319

93 Diskrete Stetige bedingte Wichtige Rechnen mit Definition ( einer n) Ist g(x) = x, so heißt E[g(X)] = E[X] die oder der Mittelwert von X. E[X] = xf(x) dx bzw. E[X] = k N 0 k f(k) Ist X = (X 1,..., X d ), wird die entsprechend verallgemeinert: E X [g] =... g(x 1,..., x d ) f(x 1,..., x d ) dx 1... dx d 254/319

94 Diskrete Stetige bedingte Wichtige Rechnen mit Die ist ein Lageparameter. Die braucht nicht zu existieren. Ein Beispiel ist die Cauchy-Verteilung (t-verteilung mit einem Freiheitsgrad) mit der Dichte f(x) = Eigenschaften der 1 E[c] = c, c R 2 E[aX + b] = ae[x] + b 3 E[X 1 + X 2 ] = E[X 1 ] + E[X 2 ] 1 π(1 + x 2 ), x R 4 X 1 und X 2 unabhängig = E[X 1 X 2 ] = E[X 1 ] E[X 2 ] 255/319

95 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der Alternativverteilung) Es sei X alternativverteilt nach Al(p). Dann gilt E[X] = 1 p + 0 (1 p) = p Beispiel (Die der Binomialverteilung) Es sei X binomialverteilt nach Bi(n, p). ( ) n n E[X] = k p k (1 p) n k = k k=0 Mit k = k 1 und n = n 1 folgt E[X] = n k =0 ( ) n n k p k (1 p) n k k k=1 ( ) n np p k (1 p) n k = np k 256/319

96 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Fortsetzung) Da X die Anzahl des Eintretens von e 1 in n unabhängigen Alternativversuchen angibt, kann X auch als die Summe von n alternativverteilten n X 1,..., X n betrachtet werden: r = n X i. i=1 Dann folgt E[X] = np aus der Additivität der Ewartung. Beispiel (Die der Poissonverteilung) Es sei X nach Po(λ) poissonverteilt: E[X] = k=0 k λk k! e λ = k=1 λ k (k 1)! e λ = λ k =0 λ k k! e λ = λ 257/319

97 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der hypergeometrischen Verteilung) Es sei X hypergeometrisch verteilt nach Hy(N, M, n). Dann gilt E[X] = nm N Beispiel (Die der Binomialverteilung) Es sei X binomialverteilt nach Bi(n, p). ( ) n n E[X] = k p k (1 p) n k = k k=0 Mit k = k 1 und n = n 1 folgt E[X] = n k =0 ( ) n n k p k (1 p) n k k k=1 ( ) n np p k (1 p) n k = np k 258/319

98 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der stetigen Gleichverteilung) Es sei X gleichverteilt auf dem Intervall [a, b]: E[X] = b a x b a dx = a + b 2 Beispiel (Die der Exponentialverteilung) Es sei X exponentialverteilt gemäß E τ : E[X] = 0 t τ e t/τ dt = te t/τ τe t/τ = τ 0 Beispiel (Die der Normalverteilung) Es sei X normalverteilt gemäß No(µ, σ 2 ): E[X µ] = 0 = E[X] µ = 0 = E[X] = µ 259/319

99 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der Gammaverteilung) Es sei X gammaverteilt gemäß Ga(a, b): E[X] = 0 x a e x/b b a Γ(a) Beispiel (Die der χ 2 -Verteilung) Es sei X χ 2 -verteilt mit n Freiheitsgraden: E[X] = n dx = ab 260/319

100 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der t-verteilung) Es sei X t-verteilt mit n Freiheitsgraden: E[X] = 0, n > 1 Für n = 1 (Cauchy- oder Breit-Wigner-Verteilung) existiert die nicht. Beispiel (Die der F-Verteilung) Es sei X F-verteilt mit n bzw. m Freiheitsgraden: E[X] = m m 2, m > 2 261/319

101 Diskrete Stetige bedingte Wichtige Rechnen mit Definition () Sei X eine. Die von g(x) = (x a) k, sofern sie existiert, heißt k-tes Moment von X um a. Das k-te Moment um 0 wird mit µ k bezeichnet. Das k-te Moment um den swert E[X] wird als zentrales Moment µ k bezeichnet. Die zentralen µ 1,..., µ k können aus den n um 0 µ 1,..., µ k berechnet werden, und umgekehrt. 262/319

102 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Umrechnung von zentralen n und n um 0) µ 2 = µ 2 µ 2 1 µ 3 = µ 3 3µ 1µ 2 + 2µ 3 1 µ 4 = µ 4 4µ 1µ 3 + 6µ 12 µ 2 3µ 4 1 µ 2 = µ 2 + µ 2 1 µ 3 = µ 3 + 3µ 1µ 2 + µ 3 1 µ 4 = µ 4 + 4µ 1µ 3 + 6µ 12 µ 2 + µ /319

103 Unterabschnitt: Diskrete Stetige bedingte Wichtige Rechnen mit Wichtige Rechnen mit 264/319

104 Diskrete Stetige bedingte Wichtige Rechnen mit Definition () Das zweite zentrale Moment µ 2 heißt die von X, bezeichnet mit var[x]. Die Wurzel aus der heißt die Standardabweichung von X, bezeichnet mit σ[x]. Die Standardabweichung ist ein Skalenparameter, der die Breite der Verteilung beschreiben. Die Standardabweichung hat die gleiche Dimension wie die. und Standardabweichung sind (wie alle zentralen ) invariant gegen Translationen. Die braucht nicht zu existieren. Ein Beispiel ist die t-verteilung mit zwei Freiheitsgraden mit der Dichte f(x) = 1 (2 + x 2 ) 3/2, x R 265/319

105 Diskrete Stetige bedingte Wichtige Rechnen mit Die Tschebyscheff sche Ungleichung Es sei X eine mit der E[X] = µ und der var[x] = σ 2. Für g > 0 gilt: W ( X µ > gσ) 1 g 2 266/319

106 Diskrete Stetige bedingte Wichtige Rechnen mit Definition (Kovarianz) Sei X = (X 1,..., X n ) eine n-dimensionale und E[X i ] = µ i. cov[x i, X j ] = E[(X i µ i)(x j µ j)] = = (x i µ i)(x j µ j) f(x 1,... x n ) dx 1... dx n = R n = (x i µ i)(x j µ j) f ij (x i, x j ) dx i dx j heißt die Kovarianz von X i und X j, auch σ ij geschrieben. Die Matrix V mit V ij = cov[x i, X j ] heißt die Kovarianzmatrix von X, bezeichnet mit Cov[X]. 267/319

107 Diskrete Stetige bedingte Wichtige Rechnen mit Eigenschaften der bzw. der Kovarianz 1 var[x] = E[r 2 ] (E[X]) 2 2 cov[x 1, X 2 ] = E[X 1 X 2 ] E[X 1 ] E[X 2 ] 3 var[ax + b] = a 2 var[x] 4 var[a 1 X 1 + a 2 X 2 ] = a 2 1 var[x 1 ] + a 2 2 var[x 2 ] + 2a 1 a 2 cov[x 1, X 2 ] [ n ] n n 5 var X i = cov[x i, X j ] = i=1 n n var[x i ] + 2 i=1 j=1 n cov[x i, X j ] i=1 i=1 j=i+1 268/319

108 Für unabhängige Zufallsgrößen gilt: Diskrete Stetige bedingte Wichtige Rechnen mit 1 X 1, X 2 unabhängig = cov[x 1, X 2 ] = 0 2 X 1,..., X n unabhängig: [ n ] n var X i = var[x i ] i=1 i=1 269/319

109 Diskrete Stetige bedingte Wichtige Rechnen mit Definition (Korrelationskoeffizient) Die Größe ρ ij = σ ij heißt der Korrelationskoeffizient von X i σ i σ j und X j. Eigenschaften des Korrelationskoeffizienten 1 1 ρ ij 1 2 Ist ρ ij = 1, so sind X i und X j linear abhängig. 270/319

110 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der Alternativverteilung) Es sei X alternativverteilt nach Al(p). var[x] = E[X 2 ] p 2 = 1 2 p (1 p) p 2 = p(1 p) Beispiel (Die der Binomialverteilung) Ist X nach Bi(n, p) verteilt, so ist X die Summe von n unabhängigen alternativverteilten n. Es gilt daher: var[x] = np(1 p) Ist Y = X/n die relative Häufigkeit des Eintretens von e 1, so gilt E[Y ] = p, var[y ] = p(1 p)/n 271/319

111 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der hypergeometrischen Verteilung) Es sei X hypergeometrisch verteilt nach Hy(N, M, n). Dann gilt var[x] = nm(n n)(n M) N 2 (N 1) 272/319

112 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die Kovarianzmatrix der Multinomialverteilung) Sei X = (X 1,..., X d ) nach Mu(n; p 1,..., p d ) verteilt (d 2). Da X i binomialverteilt ist, gilt var[x i] = np i(1 p i) Für ein Histogramm ist also die des Gruppeninhaltes gleich np i(1 p i). Für p i 1 (viele Gruppen) ist das ungefähr gleich np i, der des Gruppeninhaltes. cov[x i, X j] =E[X ix j] E[X i] E[X j] = =n(n 1)p ip j np inp j = = np ip j 273/319

113 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der Poissonverteilung) E[X 2 ] = k 2 λ k k! e λ = = = = k=0 λ k 1 k λ (k 1)! e λ = k=0 k =0 k =0 =λ 2 + λ (k + 1) λ λk k! e λ = λ 2 λ k k! e λ + λ = var[x] =E[X 2 ] λ 2 = λ 274/319

114 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der stetigen Gleichverteilung) E[X 2 ] = 1 b a b var[x] = b3 a 3 3(b a) a x 2 dx = b3 a 3 3(b a) ( ) 2 b + a = Beispiel (Die der Exponentialverteilung) E[X 2 ] = 1 τ 0 2 t 2 e t/τ dt = 2τ 2 var[x] = E[X 2 ] τ 2 = τ 2 (b a) /319

115 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der Normalverteilung) Es gilt: 1 2π σ [ exp 1 2 ] (x µ) 2 dx = 1 für alle µ. Nach zweimaligem Differenzieren nach µ, wobei Differentiation und Integration vertauscht werden dürfen, erhält man: [ 1 1 ] [ (x µ)2 + exp 1 ] (x µ) 2 dx = 0 2π σ σ2 σ 2 2 σ 2 [ 1 (x µ) 2 exp 1 ] (x µ) 2 dx = σ 2 2π σ 2 σ 2 σ 2 var[x] = σ 2 276/319

116 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der Gammaverteilung) Es sei X gammaverteilt gemäß Ga(a, b): E[X 2 ] = 0 var[x] = ab 2 x a+1 e x/b b a Γ(a) Beispiel (Die der χ 2 -Verteilung) Es sei X χ 2 -verteilt mit n Freiheitsgraden: var[x] = 2 n dx = a(a + 1)b 2 277/319

117 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der t-verteilung) Es sei X t-verteilt mit n Freiheitsgraden: var[x] = Für n 2 existiert die nicht. n n 2, n > 2 Beispiel (Die der F-Verteilung) Es sei X F-verteilt mit n bzw. m Freiheitsgraden: var[x] = 2m2 (n + m 2) n(m 2) 2 (m 4), m > 4 278/319

118 Unterabschnitt: Diskrete Stetige bedingte Wichtige Rechnen mit Wichtige Rechnen mit 279/319

119 Diskrete Stetige bedingte Wichtige Rechnen mit Definition () Das reduzierte dritte zentrale Moment γ = µ 3 /σ 3 heißt die. Die misst die Asymmetrie einer Verteilung. Ist die positiv (negativ), heißt die Verteilung rechtsschief (linksschief). Für symmetrische ist sie 0. Beispiel (Die der Exponentialverteilung) µ 3 = E[(X E[X]) 3 ] = Die ist daher gleich γ = 2. 0 (t τ) 3 e t/τ dt = 2τ 3 τ 280/319

120 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der Gammaverteilung) µ 3 = E[(X E[X]) 3 ] = 0 (x ab) 3 b a Γ(a) x a 1 e x/b dx = 2ab 3 Die ist daher gleich γ = 2/ a und strebt für a gegen 0. Selbst wenn alle einer Verteilung existieren, ist sie dadurch nicht eindeutig bestimmt. Zum Beispiel haben die mit den f(x) = 1 4 π2 e x ln x [1 λ sin(4π ln x)], 0 x, 0 λ 1 dieselben µ k = ek(k+2)/4, unabhängig von λ. 281/319

121 Abschnitt 12: Rechnen mit Diskrete Stetige bedingte Wichtige Rechnen mit Wichtige Rechnen mit 282/319

122 Unterabschnitt: Diskrete Stetige bedingte Wichtige Rechnen mit Wichtige Rechnen mit 283/319

123 Diskrete Stetige bedingte Wichtige Rechnen mit Definition (Faltung) Es seien X 1 und X 2 zwei unabhängige n. Die Summe X = X 1 + X 2 heißt die Faltung von X 1 und X 2. Satz Sind X 1 und X 2 zwei unabhängige mit der gemeinsamen Dichte f(x 1, x 2 ) = f 1 (x 1 ) f 2 (x 2 ), so hat ihre Summe X = X 1 + X 2 die Dichte g(x) = = f 1 (x x 2 ) f 2 (x 2 ) dx 2 = f 1 (x 1 ) f 2 (x x 1 ) dx 1 284/319

124 Diskrete Stetige bedingte Wichtige Rechnen mit Die Dichte g wird als Faltungsprodukt von f 1 und f 2 bezeichnet: g = f 1 f 2. Beispiel (Faltung von zwei Exponentialverteilungen) Es seien X 1 und X 2 exponentialverteilt gemäß E τ. Die Summe X = X 1 + X 2 hat die folgende Dichte: g(t) = = t 0 f 1(t t 2)f 2(t 2) dt 2 = 1 τ 2 e(t 2 t)/τ e t 2/τ dt 2 = = 1 τ 2 te t/τ 285/319

125 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Faltung von zwei Gleichverteilungen) Es seien X 1 und X 2 gleichverteilt im Intervall [0, 1]. Die Summe X = X 1 + X 2 hat die folgende Dichte: g(x) = f 1(x x 2)f 2(x 2) dx 2 Das Produkt der ist nur ungleich 0, wenn 0 x x 2 1 und 0 x 2 1 gilt. Die effektiven Integrationsgrenzen sind daher x min = max(0, x 1) und x max = min(x, 1). Ist 0 x 1, ist x min = 0 und x max = x; ist 1 x 2, ist x min = x 1 und x max = 1. Die Dichte g(x) lautet daher: x, wenn 0 x 1 g(x) = 2 x, wenn 1 x 2 0, sonst Die Summenverteilung heißt Dreiecksverteilung. 286/319

126 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Der Messfehler) Es wird eine Zufallsgröße X beobachtet. Der Messfehler wird durch eine bedingte Dichte b(x x) beschrieben, die die Wahrscheinlichkeit angibt, dass x bei der Messung registriert wird, wenn X den Wert x annimmt. Für die gemessene Verteilung gilt dann: f M (x ) = b(x x)f(x) dx = f(x, x) dx Im günstigsten Fall hängt b nur von der Differenz x x ab, oder eine weitere explizite Abhängigkeit von x ist vernachlässigbar. Dann wird aus dem Integral ein Faltungsintegral. Dies ist genau dann der Fall, wenn der Messfehler und die Messung unabhängig sind. 287/319

127 Diskrete Stetige bedingte Wichtige Rechnen mit Die Faltung von zwei n X 1 und X 2 kann auch mit Hilfe ihrer charakteristischen Funktionen berechnet werden. Definition (Charakteristische Funktion) Es sei X eine. Die charakteristische Funktion von X ist definiert durch: Satz ϕ X (t) = E[ exp(itx) ], t R Ist X = X 1 + X 2 die Faltung von X 1 und X 2, so gilt: ϕ X (t) = ϕ X1 (t) ϕ X2 (t) 288/319

128 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Faltung von zwei Poissonverteilungen) Es seien X 1 und X 2 Poisson-verteilt gemäß Po(λ 1) bzw. Po(λ 2). Die charakteristische Funktion von X i lautet: e ikt λ k i e λ i ϕ Xi (t) = = exp[λ i(e it 1)] k! k=0 Die charakteristische Funktion von X = X 1 + X 2 ist daher gleich ϕ X(t) = exp[λ 1(e it 1)] exp[λ 2(e it 1)] = exp[(λ 1 + λ 2)(e it 1)] X ist also Poisson-verteilt gemäß Po(λ) mit λ = λ 1 + λ /319

129 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Faltung von zwei χ 2 -) Es seien X 1 und X 2 χ 2 -verteilt mit n 1 bzw. n 2 Freiheitsgraden. Die charakteristische Funktion von X i lautet: ϕ Xi (t) = 1 (1 2it) n i/2 Die charakteristische Funktion von X = X 1 + X 2 ist daher gleich ϕ X(t) = 1 (1 2it) n 1/2 (1 2it) n 2/2 = 1 (1 2it) (n 1+n 2 )/2 X ist also χ 2 -verteilt mit n = n 1 + n 2 Freiheitsgraden. 290/319

130 Unterabschnitt: Diskrete Stetige bedingte Wichtige Rechnen mit Wichtige Rechnen mit 291/319

131 Diskrete Stetige bedingte Wichtige Rechnen mit Im folgenden Abschnitt sollen Linearkombinationen von nicht notwendig unabhängigen n betrachtet werden. Es sei X = (X 1,..., X n ) eine n-dimensionale und H eine m n - Matrix. Dann ist Y = (Y 1,... Y m ) = HX wie jede deterministische Funktion einer n wieder eine. Wie ist Y verteilt? Es gilt exakt: Lineare und 1 E[Y ] = H E[X] 2 Cov[Y ] = H Cov[X] H T 292/319

132 Diskrete Stetige bedingte Wichtige Rechnen mit Es soll nun statt der linearen Abbildung H eine allgemeine Funktion h = (h 1,..., h m ) betrachtet werden. Es wird angenommen, dass h in jenem Bereich, in dem die Dichte von X signifikant von 0 verschieden ist, genügend gut durch eine lineare Funktion angenähert werden kann. Entwickelt man h an der Stelle E[X], so gilt in 1. Näherung: Lineare Fehlerfortpflanzung 1 E[Y ] = h(e[x]) ( h 2 Cov[Y ] = x ) Cov[X] ( ) T h x 293/319

133 Diskrete Stetige bedingte Wichtige Rechnen mit Ist h = (h 1,..., h n ) eine umkehrbar eindeutige Abbildung h : R n R n, so läßt sich die Dichte von Y = (Y 1,..., Y n ) = h(x 1,..., X n ) berechnen. Es sei X = (X 1,..., X d ) eine d-dimensionale mit der Dichte f X (x 1,..., x d ), h eine umkehrbare Abbildung h : R d R d, g die Umkehrfunktion von h, Y = h(x) und f Y (y 1,..., y d ) die Dichte von Y. Dann gilt: Transformation der Dichte f Y (y 1,..., y d ) = f X (g(y 1,..., y d )) g y wobei g y der Betrag der Funktionaldeterminante ist. 294/319

134 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Transformation unter einer affinen Abbildung) Es sei X eine d-dimensionale mit Dichte f X(x) und Y = AX + b. Ist A regulär, ist die Dichte von Y gegeben durch: f Y (y) = f X(A 1 (y b)) 1 A Beispiel (Transformation mit der Verteilungsfunktion) Es sei X eine stetige mit der Dichte f(x) und der Verteilungsfunktion F (x), und Y = F (X). Dann ist die Dichte von Y gegeben durch: g(y) = f(x) df 1 dy = f(x)/f(x) = 1 Y ist also gleichverteilt im Intervall [0, 1]. Y wird als p-wert (probability transform) von X bezeichnet. 295/319

135 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Transformation mit der inversen Verteilungsfunktion) Es sei U gleichverteilt im Intervall [0, 1], F (x) (f(x)) die Verteilungsfunktion (Dichtefunktion) einer stetigen Verteilung, und X = F 1 (U). Dann ist die Dichte von X gegeben durch: g(x) = 1 df dx = f(x) X ist also verteilt mit der Verteilungsfunktion F und der Dichte f. Beispiel Es sei X gleichverteilt im Intervall [0, 1] und Y = ln(x). Dann ist g(y) = exp( y) und f Y (y) = f X(exp( y)) dg dy = e y Y ist daher exponentialverteilt mit τ = /319

136 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Transformation auf Polarkoordinaten) Es seien (X, Y ) unabhängig und standardnormalverteilt. Wir suchen die Verteilung der Polarkoordinaten (R, Φ), definiert durch: X = R cos(φ), Y = R sin(φ) Die Funktionaldeterminante lautet: (x, y) (r, ϕ) = r Die Dichte ist daher f(r, ϕ) = 1 2 /2 2π re r R und Φ sind unabhängig mit den Randdichten f 1(r) = re r2 /2, f 2(ϕ) = 1 2π 297/319

137 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Transformation auf Kugelkoordinaten) Es seien (X, Y, Z) unabhängig und standardnormalverteilt. Wir suchen die Verteilung der Kugelkoordinaten (R, Θ, Φ), definiert durch: X = R sin(θ) cos(φ), Y = R sin(θ) sin(φ), z = R cos(θ) Die Funktionaldeterminante lautet: (x, y, z) (r, θ, ϕ) = r2 sin(θ) Die Dichte ist daher f(r, θ, ϕ) = 1 e r 3/2 (2π) 2 /2 r 2 sin(θ) 298/319

138 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Fortsetzung) R, θ und ϕ sind unabhängig mit den Randdichten 2 f 1(r) = r 2 e r2 /2, f 2(θ) = 1 1 sin(θ), f3(ϕ) = π 2 2π Beispiel (Geschwindigkeitsverteilung im idealen Gas) Im idealen Gas sind die Komponenten (V x, V y, V z) der Molekülgeschwindigkeit in guter Näherung normalverteilt, mit Mittelwert 0 und σ 2 = kt/m, wobei m die Molekülmasse, k die Boltzmannkonstante und T die Temperatur ist. 299/319

139 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Fortsetzung) Der Betrag V der Geschwindigkeit hat dann die Dichte 2m 3/2 f(v) = π(kt ) 3/2 v2 e mv2 /2kT Die Verteilung wird Maxwell-Verteilung genannt. Mittelwert und Standardabweichung sind 8 kt 3 kt E[V ] = πm, σ[v ] = m Die häufigste Geschwindigkeit (das Maximum der Dichte) ist bei 2 kt V max = m 300/319

140 0.7 Diskrete Stetige bedingte Wichtige Rechnen mit f(v) v max E[v] Maxwell Verteilung mit kt=m v Maxwell-Verteilung, kt = m 301/319

141 Unterabschnitt: Diskrete Stetige bedingte Wichtige Rechnen mit Wichtige Rechnen mit 302/319

142 Diskrete Stetige bedingte Wichtige Rechnen mit Kann der Messfehler durch eine mit Mittel 0 beschrieben werden, hat die Messung nur einen statistischen Fehler. Die Messung kann jedoch durch eine falsche Kalibration (z.b. Skalenfehler oder Nullpunktfehler) des Messgeräts verfälscht sein. Solche Fehler werden systematische Fehler genannt. werden durch Vergrößerung der Stichprobe nicht kleiner! Die Korrektur von systematischen Fehlern erfordert solgfältige Kalibaration der Messaparatur, Überprüfung von theoretischen Annahmen, etc. Das Gesetz der Fehlerfortpflanzung gilt nicht für systematische Fehler! 303/319

143 Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel Wir messen zwei Spannungen U 1, U 2 mit dem gleichen Messgerät. Durch fehlerhafte Kalibration misst das Gerät statt der wahren Spannung U die Spannung U m = au + b + ε, mit a = 0.99, b = 0.05, σ[ε] = 0.03 V. Der Mittelwert Ū der beiden Spannungen hat dann einen statistischen Fehler von 0.02 V. Der systematische Fehler des Mittelwerts wird beschrieben durch Ū m = aū + b, ist also der der Einzelmessung. Der systematische Fehler der Differenz U wird beschrieben durch U m = a U. Der Nullpunktfehler ist verschwunden. 304/319