fru@hephy.oeaw.ac.at VO 142.090 http://tinyurl.com/tu142090 Februar 2010 1/319
Übersicht über die Vorlesung Teil 1: Deskriptive Teil 2: Wahrscheinlichkeitsrechnung Teil 3: Teil 4: Parameterschätzung 2/319
Übersicht über die Vorlesung Teil 5: Testen von Hypothesen Teil 6: Regressionsanalyse Teil 7: Simulation von Experimenten 3/319
Diskrete Stetige bedingte Wichtige Rechnen mit Teil 3 165/319
Übersicht Teil 3 Diskrete Stetige bedingte Wichtige Rechnen mit 8 9 10 Wichtige 11 12 Rechnen mit 166/319
Abschnitt 8: Diskrete Stetige bedingte Wichtige Rechnen mit 8 Diskrete Stetige 9 10 Wichtige 11 12 Rechnen mit 167/319
Unterabschnitt: Diskrete Stetige bedingte Wichtige Rechnen mit 8 Diskrete Stetige 9 10 Wichtige 11 12 Rechnen mit 168/319
Diskrete Stetige bedingte Wichtige Rechnen mit Definition () Eine Abbildung X: ω Ω x = X(ω) R die jedem Element ω des Ereignisraums Ω eine reelle Zahl zuordnet, heißt eine (eindimensionale). Ist Ω endlich oder abzählbar unendlich, ist jede beliebige Abbildung X zugelassen. Ist Ω überabzählbar unendlich, muss X eine messbare Abbildung sein. Da der Wert einer n vom Ausgang des Experiments abhängt, kann man den möglichen Werten Wahrscheinlichkeiten zuschreiben. 169/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel Nimmt die X nur endlich oder abzählbar unendlich viele Werte an, heißt sie diskret. Nimmt die X ein Kontinuum von Werte an, heißt sie kontinuierlich. Die Abbildung, die beim Würfeln dem Elementarereignis e i die Augenzahl i zuordnet, ist eine diskrete. Natürlich wäre auch die Abbildung e i : 7 i eine diskrete. Beispiel Die Abbildung, die dem Zerfall eines Teilchens die Lebensdauer x zuordnet, ist eine kontinuierliche. 170/319
Unterabschnitt: Diskrete Diskrete Stetige bedingte Wichtige Rechnen mit 8 Diskrete Stetige 9 10 Wichtige 11 12 Rechnen mit 171/319
Diskrete Diskrete Stetige bedingte Wichtige Rechnen mit Diskrete sind oft das Resultat von Zählvorgängen. In der physikalischen Praxis kommen diskrete häufig vor: man denke an das Zählen von Ereignissen in einem festen Zeitintervall (Poissonverteilung), an das Abzählen von Alternativversuchen (Binomialverteilung), oder auch an die Besetzungshäufigkeit der diskreten Energieniveaus des Wasserstoffatoms. Im folgenden nehmen wir an, dass die Werte einer diskreten n nichtnegative ganze Zahlen sind. Dies ist keine Einschränkung, weil jede abzählbare Menge von reellen Zahlen bijektiv auf (eine Teilmenge von) N 0 abgebildet werden kann. Die Ereignisalgebra ist die Potenzmenge (Menge aller Teilmengen) P von N 0. 172/319
Diskrete Diskrete Stetige bedingte Wichtige Rechnen mit Ist auf der Ereignisalgebra Σ(Ω) ein Wahrscheinlichkeitsmaß W definiert, so kann man mit Hilfe der n X auf der Potenzmenge P von N 0 ebenfalls ein Wahrscheinlichkeitsmaß definieren. Definition (Verteilung einer diskreten n) Es sei Σ(Ω) eine diskrete Ereignisalgebra. Die diskrete X : Ω N 0 induziert ein Wahrscheinlichkeitsmaß auf N 0 mittels W X ({k}) = W (X 1 (k)) = W ({ω}) X(ω)=k W X wird als die Verteilung von X bezeichnet, und zwar als diskrete oder Spektralverteilung. 173/319
Diskrete Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel Wir ordnen den geraden Augenzahlen des Würfels die Zahl 0 zu, den ungeraden die Zahl 1: X : ω mod (ω, 2) Die Verteilung von X ist dann gegeben durch W X(0) = W (X 1 (0)) = W ({2, 4, 6}) = 1 2 W X(1) = W (X 1 (1)) = W ({1, 3, 5}) = 1 2 174/319
Diskrete Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel Wir ordnen dem Ausgang eines Doppelwurfs die Summe der Augenzahlen zu: X : (i, j) i + j Die Werte von X sind die natürlichen Zahlen von 2 bis 12. Die Verteilung von X ist dann gegeben durch W X(k) = W (X 1 (k)) = i+j=k W ({(i, j)}) = k 1 36, k 7 13 k, 36 k 7 175/319
Diskrete Diskrete Stetige bedingte Wichtige Rechnen mit Die Zahlen W X (k) können als Funktionswerte einer Spektralfunktion f X angesehen werden: { W X (k), wenn x = k f X (x) = 0, sonst Definition (Diskrete Dichtefunktion) Die Funktion f X (k) wird als Wahrscheinlichkeitsdichtefunktion oder kurz Dichte der n X bezeichnet. 176/319
Diskrete Die Dichte der n X = i + j: Diskrete Stetige bedingte Wichtige Rechnen mit f(x) 0.18 0.16 0.14 0.12 0.1 0.08 0.06 0.04 0.02 0 Dichtefunktion 2 3 4 5 6 7 8 9 10 11 12 x 177/319
Diskrete Diskrete Stetige bedingte Wichtige Rechnen mit Die Wahrscheinlichkeit W X (E) eines Ereignisses E lässt sich bequem mit Hilfe der Dichte von X berechnen: W X (E) = k E f X (k) Definition (Diskrete Verteilungsfunktion) Ist X eine diskrete, so ist die Verteilungsfunktion F X von X definiert durch: Es gilt offenbar: F X (x) = k x F X (x) = W (X x) f X (k) = k x W X ({k}) 178/319
Diskrete Diskrete Stetige bedingte Wichtige Rechnen mit Eigenschaften einer diskreten Verteilungsfunktion F 1 F hat eine Sprungstelle in allen Punkten des Wertebereichs 2 Die Sprunghöhe im Punkt k ist gleich f X (k) 3 0 F (x) 1 x R 4 x y = F (x) F (y) x, y R 5 lim x F (x) = 0; lim x F (x) = 1 6 Die Wahrscheinlichkeit, dass r in das Intervall (a, b] fällt, ist F (b) F (a): W (r a) + W (a < r b) = W (r b) = W (a < r b) = F (b) F (a) 179/319
Diskrete Die Verteilungsfunktion der n X = i + j: Diskrete Stetige bedingte Wichtige Rechnen mit F(x) 1 0.9 0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1 Verteilungsfunktion 0 2 3 4 5 6 7 8 9 10 11 12 x 180/319
Unterabschnitt: Stetige Diskrete Stetige bedingte Wichtige Rechnen mit 8 Diskrete Stetige 9 10 Wichtige 11 12 Rechnen mit 181/319
Stetige Diskrete Stetige bedingte Wichtige Rechnen mit Bisher wurden nur solche behandelt, die auf diskreten Ereignisalgebren definiert waren. Diese Beschränkung soll nun fallengelassen werden, d.h es werden jetzt überabzählbar viele Elementarereignisse zugelassen. Das ist notwendig, wenn nicht nur Zählvorgänge, sondern beliebige Messvorgänge zugelassen werden. Eine Funktion X, die auf einer solchen überabzählbaren Menge von Elementarereignissen definiert ist, kann beliebige reelle Werte annehmen. 182/319
Stetige Diskrete Stetige bedingte Wichtige Rechnen mit Definition (Stetige Verteilungsfunktion) Es sei (Σ, W ) ein Wahrscheinlichkeitsraum über einer überabzählbaren Ergebnismenge Ω. X sei eine, also eine (messbare) Funktion von Ω in R. Die Funktion F X, definiert durch: F X (x) = W (X x) heißt die Verteilungsfunktion von X. Die Wahrscheinlichkeit, dass X in ein Intervall (x, x + x] fällt, ist dann: W (x < X x + x) = F X (x + x) F X (x) = F X. 183/319
Stetige Diskrete Stetige bedingte Wichtige Rechnen mit Eigenschaften einer stetigen Verteilungsfunktion 1 0 F (x) 1 x R 2 x 1 x 2 = F (x 1 ) F (x 2 ) x 1, x 2 R 3 lim x F (x) = 0; lim x F (x) = 1 Definition (Quantil) Es sei F X (x) eine stetige Verteilungsfunktion. Der Wert x α, für den F X (x α ) = α, 0 < α < 1 gilt, heißt das α-quantil der Verteilung von X. Die Funktion x = F 1 X (α), 0 < α < 1 heißt die Quantilsfunktion der Verteilung von X. 184/319
Stetige Diskrete Stetige bedingte Wichtige Rechnen mit Definition (Quartil) Die Quantile zu den Werten α = 0.25, 0.5, 0.75 heißen Quartile. Das Quantil zum Wert α = 0.5 heißt Median der Verteilung. Quantile können auch für diskrete definiert werden, jedoch sind sie dann nicht immer eindeutig. 185/319
Stetige Diskrete Stetige bedingte Wichtige Rechnen mit Definition (Stetige Dichtefunktion) Ist F X differenzierbar, heißt X eine stetige. Für die Verteilung von X gilt nach dem Hauptsatz der Integralrechnung: W X (x 1 < X x 2 ) = F X (x 2 ) F X (x 1 ) = x2 x 1 f X (x) dx wobei f X (x) = F X (x) ist. Die Ableitung der Verteilungsfunktion, die Funktion f X, wird als Wahrscheinlichkeitsdichtefunktion oder wieder kurz Dichte von X bezeichnet. 186/319
Stetige Diskrete Stetige bedingte Wichtige Rechnen mit Das Wahrscheinlichkeitsmaß W X heißt die Verteilung von X. Es ist auf einer Ereignisalgebra Σ definiert, die aus Mengen reeller Zahlen besteht und zumindest alle Intervalle und deren Vereinigungen als Elemente enthält. Ähnlich wie bei diskreten n lässt sich die Wahrscheinlichkeit W X einer Menge M Σ leicht mit Hilfe der Dichte angeben: W X (M) = f X (x) dx Die Wahrscheinlichkeit eines einzelnen Punktes ist immer gleich 0: W X ({x}) = x x M f X (x) dx = 0 187/319
Stetige Diskrete Stetige bedingte Wichtige Rechnen mit Daher ist auch W X ((x 1, x 2 ]) = W X ((x 1, x 2 )) = W X ([x 1, x 2 ]). Ganz allgemein erhält man eine Aussage über stetige dadurch, dass man in einer Aussage über diskrete die Summation durch eine Integration ersetzt. Gilt zum Beispiel für eine diskrete Dichte f: k N 0 f(k) = 1 so gilt für eine stetige Dichte f: f(x) dx = 1 188/319
Stetige Diskrete Stetige bedingte Wichtige Rechnen mit f(x) 0.2 0.18 0.16 0.14 0.12 0.1 0.08 0.06 0.04 0.02 Dichtefunktion 0 0 5 10 15 20 x F(x) 1 0.9 0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1 Verteilungsfunktion 0 0 5 10 15 20 x 189/319
Abschnitt 9: Diskrete Stetige bedingte Wichtige Rechnen mit 8 9 bedingte 10 Wichtige 11 12 Rechnen mit 190/319
Unterabschnitt: Diskrete Stetige bedingte Wichtige Rechnen mit 8 9 bedingte 10 Wichtige 11 12 Rechnen mit 191/319
Diskrete Stetige bedingte Wichtige Rechnen mit Definition () Eine Abbildung X: ω Ω x = X(ω) R d die jedem Element ω des Ereignisraums Ω einen reellen Vektor x R d zuordnet, heißt eine d-dimensionale. n können diskret oder stetig sein. 192/319
Diskrete Stetige bedingte Wichtige Rechnen mit Definition (Verteilungsfunktion) Ist X = (X 1,..., X d ) eine d-dimensionale, so ist die Verteilungsfunktion F X durch definiert. F X (x 1,..., x d ) = W (X 1 x 1... X d x d ) Definition (Dichtefunktion) Ist X = (X 1,..., X d ) eine d-dimensionale diskrete, so ist die Dichtefunktion f X durch definiert. f X (x 1,..., x d ) = W (X 1 = x 1... X d = x d ) 193/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel Die zweidimensionale X = (X 1, X 2) ordnet dem Ergebnis des Wurfs mit zwei Würfeln die Augenzahlen (i, j) zu. Sind alle Ausgänge gleichwahrscheinlich, so ist W X gegeben durch: W X ( {(i, j)} ) = 1 36 Die Dichte f X lautet: { 1, x1 {1,..., 6} x2 {1,..., 6} f X (x 1, x 2) 36 = 0, sonst 194/319
Diskrete Stetige 0.03 0.025 bedingte Wichtige Rechnen mit w(x 1,x 2 ) 0.02 0.015 0.01 0.005 0 1 2 3 6 4 5 5 4 3 6 2 x 1 2 x 1 195/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Fortsetzung) Die Verteilungsfunktion F ist daher: F (x 1, x 2) = W (X 1 x 1 X 2 x 2) = Beispielsweise ist F (3, 4) = i 3 j 4 1 36 = 12 36 = 1 3. i x 1 j x 2 f(i, j) Wegen der Abzählbarkeit der Elementarereignisse können diese auch durch eine eindimensionale Y eindeutig in R abgebildet werden, z. B.: Y : (e i, e j ) 6i + j 6 Der Wertevorrat von Y sind die natürlichen Zahlen zwischen 1 und 36, und W s ist gegeben durch: W s ( {k} ) = 1 36, 1 k 36 196/319
Diskrete Stetige bedingte Wichtige Rechnen mit Definition (Dichtefunktion) Ist X = (X 1,..., X d ) eine d-dimensionale stetige, so ist die Dichtefunktion f X durch definiert. d F X f X (x 1,..., x d ) = x 1... x d 197/319
Unterabschnitt: bedingte Diskrete Stetige bedingte Wichtige Rechnen mit 8 9 bedingte 10 Wichtige 11 12 Rechnen mit 198/319
bedingte Diskrete Stetige bedingte Wichtige Rechnen mit Sind X 1 und X 2 zwei (diskrete oder stetige) 1-dimensionale, so ist X = (X 1, X 2 ) eine zweidimensionale. Die Verteilung (Verteilungsfunktion, Dichte) von X heißt auch die gemeinsame Verteilung (Verteilungsfunktion, Dichte) von X 1 und X 2. Es stellt sich nun das folgende Problem: Kann man die Verteilung von X 1 bzw. X 2 aus der gemeinsamen Verteilung berechnen? 199/319
bedingte Diskrete Stetige bedingte Wichtige Rechnen mit Es sei F die Verteilungsfunktion und f die Dichte der stetigen n X = (X 1, X 2 ). Dann ist die Verteilungsfunktion F 1 von X 1 gegeben durch: F 1 (x 1 ) = W (X 1 x 1 ) = W (X 1 x 1 < X 2 < ) = = Daraus folgt: x1 f(x 1, x 2 ) dx 2 dx 1 f 1 (x 1 ) = ist die Dichte von X 1. f(x 1, x 2 ) dx 2 200/319
bedingte Diskrete Stetige bedingte Wichtige Rechnen mit Definition (Randverteilung) Es sei X = (X 1, X 2 ) eine zweidimensionale stetige mit der Verteilungsfunktion F und der Dichte f. Die Verteilung von X 1 heißt die Randverteilung von X 1 bezüglich X. Ihre Dichte f 1 lautet: f 1 (x 1 ) = f(x 1, x 2 ) dx 2. Ist X = (X 1, X 2 ) diskret mit der Dichte f, so ist analog die Dichte f 1 der Randverteilung von X 1 bezüglich X gegeben durch: f 1 (k 1 ) = k 2 f(k 1, k 2 ) 201/319
bedingte Diskrete Stetige bedingte Wichtige Rechnen mit Die von X 1 und X 2 lassen sich also aus der gemeinsamen Verteilung von X 1 und X 2 berechnen. Der umgekehrte Vorgang ist im allgemeinen nicht möglich, da die gemeinsame Verteilung auch Information über mögliche Zusammenhänge (Kopplung) zwischen X 1 und X 2 enthält. Es seien X 1 und X 2 zwei diskrete mit der gemeinsamen Dichte f(k 1, k 2 ) und den Randverteilungsdichten f 1 (k 1 ) und f 2 (k 2 ). Dann ist die bedingte Wahrscheinlichkeit des Ereignisses X 1 = k 1 unter der Bedingung X 2 = k 2 gegeben durch: W (X 1 = k 1 X 2 = k 2 ) = W (X 1 = k 1 X 2 = k 2 ) W (X 2 = k 2 ) = f(k 1, k 2 ) f 2 (k 2 ) 202/319
bedingte Diskrete Stetige bedingte Wichtige Rechnen mit Definition (Bedingte Dichte) Es sei X = (X 1, X 2 ) eine 2-dimensionale diskrete mit der Dichte f(k 1, k 2 ) und den Randverteilungsdichten f 1 (k 1 ) bzw. f 2 (k 2 ). Die Funktion f(k 1 k 2 ), definiert durch: f(k 1 k 2 ) = f(k 1, k 2 ) f 2 (k 2 ) heißt die durch X 2 bedingte Dichte von X 1. Die bedingte Dichte ist für festes k 2 die Dichte eine Verteilung, der durch X 2 = k 2 bedingten Verteilung von X 1. 203/319
bedingte Diskrete Stetige bedingte Wichtige Rechnen mit Ist X = (X 1, X 2 ) stetig, so ist analog f(x 1 x 2 ) definiert durch: f(x 1 x 2 ) = f(x 1, x 2 ) f 2 (x 2 ) (f 2 (x 2 ) 0) f(x 1 x 2 ) ist für festes x 2 die Dichte einer Verteilung, der durch X 2 = x 2 bedingten Verteilung von X 1. Dass f(x 1 x 2 ) tatsächlich eine Dichte ist, läßt sich leicht nachprüfen: f(x 1 x 2 ) dx 1 = und analog für diskretes X. f(x 1, x 2 ) f 2 (x 2 ) dx 1 = f 2(x 2 ) f 2 (x 2 ) = 1 204/319
bedingte Es gilt: Diskrete Stetige bedingte Wichtige Rechnen mit f(x 1, x 2 ) = f(x 1 x 2 ) f 2 (x 2 ) f 1 (x 1 ) = und analog für diskrete. f(x 1 x 2 ) f 2 (x 2 ) dx 2 Definition (Unabhängigkeit von n) Ist die (unbedingte) Dichte der Randverteilung von X 1 gleich der durch X 2 bedingten Dichte, so heißen X 1 und X 2 unabhängig. X 1 und X 2 unabhängig f(x 1 x 2 ) = f 1 (x 1 ) 205/319
bedingte Diskrete Stetige bedingte Wichtige Rechnen mit Für unabhängige n X 1 und X 2 gilt: f(x 1 x 2 ) = f 1 (x 1 ) f(x 2 x 1 ) = f 2 (x 1 ) und analog für diskretes X. f(x 1, x 2 ) = f 1 (x 1 ) f 2 (x 2 ) Für unabhängige X 1,X 2 ist also die Dichte der gemeinsamen Verteilung gleich dem Produkt der einzelnen. Ist X = (X 1,..., X d ), d > 2, so müssen die Definitionen der Randverteilung, der bedingten und der Unabhängigkeit entsprechend verallgemeinert werden. 206/319
bedingte Diskrete Stetige bedingte Wichtige Rechnen mit Die Dichte der Randverteilung von X i1,..., X im ist gegeben durch: f i1,...,i m (x i1,..., x im ) =... f(x 1,..., x n ) dx im+1... dx in Die durch X j bedingte Dichte von X i ist gegeben durch: f(x i x j ) = f i,j(x i, x j ) f j (x j ) wobei f i,j (x i, x j ) die Randverteilungsdichte von X i, X j ist. 207/319
bedingte Diskrete Stetige bedingte Wichtige Rechnen mit X i1,..., X ik heißen unabhängig, wenn die Dichte der Randverteilung von X i1,..., X ik das Produkt der der Randverteilungen der einzelnen X ij ist. 208/319
bedingte Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die Akzeptanz oder Nachweiswahrscheinlichkeit) X sei eine mit der Dichte f(x). Nimmt X den Wert x an, so gibt es eine Wahrscheinlichkeit a(x) dafür, dass x auch tatsächlich beobachtet wird. Man definiert nun eine I, die 1 ist, wenn x beobachtet wird, und 0 sonst. Dann ist I unter der Bedingung X = x alternativ nach A a(x) verteilt: W (I = 1 X = x) = a(x) W (I = 0 X = x) = 1 a(x) Die gemeinsame Dichte von X und I ist daher: f(x, 1) = a(x)f(x) f(x, 0) = [1 a(x)]f(x) 209/319
bedingte Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Fortsetzung) Da der Experimentator nur mit beobachteten Größen arbeiten kann, schränkt er seine Grundgesamtheit auf die nachgewiesenen Ereignisse ein, d.h. er braucht die Dichte von X unter der Bedingung, dass X beobachtet wird: f A(x) = f(x I = 1) = f(x, 1) f 2(1) = a(x)f(x) a(x)f(x) dx Als konkretes Beispiel diene die Messung einer Lebensdauer. Die Messung möge bei t min beginnen und bei t max enden. Dann hat a(t) die folgende Gestalt: 0, für t t min a(t) = 1, für t min < t t max 0, für t > t max 210/319
bedingte Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Fortsetzung) Für die gemessene Wahrscheinlichkeitsdichte gilt: 0, t t min 1 f A(t) = exp( t/τ) τ, tmin t < tmax exp( t min/τ) exp( t max/τ) 0, t > t max Der Faktor 1/[exp( t min/τ) exp( t max/τ)] korrigiert für jene Teilchen, die vor t min oder nach t max zerfallen. Die Nachweiswahrscheinlichkeit a(t) kann auch von der Geometrie des Detektors oder deren Ansprechwahrscheinlichkeit bestimmt werden und eine komplizierte Abhängigkeit von t haben. So kann es etwa von der Konfiguration der Zerfallsprodukte abhängen, ob ein Zerfall bei t beobachtet werden kann oder nicht. 211/319
Abschnitt 10: Wichtige Diskrete Stetige bedingte Wichtige Rechnen mit 8 9 10 Wichtige 11 12 Rechnen mit 212/319
Unterabschnitt: Diskrete Stetige bedingte Wichtige Rechnen mit 8 9 10 Wichtige 11 12 Rechnen mit 213/319
Die diskrete Gleichverteilung auf n Punkten, Gl(n) Diskrete Stetige bedingte Wichtige Rechnen mit Die Verteilung einer n X, die die Werte 1,..., n mit gleicher Wahrscheinlichkeit annimmt.. Die Dichte f X lautet: f X = { 1 n, x {1,..., n} 0, sonst Die Verteilungsfunktion F X ist eine Stufenfunktion mit Sprüngen der Größe 1 n in den Punkten 1,..., n. 214/319
Die Alternativ- oder Bernoulliverteilung Al(p) Diskrete Stetige bedingte Wichtige Rechnen mit Die Verteilung einer n, die den Ausgängen eines Alternativversuchs die Werte 1 (Erfolg) bzw. 0 (Misserfolg) zuordnet. Die Dichte f X lautet: f X (0) = 1 p, f X (1) = p oder f X (x) = p x (1 p) 1 x, 215/319
Diskrete Stetige bedingte Wichtige Rechnen mit Die Binomialverteilung Bi(n, p) Wird der Alternativversuch n mal unabhängig durchgeführt, so gibt es 2 n Elementarereignisse, nämlich die Folgen der Form e = (e i1,..., e in ), i j = 0 oder 1. Die diskrete X bildet die Folge e auf die Häufigkeit von e 1 ab: r(e) = n j=1 Der Wertebereich von X ist die Menge {0, 1,..., n}. Auf die Zahl k (0 k n) werden alle Folgen abgebildet, bei denen e 1 genau k-mal eintritt. Es gibt Ck n solche Folgen, und jede hat die Wahrscheinlichkeit p k (1 p) n k. i j 216/319
Diskrete Stetige bedingte Wichtige Rechnen mit Die Dichte f ist daher: ( ) n f(k) = p k (1 p) n k, 0 k n k Die Verteilung von X wird als Binomialverteilung Bi(n, p) mit den Parametern n und p bezeichnet. Es gilt n f(k) = k=0 ( ) n n p k (1 p) n k = 1 k k=0 Das ist gerade der binomische Lehrsatz. 217/319
Diskrete Stetige bedingte Wichtige Rechnen mit P(k) P(k) 0.4 0.3 0.2 0.1 0 0.4 0.3 0.2 0.1 0 Bi(10,0.3) 0 1 2 3 4 5 6 7 8 9 10 k Bi(10,0.7) 0 1 2 3 4 5 6 7 8 9 10 k P(k) P(k) 0.4 Bi(10,0.5) 0.3 0.2 0.1 0 0 1 2 3 4 5 6 7 8 9 10 k 0.4 Bi(10,0.9) 0.3 0.2 0.1 0 0 1 2 3 4 5 6 7 8 9 10 k 218/319
Die Multinomialverteilung Mu(n, p 1,..., p d ) Diskrete Stetige bedingte Wichtige Rechnen mit Der Alternativversuch kann dahingehend verallgemeinert werden, dass man nicht nur zwei, sondern d Elementarereignisse e 1,..., e d zulässt, denen die Wahrscheinlichkeiten p 1,..., p d zugeordnet werden, die nur erfüllen müssen. d p i = 1 i=1 Führt man den verallgemeinerten Alternativversuch n-mal durch, so sind die Elementarereignisse die Folgen der Form: (e i1,..., e in ), 1 i j d 219/319
Diskrete Stetige bedingte Wichtige Rechnen mit Sind die n Teilversuche unabhängig, gilt: W (e i1,..., e in ) = n W (e ij ) = j=1 n p ij = j=1 d i=1 p ni i wobei n i die Anzahl des Eintretens von e i ist. Die Summe der n i ist daher n. Die d-dimensionale X = (X 1,..., X d ) bildet die Folge (e i1,..., e in ) auf den Vektor (n 1,..., n d ) ab. Dabei werden n!/(n 1! n d!) Folgen auf den gleichen Vektor abgebildet. Die Dichte von X lautet daher: f(n 1,..., n d ) = n! n 1!... n d! d i=1 p ni i, d n i = n, i=1 d p i = 1 i=1 220/319
Diskrete Stetige bedingte Wichtige Rechnen mit Die Verteilung von X wird als Multinomialverteilung mit den Parametern n und p 1,..., p d bezeichnet: W X = Mu(n, p 1,..., p d ) Das klassische Beispiel einer multinomialverteilten n ist das Histogramm (gruppierte Häufigkeitsverteilung), das zur graphischen Darstellung der (absoluten) experimentellen Häufigkeit verwendet wird. X i ist die Anzahl der Fälle, in denen die R, das experimentelle Ergebnis, in Gruppe i fällt. Die Wahrscheinlichkeit, dass R in Gruppe i fällt, sei gleich p i. Werden in das Histogramm n Ergebnisse eingefüllt, so sind die Gruppeninhalte (X 1,..., X d ) multinomial nach Mu(n, p 1,..., p d ) verteilt. 221/319
Diskrete Stetige bedingte Wichtige Rechnen mit n i Ein Histogramm 25 20 15 10 5 0 0 1 2 3 4 5 6 7 8 9 10 x 222/319
Die Poissonverteilung Po(λ) Diskrete Stetige bedingte Wichtige Rechnen mit Die Poissonverteilung entsteht aus der Binomialverteilung durch den Grenzübergang n unter der Bedingung n p = λ. Das klassische Beispiel einer Poissonverteilten n ist die Anzahl der Zerfälle pro Zeiteinheit in einer radioaktiven Quelle. Allgemein gilt: Ist die Wartezeit zwischen zwei Ereignissen eines Zufallsprozesses exponentialverteilt, so ist die Anzahl der Ereignisse pro Zeiteinheit Poissonverteilt. 223/319
Diskrete Stetige bedingte Wichtige Rechnen mit Die Dichte der Poissonverteilung folgt aus der Berechnung des Grenzwertes: P λ (k) = lim B n n; n λ (k) = lim n = lim n λ k = lim n k! = λk k! e λ n! k!(n k)! ( ) k ( λ 1 λ ) n k = n n ( 1 λ n(n 1)... (n k + 1) n k [ k ( ) ] 1 i 1 n ( ) 1 λ i=1 n λ k k! n ( 1 λ n ( 1 λ ) n = n ) n ) k = 224/319
Diskrete Stetige bedingte Wichtige Rechnen mit w(k) w(k) 0.4 0.3 0.2 0.1 0 0.2 0.15 0.1 0.05 0 Po(1) 0 1 2 3 4 5 6 7 8 9 10 k Po(5) 0 5 10 15 k w(k) w(k) 0.4 Po(2) 0.3 0.2 0.1 0 0 1 2 3 4 5 6 7 8 9 10 k 0.2 Po(10) 0.15 0.1 0.05 0 0 5 10 15 20 25 k 225/319
Diskrete Stetige bedingte Wichtige Rechnen mit Die hypergeometrische Verteilung Hy(N, M, n) Grundgesamtheit von N Objekten, davon haben M eine bestimmte Eigenschaft E. Es werden n Objekte gezogen, wobei jedes Objekt die gleiche Wahrscheinlickeit hat, gezogen zu werden. Einmal gezogene Objekte werden nicht zurückgelegt. Die Anzahl der gezogenen Objekte mit der Eigenschaft E ist eine X. Die Verteilung von X wird hypergeometrische Verteilung Hy(N, M, n) genannt. Ihre Dichte lautet: f(m) = ( M m )( ) N M n m ( ) N, 0 m min(n, M) n 226/319
Diskrete Stetige bedingte Wichtige Rechnen mit P(k) P(k) 0.5 0.4 0.3 0.2 0.1 0 0.4 0.3 0.2 0.1 0 Hy(20,12,10) 0 1 2 3 4 5 6 7 8 9 10 k Hy(100,40,10) 0 1 2 3 4 5 6 7 8 9 10 k P(k) P(k) 0.5 0.4 0.3 0.2 0.1 0 0.4 0.3 0.2 0.1 0 Bi(10,0.6) 0 1 2 3 4 5 6 7 8 9 10 k Bi(10,0.4) 0 1 2 3 4 5 6 7 8 9 10 k Zwei Hypergeometrische und die entsprechenden Binomialverteilungen 227/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Wiederholung eines Alternativversuchs.) Die Ereignisalgebra hat 2 n Elementarereignisse, nämlich die Folgen der Form f = (e i1,..., e in ), i j = 0 oder 1. Die diskrete X bildet die Folge f auf die Häufigkeit von e 1 ab: r(f) = Der Wertebereich von X ist die Menge {0, 1,..., n}. Auf die Zahl k, 0 k n werden alle Folgen abgebildet, bei denen e 1 genau k-mal eintritt. Es gibt Ck n solche Folgen, und jede hat die Wahrscheinlichkeit p k (1 p) n k. Es gilt daher ( ) n W X(k) = f(k) = p k (1 p) n k, 0 k n k n j=1 i j 228/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Wiederholung eines Alternativversuchs) Die Wahrscheinlichkeit, dass e 1 höchstens einmal eintritt, ist gleich W X(k 1) = f(0) + f(1) = (1 p) n + np(1 p) n 1 229/319
Unterabschnitt: Diskrete Stetige bedingte Wichtige Rechnen mit 8 9 10 Wichtige 11 12 Rechnen mit 230/319
Diskrete Stetige bedingte Wichtige Rechnen mit Die stetige Gleichverteilung Un(a, b) f(x) Die stetige Gleichverteilung auf dem Intervall [a, b] hat die Dichte: f(x a, b) = 1 0, x < a b a I [a,b] = 1/(b a), a x b 0, b < x 1.2 1 0.8 0.6 0.4 0.2 Dichtefunktion der Gleichverteilung Un(0,1) 0 0.5 0 0.5 1 1.5 x F(x) 1.2 1 0.8 0.6 0.4 0.2 Verteilungsfunktion der Gleichverteilung Un(0,1) 0 0.5 0 0.5 1 1.5 x 231/319
Diskrete Stetige bedingte Wichtige Rechnen mit Die Gauß- oder Normalverteilung No(µ, σ 2 ) ist eine der wichtigsten in Wissenschaft und Technik. Ihre Dichte lautet: f(x µ, σ 2 ) = 1 e (x µ)2 2σ 2 2πσ Im Fall von µ = 0, σ = 1 heißt sie Standardnormalverteilung. Die Verteilungsfunktion Φ(x) ist nicht durch elementare Funktionen darstellbar. 232/319
Diskrete Stetige bedingte Wichtige Rechnen mit f(x) 0.5 0.45 0.4 0.35 0.3 0.25 0.2 0.15 0.1 0.05 Dichtefunktion der Standardnormalverteilung 0 5 0 5 x F(x) 1 0.8 0.6 0.4 0.2 Verteilungsfunktion der Standardnormalverteilung 0 5 0 5 x 233/319
Diskrete Stetige bedingte Wichtige Rechnen mit Die Exponentialverteilung Ex(τ) Die Exponentialverteilung ist die Wartezeitverteilung des radioaktiven Zerfalls von Atomen und allgemein des Zerfalls von Elementarteilchen. Ihre Dichte lautet: f(x τ) = 1 τ e x/τ I [0, ) (x) Ihre Verteilungsfunktion lautet: ( ) F (x τ) = 1 e x/τ I [0, ) (x) 234/319
Dichtefunktion der Exponentialverteilung Ex(2) Verteilungsfunktion der Exponentialverteilung Ex(2) Diskrete Stetige bedingte Wichtige Rechnen mit f(x) 0.5 0.4 0.3 0.2 0.1 0 F(x) 1 0.8 0.6 0.4 0.2 0 0 2 4 6 8 10 0 2 4 6 8 10 x x 235/319
Diskrete Stetige bedingte Wichtige Rechnen mit Der Poissonprozess Wir beobachten einen Prozess, bei dem gewisse Ereignisse zu zufälligen Zeitpunkten eintreten. Ist die Anzahl der Ereignisse pro Zeiteinheit unabhängig und Poisson-verteilt gemäß Po(λ), sprechen wir von einem Poissonprozess mit Intensität λ. Eigenschaften eines Poissonprozesses 1 Die Anzahl der Ereignisse in einem Zeitintervall der Länge T ist Poisson-verteilt gemäß Po(λT ). 2 Die Wartezeit zwischen zwei aufeinanderfolgenden Ereignissen ist exponentialverteilt gemäß Ex(1/λ). 3 Sind die Wartezeiten eines Prozesses unabhängig und exponentialverteilt gemäß Ex(τ), so ist der Prozess ein Poissonprozess mit Intensität λ = 1/τ. 236/319
Diskrete Stetige bedingte Wichtige Rechnen mit Die Gammaverteilung Ga(a, b) Die Exponentialverteilung ist eine Spezialfall einer allgemeineren Familie von, der Gammaverteilung. Die Dichte der Gammaverteilung lautet: f(x a, b) = xa 1 e x/b b a Γ(a) I [0, ) (x) Ihre Verteilungsfunktion ist die regularisierte unvollständige Gammafunktion: F (x a, b) = x 0 x a 1 e x/b b a Γ(a) dx = γ(a, x/b Γ(a) 237/319
Diskrete Stetige bedingte Wichtige Rechnen mit f(x) f(x) 0.4 0.3 0.2 0.1 Ga(2,1) 0 0 5 10 15 20 x 0.2 0.15 0.1 0.05 Ga(5,1) 0 0 5 10 15 20 x f(x) f(x) 0.35 0.3 0.25 0.2 0.15 0.1 0.05 Ga(3,1) 0 0 5 10 15 20 x 0.14 0.12 0.1 0.08 0.06 0.04 0.02 Ga(10,1) 0 0 5 10 15 20 x 238/319
Unterabschnitt: Diskrete Stetige bedingte Wichtige Rechnen mit 8 9 10 Wichtige 11 12 Rechnen mit 239/319
Die eindimensionale Normalverteilung Diskrete Stetige bedingte Wichtige Rechnen mit Ihre Dichte ist die bekannte Glockenkurve: f(x) = 1 σ (x µ) 2 2π e 2σ 2 Das Maximum ist bei x = µ, die Wendepunkte bei x = µ ± σ. Die halbe Breite auf halber Höhe (HWHM) ist gleich σ 2 ln 2 1, 177σ. 240/319
Diskrete Stetige bedingte Wichtige Rechnen mit f((x µ)/σ) 0.5 0.4 0.3 0.2 0.1 f max =0.39894 HWHM 0 4 3 2 1 0 1 2 3 4 (x µ)/σ Normalverteilung, gelber Bereich = 68.2% 241/319
Diskrete Stetige bedingte Wichtige Rechnen mit Es gilt: W ( r µ σ) = 31.8% W ( r µ 2σ) = 4.6% W ( r µ 3σ) = 0.2% Eigenschaften der Normalverteilung 1 Die Faltung zweier Normalverteilungen ist wieder eine Normalverteilung. 2 Ist die Faltung von zwei eine Normalverteilung, so sind auch die beiden Summanden Normalverteilungen. 242/319
Diskrete Stetige bedingte Wichtige Rechnen mit Die d-dimensionale Normalverteilung No(µ, V) Ihre Dichte lautet: ( 1 f(x) = exp 1 ) (2π) d 2 V 2 (x µ)t V 1 (x µ) V und V 1 sind symmetrische positiv definite d d-matrizen. Ist X normalverteilt gemäß No(µ, V) und H eine m d Matrix, so ist Y = HX normalverteilt gemäß No(Hµ, HVH T ). Jede Randverteilung einer Normalverteilung ist wieder eine Normalverteilung. Mittelwert und Matrix der Randverteilung entstehen durch Streichen der Spalten und Zeilen der restlichen Variablen. 243/319
Diskrete Stetige bedingte Wichtige Rechnen mit Jede bedingte Verteilung einer Normalverteilung ist wieder eine Normalverteilung. Ist X normalverteilt gemäß No(µ, V), so kann V als positiv definite symmetrische Matrix mittels einer orthogonalen Transformation auf Diagonalform gebracht werden: UVU T = D 2 Alle Digonalelemente von D 2 sind positiv. Die Y = DU(X µ) ist dann standardnormalverteilt. Die Drehung U heißt Hauptachsentransformation. 244/319
Diskrete Stetige bedingte Wichtige Rechnen mit Die zweidimensionale Normalverteilung Für d = 2 und µ = 0 kann die Dichte folgendermaßen angeschrieben werden: [ ( )] 1 f(x 1, x 2 ) = exp 1 x 2 2πσ 1σ 2 1 ρ 2 2(1 ρ 2 1 2 ρ x1 x2 ) σ1 2 σ 1 σ 2 + x2 2 σ2 2 ρ = σ 12 /(σ 1 σ 2 ) ist der Korrelationskoeffizient. Sind X 1 und X 2 unkorreliert, also ρ = 0, folgt: [ 1 f(x 1, x 2 ) = exp 1 ( )] x 2 1 2πσ 1 σ 2 2 σ1 2 + x2 2 σ2 2 = f 1 (x 1 ) f 2 (x 2 ) Zwei unkorrelierte normalverteilte mit gemeinsamer Normalverteilung sind daher unabhängig. 245/319
Diskrete Stetige bedingte Wichtige 0.2 0.15 0.1 0.05 0 2 0 2 2 0 2 3 2 1 0 1 2 σ 1 =1, σ 2 =1, ρ=0.6 3 3 2 1 0 1 2 3 Rechnen mit 246/319
Diskrete Stetige bedingte Wichtige Rechnen mit Die bedingte Dichte f(x 1 x 2 ) ist gegeben durch f(x 1 x 2 ) = f(x 1, x 2 ) f(x 2 ) 1 = exp 1 [ 2πσ1 1 ρ 2 2 σ1 2 (1 ρ2 ) = ( x 1 ρ x ) ] 2 2 σ 1 σ 2 X 1 X 2 = x 2 ist also eine normalverteilte mit der E[X 1 X 2 ] = ρx 2 σ 1 /σ 2 E[X 1 X 2 ] heißt die bedingte. 247/319
Diskrete Stetige bedingte Wichtige Rechnen mit Je nach Vorzeichen von ρ fällt oder wächst die bedingte von X 1, wenn X 2 wächst. Ist ρ = 1, sind X 1 und X 2 proportional: X 1 = X 2 σ 1 /σ 2. Die Höhenschichtlinien der Dichtefunktion sind Ellipsen. Die Hauptachsentransformation ist jene Drehung, die die Ellipsen in achsenparallele Lage bringt. Sie hängt im Fall d = 2 nur von ρ ab. Ist ρ = 0, sind X 1 und X 2 bereits unabhängig, und der Drehwinkel ist gleich 0. Ist ρ 0, ist die Drehmatrix U gleich U = ( cos ϕ sin ϕ ) sin ϕ cos ϕ mit ϕ = 1 2 arccot σ2 2 σ 2 1 2ρσ 1 σ 2 248/319
Die t-verteilung t(n) Diskrete Stetige bedingte Wichtige Rechnen mit Die Dichte der t-verteilung mit n Freiheitsgraden lautet: f(x n) = Die χ 2 -Verteilung χ 2 (n) Γ( n+1 2 ) nπ Γ( n 2 ) ) (n+1)/2 (1 + x2 n Die Dichte der χ 2 -Verteilung mit n Freiheitsgraden lautet: f(x n) = 1 2 n/2 Γ( n 2 ) xn/2 1 e x/2 I [0, ) (x) Sie ist die Gammaverteilung Ga(n/2, 2). Ist X standardnormalverteilt, so ist Y = X 2 χ 2 -verteilt mit einem Freiheitsgrad. 249/319
Die F-Verteilung F(n, m) Diskrete Stetige bedingte Wichtige Rechnen mit Die Dichte der F-Verteilung (Fisher-Snedecor-Verteilung) mit n bzw. m Freiheitsgraden lautet: f(x n, m) = Γ( n+m 2 )n n/2 m m/2 Γ( n 2 )Γ( m 2 ) x n/2 1 (m + nx) (n+m)/2 I [0, )(x) Sind X und Y unabhängig und χ 2 -verteilt mit n bzw. n Freiheitsgraden, so ist verteilt gemäß F(n, m). F = X/n Y/m 250/319
Abschnitt 11: Diskrete Stetige bedingte Wichtige Rechnen mit 8 9 10 Wichtige 11 12 Rechnen mit 251/319
Unterabschnitt: Diskrete Stetige bedingte Wichtige Rechnen mit 8 9 10 Wichtige 11 12 Rechnen mit 252/319
Diskrete Stetige bedingte Wichtige Rechnen mit Definition () Es sei X eine (diskrete oder stetige) mit der Dichte f(x). Ferner sei g eine beliebige stetige reelle oder komplexe Funktion. Man definiert E X [g] = E[g(X)] durch: E[g(X)] = k N 0 g(k)f(k) bzw. E[g(X)] = g(x)f(x) dx E X [g] = E[g(X)] heißt die von g(x). Ist g ein k-dimensionaler Vektor von Funktionen, dann ist auch E[g(X)] ein k-dimensionaler Vektor. 253/319
Diskrete Stetige bedingte Wichtige Rechnen mit Definition ( einer n) Ist g(x) = x, so heißt E[g(X)] = E[X] die oder der Mittelwert von X. E[X] = xf(x) dx bzw. E[X] = k N 0 k f(k) Ist X = (X 1,..., X d ), wird die entsprechend verallgemeinert: E X [g] =... g(x 1,..., x d ) f(x 1,..., x d ) dx 1... dx d 254/319
Diskrete Stetige bedingte Wichtige Rechnen mit Die ist ein Lageparameter. Die braucht nicht zu existieren. Ein Beispiel ist die Cauchy-Verteilung (t-verteilung mit einem Freiheitsgrad) mit der Dichte f(x) = Eigenschaften der 1 E[c] = c, c R 2 E[aX + b] = ae[x] + b 3 E[X 1 + X 2 ] = E[X 1 ] + E[X 2 ] 1 π(1 + x 2 ), x R 4 X 1 und X 2 unabhängig = E[X 1 X 2 ] = E[X 1 ] E[X 2 ] 255/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der Alternativverteilung) Es sei X alternativverteilt nach Al(p). Dann gilt E[X] = 1 p + 0 (1 p) = p Beispiel (Die der Binomialverteilung) Es sei X binomialverteilt nach Bi(n, p). ( ) n n E[X] = k p k (1 p) n k = k k=0 Mit k = k 1 und n = n 1 folgt E[X] = n k =0 ( ) n n k p k (1 p) n k k k=1 ( ) n np p k (1 p) n k = np k 256/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Fortsetzung) Da X die Anzahl des Eintretens von e 1 in n unabhängigen Alternativversuchen angibt, kann X auch als die Summe von n alternativverteilten n X 1,..., X n betrachtet werden: r = n X i. i=1 Dann folgt E[X] = np aus der Additivität der Ewartung. Beispiel (Die der Poissonverteilung) Es sei X nach Po(λ) poissonverteilt: E[X] = k=0 k λk k! e λ = k=1 λ k (k 1)! e λ = λ k =0 λ k k! e λ = λ 257/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der hypergeometrischen Verteilung) Es sei X hypergeometrisch verteilt nach Hy(N, M, n). Dann gilt E[X] = nm N Beispiel (Die der Binomialverteilung) Es sei X binomialverteilt nach Bi(n, p). ( ) n n E[X] = k p k (1 p) n k = k k=0 Mit k = k 1 und n = n 1 folgt E[X] = n k =0 ( ) n n k p k (1 p) n k k k=1 ( ) n np p k (1 p) n k = np k 258/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der stetigen Gleichverteilung) Es sei X gleichverteilt auf dem Intervall [a, b]: E[X] = b a x b a dx = a + b 2 Beispiel (Die der Exponentialverteilung) Es sei X exponentialverteilt gemäß E τ : E[X] = 0 t τ e t/τ dt = te t/τ τe t/τ = τ 0 Beispiel (Die der Normalverteilung) Es sei X normalverteilt gemäß No(µ, σ 2 ): E[X µ] = 0 = E[X] µ = 0 = E[X] = µ 259/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der Gammaverteilung) Es sei X gammaverteilt gemäß Ga(a, b): E[X] = 0 x a e x/b b a Γ(a) Beispiel (Die der χ 2 -Verteilung) Es sei X χ 2 -verteilt mit n Freiheitsgraden: E[X] = n dx = ab 260/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der t-verteilung) Es sei X t-verteilt mit n Freiheitsgraden: E[X] = 0, n > 1 Für n = 1 (Cauchy- oder Breit-Wigner-Verteilung) existiert die nicht. Beispiel (Die der F-Verteilung) Es sei X F-verteilt mit n bzw. m Freiheitsgraden: E[X] = m m 2, m > 2 261/319
Diskrete Stetige bedingte Wichtige Rechnen mit Definition () Sei X eine. Die von g(x) = (x a) k, sofern sie existiert, heißt k-tes Moment von X um a. Das k-te Moment um 0 wird mit µ k bezeichnet. Das k-te Moment um den swert E[X] wird als zentrales Moment µ k bezeichnet. Die zentralen µ 1,..., µ k können aus den n um 0 µ 1,..., µ k berechnet werden, und umgekehrt. 262/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Umrechnung von zentralen n und n um 0) µ 2 = µ 2 µ 2 1 µ 3 = µ 3 3µ 1µ 2 + 2µ 3 1 µ 4 = µ 4 4µ 1µ 3 + 6µ 12 µ 2 3µ 4 1 µ 2 = µ 2 + µ 2 1 µ 3 = µ 3 + 3µ 1µ 2 + µ 3 1 µ 4 = µ 4 + 4µ 1µ 3 + 6µ 12 µ 2 + µ 4 1 263/319
Unterabschnitt: Diskrete Stetige bedingte Wichtige Rechnen mit 8 9 10 Wichtige 11 12 Rechnen mit 264/319
Diskrete Stetige bedingte Wichtige Rechnen mit Definition () Das zweite zentrale Moment µ 2 heißt die von X, bezeichnet mit var[x]. Die Wurzel aus der heißt die Standardabweichung von X, bezeichnet mit σ[x]. Die Standardabweichung ist ein Skalenparameter, der die Breite der Verteilung beschreiben. Die Standardabweichung hat die gleiche Dimension wie die. und Standardabweichung sind (wie alle zentralen ) invariant gegen Translationen. Die braucht nicht zu existieren. Ein Beispiel ist die t-verteilung mit zwei Freiheitsgraden mit der Dichte f(x) = 1 (2 + x 2 ) 3/2, x R 265/319
Diskrete Stetige bedingte Wichtige Rechnen mit Die Tschebyscheff sche Ungleichung Es sei X eine mit der E[X] = µ und der var[x] = σ 2. Für g > 0 gilt: W ( X µ > gσ) 1 g 2 266/319
Diskrete Stetige bedingte Wichtige Rechnen mit Definition (Kovarianz) Sei X = (X 1,..., X n ) eine n-dimensionale und E[X i ] = µ i. cov[x i, X j ] = E[(X i µ i)(x j µ j)] = = (x i µ i)(x j µ j) f(x 1,... x n ) dx 1... dx n = R n = (x i µ i)(x j µ j) f ij (x i, x j ) dx i dx j heißt die Kovarianz von X i und X j, auch σ ij geschrieben. Die Matrix V mit V ij = cov[x i, X j ] heißt die Kovarianzmatrix von X, bezeichnet mit Cov[X]. 267/319
Diskrete Stetige bedingte Wichtige Rechnen mit Eigenschaften der bzw. der Kovarianz 1 var[x] = E[r 2 ] (E[X]) 2 2 cov[x 1, X 2 ] = E[X 1 X 2 ] E[X 1 ] E[X 2 ] 3 var[ax + b] = a 2 var[x] 4 var[a 1 X 1 + a 2 X 2 ] = a 2 1 var[x 1 ] + a 2 2 var[x 2 ] + 2a 1 a 2 cov[x 1, X 2 ] [ n ] n n 5 var X i = cov[x i, X j ] = i=1 n n var[x i ] + 2 i=1 j=1 n cov[x i, X j ] i=1 i=1 j=i+1 268/319
Für unabhängige Zufallsgrößen gilt: Diskrete Stetige bedingte Wichtige Rechnen mit 1 X 1, X 2 unabhängig = cov[x 1, X 2 ] = 0 2 X 1,..., X n unabhängig: [ n ] n var X i = var[x i ] i=1 i=1 269/319
Diskrete Stetige bedingte Wichtige Rechnen mit Definition (Korrelationskoeffizient) Die Größe ρ ij = σ ij heißt der Korrelationskoeffizient von X i σ i σ j und X j. Eigenschaften des Korrelationskoeffizienten 1 1 ρ ij 1 2 Ist ρ ij = 1, so sind X i und X j linear abhängig. 270/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der Alternativverteilung) Es sei X alternativverteilt nach Al(p). var[x] = E[X 2 ] p 2 = 1 2 p + 0 2 (1 p) p 2 = p(1 p) Beispiel (Die der Binomialverteilung) Ist X nach Bi(n, p) verteilt, so ist X die Summe von n unabhängigen alternativverteilten n. Es gilt daher: var[x] = np(1 p) Ist Y = X/n die relative Häufigkeit des Eintretens von e 1, so gilt E[Y ] = p, var[y ] = p(1 p)/n 271/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der hypergeometrischen Verteilung) Es sei X hypergeometrisch verteilt nach Hy(N, M, n). Dann gilt var[x] = nm(n n)(n M) N 2 (N 1) 272/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die Kovarianzmatrix der Multinomialverteilung) Sei X = (X 1,..., X d ) nach Mu(n; p 1,..., p d ) verteilt (d 2). Da X i binomialverteilt ist, gilt var[x i] = np i(1 p i) Für ein Histogramm ist also die des Gruppeninhaltes gleich np i(1 p i). Für p i 1 (viele Gruppen) ist das ungefähr gleich np i, der des Gruppeninhaltes. cov[x i, X j] =E[X ix j] E[X i] E[X j] = =n(n 1)p ip j np inp j = = np ip j 273/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der Poissonverteilung) E[X 2 ] = k 2 λ k k! e λ = = = = k=0 λ k 1 k λ (k 1)! e λ = k=0 k =0 k =0 =λ 2 + λ (k + 1) λ λk k! e λ = λ 2 λ k k! e λ + λ = var[x] =E[X 2 ] λ 2 = λ 274/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der stetigen Gleichverteilung) E[X 2 ] = 1 b a b var[x] = b3 a 3 3(b a) a x 2 dx = b3 a 3 3(b a) ( ) 2 b + a = Beispiel (Die der Exponentialverteilung) E[X 2 ] = 1 τ 0 2 t 2 e t/τ dt = 2τ 2 var[x] = E[X 2 ] τ 2 = τ 2 (b a)2 12 275/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der Normalverteilung) Es gilt: 1 2π σ [ exp 1 2 ] (x µ) 2 dx = 1 für alle µ. Nach zweimaligem Differenzieren nach µ, wobei Differentiation und Integration vertauscht werden dürfen, erhält man: [ 1 1 ] [ (x µ)2 + exp 1 ] (x µ) 2 dx = 0 2π σ σ2 σ 2 2 σ 2 [ 1 (x µ) 2 exp 1 ] (x µ) 2 dx = σ 2 2π σ 2 σ 2 σ 2 var[x] = σ 2 276/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der Gammaverteilung) Es sei X gammaverteilt gemäß Ga(a, b): E[X 2 ] = 0 var[x] = ab 2 x a+1 e x/b b a Γ(a) Beispiel (Die der χ 2 -Verteilung) Es sei X χ 2 -verteilt mit n Freiheitsgraden: var[x] = 2 n dx = a(a + 1)b 2 277/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der t-verteilung) Es sei X t-verteilt mit n Freiheitsgraden: var[x] = Für n 2 existiert die nicht. n n 2, n > 2 Beispiel (Die der F-Verteilung) Es sei X F-verteilt mit n bzw. m Freiheitsgraden: var[x] = 2m2 (n + m 2) n(m 2) 2 (m 4), m > 4 278/319
Unterabschnitt: Diskrete Stetige bedingte Wichtige Rechnen mit 8 9 10 Wichtige 11 12 Rechnen mit 279/319
Diskrete Stetige bedingte Wichtige Rechnen mit Definition () Das reduzierte dritte zentrale Moment γ = µ 3 /σ 3 heißt die. Die misst die Asymmetrie einer Verteilung. Ist die positiv (negativ), heißt die Verteilung rechtsschief (linksschief). Für symmetrische ist sie 0. Beispiel (Die der Exponentialverteilung) µ 3 = E[(X E[X]) 3 ] = Die ist daher gleich γ = 2. 0 (t τ) 3 e t/τ dt = 2τ 3 τ 280/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Die der Gammaverteilung) µ 3 = E[(X E[X]) 3 ] = 0 (x ab) 3 b a Γ(a) x a 1 e x/b dx = 2ab 3 Die ist daher gleich γ = 2/ a und strebt für a gegen 0. Selbst wenn alle einer Verteilung existieren, ist sie dadurch nicht eindeutig bestimmt. Zum Beispiel haben die mit den f(x) = 1 4 π2 e x ln x [1 λ sin(4π ln x)], 0 x, 0 λ 1 dieselben µ k = ek(k+2)/4, unabhängig von λ. 281/319
Abschnitt 12: Rechnen mit Diskrete Stetige bedingte Wichtige Rechnen mit 8 9 10 Wichtige 11 12 Rechnen mit 282/319
Unterabschnitt: Diskrete Stetige bedingte Wichtige Rechnen mit 8 9 10 Wichtige 11 12 Rechnen mit 283/319
Diskrete Stetige bedingte Wichtige Rechnen mit Definition (Faltung) Es seien X 1 und X 2 zwei unabhängige n. Die Summe X = X 1 + X 2 heißt die Faltung von X 1 und X 2. Satz Sind X 1 und X 2 zwei unabhängige mit der gemeinsamen Dichte f(x 1, x 2 ) = f 1 (x 1 ) f 2 (x 2 ), so hat ihre Summe X = X 1 + X 2 die Dichte g(x) = = f 1 (x x 2 ) f 2 (x 2 ) dx 2 = f 1 (x 1 ) f 2 (x x 1 ) dx 1 284/319
Diskrete Stetige bedingte Wichtige Rechnen mit Die Dichte g wird als Faltungsprodukt von f 1 und f 2 bezeichnet: g = f 1 f 2. Beispiel (Faltung von zwei Exponentialverteilungen) Es seien X 1 und X 2 exponentialverteilt gemäß E τ. Die Summe X = X 1 + X 2 hat die folgende Dichte: g(t) = = t 0 f 1(t t 2)f 2(t 2) dt 2 = 1 τ 2 e(t 2 t)/τ e t 2/τ dt 2 = = 1 τ 2 te t/τ 285/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Faltung von zwei Gleichverteilungen) Es seien X 1 und X 2 gleichverteilt im Intervall [0, 1]. Die Summe X = X 1 + X 2 hat die folgende Dichte: g(x) = f 1(x x 2)f 2(x 2) dx 2 Das Produkt der ist nur ungleich 0, wenn 0 x x 2 1 und 0 x 2 1 gilt. Die effektiven Integrationsgrenzen sind daher x min = max(0, x 1) und x max = min(x, 1). Ist 0 x 1, ist x min = 0 und x max = x; ist 1 x 2, ist x min = x 1 und x max = 1. Die Dichte g(x) lautet daher: x, wenn 0 x 1 g(x) = 2 x, wenn 1 x 2 0, sonst Die Summenverteilung heißt Dreiecksverteilung. 286/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Der Messfehler) Es wird eine Zufallsgröße X beobachtet. Der Messfehler wird durch eine bedingte Dichte b(x x) beschrieben, die die Wahrscheinlichkeit angibt, dass x bei der Messung registriert wird, wenn X den Wert x annimmt. Für die gemessene Verteilung gilt dann: f M (x ) = b(x x)f(x) dx = f(x, x) dx Im günstigsten Fall hängt b nur von der Differenz x x ab, oder eine weitere explizite Abhängigkeit von x ist vernachlässigbar. Dann wird aus dem Integral ein Faltungsintegral. Dies ist genau dann der Fall, wenn der Messfehler und die Messung unabhängig sind. 287/319
Diskrete Stetige bedingte Wichtige Rechnen mit Die Faltung von zwei n X 1 und X 2 kann auch mit Hilfe ihrer charakteristischen Funktionen berechnet werden. Definition (Charakteristische Funktion) Es sei X eine. Die charakteristische Funktion von X ist definiert durch: Satz ϕ X (t) = E[ exp(itx) ], t R Ist X = X 1 + X 2 die Faltung von X 1 und X 2, so gilt: ϕ X (t) = ϕ X1 (t) ϕ X2 (t) 288/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Faltung von zwei Poissonverteilungen) Es seien X 1 und X 2 Poisson-verteilt gemäß Po(λ 1) bzw. Po(λ 2). Die charakteristische Funktion von X i lautet: e ikt λ k i e λ i ϕ Xi (t) = = exp[λ i(e it 1)] k! k=0 Die charakteristische Funktion von X = X 1 + X 2 ist daher gleich ϕ X(t) = exp[λ 1(e it 1)] exp[λ 2(e it 1)] = exp[(λ 1 + λ 2)(e it 1)] X ist also Poisson-verteilt gemäß Po(λ) mit λ = λ 1 + λ 2. 289/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Faltung von zwei χ 2 -) Es seien X 1 und X 2 χ 2 -verteilt mit n 1 bzw. n 2 Freiheitsgraden. Die charakteristische Funktion von X i lautet: ϕ Xi (t) = 1 (1 2it) n i/2 Die charakteristische Funktion von X = X 1 + X 2 ist daher gleich ϕ X(t) = 1 (1 2it) n 1/2 (1 2it) n 2/2 = 1 (1 2it) (n 1+n 2 )/2 X ist also χ 2 -verteilt mit n = n 1 + n 2 Freiheitsgraden. 290/319
Unterabschnitt: Diskrete Stetige bedingte Wichtige Rechnen mit 8 9 10 Wichtige 11 12 Rechnen mit 291/319
Diskrete Stetige bedingte Wichtige Rechnen mit Im folgenden Abschnitt sollen Linearkombinationen von nicht notwendig unabhängigen n betrachtet werden. Es sei X = (X 1,..., X n ) eine n-dimensionale und H eine m n - Matrix. Dann ist Y = (Y 1,... Y m ) = HX wie jede deterministische Funktion einer n wieder eine. Wie ist Y verteilt? Es gilt exakt: Lineare und 1 E[Y ] = H E[X] 2 Cov[Y ] = H Cov[X] H T 292/319
Diskrete Stetige bedingte Wichtige Rechnen mit Es soll nun statt der linearen Abbildung H eine allgemeine Funktion h = (h 1,..., h m ) betrachtet werden. Es wird angenommen, dass h in jenem Bereich, in dem die Dichte von X signifikant von 0 verschieden ist, genügend gut durch eine lineare Funktion angenähert werden kann. Entwickelt man h an der Stelle E[X], so gilt in 1. Näherung: Lineare Fehlerfortpflanzung 1 E[Y ] = h(e[x]) ( h 2 Cov[Y ] = x ) Cov[X] ( ) T h x 293/319
Diskrete Stetige bedingte Wichtige Rechnen mit Ist h = (h 1,..., h n ) eine umkehrbar eindeutige Abbildung h : R n R n, so läßt sich die Dichte von Y = (Y 1,..., Y n ) = h(x 1,..., X n ) berechnen. Es sei X = (X 1,..., X d ) eine d-dimensionale mit der Dichte f X (x 1,..., x d ), h eine umkehrbare Abbildung h : R d R d, g die Umkehrfunktion von h, Y = h(x) und f Y (y 1,..., y d ) die Dichte von Y. Dann gilt: Transformation der Dichte f Y (y 1,..., y d ) = f X (g(y 1,..., y d )) g y wobei g y der Betrag der Funktionaldeterminante ist. 294/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Transformation unter einer affinen Abbildung) Es sei X eine d-dimensionale mit Dichte f X(x) und Y = AX + b. Ist A regulär, ist die Dichte von Y gegeben durch: f Y (y) = f X(A 1 (y b)) 1 A Beispiel (Transformation mit der Verteilungsfunktion) Es sei X eine stetige mit der Dichte f(x) und der Verteilungsfunktion F (x), und Y = F (X). Dann ist die Dichte von Y gegeben durch: g(y) = f(x) df 1 dy = f(x)/f(x) = 1 Y ist also gleichverteilt im Intervall [0, 1]. Y wird als p-wert (probability transform) von X bezeichnet. 295/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Transformation mit der inversen Verteilungsfunktion) Es sei U gleichverteilt im Intervall [0, 1], F (x) (f(x)) die Verteilungsfunktion (Dichtefunktion) einer stetigen Verteilung, und X = F 1 (U). Dann ist die Dichte von X gegeben durch: g(x) = 1 df dx = f(x) X ist also verteilt mit der Verteilungsfunktion F und der Dichte f. Beispiel Es sei X gleichverteilt im Intervall [0, 1] und Y = ln(x). Dann ist g(y) = exp( y) und f Y (y) = f X(exp( y)) dg dy = e y Y ist daher exponentialverteilt mit τ = 1. 296/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Transformation auf Polarkoordinaten) Es seien (X, Y ) unabhängig und standardnormalverteilt. Wir suchen die Verteilung der Polarkoordinaten (R, Φ), definiert durch: X = R cos(φ), Y = R sin(φ) Die Funktionaldeterminante lautet: (x, y) (r, ϕ) = r Die Dichte ist daher f(r, ϕ) = 1 2 /2 2π re r R und Φ sind unabhängig mit den Randdichten f 1(r) = re r2 /2, f 2(ϕ) = 1 2π 297/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Transformation auf Kugelkoordinaten) Es seien (X, Y, Z) unabhängig und standardnormalverteilt. Wir suchen die Verteilung der Kugelkoordinaten (R, Θ, Φ), definiert durch: X = R sin(θ) cos(φ), Y = R sin(θ) sin(φ), z = R cos(θ) Die Funktionaldeterminante lautet: (x, y, z) (r, θ, ϕ) = r2 sin(θ) Die Dichte ist daher f(r, θ, ϕ) = 1 e r 3/2 (2π) 2 /2 r 2 sin(θ) 298/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Fortsetzung) R, θ und ϕ sind unabhängig mit den Randdichten 2 f 1(r) = r 2 e r2 /2, f 2(θ) = 1 1 sin(θ), f3(ϕ) = π 2 2π Beispiel (Geschwindigkeitsverteilung im idealen Gas) Im idealen Gas sind die Komponenten (V x, V y, V z) der Molekülgeschwindigkeit in guter Näherung normalverteilt, mit Mittelwert 0 und σ 2 = kt/m, wobei m die Molekülmasse, k die Boltzmannkonstante und T die Temperatur ist. 299/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel (Fortsetzung) Der Betrag V der Geschwindigkeit hat dann die Dichte 2m 3/2 f(v) = π(kt ) 3/2 v2 e mv2 /2kT Die Verteilung wird Maxwell-Verteilung genannt. Mittelwert und Standardabweichung sind 8 kt 3 kt E[V ] = πm, σ[v ] = m Die häufigste Geschwindigkeit (das Maximum der Dichte) ist bei 2 kt V max = m 300/319
0.7 Diskrete Stetige bedingte Wichtige Rechnen mit f(v) 0.6 0.5 0.4 0.3 0.2 0.1 v max E[v] Maxwell Verteilung mit kt=m 0 0 0.5 1 1.5 2 2.5 3 3.5 4 4.5 5 v Maxwell-Verteilung, kt = m 301/319
Unterabschnitt: Diskrete Stetige bedingte Wichtige Rechnen mit 8 9 10 Wichtige 11 12 Rechnen mit 302/319
Diskrete Stetige bedingte Wichtige Rechnen mit Kann der Messfehler durch eine mit Mittel 0 beschrieben werden, hat die Messung nur einen statistischen Fehler. Die Messung kann jedoch durch eine falsche Kalibration (z.b. Skalenfehler oder Nullpunktfehler) des Messgeräts verfälscht sein. Solche Fehler werden systematische Fehler genannt. werden durch Vergrößerung der Stichprobe nicht kleiner! Die Korrektur von systematischen Fehlern erfordert solgfältige Kalibaration der Messaparatur, Überprüfung von theoretischen Annahmen, etc. Das Gesetz der Fehlerfortpflanzung gilt nicht für systematische Fehler! 303/319
Diskrete Stetige bedingte Wichtige Rechnen mit Beispiel Wir messen zwei Spannungen U 1, U 2 mit dem gleichen Messgerät. Durch fehlerhafte Kalibration misst das Gerät statt der wahren Spannung U die Spannung U m = au + b + ε, mit a = 0.99, b = 0.05, σ[ε] = 0.03 V. Der Mittelwert Ū der beiden Spannungen hat dann einen statistischen Fehler von 0.02 V. Der systematische Fehler des Mittelwerts wird beschrieben durch Ū m = aū + b, ist also der der Einzelmessung. Der systematische Fehler der Differenz U wird beschrieben durch U m = a U. Der Nullpunktfehler ist verschwunden. 304/319