Wahrscheinlichkeit und Statistik: Zusammenfassung

Transkript

1 HSR Hochschule für Technik Rapperswil Wahrscheinlichkeit und Statistik: Zusammenfassung beinhaltet Teile des Skripts von Herrn Hardy von Lukas Wilhelm lwilhelm.net 12. Januar 2007

2 Inhaltsverzeichnis 1 WrStat Zusammenfassung Wahrscheinlichkeit Bedingte Wahrscheinlichkeit Grundlagen Gaussche Summenformel unendliche geometrische Reihe Ableitungsregeln Unabhängigkeit Definition Bedingte Wahrscheinlichkeit Definition Satz der totalen Wahrscheinlichkeit von Bayes Unabhängigkeit paarweise unabhängig Zufallsvariable, Erwartungswert und Varianz Erwartungswert Definition Varianz E[X 2 ] Standardabweichung Dichtefunktion Zusammenhang von Verteilungsfunktion und Dichtefunktion Wahrscheinlichkeitsverteilung Tschebyschow Ungleichung Bernoullis Gesetz der grossen Zahlen Verteilungen gleichverteilte Verteilung Exponentielle Verteilung Standard Normalverteilung, auch Gauss Poisson Verteilung Binomialverteilung Median und Mittelwert Schätzen Punktschätzung Intervallschätzung Intervallschätzung, unbekannter Erwartungswert µ bei bekannter Varianz σ, normalverteilt unbekannter Erwartungswert, bekannte Varianz, nicht normalverteilt Student-T (unbekannte Varianz, normalverteilt) binomialverteilte Population, unbekannte Varianz σ unbekannter Erwartungswert, bei bekannter Varianz σ 2 einer binomialverteilten Population

3 1 WrStat Zusammenfassung 1.1 Wahrscheinlichkeit Bedingte Wahrscheinlichkeit P[A B] = P[A B] P[B] P[B A] = P[A B] P[A] 1.2 Grundlagen e = exp(n 1 n ) = (exp( 1 n ))n Gaussche Summenformel n n(n + 1) i = 2 i= unendliche geometrische Reihe Wenn der Betrag der Zahl q kleiner als 1 ist Ableitungsregeln Konstante Funktion (a) = 0 Faktorregel (a f ) = a f Summenregel (g ± h) = g ± h Produktregel (g h) = g h + g h ) = g h g h Quotientenregel ( g h h 2 Potenzregel (x n ) = nx n 1 Kettenregel (g h) (x) = (g(h(x))) = g (h(x)) h (x) a 0 q k = lim n k=0 1.3 Unabhängigkeit Definition n k=0 a 0 q k = lim n a 0 1 q n+1 1 q = a q Wenn das Ereignis A unabhängig von Ereignis B ist, folgt, dass die Wahrscheinlichkeit von A nach B gleich der Wahrscheinlichkeit von A ist. P(A) = P(A B) Es folgt weiter und P(A) = P(A B) P(B) P(A) P(B) = P(A B) 2

4 1.4 Bedingte Wahrscheinlichkeit Definition daraus folgt durch Umformen P(A B) = P(A B) P(B) P(A B) = P(B) P(A B) = P(B A) P(A) Satz der totalen Wahrscheinlichkeit von Bayes Wenn die Ereignisse B1, B2... Bn eine Partition des Wahrscheinlichkeitsraumes bilden und P[Bi] = 0; i = 1, 2... n, dann gilt für jedes Ereignis A Ω Unabhängigkeit P(A) = P(A B) = n P(A B i ) P(B i ) i=1 P(B A) P(A) P(B) Die n Ereignisse A1, A2... An heissen unabhängig, wenn die Wahrscheinlichkeit der Schnittmenge dieser n Ereignisse gleich dem Produkt der Wahrscheinlichkeiten dieser Ereignisse ist paarweise unabhängig P(A B) = P(A) P(B) Die n Ereignisse A1, A2... An heissen paarweise unabhängig, wenn für jede Wahl von zwei Ereignissen, diese beiden Ereignisse unabhängig sind. 2 Zufallsvariable, Erwartungswert und Varianz 2.1 Erwartungswert Definition Sei X eine Zufallsvariable, dann ist der Erwartungswert E[X] definiert durch die gewichtete Summe E[X] = i x i p i = x i P(X = x i ) i 3

5 2.2 Varianz ist ein Maß für die Abweichung einer Zufallsvariable X von ihrem Erwartungswert E[X]. Sie hat ein anderes Mass als die Daten. Dieser Nachteil kann behoben werden, indem man von der Varianz zu deren Quadratwurzel, der Standardabweichung, übergeht. ( V[X] = E (X E[X]) 2) = E[X 2 ] E[X] E[X 2 ] E[X 2 ] = xi 2 p i i 2.4 Standardabweichung Die Quadratwurzel der Varianz heißt Standardabweichung. Sie ist die mittlere Abweichung vom Erwartungswert. Wenn der E[X] von mehreren Elementen berechnet wird, wird sie immer kleiner, da die mittlere Abweichung dann nicht mehr so gross ist. σ = V[X] bzw. σ 2 = E ( (X µ) 2) 2.5 Dichtefunktion b wenn a f (x) dx = P(a X b) P(X N) = Zusammenhang von Verteilungsfunktion und Dichtefunktion Die Verteilungsfunktion F erhält man als Integral über die Dichtefunktion: F(x) = x f (t) dt Umgekehrt gilt: Wenn die Verteilungsfunktion F differenzierbar ist, ist ihre Ableitung eine Dichtefunktion der zugehörigen Verteilung: f (x) = F (x) = df(x) dx Das Integral der Dichte über die ganze Achse muss 1 ergeben. f (x) dx = 1 4

6 2.6 Wahrscheinlichkeitsverteilung Verteilungen auf den reellen Zahlen können allgemein durch die (kumulative) Verteilungsfunktion F(x) beschrieben werden, die angibt, mit welcher Wahrscheinlichkeit die Zufallsvariable einen Wert kleiner oder gleich x annimmt: F(x) = P(X x) 2.7 Tschebyschow Ungleichung P [ X µ ɛ] V[X] ɛ 2 Aus dem Beweis der Ungleichung folgt dass die selbe Gleichung auch so stimmt: P [ X µ > ɛ] V[X] ɛ Bernoullis Gesetz der grossen Zahlen Die Wahrscheinlichkeit, dass der Mittelwert von n unabhängigen Zufallsvariablen mit Mittelwert µ und Varianz σ 2 mehr als ɛ von µ abweicht ist: 2.9 Verteilungen gleichverteilte Verteilung auch Gleichverteilung P [ M n µ > ɛ] σ2 ɛ 2 n 0 x < a, F(x) = x a b a x [a, b] 1 x > b Mit der Wahrscheinlichkeitsdichte 0 x < a ϕ(x) = 1 b a x [a, b] 0 x > b Sei X eine in [a, b] gleichverteilte Zufallsvariable, dann gilt E[X] = a + b 2 V[X] = (b a)2 12 5

7 2.9.2 Exponentielle Verteilung F(t) = { 1 e αt t > 0 0 t 0 mit Parameter α > 0 ϕ(t) = { αe αt t > 0 0 t 0 E[X] = 1 α E[X 2 ] = 2 α 2 V[X] = 1 α Standard Normalverteilung, auch Gauss Eine Zufallsvariable X heisst normalverteilt mit Erwartungswert und Varianz σ 2, wenn sie die Dichtefunktion ( f (x) = 1 σ 2π exp 1 ( ) ) x µ 2 2 σ hat. Man schreibt dann X N (µ, σ 2 ). Wenn nun X N (0, 1) dann nennt man die Variable X standard normalverteilt. In diesem Fall hat X die Dichte ϕ(x) = 1 2π e 1 2 x2 Es gilt dann für die Dichte f einer Zufallsvariablen X N (µ, σ 2 ) auch f (x) = 1 ( ) x µ σ ϕ. σ Die Summe der Integrale von bis von f (x) und ϕ(x) nach dx geben 1. Da man die Stammfunktion der Normalverteilungsfunktion nicht einfach so angeben kann, setzt man F(x) = x f (t)dt Insbesondere erhält man die Verteilung φ(x) einer standard normalverteilten Variable X durch x φ(x) = ϕ(t)dt Die Werte von φ(x) sind tabelliert. 6

8 Es gilt ausserdem die Gleichung: ( ) x µ F(x) = φ σ Wenn man die Formel für eine Summe ausrechnen möchte, sieht sie so aus: ( ) ( ) x nµ x nµ F(x) = φ = φ nσ 2 σ n Die Standardabweichung σ wird nicht einfach mit n multipliziert! Die Varianz hingegen kann mit n multipliziert werden, sowie der Erwartungswert. Darum wird die Varianz σ 2 mit n multipliziert, und dann davon die Standardabweichung berechnet Poisson Verteilung Die Zufallsvariable X heisst Poisson verteilt mit dem Erwartungswert (oder Parameter) λ > 0, wenn X nur ganzzahlige Werte 0 annimmt mit den Wahrscheinlichkeiten λ λn P[X = n] = e n! E[X] = λ E[X 2 ] = λ(1 + λ) V[X] = λ Die Poisson-Tabelle zeigt nicht die Wahrscheinlichkeit von P[X = 2] sondern von P[X 2]! Binomialverteilung ( n P(Y = k) = k ) M k (N M) n k N n = ( n k ) ( M N E[X] = p V[X] = p(1 p) ) k ( ) N M n k = N ( ) n p k (1 p) n k k Benutzen der Tabelle Wenn k aus der rechten Spalte genommen werden muss. Ist p = 1-(Tabellen p) bei Summen E[X] = np V[X] = np(1 p) Median und Mittelwert Der Median ist der Messwert in der Mitte. Der Mittelwert ist der Durchschnitt. Bsp. bei 9 Messwerten, ist der Median der 5. Messert. Mittelwert natürlich Durchschnitt. 7

9 2.10 Schätzen Punktschätzung Geschätzte Grössen symbolisiert man mit bsp. ˆµ = 5. Die Schätzung für µ sollte möglichst genau sein. Darum nimmt man den Durchschnitt. Sei A die Anzahl der Erfolge und sei p der Parameter einer Binomialverteilung (=Anteil). Dann erhält man ˆµ = X ˆp = A n := a Eine solche Schätzung nennt man Punktschätzung Intervallschätzung Ziel ist es, ein Intervall x ± e = [ x + e, x e] zu bestimmen, welches den gesuchten Wert µ mit hoher Wahrscheinlichkeit überdeckt. Für die Genauigkeit wählt man eine Zahl α, meistens α = 0.05 oder α = Das Intervall x ± e soll so gross sein, dass es µ mit der Wahrscheinlichkeit 1 α überdeckt Intervallschätzung, unbekannter Erwartungswert µ bei bekannter Varianz σ, normalverteilt ˆµ = X = 1 n µ x = µ σ x = n X i i=1 σ n X µ σ x N (0, 1) Der Durchschnitt X erfüllt dann X N (µ, σ 2 x ) Sei z 1 α 2 diejenige reele Zahl, für welche gilt φ(z 1 α 2 ) = 1 α 2 Z := x µ σ n Z ist genau φ(z) = 1 α 2 Z ist das Verhältnis zwischen e standardabweichung. φ(z) = 1 α 2 ist die Wahrscheinlichkeit das X im Intervall [1 e, 1] ist. Darum ist die Wahrscheinlichkeit das X im Intervall [1 e, 1 + e] ist, 1 α 8

10 Normalverteilung oder Student-T 1. Wenn σ aus einer grossen Menge schon vor der Stichprobe bekannt ist, dann Normalverteilung auch wenn Stichprobe 2. Bedingung nicht erfüllen würde. 2. Wenn n > 30 ist, dann Normalverteilung ansonsten Student-T. Einziger Unterschied zwischen Intervall und Student-T Schätzung ist schlussendlich, ist dass man das Z aus einer anderen Tabelle lesen muss. Abläufe sind sonst dieselben unbekannter Erwartungswert, bekannte Varianz, nicht normalverteilt Falls der Stichprobenumfang n gross genug ist, gehen wir gleich vor wie bei normalverteilten Populationen. n >= 30, manchmal muss er aber auch über 100 sein. z ist der skalierte Wert. z := x µ σ n Mit e bezeichnen wir die Abweichung. e = σ n z 1 α Student-T (unbekannte Varianz, normalverteilt) ô x = Standardfehler Bei einer Stichprobe von n Messwerten aus einer normalverteilten Population von Messwerten hat x µ ô x die sogenannte Student-t Verteilung e Formel, etvl. andere auch können weiter benutzt werden. n 1 Freiheitsgrade => Table D.5 percentace points of the t-distribution φ(t 1 α 2, n 1) = 1 α 2 Wenn Varianz aus Stichprobenvarianz gefolgert werden muss: ô x = e = ô x (z 1 α 2 ) = s n s n (z 1 α 2 ) binomialverteilte Population, unbekannte Varianz σ 2 Stichprobenvarianz s 2 = p(1 p) A ist die Anzahl der Erfolge, n die Anzahl der Messungen α = A n 9

11 für p kann nun einfach α eingesetzt werden. σ a = p(1 p) n unbekannter Erwartungswert, bei bekannter Varianz σ 2 einer binomialverteilten Population ( ) n P[A == k] = p k (1 p) n k k E[A] = np Varianz E[(A E[A]) 2 ] = σa 2 = np(1 p) Durchschnitt X = A n =: a = ˆp gilt dann µ a = µ x = p σ a = p(1 p) n e = ô x (z 1 α 2 ) 10