Mathematische und statistische Methoden II

Transkript

1 Methodenlehre e e Prof. Dr. G. Meinhardt 6. Stock, Wallstr. 3 (Raum ) Sprechstunde jederzeit nach Vereinbarung und nach der Vorlesung. Mathematische und statistische Methoden II Dr. Malte Persike persike@uni-mainz.de SS 2010 Fachbereich Sozialwissenschaften Psychologisches Institut Johannes Gutenberg Universität Mainz

2 Methodenlehre Mengenlehre Wk-Theorie Multiplikations satz Wechselseitigkeit Gegenereig- nisse Stochastische Unabhängigkeit Wenn gilt: p(b) = p(b A) werden die Ereignisse A und B stochastisch unabhängig genannt, weil die Wahrscheinlichkeit des Auftretens des Ereignisses B nicht vom Auftreten von A abhängt. Setzen wir die rechte Seite der Gleichung in das Multiplikationstheorem ein, erhalten wir: p(a B) = p(b A) p(a) = p(a) p(b) Kurz: p(a B) = p(a) P(B) Multiplikationssatz für stoch. unabh. Ereignisse

3 Methodenlehre Mengenlehre Wk-Theorie Multiplikations satz Stochastische Unabhängigkeit Verallgemeinerung des Multiplikationssatzes Wenn die Ereignisse A 1, A 2, A k insgesamt unabhängig sind, so gilt p(a 1 A 2 A k )= p(a 1 ) p(a 2 ) p(a k ) Wechselseitigkeit Gegenereig- nisse Achtung: Die Disjunktheit von Ereignissen hat mit der stochastischen Unabhängigkeit nichts zu tun. A und B sind disjunkt (A B = { }). Wenn aber A eingetreten ist, verändert sich p(b) zu p(b) / p(ω \ A), wird also größer, solange A { }. A B Ω

4 Methodenlehre Mengenlehre Wk-Theorie Multiplikations satz Wechselseitigkeit Gegenereig- nisse Stochastische Unabhängigkeit Wechselseitigkeit Wir haben beim Multiplikationstheorem gesehen, dass p(a B) = p(b A) p(a) = p(a B) p(b) Und beim Multiplikationssatz, dass für ein von A stochastisch unabhängiges Ereignis B [also p(b) = p(b A)] gilt: p(a B) = p(a) p(b) Einsetzen der zweiten Gleichung in die erste führt zu p(a B) p(b) = p(a) p(b) also p(a B)= p(a) Also: Ist B von A unabhängig, so ist es auch A von B.

5 Methodenlehre Mengenlehre Wk-Theorie Multiplikations satz Wechselseitigkeit Stochastische Unabhängigkeit Gegenereignisse Nach de Morgans Gesetzen gilt: A B= A B A B= A B Gegenereig- nisse Damit lässt sich zeigen, dass p ( A B ) = p ( A ) p ( B ) pa ( B) = pa ( ) pb ( ) pa ( B) = pa ( ) pb ( ) A B Wenn also die Ereignisse A und B stochastisch unabhängig sind, so sind es auch ihre Gegenereignisse und alle Paarungen daraus.

6 Diskrete Zufallsvariablen Eine Zufallsvariable, die abzählbar viele Werte annehmen kann (in endlich oder unendlich vielen Ausprägungen), wird als diskrete Zufallsvariable bezeichnet Das Ereignis, dass die diskrete Zufallsvariable X eine bestimmte (die i-te) Ausprägung annimmt, wird bezeichnet als X = x i Die Wk für X = x i wird als p(x = x i ) oder kurz p i bezeichnet p i ist eine Punktwahrscheinlichkeit

7 Diskrete Zufallsvariablen Übersicht

8 Diskrete Zufallsvariablen Wahrscheinlichkeitsverteilung Die Verteilung der p(x = x i ) wird als diskrete Wahrscheinlichkeitsverteilung bezeichnet. Sie beschreibt theoretische Punktwahrscheinlichkeiten und wird definiert als { } px ( = x) = p falls x x x f ( x ) = 0 sonst i i i 1 k Wert von X x 1 x 2 x i x k p(x = x i ) p(x 1 ) p(x 2 ) p(x i ) p(x k )

9 Diskrete Zufallsvariablen Verteilungsfunktion Die Verteilung der P(X x m ) wird als Verteilungsfunktion der Zufallsvariablen X oder kumulierte Wahrscheinlichkeitsverteilung bezeichnet. Sie beschreibt theoretische Intervallwahrscheinlichkeiten und wird definiert als F( x) = p( X x ) = p + p + + p = p m 1 2 m i i= 1 m Wert von X x 1 x 2 x m p(x x i ) p(x 1 ) p(x 1 ) + p(x 2 ) p(x 1 ) + p(x 2 ) + + p(x m )

10 Diskrete Zufallsvariablen Häufigkeit und Wahrscheinlichkeit Die empirische beobachtete Häufigkeit des Auftretens einer Realisation X = x i in einem Zufallsexperiment wird als h(x = x i ) geschrieben. h(x = x i ) wird auch als absolute Häufigkeit bezeichnet. Die relative Häufigkeit f(x = x i) ist dann definiert als der Quotient aus absoluter Häufigkeit und der Anzahl n aller Versuche, also f(x = x i ) = h(x = x i ) / n

11 Diskrete Zufallsvariablen Zusammenfassung Notation h x Absolute Häufigkeit eines Wertes x: ( ) Relative Häufigkeit eines Wertes x: (n = Anzahl aller Werte) f x ( ) = h x ( ) n (Empirische Häufigkeitsverteilung) g) Kumulierte absolute Häufigkeit ( ) ( ) bis zu einer Schranke u: i i ( ) i H u = h x x u Relative kumulierte Häufigkeit ( ) i i F u = f x x u bis zu einer Schranke u: ( ) ( ) i (Empirische Verteilungsfunktion)

12 Diskrete Zufallsvariablen Theoretische und empirische Wk-Verteilung Die empirische i Häufigkeitsverteilung it t il f(x) und ddie Wahrscheinlichkeitsverteilung p(x) sind konzeptuell strikt zu trennen Die empirische Verteilungsfunktion und die Verteilungsfunktion einer Zufallsvariablen sind ebenfalls konzeptuell strikt zu trennen Die theoretischen Verteilungen bedürfen keiner Daten, denn sie sind gegeben Die theoretischen Verteilungen bestimmen, was für die empirischen Verteilungen zu erwarten ist

13 Folgen unabhängiger g Ereignisse Kann ein Zufallsexperiment mehrfach unter demselben Komplex Ξ durchgeführt werden und sind die einzelnen Versuche stochastisch unabhängig, so spricht man von einem Versuch. Wenn eine einzelne Durchführung die Ergebnisse x 1, x 2 x k ergeben kann und diesen Realisierungen die Wahrscheinlichkeiten p(x 1 ), p(x 2 ),, p(x k ) zugeordnet sind, so ist die Wahrscheinlichkeit einer bestimmten Folge von n Ziehungen p x, x... x = p( x1) p( x2) p( xn) = p ( xi ) 1 2 n n i= 1

14 Folgen unabhängiger g Ereignisse Der Stichprobenraum Ω eines s umfasst alle möglichen Folgen der Ergebnisse der einzelnen Ziehungen. Beispiel: Eine Münze wird 20 Mal geworfen Wurf Nr. Ergebnis x 1 Kopf 0 2 Kopf 0 3 Zahl 1 4 Kopf 0 5 Zahl 1 Ein Elementarereignis

15 Diskrete Wk-Verteilungen Binomialverteilung Der Stichprobenraum Ω eines s umfasst alle möglichen Folgen der Ergebnisse der einzelnen Ziehungen. Für ein Experiment mit 2 disjunkten Ergebnissen gelte n sei die Anzahl aller Versuche mit Zurücklegen m sei die Anzahl günstiger Ergebnisse in den n Ziehungen p sei die Wk für jedes m q sei die Wk der übrigen n-m Ergebnisse, also, q = 1 - p n Dies ist die f( m, n, p) = m n m p q m Binomialverteilung

16 Inferenzstatistik Primer Das Prinzip des statistischen Testens Gustav Fechner, Urvater der llen Psychologie, entwickelte zentrale Methoden der modernen Psychophysik h mit genau einem Ziel: den Beweis zu führen, dass Pflanzen eine Seele haben. Er perfektionierte eine Methode der Mikrostimulation, auf die hin er eine biologische Reaktion und bei Pflanzen nachweisen wollte. Eine solche Reaktion wäre der Beleg, dass Pflanzen fühlen können. Damit wäre es zum Denken und schließlich zur Seele nicht mehr weit. Fechner führte insgesamt n=24576 Messungen von Reiz- Reaktionsmusters bei Pflanzen durch. Angenommen, Pflanzen zeigen die gewünschte Reaktion auch ohne Stimulation (d.h. zufällig) mit einer Wahrscheinlichkeit von p=.25. Fechner möge eine Reaktion in m=6306 Fällen finden. Haben Pflanzen eine Seele?

17 Inferenzstatistik Primer Das Prinzip des statistischen Testens Wenn die Wahrscheinlichkeitsfunktion eines Zufallsexperimentes theoretisch bekannt ist, können die bei einer Durchführung erwarteten empirischen Häufigkeiten bestimmt werden. Beobachtete absolute oder relative Häufigkeiten können dann mit den erwarteten Häufigkeiten verglichen werden. Wenn eine beobachtete Häufigkeit zu unwahrscheinlich ist, um unter der gegebenen g Wahrscheinlichkeitsfunktion zu entstehen, kann die Wahrscheinlichkeitsfunktion als nicht zutreffend betrachtet werden. Entweder sind dann ihre Parameter falsch definiert oder die Funktion selbst ist nicht zutreffend.

18 Inferenzstatistik Primer Das Prinzip des statistischen Testens Binomialtest Grundgedanke: Eine beobachtete Häufigkeit m in einem Experiment sollte im Bereich typischer erwarteter Häufigkeiten liegen. Diese erwarteten t Häufigkeiten it hängen bei binomialverteilten Zufallsvariablen von der Anzahl der Versuche n und den Auftretenswahrscheinlichkeiten p und q ab. Problem: Allein aufgrund der zufälligen Ziehung wird die beobachtete Häufigkeit schwanken (Stichprobenfehler). Frage: Wie extrem muss eine beobachtete Häufigkeit Frage: Wie extrem muss eine beobachtete Häufigkeit sein, damit wir begründet annehmen können, dass diese Beobachtung nicht passt?

19 Inferenzstatistik Primer Das Prinzip des statistischen Testens Binomialtest Die Häufigkeitsverteilung einer binomialverteilten Variablen ist bekannt, sie lässt sich durch eine mathematische Formel beschreiben n f ( mn,, p) = pmqn m m Daraus sind die erwarteten Häufigkeiten zu berechnen. Beim statistischen Testen fragen wir niemals nach der Punktwahrscheinlichkeit, sondern immer nach Intervallwahrscheinlichkeiten, z.b. f( X x i ) Ein so kleiner oder noch kleinerer Wert f( X x ) Ein so großer oder noch größerer Wert i 1 f( x < X < x ) Ein so extremer oder noch extremerer Wert i j

20 Inferenzstatistik Primer Das Prinzip des statistischen Testens Binomialtest Ist die berechnete Wahrscheinlichkeit zu klein, ist die Beobachtung einer so extremen Häufigkeit vermutlich nicht zufällig, sondern systematisch. Die Beobachtung ist dann statistisch signifikant. Problem: Wie klein ist zu unwahrscheinlich? Hier haben sich in der Praxis zwei Cut-Off Werte eingebürgert, die als α Niveaus oder Signifikanzniveaus bezeichnet werden. Es gilt: α 0.05 statistisch nicht signifikant α < statistisch signifikant α < 0.01 statistisch hochsignifikant

21 Inferenzstatistik Primer Das Prinzip des statistischen Testens Binomialtest In einem Experiment mit einer angenommenen Binomialverteilung f(m, n=24576, p=0.25) erhalte man ein m=6306. Man berechnet nun die Auftretenswahrscheinlichkeit t h hk it p(x m) unter der Annahme, dass die angenommene Häufigkeitsverteilung gilt. Es sei p= Nach unseren Konventionen würden wir auf jedem α- Niveau sagen, dass m signifikant ifik ist. Aber Achtung: Das m=6306 hat eine Auftretenswahrscheinlichkeit von p(m)= Mit diesem p kann es also auch dann vorkommen, wenn die angenommene Binomialverteilung zutrifft.

22 Inferenzstatistik Primer Das Prinzip des statistischen Testens Binomialtest Die Aussage, ein m sei statistisch signifikant, ist eine Wahrscheinlichkeitsaussage bei der immer ein Restirrtum verbleibt, die Irrtumswahrscheinlichkeit. Diese Irrtumswahrscheinlichkeit hängt nicht von der konkret erhaltenen Wahrscheinlichkeit p ab, sondern vom gewählten Signifikanzniveau α. Bei α=0.05 beträgt die Irrtumswahrscheinlichkeit also 5%, bei α=0.01 ist sie 1%. Praxis: In der Praxis wird α demzufolge entweder als α Niveau, Signifikanzniveau oder auch Irrtumswahrscheinlichkeit bezeichnet.

23 Inferenzstatistik Primer Das Prinzip des statistischen Testens Binomialtest Beobachtung im Experiment: X=m Frage: Kann m aus einer bestimmten Verteilung stammen? Geht die Höhe der Häufigkeit auf einen Stichprobenfehler zurück? (1) Bestimmung der Verteilung der Zufallsvariablen X (2) Festlegung g eines Signifikanzniveaus α (3) Berechnung der Wahrschein- lichkeit für dieses oder ein extremeres m: z. B. p(x m) (4) Vergleich von p mit α und Treffen der Signifikanzaussage Aber: Bei dieser Aussage irrt man sich mit einer Wahrscheinlichkeit von α 100%

24 Diskrete Wk-Verteilungen Poisson Verteilung Für ein Experiment mit 2 disjunkten Ergebnissen gelte Die Wahrscheinlichkeit, dass ein Ereignis in einem bestimmten Zeitintervall auftritt, sei λ. Die Wahrscheinlichkeit h hk i des Eintretens von m Ereignissen i in einem Zeitintervall ist nur von der Länge des Intervalls abhängig, nicht von seiner Lage auf der Zeitachse Ereignisse sind stochastisch unabhängig Die Wahrscheinlichkeit für das Eintreten von m Ereignissen in einem Zeitintervall ist dann f ( m, λ ) = e λ m λ m! Poisson Verteilung (e = Eulersche Zahl; 2.718)

25 Diskrete Wk-Verteilungen Poisson Verteilung f( m, λ) = e λ m λ m!! λ wird idauch als Intensitätsparameter t der Poisson- Verteilung bezeichnet Anders als die Binomialverteilung ist die Poisson- Verteilung unendlich abzählbar.

26 Diskrete Wk-Verteilungen Poisson Verteilung als Approximation der Wenn n groß ist und p klein, ist die Bestimmung von Wahrscheinlichkeiten aus der Binomialverteilung mathematisch aufwändig. Die Poisson-Verteilung approximiert die Binomialverteilung für seltene Ereignisse sehr gut Dabei wird angenommen, dass λ = n p np m e ( n p) n m n m f( m, n p) = p (1 p) = f( m, n, p) m! m Poisson Binomial

27 Diskrete Wk-Verteilungen Poisson Verteilung als Approximation der Die Poisson Verteilung wird wegen ihrer Nähe zur Binomialverteilung mit kleinem p auch häufig als Verteilung für seltene Ereignisse bezeichnet. Hier ist streng zu unterscheiden zwischen einer kleinen Wahrscheinlichkeit p und einer theoretisch beliebig großen Anzahl der seltenen Ereignisse n p. Die Güte der Approximation bezieht sich auf den relativen Approximationsfehler, d.h. den Quotienten aus der Binomial-Wk und der Poisson-Wk

28 Methodenlehre e e Relevante Excel Funktionen Diskrete Wahrscheinlichkeitsverteilungen BINOMVERT() POISSON() oder EXP() und POTENZ() bzw. ^ ( hoch hoch ) SUMME()