Mathematische und statistische Methoden II

Transkript

1 Prof. Dr. G. Meinhardt 6. Stock, Wallstr. 3 (Raum ) Sprechstunde jederzeit nach Vereinbarung und nach der Vorlesung. Mathematische und statistische Methoden II Dr. Malte Persike persike@uni-mainz.de SoSe 2011 Fachbereich Sozialwissenschaften Psychologisches Institut Johannes Gutenberg Universität Mainz Folie 1

2 Merkmale & Grundlagen Folie 2 Eigenschaften, deren Werte bei den statistischen Einheiten beobachtet werden, heißen Merkmale Die Werte, die ein Merkmal annehmen kann, heißen Ausprägungen Die Ausprägungen eines Merkmals können beliebiger Art sein (z.b. Worte, Formen, Farben etc.) Eine Variable wird definiert, indem den Ausprägungen des Merkmals Zahlen zugeordnet werden. Diese Zahlen heißen Realisationen oder Werte. Merkmal Punkte auf Fläche 2 5 Variable Zahlen

3 Merkmale & Grundlagen Folie 3 Eigenschaften, deren Werte bei den statistischen Einheiten beobachtet werden, heißen Merkmale Die Werte, die ein Merkmal annehmen kann, heißen Ausprägungen Die Ausprägungen eines Merkmals können beliebiger Art sein (z.b. Worte, Formen, Farben etc.) Eine Variable wird definiert, indem den Ausprägungen des Merkmals Zahlen zugeordnet werden. Diese Zahlen heißen Realisationen oder Werte. Merkmal Punkte auf Fläche Variable Zahlen

4 Merkmale & Notation werden mit Großbuchstaben symbolisiert, häufig verwendet man X und Y Die Realisationen einer werden dann mit den entsprechenden Kleinbuchstaben gekennzeichnet, also x und y Die Menge aller möglichen Realisationen ist der Wertebereich einer Folie 4

5 Notation Frage: Wie werden Realisationen formal kodiert? Ziel: Eine symbolische Schreibweise für Der Wert der vierten Ausprägung von X zu finden Hat eine Variable X genau k mögliche Realisationen, so werden diese mit x 1, x 2,, x k indiziert Laufindizes (oft i oder j) helfen, die einzelnen Realisationen symbolisch zu adressieren (Beginn bei 1). x1: 1, wenn <18 Alter X = x2: 2, wenn <68 x3: 3, wenn 68 x1: 0, wenn <18 Alter X = x2: 18, wenn <68 x3: 68, wenn 68 Folie 5

6 Notation Folie 6 Frage: Wie werden Realisationen formal kodiert? Ziel: Eine symbolische Schreibweise für Der Wert der vierten Ausprägung von X zu finden Hat eine Variable X genau k mögliche Realisationen, so werden diese mit x 1, x 2,, x k indiziert Laufindizes (oft i oder j) helfen, die einzelnen Realisationen symbolisch zu adressieren (Beginn bei 1). Das Symbol x j mit j = 1 k bezeichnet dann die j-te Realisation der X. Diese Indizierung ist nur für diskrete sinnvoll, da stetige unendlich viele Realisationen haben

7 Definition werden immer über eine mathematische Formulierung definiert, z.b. Merkmal X Variable x: 1 1, 0, wenn x: 2 2, 1, wenn = x 6 : 6, 5, wenn Die extensionale Definition zählt alle Realisationen der auf. Folie 7

8 Definition werden immer über eine mathematische Formulierung definiert, z.b. Merkmal Variable { 0 } X = + Die intensionale Definition gibt eine Vorschrift an, die die Variable eindeutig spezifiziert. Folie 8

9 Typisierung von Merkmalen und Folie 9 Die wichtigste Typisierung unterschied diskrete von stetigen (kontinuierlichen) Daten Hierbei sind Typen von Merkmalen und Typen von streng zu unterscheiden. Alter ist ein stetiges Merkmal. Eine Variable Alter kann aber diskret definiert werden als x 1: 0, wenn <18 Alter X = x 2: 1, wenn <68 x 3: 2, wenn 68 Gleiches gilt z.b. für Intelligenz, Schulleistung, Sehvermögen, Fahreignung

10 & Messungen Unterscheidung Die empirische Feststellung der Realisation einer wird als Messung bezeichnet Dabei ist zu unterscheiden zwischen der Beobachtung der Ausprägung des Merkmals und der Messung der Realisation der Denn: Die Beobachtung kann eine Information in beliebiger Form erheben (z.b. verbal, bildlich), die Messung liefert immer eine Zahl. Die gemessenen Zahlenwerte einer heißen Messwerte Folie 10

11 Das Zufallsexperiment Von zu Folie 11 Eine Variable wird zur, wenn ihre Realisation in einem Zufallsexperiment festgestellt wird. (Zufalls-)Experiment = Ein Satz von Regeln, unter denen eine bestimmte Handlung ausgeführt wird (Bedingungskomplex Ξ, Xi ) Trial = Eine Durchführung des Experimentes Ergebnis = Beobachtung am Ende des Trials (in beliebiger Form, z.b. als Zahl, Bild, Symbol, Farbe etc.) Ereignis = Jede beliebige Menge von Ergebnissen Achtung: Ergebnisse & Ereignisse sind noch nicht zwangsläufig Realisationen einer

12 Das Zufallsexperiment Von zu Beispiel I: Einmaliger Würfelwurf Zufallsexperiment (Ξ): Ein 6-seitiger Würfel ist einmal zu werfen. Er kann nicht auf einer Kante liegen bleiben. Ergebnis ist die Augenzahl der oben liegenden Seite. Ergebnisse: Jede mögliche Augenzahl (1, 2, 3, 4, 5, 6) Ereignisse: 1, 1 oder 6, Augenzahl 3, ungerade Zahl, irgendeine Zahl Trial: Der einmalige Wurf des Würfels Folie 12

13 Das Zufallsexperiment Von zu Beispiel II: Zweimaliger Münzwurf Zufallsexperiment (Ξ): Eine Münze ist zweimal zu werfen. Sie kann nicht auf einer Kante liegen bleiben. Ergebnis ist die oben liegende Seite. Ergebnisse: Jede mögliche Kombination der zwei Münzen (K+K, K+Z, Z+K, Z+Z) Folie 13 Ereignisse: zweimal dieselbe Seite, Kein Kopf Trial: Der zweimalige Wurf der Münze Achtung: Die Durchführung von 2 Trials des s Eine Münze wird einmal geworfen ist ein anderes Experiment.

14 Das Zufallsexperiment Von zu Beispiel III: Zulassung zum Psychologiestudium Zufallsexperiment (Ξ): Aus 782 Bewerbern werden 44 verschiedene Personen zufällig ausgewählt. Ergebnis ist die Menge der 44 Personen. Ergebnisse: Jede Menge von 44 Personen Ereignisse: die 44 Besten, die 44 Besten oder die 44 Schlechtesten, jede Auswahl von 44 Personen aus den besten 391 Trial: Die einmalige Auswahl von 44 Personen Achtung: Die Durchführung von 44 Trials des s Aus 742 Bewerbern wird 1 Person ausgewählt ist ein anderes Experiment. Folie 14

15 Das Zufallsexperiment Von zu Das Zufallsexperiment ist in weiten Teilen ein sehr deterministisches Konzept, denn der Ablauf eines Trials ist a-priori vollständig bestimmt die möglichen Ergebnisse sind a-priori vollständig bestimmt nur das konkrete Ergebnis (die Beobachtung) ist a-priori unbestimmt Daher kann sich die Statistik dem Verständnis des s über mathematische Hilfsmittel nähern, nämlich der Mengenlehre Folie 15

16 Ereignisse & Elementarereignisse Verbindung zur Mengenlehre Definition: Ergebnisse eines s sind immer Mengen. Diese Mengen können auch nur aus einem Element bestehen. Beispiel I: Einmaliger Würfelwurf {1}, {2}, {3}, {4}, {5}, {6} Beispiel II: Zweimaliger Münzwurf {K, K}, {K, Z}, {Z, K}, {Z, Z} Beispiel III: IQ-Test {0}, {1}, {2},, {100}, {101}, Folie 16

17 Ereignisse & Elementarereignisse Verbindung zur Mengenlehre Es galt: Ereignis = Jede beliebige Menge (Kombination) möglicher Ergebnisse eines Trials Elementarereignis = die kleinste Menge disjunkter Ereignisse, in die sich die möglichen Ergebnisse eines Trials zerlegen lassen Zwei Ereignisse E 1 und E 2 heißen disjunkt (paarweise unvereinbar), wenn gilt E E = 1 2 Folie 17 Schnittmenge Unmögliches Ereignis

18 Ereignisse & Elementarereignisse Verbindung zur Mengenlehre Beispiel I: Beim Wurf eines Würfels lauten die Elementarereignisse {1}, {2}, {3}, {4}, {5}, {6}, nicht aber {{2}, {4}, {6}} oder {{1},{ 5}} (obwohl diese disjunkt sind) Folie 18 Beispiel II: Beim Wurf zweier Würfel sind die Elementarereignisse {1,1}, {1,2}, {1,3},, {6,5}, {6,6}, nicht aber {{1, 6}, {6, 1}} oder {{1, 1}, {3, 3}, {6, 6}} (und vor allem nicht das Ereignis {1}, das überhaupt nicht vorkommen kann)

19 Ereignisse & Elementarereignisse Verbindung zur Mengenlehre Die vollständige Menge der Elementarereignisse eines s heißt Ω. Der umfasst alle Elementarereignisse (also alle möglichen Ergebnisse) eines s Der ist eine Menge Beispiel: Der beim einmaligen Würfelwurf ist Ω = {1, 2, 3, 4, 5, 6} Hinweis: Eigentlich müsste man schreiben: Ω = {{1}, {2}, {3}, {4}, {5}, {6}} Folie 19

20 Ereignisse & Elementarereignisse Partitionierung Jedes Ereignis E teilt den gesamten Ω immer in zwei Untermengen Ein Teil der Elementarereignisse gehört zum Ereignis E, der andere Teil gehört nicht dazu Diese Aufteilung nennt man Partitionierung des s Alle geraden Augenzahlen E = {2, 4, 6} Folie 20

21 Ereignisse & Elementarereignisse Partitionierung Jedes Ereignis E teilt den gesamten Ω immer in zwei Untermengen Ein Teil der Elementarereignisse gehört zum Ereignis E, der andere Teil gehört nicht dazu Diese Aufteilung nennt man Partitionierung des s Eins oder Sechs E = {1, 6} Folie 21

22 Ereignisse & Elementarereignisse Partitionierung Jedes Ereignis E teilt den gesamten Ω immer in zwei Untermengen Ein Teil der Elementarereignisse gehört zum Ereignis E, der andere Teil gehört nicht dazu Diese Aufteilung nennt man Partitionierung des s Drei E = {3} Folie 22

23 Ereignisse & Elementarereignisse Partitionierung Jedes Ereignis E teilt den gesamten Ω immer in zwei Untermengen Ein Teil der Elementarereignisse gehört zum Ereignis E, der andere Teil gehört nicht dazu Diese Aufteilung nennt man Partitionierung des s Irgend eine Zahl E = {1, 2, 3, 4, 5, 6} Folie 23

24 Ereignisse & Elementarereignisse Partitionierung Jedes Ereignis E teilt den gesamten Ω immer in zwei Untermengen Ein Teil der Elementarereignisse gehört zum Ereignis E, der andere Teil gehört nicht dazu Diese Aufteilung nennt man Partitionierung des s Keine Zahl E = { } Folie 24

25 Ereignisse & Elementarereignisse Verbindung zur Mengenlehre Folie 25 Die Menge aller Kombinationen von Ereignissen aus dem heißt Sigma-Algebra σ Zusätzlich enthält σ noch das unmögliche Ereignis σ umfasst also alle möglichen Kombinationen aus den Elementarereignissen plus Achtung: Dabei spielt die Reihenfolge der Elementarereignisse keine Rolle. Beispiel: Einmaliger Münzwurf Elementarereignisse: K, Z, S : Ω = {K, Z, S} Sigma-Algebra: σ = {{ }, {K}, {Z}, {S}, {K,Z}, {K,S}, {Z,S}, {K,Z,S}}

26 Ereignisse & Elementarereignisse Verbindung zur Mengenlehre σ = {{ },{ K},{ Z},{ S},{ K, Z},{ K, S},{ Z, S},{ K, Z, S} } Die Anzahl der Elemente in der σ-algebra nennt man Mächtigkeit Wenn der Ω insgesamt k Elementarereignisse enthält, so gilt für die Mächtigkeit der σ-algebra σ = 2 k Schreibweise für Mächtigkeit Folie 26

27 Ereignisse & Elementarereignisse Verbindung zur Mengenlehre σ = {{ },{ K},{ Z},{ S},{ K, Z},{ K, S},{ Z, S},{ K, Z, S} } Die σ Algebra erfüllt das Kriterium der Abgeschlossenheit für das betrachtete Zufallsexperiment. Ω Es erfüllt folgende Axiome (E sei 1 von k Ereignissen aus σ ): 1. Ω σ und σ Sicheres/unmögliches Ereignis in σ 2. Wenn E σ, dann auch Ω ohne E σ Komplementereignis in σ 3. E 1 E 2 E k σ und E 1 E 2 E k σ Vereinigungs-/Schnittmenge in σ Also: Alle denkbaren Ausgänge des s und Kombinationen daraus sind in σ enthalten. Folie 27 Frage: Was ist hier die Zufallsvariable?

28 Definition Eine Zufallsvariable ist eine 1:1 Abbildung ( bijektiv ) der Elemente des s Ω auf eine Menge von Zahlen. Es gelten alle Regeln, die bereits für eingeführt wurden. Beispiel: x: 1-1, 0, wenn "K" Ω= { KZS,, } X ( Ω ) = x 2 : 1, wenn "Z" x: : 0, 2, wenn "S" 3 Folie 28

29 Prinzip Folie 29 Beispiel: Experiment = Eimaliger Münzwurf Definition eines s: Ξ Mögliche Ergebnisse eines Trials: Kopf, Zahl, Seite Durchführung eines Trials und Feststellung des Ergebnisses: Zahl Definition des s Ω und damit auch von σ Definition einer X(Ω) und damit auch von X(σ) Messung: X = 1 Frage: Was bedeutet zufällig?

30 Laplace Kolmogoroff Geschichte Definition Vererbung Beispiele Geschichte der WT Anfänge Mitte des 17. Jh. (Huygens, Pascal, Fermat, Bernoulli). Aufgaben des Glücksspiels. Nur Arithmetik und Kombinatorik. Weiterentwicklungen im Jh. durch Laplace, Gauss, Poisson: Fehlertheorie, Ballistik, Populationsstatistik. Durchbruch zu Beginn des 20. Jh: Entwicklung der W- Theorie, Fundament im axiomatischen Aufbau (Kolmogoroff). Theorie der stochastischen Prozesse (Wiener, Markoff, Chintchin). Folie 30 Heute zentraler Bestandteil wiss. Betätigung: Informationstheorie, Physik, Bevölkerungsstatistik, Epidemiologie, Materialprüfung, Statik, Personalauswahl, psychologische Testung, Versuchsplanung und Stichprobentheorie.

31 Laplace Kolmogoroff Geschichte Definition Vererbung Beispiele Folie 31 Die Wahrscheinlichkeitsdefinition von Laplace Wahrscheinlichkeiten im Grundannahme: Alle Elementarereignisse ω im Ω sind gleichmöglich Wenn der die k Elementarereignisse ω 1 bis ω k enthält, so ist die Wahrscheinlichkeit für jedes von diesen einfach p ω = ( ) p(ω) ist demnach eine auf dem definierte mathematische Funktion (i.e. eine Konstante), die so genannte Wahrscheinlichkeitsfunktion. 1 k

32 Laplace Kolmogoroff Geschichte Definition Vererbung Beispiele Folie 32 Die Wahrscheinlichkeitsdefinition von Laplace Wahrscheinlichkeiten in der σ-algebra Jedem Ereignis E, welches der σ-algebra angehört, kann nun ebenfalls eine Wahrscheinlichkeit zugewiesen werden. m = Mächtigkeit der Menge an gleichmöglichen Elementarereignissen aus Ω, die Teilereignis m pe ( ) = von E sind. k Günstige durch Mögliche k = Mächtigkeit des es (also Anzahl aller Elementarereignisse aus Ω) p(e) ist wieder eine Wahrscheinlichkeitsfunktion, diesmal definiert auf der σ-algebra.

33 Laplace Kolmogoroff Geschichte Definition Vererbung Beispiele Folie 33 Die Wahrscheinlichkeitsdefinition von Laplace Wahrscheinlichkeiten in der σ-algebra Laplaces Definition der Wahrscheinlichkeitsfunktion p(e) beruht auf dem Prinzip der Partitionierung Das Ereignis E partitioniert den in m Elementarereignisse, die Teil von E sind. k m Elementarereignisse, die nicht Teil von E sind Die Wahrscheinlichkeit p(e) ist also einfach die Summe der Wahrscheinlichkeiten seiner m Elementarereignisse m pe ( ) = = k k k k m-mal

34 Laplace Kolmogoroff Geschichte Definition Vererbung Beispiele Folie 34 Die Wahrscheinlichkeitsdefinition von Laplace Vererbung Frage: Der Ω ist noch keine Zufallsvariable wie erhält man deren Wahrscheinlichkeiten? Definition: Die Zufallsvariable erbt die Wahrscheinlichkeitsfunktion des s, auf dem sie beruht. : Zufallsvariable: p Ω= { Bube, Dame, König, As} ( Ω ) = { 1, 1, 1, 1 } { : 0, : 1, : 2, : 4} X = x x x x ( ) = { 1, 1, 1, 1 } p X

35 Laplace Kolmogoroff Geschichte Definition Vererbung Beispiele Folie 35 Die Wahrscheinlichkeitsdefinition von Laplace Vererbung Vollständige Schreibweise für Zufallsvariable und Wahrscheinlichkeitsfunktion: X ( ) p X x1: 0, wenn Bube x2: 1, wenn Dame = x3: 2, wenn König x3: 4, wenn As ( x ) p X = p X = = p X p X = 1 ( x ) 2 ( = x ) 3 ( x ) 4 : : : :

36 Laplace Kolmogoroff Geschichte Definition Die Wahrscheinlichkeitsdefinition von Laplace Beispiele Vererbung Summe von 2 Würfelwürfen Beispiele Anzahl von Zahl bei 3 Münzwürfen Frage des Landsknechts an Huygens Folie 36