Statistische Inferenz

Transkript

1 Statistische Inferenz

2 Prinzip der statistischen Inferenz Datensätze = Stichproben aus einer Gesamtpopulation Beispiel : Messung der Körpertemperatur von 106 gesunden Individuen man vermutet, dass sie repräsentativ einer größeren Population sind : alle gesunden Menschen / alle Menschen /... Beschreibung der Stichprobe Parameter der Gesamtpopulation Anhand der Gesamtverteilung können Vorhersagen getrofen werden außergewöhnliche Körpertemperatur krank? Statistische Inferenz : von der Probe zur Gesamtpopulation x1, x2, x3, X Erstellung eines Models

3 Zufallsvariablen Eine Zufallsvariable X beschreibt den (zufälligen) Ausgang eines Versuchs oder einer Messung Schreibweise: X, Y, : Zufallsvariable (~ Prozess) Würfelwert bei einem Wurf, Wahlverhalten einer Person, Gewicht einer Maus nach Behandlung x, y, : Werte (= Realisierungen) der Zufallsvariablen (numerische Werte bei einer kontinuierlichen ZV, kategorielle Werte bei einer diskreten ZV) Ergebnis von 3 Würfen, Stimmen von Person A, B, C Gewicht von Maus M001 / M002 / M003, oder Messung von M001 durch Ina, Iris und Ivan man unterscheidet diskrete ZV : Realisierungen sind endlich oder abzählbar (z.b. Anzahl der Kinder pro Familie) kontinuierliche ZV : Defnitionsbereich ist jeder beliebige numerische Wert (z.b. Gewicht einer männlichen Person, Gewicht einer Versuchsmaus nach 3-tägiger Diät)

4 Wahrscheinlichkeitsverteilungen Zufallsvariable X Erwartungswert E(X) : theoretischer Mittelwert Varianz Var(X) : Varianz bei unendlich grosser Probengröße Wahrscheinlichkeitsverteilung (diskrete ZV) oder Verteilungsdichte (kont. ZV) : p(x) Diskrete Verteilung p(x = 2) : Wahrscheinlichkeit, dass X den Wert 2 annimmt. Kontinuierliche Verteilung p(x = 2) = 0 p(2 X 3) > 0

5 Zahlen aus einer Verteilung ziehen Oft werden Zufallszahlen generiert, um eine Zufallsvariable zu simulieren Die Verteilung dieser Zufallszahlen entspricht einer vordefnierten Verteilungsdichte. Diskrete Gleichverteilung Diskrete Gleichverteilung Diskrete Verteilung

6 Beispiel : Diskrete Verteilungen Zufallsvariable X = Anzahl der sechser bei 10 Würfelwürfen X {0,,10} Bei 10 Reihen (also 10 x 10 Würfe) Bei 1000 Reihen (also 1000 x 10 Würfe) Diskrete Verteilung : es können nur die Werte 0,1,,10 angenommen werden

7 Kumulative Verteilung diskrete Zufallsvariable X Verteilung: p(k) Kumulative Verteilung : P+(k) = P(x k) ; P-(k) = P(x k)

8 Kumulative Verteilung stetige Zufallsvariable X Verteilungsdichte: p(x) Kumulative Verteilung : P+(x0)=P(x x0) ; P-(x0)=P(x x0) P(x x0) P(x x0) Kumulative Verteilung der Gleichverteilung? diese Fläche entspricht......diesem Wert

9 Binomialverteilung Anzahl der Erfolge in einer Reihe von L unabhängigen Versuchen mit Erfolgswahrscheinlichkeit p Beispiel: DNA Polymerase bei jeder Position ist die Fehlerrate p konstant, unabhängig Sequenz der Länge L : Verteilung der Anzahl der Fehler? Wie wird die kumulative Wahrscheinlichkeit berechnet? Ist das nicht eine Normal Verteilung???

10 Poissonverteilung Regen fällt auf Gehwegplatten, zuerst leicht...

11 Poissonverteilung... fällt auf Gehwegplatten, zuerst leicht... dann immer stärker...

12 Poissonverteilung... fällt auf Gehwegplatten, zuerst leicht... dann immer stärker... dann wird's Zeit nach Hause zu gehen... Poisson Verteilung

13 Poisson Verteilung Interpretation: Anzahl der zu erwartenden Ereignisse in einer bestimmten Zeitspanne konstante Rate und Unabhängigkeit einziger Parameter : Erwartungswert λ Unterschied zu der Binomialverteilung??

14 (negative) Binomialverteilung unabhängige Versuche, konstante Erfolgsrate p Verschieden Fragestellungen: Anzahl der Erfolge in L Versuchen? Binomialverteilung, 2 Parameter (L,p) Wartezeit bis r Erfolge erziehlt? Negative Binomialverteilung, 2 Parameter (r,p) Beispiel: DNA Polymerase, Genauigkeit (1-p) (z.b. Taq-Polymerase, Fehlerrate p=1/900) wie ist Verteilung der Fragmentlängen wenn ich höchstens r=3 Fehler tolerieren kann?

15 (negative) Binomialverteilung p = 1/900 r = 3 Fehler Hier ist k die Anzahl der Basen ohne Fehler

16 (negative) Binomialverteilung Varianz der NB kann bei konstantem Erwartungswert beliebig groß sein

17 RNA-seq Daten Patient A Patient B Bei RNA-seq werden die mrna Moleküle als kleine Fragmente ( reads ) sequenziert Diese werden dann auf das Genom gemappt; für jeden Transkript i und jedes Replikat j kann die Anzahl der reads bestimmt werden. mi,j

18 RNA-seq Daten Variance of number of reads (log) Beispiel von Überdispersion Verhältniss Mittelwert / Varianz bei Poisson Mean number of reads (log) Jeder Punkt entspricht einem Gen; es gibt biologische Replikate X-Axis : Mittelwert der Anzahl reads über die Replikate Y-Axis : Varianz der Anzahl reads über die Replikate Die Poissonverteilung ist keine gute Näherung für die Anzahl von reads bei RNA-seq, da die Varianz grösser ist als der Mittelwert

19 Normalverteilung spielt eine bedeutende Rolle in der Statistik (siehe zentraler Grenzwertsatz) 2 Parameter : Erwartungswert μ und Standardabweichung σ Verteilungsdichte :

20 Normalverteilung Normalverteilung N(μ=0,σ=1) = Standardnormalverteilung X ~ N(μ,σ) N(0,1) durch eine Z-Transformation: Achtung : Werte sind jetzt dimensionslos!

21 Eigenschaften wenn man Zufallszahlen nach einer SNV zieht liegen: 68% der Daten zwischen -1 und % der Daten zwischen -2 und +2 95% der Zahlen zwischen und % der Zahlen zwischen und +1.64

22 Verteilungen = süditalienisches Dorf alle irgendwie miteinander verwandt...

23 Poisson vs Binomial

24 Poisson vs Normal

25 Verteilungen = süditalienische Hochzeitsparty

26 Statistische Inferenz was kann man anhand von Stichproben über die Gesamtpopulation lernen? Erwartungswert, Varianz,... Wichtige Fragen: 1. Wie kann man diese Größen schätzen? n=3 2. Wie genau sind diese Schätzungen? n=4 n=5 n=3

27 Zufallsvariablen und Stichproben Zufallsvariable X Stichprobe/Realisierungen xi Wahrscheinlichkeitsverteilung Verteilungsdichte p(x) Histogramm h(xi) Erwartungswert E(X) = μ Mittelwert x=m Varianz Var(X) = σ2 Stichprobenvarianz Var(xi) = s2 Größen der ZV werden meistens in griechischen Buchstaben dargestellt, die der Stichproben in römischen Sind m und s gute Schätzer für μ und σ?

28 Inferenz Beispiel: Anzahl von Kindern pro Familie? Jeden Tag befragen wir n Familien, und berechnen den Mittelwert Ni = Anzahl Kinder der i-ten befragten Familie (Zufallsvariable) Die ZV Ni sind unabhängig voneinander, und haben die gleiche Verteilung ( independent, identically distributed oder i.i.d.) Mn ist auch eine Zufallsvariable; man kann ihre Verteilung, Erwartungswert und Varianz für verschiedene n bestimmen Zufallsvariable Mn Realisierungen mnj (j = Tag der Messung)

29 Inferenz Tag 1 Tag 2 Tag 1 Tag 3 Tag 1 Tag 2 Verteilung der Mittelwerte wird immer schmaler und symmetrischer Tag 2 Tag 3

30 Verteilung der geschätzten Mittelwerte für jeden Wert n, berechne den Mittelwert der Verteilung der Mittelwerte die Standardabweichung Standardfehler = Standardabweichung der Verteilung der Mittelwerte Probengröße Probenmittelwert = guter Schätzer des Erwartungswertes

31 Standardfehler Standardfehler = Fehler bei der Schätzung des Erwartungswertes Standardabweichung = Streuung der Probenwerte Standardfehler Standardabweichung

32 Schätzung des Mittelwertes Ursprüngliche Verteilung von N Verteilung der Mittelwerte über steigende Probensätze Mittelwert Streuung

33 Zentraler Grenzwertsatz Verteilung der Mittelwerte über steigende Probensätze Mittelwerte werden normalverteilt wenn n wächst Zentraler Grenzwertsatz

34 Verteilung der geschätzten Varianz Stichprobenvarianz : Verteilung der Varianzen über steigende Probensätze Mittelwert Streuung

35 Verteilung der geschätzten Varianz geschätzte Varianz (= Stichprobenvarianz) tendiert nur asymptotisch zum Wert der Varianz!

36 Verteilung der geschätzten Varianz Verteilung der Varianzen über steigende Probensätze

37 Verteilung der geschätzten Varianz ist ein erwartungstreuer Schätzer der Populationsvarianz (=unbiased estimator) wird als Probenvarianz bezeichnet

38 Konfdenzintervall Zentraler Grenzwertsatz große Probe : Realisierung in 95% der Fälle ist kleiner als t95=1.96? 95% Konfdenzinterval

39 Konfdenzintervall Zentraler Grenzwertsatz kleine Probe : in 95% der Fälle ist kleiner als t95,n-1 95% Konfdenzinterval

40 Kritische t-werte df Normal t_ t_ Ab n=20 ist t95=2 eine gute und einfache Approximation

41 Bedeutung des Konfdenz Intervals 95% Konfdenzinterval : 100 Stichproben jeweils n Elemente aus der gleichen Population mit Mittelwert μ Schätzwert mn mit 95% Konfdenz Interval wahre Mittelwert μ liegt in ~95 Fällen im Konfdenz Interval.

42 Konfdenzintervall bei Poisson Verteilung in meiner Rosinenschnecke fnde ich l=20 Rosinen Was steht wohl im Rezept? Hier kann σ ersetzt werden durch die Standardabweichung der Poisson Verteilung!

43 Konfdenzintervall bei Poisson Verteilung Strategie 1 : addiere die Zahlen l10 = Vorteil : wenn k klein ist, kann Pois(k) nicht durch die Normalverteilung approximiert werden; dagegen ist Pois(kN) ~ normal

44 Konfdenzintervall bei Poisson Verteilung Strategie 1 : addiere die Zahlen l10 = Vorteil : wenn k klein ist, kann Pois(k) nicht durch die Normalverteilung approximiert werden; dagegen ist Pois(kN) ~ normal

45 Konfdenzintervall bei Poisson Verteilung Strategie 2 : Konfdenzintervall für den Mittelwert k =