Bereits seit Generationen kommt es immer wieder zu neuen Glaubenskriegen in der Wissenschaft... Heliozentrisches Weltbild Kopernikus. vs.

Transkript

1 Bereits seit Generationen kommt es immer wieder zu neuen Glaubenskriegen in der Wissenschaft... Heliozentrisches Weltbild Kopernikus vs. Geozentrisches Weltbild Ptolemäus

2 Bereits seit Generationen kommt es immer wieder zu neuen Glaubenskriegen in der Wissenschaft... Welle Huygens vs. Teilchen Newton

3 Bereits seit Generationen kommt es immer wieder zu neuen Glaubenskriegen in der Wissenschaft... The Original Series Captain James T. Kirk vs. The Next Generation Captain Jean-Luc Picard

4 Diese Glaubenskriege nehmen mit dem Streit der Schulen der Frequentisten und Bayesianer ihren Höhepunkt an Frequentisten vs. Bayesianer

5 Streitpunkt ist, welche Definition der Wahrscheinlichkeit und dazu gehörige Statistik Basis für wissenschaftliche Analysen sein muss Der frequentistische Wahrscheinlichkeitsbegriff objektive Wahrscheinlichkeit Wahrscheinlichkeit als relative Häufigkeit Anwendung für beliebig wiederholbare Ereignisse oder bei Symmetrien Der Bayes sche Wahrscheinlichkeitsbegriff Grad persönlicher Überzeugung Anwendung auch auf einmalige Ereignisse

6 Frequentisten verfechten die Definition der Wahrscheinlichkeit als relative Häufigkeit Der frequentistische Wahrscheinlichkeitsbegriff große Anzahl gleicher, unabhängiger Zufallsexperimente n x sei die Häufigkeit, mit der Ereignis x in n Experimenten auftritt Kritikpunkte Grenzwert in der Praxis nicht erreichbar Experiment/Präparation in der Praxis evtl. nicht reproduzierbar

7 Die Zuordnungen von Wahrscheinlichkeiten zu Ereignissen einer Ereignismenge müssen gewisse Axiome erfüllen Die Kolmogorov-Axiome A i elementares Ereignis Ω Gesamtheit aller elementaren Ereignisse P(A i ) Wahrscheinlichkeit von A i P(A i ) 0 i Positivität P(A i oder A j ) = P(A i ) + P(A j ) * Additivität Ω P(A i ) = 1 Normiertheit Ω A i... A j * falls A B =

8 Aus den Axiomen lassen sich Sätze ableiten, die eine Aussage über die Wahrscheinlichkeit kombinierter Ereignisse treffen Kombinationen von Wahrscheinlichkeiten P(A B) = P(A) + P(B) P(A B) P(A B) = P(A) + P(B) P(A B) Ω Bedingte Wahrscheinlichkeit Wahrscheinlichkeit von A unter Voraussetzung, dass B eingetreten ist: A A B B...

9 Die bedingte Wahrscheinlichkeit bildet die Basis für den Satz von Bayes, auf welchen wiederum die Bayes sche Statistik aufbaut Der Satz von Bayes P(A B) = P(A) P(B A) = P(B) P(A B) P(A B) = P(A) P(B) A und B sind unabhängig voneinander Bayes-Theorem

10 Der Satz von Bayes findet insbesondere bei Wahrscheinlichkeiten seine Anwendung, für die keine Frequenz-Aussage möglich ist Reverend Thomas Bayes ( ): Mathematiker und presbyterianischer Pfarrer Wahrscheinlichkeit ist der Grad des Glaubens, dass ein Experiment ein bestimmtes Ereignis haben wird. Frequenz-Aussagen sind oft nicht möglich: Morgen wird die Welt untergehen. Deutschland wird 2010 Fußball-Weltmeister. Die erste Mondlandung war kein Fake. Das Teilchen in diesem Experiment ist ein Neutrino. Die Natur ist supersymmetrisch.

11 Der Satz von Bayes integriert vorher getroffene Annahmen in die Berechnung der Wahrscheinlichkeit für ein bestimmtes Ereignis Die Anfangswahrscheinlichkeit / A-priori-Wahrscheinlichkeit Ursprung der getroffenen Annahmen Symmetrieeigenschaften (z.b. Würfel, Münze, Homogenität des Raumes) Naturgesetze (z.b. Thermodynamik, Quantenmechanik) Erfahrungen, empirische Studien (z.b. Sterbetafeln) Vermutungen, Expertenmeinungen

12 Gegner kritisieren insbesondere die Tatsache, dass im Vorfeld getroffene Annahmen das Resultat entscheidend beeinflussen Die Anfangswahrscheinlichkeit / A-priori-Wahrscheinlichkeit Kritikpunkte vorherige Annahmen sind subjektiv und unwissenschaftlich Glaube statt Belegbarkeit Gegenargumentation beruht auf einfacher Wahrscheinlichkeitsrechnung erfüllt Kolmogorov-Axiome widerspricht bei korrekter Anwendung nicht dem Frequentist-Ansatz

13 Die Einbindung dieser Annahmen erschließt jedoch viele weitere Anwendungsgebiete gegenüber dem frequentistischen Ansatz Vorteile der Bayes schen Statistik Aussagen über Wahrscheinlichkeit einer Hypothese möglich Anwendung zur Mustererkennung oder in der Entscheidungstheorie möglich Nachteile der Bayes schen Statistik Einführung zusätzlicher, nicht beweisbarer Annahmen strikte Regelungen zur Erhaltung der Objektivität notwendig ( nur sinnvolle Annahmen treffen, Annahmen stets angeben!) Gemeinsamkeiten der Bayes schen und frequentistischen Statistik ähnliche Resultate und Erfolgsquoten

14 Sinnvolle Annahmen führen zu einer höheren Objektivität und damit zu besseren Resultaten Der nicht-informative Prior keinerlei Informationen über dimensionsbehaftete Größe x bekannt ( noch nicht einmal die Größenordnung!) Verteilung der Prior-Wahrscheinlichkeit: f(ln x) = const. f(x) ~ 1/x ( keine Gleichverteilung!) Ziffern mit niedrigerem Zahlenwert sind häufiger die signifikanteste Ziffer einer Zahl allgemein: Jeffreys Prior (invariant unter Reparametrisierung) Varianz der part. Ableitung des Logarithmus der Likelihood

15 Die Güte der Messwerte lässt sich durch ihre Unsicherheit bzw. die Messgenauigkeit des Experiments einschätzen Punktschätzer eine einzige Zahl zur möglichst guten Approximation Maximum Likelihood (Modus): effizient, aber nicht robust Median: robust, aber nicht effizient Erwartungswert (Mean)

16 Die Güte der Messwerte lässt sich durch ihre Unsicherheit bzw. die Messgenauigkeit des Experiments einschätzen Intervallschätzung: Konfidenzintervall (Vertrauensbereich) schließt Bereich um geschätzten Wert ein, in dem zu bestimmter Wahrscheinlichkeit der wahre Wert liegt (z.b. 95%- oder 1σ-Konfidenzintervall) Aussage über Präzision und Signifikanz Modus, Mean, Median Intervallgrenze

17 Die Güte der Messwerte lässt sich durch ihre Unsicherheit bzw. die Messgenauigkeit des Experiments einschätzen Das Konfidenzintervall der Frequentisten Parameter der Theorie θ ist fest, aber unbekannt: f(x θ) (Likelihood) Konfidenzintervall (= Zufallsvariable) überdeckt wahren Wert zu bestimmter Wahrscheinlichkeit (Coverage) Bestimmung des Konfidenzintervalls: horizontales Akzeptanzintervall für jedes μ einzeichnen vertikale Linie durch Messergebnis zeichnen Konfidenzintervall besteht aus den μ, bei denen die vertikale Linie das Akzeptanzintervall schneidet

18 Die Güte der Messwerte lässt sich durch ihre Unsicherheit bzw. die Messgenauigkeit des Experiments einschätzen Das Kredibilitätsintervall der Baysianer Parameter der Theorie θ ist Zufallsvariable: f(θ x) = f(x θ) f(θ) / f(x) θ befindet sich zu bestimmter Wahrscheinlichkeit im Kredibilitätsintervall [θ 1, θ 2 ] θ 1 θ 2

19 In den Naturwissenschaften ist der Satz von Bayes ein wichtiges Instrument zur Verifikation oder Falsifizierung von Theorien Interpretation des Bayes-Theorems mit den Argumenten Theorie und Daten Likelihood Prior Posterior Evidenz

20 Paradebeispiel für die Anwendung des Bayes-Theorems ist ein Screening-Test zur Diagnose einer Krankheit Beispiel: AIDS-Test Wahrscheinlichkeit in allgemeiner Bevölkerung (A-priori-Wissen) P(AIDS) = P(no AIDS) = Güte des Testverfahrens (Likelihood) P(+ AIDS) = 0.98 P( AIDS) = 0.02 P(+ no AIDS) = 0.03 P( no AIDS) = 0.97 Wie besorgt sollte man sein, wenn die Krankheit diagnostiziert wird?

21 Das Ergebnis der Berechnung nach dem Satz von Bayes wirkt oftmals überraschend Posterior-Wahrscheinlichkeit Die Posterior-Wahrscheinlichkeit beträgt lediglich 3,2%, sofern man nicht einer Risikogruppe angehört!

22 Das Ergebnis der Berechnung nach dem Satz von Bayes lässt sich mit einem Wahrscheinlichkeitsbaum leicht plausibilisieren Wahrscheinlichkeitsbaum Probanden Krankheitsstatistik 100 (AIDS) (no AIDS) Diagnose 98 (+) 2 ( ) (+) ( ) Nur 3,2% der positiv getesteten sind tatsächlich infiziert! 30 Mal mehr Menschen als tatsächlich werden als infiziert eingestuft!

23 Auf dem Bayes-Theorem basieren etliche Anwendungen, die in unserem Alltag allgegenwärtig sind Anwendungsbeispiel: Bayes scher Filter (SPAM-Filter) implementiert z.b. in Mozilla Thunderbird lernend / Training durch Benutzer Risiko von falsch-positiven Fällen bei korrektem Training geringer als bei manueller Filterung Gegenmaßnahmen: Bilder, modifizierte Schreibweisen, statistische Manipulation

24 Fragen & Diskussion