Was ist zufällig? Eine historische Betrachtung des Zufallsbegriffs

Transkript

1 28. Februar 2010 Was ist zufällig? Eine historische Betrachtung des Zufallsbegriffs Sarah Maierhofer Ludwig-Maximilians-Universität München, Institut für Statistik Betreuer: Dipl. Stat. Gero Walter Seminar in der Vorlesungsfreien Zeit Februar/März 2010 bei Prof. Dr. Thomas Augustin und Prof. Dr. Rudolf Seising Wissenschaftstheorien und Wissenstransformationen im 20. Jh. - ein interdisziplinäres Seminar zu den Grundlagen der Statistik

2 Was ist zufällig? Eine historische Betrachtung des Zufallsbegriffs Inhaltsverzeichnis 1 Zufall im Alltagsverständnis 2 2 Zufall in der Physik Zufall in der klassischen Physik Zufall in der Quantenphysik Zufällige Zahlenfolgen Zufälligkeit über relative Häufigkeiten in Zahlenfolgen Programmkomplexität als Maß für den Zufall Pseudozufallszahlen 10 Abbildungsverzeichnis 1 Aufenthaltsorte von Gasmolekülen Geschwindigkeit von Gasmolekülen Durchschnittliche Anzahl überlebender Neutronen Heisenbergsche Unschärferelation Doppelspalt-Versuch mit Interferenzmuster Deutung der quadrierten Wellenfunktion als Dichte

3 1 Zufall im Alltagsverständnis - Beim Zufall handelt es sich um den Übergang aus einer Ausgangssituation, die mehrere Endsituationen ermöglicht, in genau eine dieser Endsituationen, wobei zum einen keine erkennbare Ursache für das Zustandekommen dieser einen Endsituation vorliegt und zum anderen bei wiederholtem Vorliegen derselben Ausgangssituation auch die anderen Endsituationen eintreten können. Umgangssprachlich wird der Begriff Zufall verwendet, wenn ein Ereignis nicht kausal erklärbar ist. ( - Anwendungen von Zufall: - Glücksspiele (Würfel, Karten, Roulette, Lotto...) - Gerechtigkeit produzieren durch Losen (beispielsweise bei der Studienplatzvergabe) - Kryptologie (Verschlüsselung durch Zufallsfolgen) - Geschichte des Zufalls bis in die Neuzeit: Glücksspiel (siehe Vortrag Die historische Entwicklung verschiedener Wahrscheinlichkeitsbegriffe von Teresa Exner) 2 Zufall in der Physik 2.1 Zufall in der klassischen Physik Bewegung der Gasmoleküle im thermodynamischen Gleichgewicht (Tarassow 1993): - Gefäß, das gleichmäßig mit Gasmolekülen gefüllt ist Betrachte die Wahrscheinlichkeit zu einem bestimmten Zeitpunkt ein Molekül an einem bestimmten Punkt zu finden (siehe Abbildung 1) diese Wahrscheinlichkeit ist für jeden Punkt im Gefäß gleich groß und damit also konstant. Betrachtet man ein Volumen innerhalb des Gefäßes, so hängt die Wahrscheinlichkeit dafür ein Teilchen darin zu finden von der Größe des Volumes ab. - Betrachte nun auch die Geschwindigkeit des Teilchen: Große Geschwindigkeiten sind eher unwahrscheinlich. Allerdings ist jede Bewegungsrichtung gleich wahrscheinlich. (Für zwei Dimensionen siehe Abbildung 2) Die Geschwindigkeit kann sich dabei jederzeit durch Kollisionen ändern. - Die Wahrscheinlichkeitsdichte ein Teilchen mit einer bestimmten Geschwindigkeit in eine bestimmte Richtung zu finden ist dabei normalverteilt mit Erwartungswert null. 2

4 Abbildung 1: Aufenthaltsorte von Gasmolekülen Abbildung 2: Geschwindigkeit von Gasmolekülen - Das Maxwellschen Verteilungsgesetz gibt die Wahrscheinlichkeit, ein Teilchen mit einer bestimmten Bewegungsrichtung (dreidimensional) zu finden, als Dichte an. Es ist allerdings Zufall wie viele Teilchen man nun genau findet! 2.2 Zufall in der Quantenphysik Abbildung 3: Durchschnittliche Anzahl überlebender Neutronen Neutronenzerfall (Tarassow 1993): - Neutronen sind meist Teil eines Atomkerns, allerdings kommen sie auch frei vor - solche freien Neutronen zerfallen spontan, ohne äußere Einwirkung in drei Teilchen: Neutron P roton + Elektron + Antineutrino - Der Zerfallszeitpunkt für ein einzelnes Neutron kann nicht vorausgesagt werden. 3

5 - Es gibt jedoch eine Funktion, die bei einer großen Anzahl von Neutronen die durchschnittliche Anzahl der Überlebenden für beliebige Zeitpunkte angibt. Es handelt sich um eine Exponentialfunktion der Form: N 0 e ( at), mit N 0 : Anfangszahl, a Konstante, t vergangene Zeit. (Das entspricht der Survival- Funktion bei einer Exponential-Verteilung). In Abbildung 3 sieht man einen möglichen Funktionsverlauf. Also kann die durchschnittliche Lebensdauer eines Neutrons bestimmt werden. Die tatsächliche Anzahl an Neutronen ist jedoch zufällig. Ähnlich zufällig ist der Zerfall von Atomkernen, die sogenannte Radioaktivität. Heisenbergsche Unschärferelation (Tarassow 1993, Born 1954, physik.uni-muenchen.de/): - Untersuchung von Teilchen in der Größenordnung von Elektronen - Unschärferelation: bei einem Teilchen kann der Impuls und der Aufenthaltsort nicht gleichzeitig beliebig genau bestimmt werden. Die Genauigkeit ist durch die sogenannte Planksche Konstante h = 1, beschränkt. Je genauer man also die Geschwindigkeit eines Teilchens bestimmt, umso ungenauer wird die Bestimmung des Aufenthaltsortes und umgekehrt. (Vergleiche dazu Abbildung 4). - Das lässt unterschiedliche Deutungen zu: - Subjektive Deutung: die Unmöglichkeit beides gleichzeitig zu messen, ist auf eine Beschränkung der menschlichen Kenntnisse zurückzuführen. - Objektive Deutung: ein Teilchen hat keinen scharfen Lageimpuls, sondern nur eine genaue Lage oder einen genauen Impuls. Abbildung 4: Mögliche Messgenauigkeiten: jedes Rechteck hat die Fläche der Planckschen Konstante h 4

6 Abbildung 5: Doppelspalt-Versuch mit Interferenzmuster Statistische Deutung der Quantenmechanik (Tarassow 1993, Born 1954, Popper 1989, Neumann 1932, - Quantentheorie auf zwei Wegen entwickelt: - Heisenberg: Ableitung aus der klassischen Theorie der Partikel - Schrödinger: Ableitung aus der Wellentheorie von de Broglie - Paradox: Elektronen besitzen die Eigenschaften von Teilchen (Energie und Impuls) und die von Wellen (Frequenz und Wellenlänge). Teilcheneigenschaft: man kann Elektronen zählen. Welleneigenschaft: Elektronen zeigen ein Interferenzmuster in einem Doppelspaltversuch (siehe Abbildung 5). (Manchen mag diese Dualität von Licht bekannt sein. Licht besitzt ebenfalls Teilchen- und Welleneigenschaften.) - Statistische Deutung der Quantenmechanik durch Born: Die Wellentheorie kann man als Partikeltheorie deuten, wenn die quadrierte Wellengleichung die Wahrscheinlichkeit angibt, das Elektron an einem bestimmten Ort anzutreffen. (Veranschaulicht in Abbildung 6) Jeder Zustand eines Teilchens (wie Aufenthaltsort und Impuls) lässt sich durch eine Funktion beschreiben, die die Wahrscheinlichkeit bestimmter Charakteristiken des Teilchens ist. Das heißt, dass bereits die Beschreibung eines Teilchens eine Theorie der Wahrscheinlichkeit ist. Interpretation (Tarassow 1993, Born 1954, Popper 1989, Neumann 1932): - Grundlegende Frage: Ist die Welt zufällig oder erscheint sie nur uns Menschen zufällig, weil wir nicht alle Einflussgrößen kennen? - Newtonsche Mechanik ist deterministisch: Wenn wir bei einem System den ex- 5

7 Abbildung 6: Deutung der quadrierten Wellenfunktion als Dichte akten Zustand kennen, können wir den Zustand zu einem beliebigen anderen Zeitpunkt ausrechnen. Man betrachtet beispielsweise eine Kugel, die sich zwischen zwei Wänden mit gleichmäßiger Geschwindigkeit bewegt. Wenn man die Lage und die Geschwindigkeit der Kugel zu einem Zeitpunkt genau kennt, so kann man die Lage der Kugel zu beliebigen Zeitpunkten berechnen. Lässt man jedoch einen kleinen Messfehler zu, so schlägt der Determinismus in Indeterminisus um, weil nach einer bestimmten Zeit der Fehler größer ist, als der Abstand zwischen den beiden Wänden. - Gegner des Indeterminismus (unter anderen Einstein, de Broglie, Schrödinger): Die Quantenmechanik ist sehr Achtung gebietend. Aber eine innere Stimme sagt mir, dass das noch nicht der wahre Jakob ist. Die Theorie liefert viel, aber dem Geheimnis des Alten bringt sie uns kaum näher. Jedenfalls bin ich überzeugt, dass der Alte nicht würfelt. (Einstein in einem Brief an Born). Oft vereinfacht ausgedrückt als ott würfelt nicht! Annahme von verborgenen Variablen, die dem Menschen nicht bekannt sind, die allerdings die zufällig erscheinenden Messergebnisse erklären. Existenz eines Laplaceschen Dämons? (Wesen, dass die gesamte Vergangenheit und Zukunft berechnen kann, weil alles deterministisch ist) - Aber: Solche Variablen konnten nicht gefunden werden. - Kopenhager Deutung: es gibt keine verborgenen Variablen. Gleiche Experimente können also unterschiedliche Ergebnisse hervorbringen und das liegt nicht an fehlendem Wissen der Physiker, dass sie nicht vorhersagen können, wann welches Ergebnis eintritt. 6

8 3 Zufällige Zahlenfolgen Kleiner Exkurs: Zufall in den Axiomen von Kolmogoroff (Schnorr 1970) Weg: aus der mathematischen Theorie Wahrscheinlichkeit und daraus Zufall definieren - Kolmogoroff definiert Wahrscheinlichkeiten indem er die Maßtheorie anwendet - Darauf aufbauend wird eine Zufallsvariable als messbare Abbildung definiert - Aber: keine konkrete Interpretation möglich, da rein mathematisches Konstrukt! (genaueres zu den Axiomen von Kolmogoroff im Vortrag Vom philosophischen Konstrukt zum mathematischen Objekt: über die Bedeutung der Axiomatisierung der Wahrscheinlichkeiten von Johannes Müller.) 3.1 Zufälligkeit über relative Häufigkeiten in Zahlenfolgen (von Mises 1951, Schnorr 1971, für einen kurzen Überblick: Skript von Lehmann 2002 oder Diplomarbeit von Baumer 2006) Weg: man definiert eine Zufallsvariable und leitet daraus einen Wahrscheinlichkeitsbegriff ab. (Also im Gegensatz zu Kolmogoroff wird der Begriff des Zufalls empirisch definiert und darauf die Theorie aufgebaut.) - von Mises Idee: ein Ereignis kann nur zufällig sein, wenn man es als Teil einer Folge mit bestimmten Eigenschaften betrachtet. Solche Folgen nennt von Mises Kollektive. Beisiele für solche Folgen sind der Münzwurf oder Würfeln (im folgenden wird als Beispiel der Münzwurf verwendet, dessen mögliche Ausgänge Kopf oder Zahl mit 0 und 1 kodiert werden.) - Ziel ist es so einen empirischen Begriff der Wahrscheinlichkeit zu bekommen. - Kollektiv: definiert über Grenzwertaxiom und Regellosigkeitsaxiom. - Grenzwertaxiom: für sehr lange Zufallsfolgen konvergiert die relative Häufigkeit gegen einen festen Grenzwert (bei einer fairen Münze 0.5). Man kann sich regelmäßige Folgen der Form ausdenken, die dem Grenzwertaxiom genügen. Dennoch handelt es sich nicht um eine zufällige Folge. Man trifft daher eine weitere Einschränkung, nämlich das Regellosigkeitsaxiom. - Regellosigkeitsaxiom: die Folge muss unregelmäßig sein. Das heißt, dass jede beliebige Teilfolge gegen den gleichen Grenzwert konvergiert, wie die Folge selbst. Das bedeutet implizit, dass es keine Bildungsvorschrift für die Folge gibt. Betrachtet man wieder die Folge als Beispiel, so kann man als Teilfolge jedes zweite Element wählen: man erhält so die Folge Die relative Häufigkeit von 1 ist in der Ausgangsfolge 0.5 in dieser Teilfolge jedoch 1. 7

9 Anschauliche Betrachtung: Prinzip vom ausgeschlossenen Spielsystem. Auch wenn ein Spieler alle vorherigen Spielausgänge kennt, so kann er daraus dennoch keinen Vorteil für sich ziehen. (Wenn 0 Niete und 1 Gewinn bedeutet, so kann ein Spieler seine Gewinnchancen nicht erhöhen indem er sich nur an einem Teil der Spiele beteiligt.) Formulierung des Regellosigkeitsaxioms durch eine Auswahlregel, die bestimmt, wie aus einer vorhandenen Folge Teilfolgen ausgewählt werden können. Im wesentlichen werden aus endlichen Folgen endliche Teilfolgen und aus unendlichen Folgen unendliche Teilfolgen gezogen. - Wenn alle möglichen Teilfolgen wieder den selben Grenzwert, wie die Folge selbst besitzen, so nennt man die Folge (und auch jede Teilfolge) ein Kollektiv. - Die Wahrscheinlichkeit eines Ereignisses wird über seine relative Häufigkeit definiert. - Problem: durch diese Definition von Kollektiven gibt es nur Kollektive mit trivialen Wahrscheinlichkeiten 0 oder 1. Beweisidee: Betrachte den Münzwurf. Für eine Folge, die Kopf und Zahl enthält (z.b ), gibt es immer Auswahlregeln, die nur ein Merkmal auswählen (wähle das dritte und das fünfte Folgenglied aus). Die relativen Häufigkeiten sind dann 0 bzw. 1. Das bedeutet aber, dass sich die relative Häufigkeit ändert. Nur bei einer Folge, die nur eine Ausprägung enthält (z.b ), bleibt der Grenzwert für alle Teilfolgen gleich. - Daher Vorschlag verschiedener Einschränkungen für den Begriff der Regellosigkeit, dabei ändert sich die Menge der zulässigen Auswahlregeln: - admissible numbers (Copeland 1928) - nachwirkungsfreie Folgen (Popper 1935) - normale Folgen (Reichenbach 1935) - es handelt sich um drei Formulierungen der gleichen Klasse von Folgen, man nennt diese Bernoullifolgen - Schnorr erweitert die von Mises Theorie so, dass sie zu einer nicht trivialen Wahrscheinlichkeitstheorie führt. Allerdings ist diese Theorie unpraktisch in der Anwendung. Zudem ist sie nur ein Spezialfall der Wahrscheinlichkeitstheorie von Kolmogoroff, die sich auf die Maßtheorie stützt. - Idee der nachwirkungsfreien Folgen (Popper 1989): Betrachte die Teilfolge, die immer 1 als Vorgänger hat: aus der Folge würde man so die Teilfolge 100 auswählen. Ebenso betrachtet man die Teilfolge deren Vorgänger immer 0 ist. Diese Teilfolgen müssen wieder die gleichen relativen Häufigkeiten wie die ursprüngliche Folge haben. Wenn das erfüllt ist, nennt man die Folge 1-nachwirkungsfrei. Analog dazu betrachtet man die Folgen der Nachfolger von 00, 01, 10, 11. Besitzten diese Folgen wieder den gleichen Grenzwert, wie die Folge, so nennt man die Folge 2-nachwirkungsfrei. Analog wird n- 8

10 nachwirkungsfrei für beliebige Kombinationen für Vorgänger der Länge n definiert. Ist nun eine unendliche Folge n-nachwirkungsfrei für jedes beliebige n, so wird diese als nachwirkungsfrei bezeichnet. Eine solche n-nachwirkungsfreie Folge wird als zufallsartig bezeichnet. 3.2 Programmkomplexität als Maß für den Zufall (Fine 1973, für einen kurzen Überblick: Skript von Lehmann 2002 oder Diplomarbeit von Baumer 2006) Idee: Je weniger zufällig eine Folge ist, umso kürzer ist ihre Beschreibung. Oder: Je zufälliger eine Folge ist, umso weniger ist sie komprimierbar. - man betrachtet wieder binäre Folgen, also Folgen mit zwei Ausprägungen, wie zum Beispiel den Münzwurf - Kolmogoroff-Komplexität: Maß für die Zufälligkeit einer gegebenen binären Folge. - Man denkt sich ein Programm für einen Computer, in diesem Zusammenhang Turing-Maschine genannt, das die Zahlenfolge abspeichert. (Die Idee der Turing-Maschine dient der Standardisierung, sodass die Länge eines Programms nicht von der Programmiersprache oder dem Computer abhängt.) Dabei ist die einfachste Möglichkeit die Zahlenfolge selbst zu speichern. Das Programm ist damit genau so lange, wie die Folge selbst. Gibt es allerdings Regelmäßigkeiten in der Zahlenfolge, so ist es möglich, sie mittels eines kürzeren Programmes darzustellen: Möchte man beispielsweise die Folge beschreiben so übergibt man wiederhole 01. Das kürzest mögliche Programm zu einer Zahlenfolge nennt man Minimalprogramm. Die Idee ist also die Folge so weit wie möglich zu komprimieren. - Die Kolmogoroff-Komplexität und damit die Zufälligkeit einer Zahlenfolge definiert man über die Länge des Minimalprogramms: Wenn das Minimalprogramm fast genauso lange ist wie die Folge selbst, dann handelt es sich um eine zufällige Folge. Bzw. je länger das Minimalprogramm einer Folge ist, umso zufälliger ist sie. - Problem: Die Kolmogoroff-Komplexität ist schwer zu berechnen, weil es insbesondere bei längeren Zahlenfolgen schwierig ist, eine Regel zu erkennen. - Wenn man am Computer Pseudozufallszahlen generiert, so ist die Regel meist relativ einfach. Im Sinne der Kolmogoroff-Komplexität sind diese Folgen also nicht zufällig. Allerdings ist es sehr schwierig die Regel aus der Zahlenfolge zu erkennen. 9

11 4 Pseudozufallszahlen (Skript von Leisch 2009) - Unterscheidung von echten Zufallszahlen und Pseudozufallszahlen: - echte Zufallszahlen werden durch Wiederholen eines Zufallsexperiments, wie Münzwurf oder aus physikalischen Experimenten wie dem radioaktiven Zerfall gewonnen. Auf der Website werden Zufallszahlen, die aus dem atmosphärischen Rauschen gewonnen werden, zur Verfügung gestellt. - Pseudozufallszahlen sehen nur so aus, als wären sie Folgen von Zufallszahlen. Allerdings werden sie nach einem bestimmten Algorithmus am Computer berechnet und sind damit nach Festlegen der Startwerte determiniert. - Beispiel für einen Zufallsgenerator: Linearer Kongruenzgenerator erzeugt je eine Zufallszahl aus ihrem Vorgänger mit einer Regel der Form: X n = (a X n 1 + b) modulo m Wobei modulo den Rest bei ganzzahliger Division zurückgibt (also z.b. 7 modulo 2 = 1). Mit diesem Generator können Zahlen im Bereich 0 bis m-1 erzeugt werden. Die maximale Anzahl an Zahlen bevor wieder der gleiche Wert auftritt, ist also m. Da jede Zufallszahl aus ihrem Vorgänger berechnet wird, wiederholt sich die Zahlenreihe ab dem Zeitpunkt, wo wieder ein gleicher Wert auftritt. - Zur Anschauung betrachte man den linearen Kongruenzgenerator mit a = 7, b = 5, m = 9: Startwert x 0 = 1 x 1 = (a x 0 + b) mod m = ( ) mod 9 = 12 mod 9 = 3 x 2 = (a x 1 + b) mod m = ( ) mod 9 = 26 mod 9 = 8 x 3 = (a x 2 + b) mod m = ( ) mod 9 = 61 mod 9 = 7 x 4 = (a x 3 + b) mod m = ( ) mod 9 = 54 mod 9 = 0 x 5 = (a x 4 + b) mod m = ( ) mod 9 = 5 mod 9 = 5 x 6 = (a x 5 + b) mod m = ( ) mod 9 = 40 mod 9 = 4 x 7 = (a x 6 + b) mod m = ( ) mod 9 = 33 mod 9 = 6 x 8 = (a x 7 + b) mod m = ( ) mod 9 = 47 mod 9 = 2 x 9 = (a x 8 + b) mod m = ( ) mod 9 = 19 mod 9 = 1 Ab hier wiederholt sich der Algorithmus und die Ziffern werden erneut in der gleichen Reihenfolge ausgegeben. Natürlich kann die Periodenlänge durch die Wahl größerer Werte für a,b und m erhöht werden. - Es gibt eine Vielzahl von Zufallsgeneratoren, die jedoch immer deterministisch sind, sobald die Parameter und der Startwert festgelegt sind. Die Frage ist: Inwiefern können solche Zahlenfolgen als zufällig angesehen werden? 10

12 - Man testet Zufallszahlen auf ihre Güte also ihre Zufälligkeit mit ganzen Testbatterien. Dabei überprüft man zum Beispiel, ob jedes Bit einzeln betrachtet zufällig 0 oder 1 ist, ob es Autokorrelationen gibt (das heißt: gibt es Zusammenhänge zwischen den Zahlen an den Plätzen 2,4,6,8... oder 3,6,9,12... usw.), und viele andere Aspekte, die eine zufällige Zahlenreihe erfüllt. Diskussion Inwieweit kann man Pseudozufallszahlen als zufällig bezeichnen? Bzw. welcher Definition von Zufall genügen Pseudozufallszahlen? Zufall im Alltagsverständnis Zufall in Kollektiven (von Mises) Zufall definiert über Programmkomplexität (Kolmogoroff-Komplexität) Zeigen die Beispiele aus der Quantenphysik (wie Neutronenzerfall), dass die Welt indeterministisch ist? Welche Rolle spielt die Definition des Zufalls für den alltäglichen Umgang mit Zufallsvariablen in der Statistik? 11

13 Literatur [1] Baumer, C. (2006): Betrachtungen zum Zusammenhang zwischen Komplexität, Zufallsfolgen und Pseudozufallsfolgen. Diplomarbeit an der Ludwig- Maximilians-Universität München, Institut für Statistik, betreut von Prof. Dr. B. Lauth. unveröffentlicht. [2] Born, M. (1954): Die statistische Deutung der Quantenmechanik. Nobelpreisrede. Physikalische Blätter, 1955, Heft 5, S [3] Fine T. L. (1973): Theories of probability. An examination of foundations. Academic Press, New York. [4] Lehmann, F. (2002): Modellierung von Ungewissheit. Skriptum zur Vorlesung. ft2002/modellierung/scriptft2002/skript.pdf, S [5] Leisch, F. (2010): Zufallszahlen. Skript zur Vorlesung Computerintensive Methoden. Folien 8. teaching/cim0910/folien/cim-folien-8-4.pdf [6] von Mises R. (1951): Wahrscheinlichkeit, Statistik und Wahrheit. Springer Verlag, Wien. S [7] von Neumann J. (1932): Mathematische Grundlagen der Quantenmechanik. Springer-Verlag, Berlin, S. 1 18, S [8] Popper, K. R. (1989): Logik der Forschung. Mohr. Tübingen. S [9] Schnorr C. P. (1971): Zufälligkeit und Wahrscheinlichkeit. Eine algorithmische Begründung der Wahrscheinlichkeitstheorie. Springer-Verlag, Berlin. S [10] Tarassow W. (1993): Wie der Zufall will? Vom Wesen der Wahrscheinlichkeit. Spektrum Akademischer Verlag, Heidelberg. S Internet-Seiten [11] aufgerufen am [12] aufgerufen am [13] aufgerufen am