Teil I Fehlerrechnung und Datenauswertung 1 Elementare Fehlerrechnung 1.1 Standardabweichung als Maß für die Streuung Eine Messung werde mal durchgeführt. Als P Maß für die Streuung einer Messgröße bezüglich ihres Mittelwertes = 1 dient die empirische Standardabweichung s P 1 = ( ) 2 (1) 1 1.2 Der mittlere quadratische Fehler Je größer die Anzahl der Messungen ist, desto vertrauenswürdiger ist der arithmetische Mittelwert. Diese Tatsache wird berücksichtigt, wenn man anstelle der Standardabweichung 1 den mittleren statistischen Fehler = s P ( ) 2 ( 1) (2) verwendet (Standardabweichung des Mittelwertes). 1.3 Fehlerfortpflanzung Es sei = ( 1 2 ) eine Größe, die aus den Messwerten 1 2 mit den jeweiligen Messfehlern 1 2 zu berechnen ist. Die maximale Größe des Fehlers von schätzt man mit der Beziehung = 1 1 + 2 2 + + (3) 1
ab. Wenn die Fehler der verschiedenen Messwerte voneinander statistisch unabhängig sind, dann gilt auch das Fehlerfortpflanzungsgesetz von Gauss v q ux ( ) 2 = t µ 2 ( ) 2 (4) 1.4 Ausgleichsrechnung: Anpassung einer Funktion an eine Messreihe Im einfachsten Fall, der linearen Regression, besteht ein linearer Zusammenhang = + (5) zwischen den verschiedenen Messwerten und. Es besteht die Aufgabe, die unbekannten Parameter und zu bestimmen. Sind Wertepaare [[ 1 1 ] [ 2 2 ] [ ]] gegeben, dann erhält man und aus einer Minimierung der Fehlerquadratsumme ( ) = ( ) 2 min (6) Die notwendigen Bedingungen ( ) =0und ( ) =0für ein Minimum von ( ) führen auf die Gleichungen = P P P P 2 (P ) 2 (7) und = 1 ³X X (8) 2 Beschreibende Statistik Es besteht die Aufgabe, statistische Aussagen über eine "Grundgesamtheit Ω "von Personen oder Objekte (bzw. auch Fehler bei der Fehlerrechnung) zu treffen. Bei der Datenerhebung wird eine Person oder ein Objekt der Grundgesamtheit als Untersuchungseinheit bezeichnet ( Ω). Untersucht man soziale Verhältnisse der Einwohner eines Landes, so besteht die 2
Grundgesamtheit Ω aus allen Einwohnern des Landes; eine Untersuchungseinheit Ω ist dann ein einzelner Einwohner. Im Falle von Messwerten, die in einer Fehlerrechnung beurteilt werden sollen, ist die Grundgesamtheit Ω die Menge aller Messwerte und ein einzelner Messwert. Die Grundgesamtheit Ω kann auch aus der Aufzeichnung von einer größeren Anzahl an Münzwürfen hervorgehen. Ein Münzwurf ist dann eine Untersuchungseinheit. Die Merkmale (z.b. Eigenschaften (1) ( )ª ), die an den Personen oder Objekten Ω der Grundgesamtheit auftreten und deren Häufigkeit mit statistischen Methoden untersucht werden, bezeichnet man als Merkmalsausprägungen. Hierzu zwei Beispiele, entnommen aus Knöpfel et al. [1]: 1. Erhebung zur Altersverteilung der Bevölkerung eines Landes: Ω sei die Menge aller Einwohner, = 0 = {1 2 3 } (Altersangabe in Jahre) und es wird eine Zuordnung Ω 0 erfasst. Hierdurch wird jedem einzelnen Einwohner sein Alter als "Merkmalsausprägung" zugewiesen. 2. Ist man an der Augenfarbe der Studierenden einer Vorlesung interessiert, so ist Ω = { ist Studierender der Vorlesung}, = {blau, grün, braun,..} und die Abbildung Ω weist jedem Studierenden die Augenfarbe zu. Dieses Beispiel zeigt, dass Merkmalsausprägungen nicht immer auf einer metrischen Skala liegen müssen. 2.1 Darstellung der Daten Die Daten der Grundgesamtheit oder einer Stichprobe davon (nummeriert durch von 1 bis ) können in einer Urliste [[ 1 1 ] [ 2 2 ] [ ] [ ]] (9) zusammengefasst werden, wobei Ω und = (1) ( )ª gilt. Es ist instruktiv, Daten in Diagrammen darzustellen. Wenn groß ist, wird die Darstellung bei sehr vielen Merkmalsausprägungen (1) ( )ª unübersichtlich. Deshalb teilt man in der Regel die Merkmalsausprägungen in Klassen ein. Bei endlichem wird folgende Regel häufig befolgt: Klassenanzahl ' für kleine (etwa 100), Klassenanzahl ' log 2 für große. Anstelle von verschiedenen Merkmalsausprägungen kann für ein Intervall von möglichen Werten einer Größe stehen. So z.b. kann in der Liste 9 ein bestimmtes Fahrzeug und (0 ) dessen Geschwindigkeit sein. Dann hat überabzählbar viele Elemente. In diesen Fällen lassen sich 3
die Merkmalsausprägungen entlang einer metrischen Skala ordnen. Hierbei kann man Reihenfolgen (Ordnen nach der Größe) und sogar Abstände zwischen Merkmalsausprägungen definieren, im vorliegenden Beispiel sind dies die Geschwindigkeitsdifferenzen. Liegen eine größere Anzahl ( ) an Geschwindigkeitsmessungen vor, ist für Diagrammdarstellungen eine Klasseneinteilung durch Aufteilung in Geschwindigkeitsintervalle erforderlich. Messfehler liegen ebenfalls auf einer metrischen Skala. Der zufällige Messfehler kann durch eine größere Anzahl an Wiederholungsmessungen reduziert werden. In diesem Fall führt man für Darstellungen in Diagrammen ebenfalls Klassen für die Messfehlergröße ein. Bei derartigen Klassenaufteilungen = (1) ( )ª sind ( ) die Teilintervalle, in denen die Messfehler liegen. 2.2 Wahrscheinlichkeit als relative Häufigkeit Häufigkeitsverteilungen, die aus Stichproben gewonnen wurden, sind sogenannte empirische Verteilungen, im Gegensatz zu den theoretischen Wahrscheinlichkeitsverteilungen, die als mathematische Modelle von Grundgesamtheiten aufgefasst werden können. Aus den Daten der Stichprobe lassen sich Wahrscheinlichkeiten näherungsweise empirisch bestimmen. Wenn eine Stichprobe Elementen enthält, dann ist die Wahrscheinlichkeit für eine bestimmte Merkmalsausprägung näherungsweise durch die relative Häufigkeit ( ) ' ( ) (10) gegeben, wobei ( ) die Anzahl der Elemente mit der Merkmalsausprägung in der Stichprobe ist. 2.3 Empirische Maße für Merkmalausprägungen Es sei nun immer vorausgesetzt, dass den Merkmalsausprägungen sinnvoll Zahlen zugeordnet werden können, d.h. eine metrische Skala existiert. Hierzu ist es manchmal erforderlich, eine Funktion einzuführen, die jeder möglichen Merkmalsausprägung eine Zahl zuordnet [1]. Aus jedem Datenelement [ ] der Liste 9 wird somit jeweils eine Zahl ([ ]) = erhalten. Eine Stichprobe (Datenliste 9) liefert die Zahlenwerte 1 = ([ 1 1 ]) 2 = ([ 2 2 ]) = ([ ]) (11) Die Indizes (1 2 ) nummerieren wieder die Untersuchungseinheiten ( Ω sind Personen oder Objekte) und bezeichnet die zutreffende Merk- 4
malsausprägung für. Dann lassen sich verschiedene Maße definieren, die aus der Stichprobe 11 gewonnen werden können: Empirischer Mittelwert = 1 = 1 ( 1 + + ) (12) Streumaß: Empirische Varianz 2 1 = 1 1 ( ) 2 (13) Empirische Standardabweichung 1 = v q u 2 1 = t 1 1 ( ) 2 (14) Korrelation von zwei verschiedenen Merkmalen Es seien und zwei verschiedene Merkmale und es stellt sich die Frage, in wieweit die beiden Merkmale zueinander korreliert sind. Anstelle Liste 9 seien zwei Listen [ 1 = ([ 1 1 ]) 2 = ([ 2 2 ]) = ([ ])] (15) [ 1 = ([ 1 1 ]) 2 = ([ 2 2 ]) = ([ ])] bezogen auf die Stichprobe Ω = { 1 2 } vorgegeben. Man kann die beiden Listen 15 auch durch eine Liste [[ 1 1 ] [ 2 2 ] [ ]] (16) ersetzen. Der empirische Korrelationskoeffizient ist dann durch = 1 1 ( )( ) ( ) 1 ( ) 1 (17) 5
definiert, wobei die empirischen Mittelwerte ( bzw. ) mitvorschrift 12 und die empirischen Standardabweichungen im Nenner entsprechend der Vorschrift 14 berechnet werden. Teil II Wahrscheinlichkeitsrechnung Seit dem Axiomensystem von Kolmogorov (1933) ist die Wahrscheinlichkeitstheorie streng axiomatisch aufgebaut. Mathematische Grundlagen dazu liefern auch die Mengenlehre und die Maßtheorie. Die Existenz eines Wahrscheinlichkeitsmaßes für ein Mengensystem, welches z.b. die Mengen von möglichen Ereignissen umfasst, wird als vorgegeben vorausgesetzt. Die Interpretation der Wahrscheinlichkeiten als relative Häufigkeiten einer Vielzahl von Versuchsausgängen oder der relativen Häufigkeiten von Merkmalsausprägungen ist hierbei nicht mehr zwingend erforderlich. 3 Axiomensystem von Kolmogorov 3.1 Menge der Elementarereignisse Ω Man bezeichnet mit Ω die Menge aller möglichen Versuchsausgänge eines Zufallsexperiments. Diese Versuchsausgänge werden auch als Elementarereignisse bezeichnet. 3.2 System von Teilmengen von Ω, die eine eine - Algebra bilden Ein System vonteilmengenvonω heißt Algebra, wenn gilt: 1) Ω, 2) =, d.h.wennmenge in enthalten ist, dann gilt dies auch für die Komplementärmenge 3) Wenn 1, 2, dann gilt auch S Die Mengen heißen Ereignisse oder messbare Mengen. Anmerkung: Mit der Definition der Algebra kann auch gezeigt werden, dass die Durchschnittsmenge beliebiger Mengen von zu gehört. 6
3.3 Axiomensystem von Kolmogorov Ein Wahrscheinlichkeitsraum (Ω ) ist besteht aus einer nichtleeren Menge Ω der Elementarereignisse, einer Algebra über Ω und einer Funktion : [0 1], genannt Wahrscheinlichkeitsverteilung, mit den Eigenschaften 1) ( ) 0 für alle Teilmengen aus (Nichtnegativität) 2) (Ω) =1(Normiertheit) 3) für abzählbar viele, paarweise disjunkte Teilmengen aus gilt µ S P = ( ) ( Additivität) Aufgabe Veranschaulichen Sie anhand von Venn-Diagrammen folgende Beziehungen: ( 1 2 )= ( 1 )+ ( 2 ) ( 1 2 ) ; ( )+ ( )=1; 3.4 Zufallsvariable und Erwartungswert Eine Zufallsvariable ist eine Abbildung von einer Menge von Versuchsausgängen (oder Ereignissen) Ω in die Menge der reellen Zahlen. Eine genauere Definition geht von einem Wahrscheinlichkeitsraum (Ω )aus: Eine Zufallsvariable auf einem Wahrscheinlichkeitsraum (Ω )isteine Funktion : Ω so dass für jedes Paar ( Menge der reellen Zahlen) mit gilt: { Ω ( ) } Beispiel für eine Zufallsvariable: Geschwindigkeit der Moleküle bei der Maxwellschen Geschwindigkeitsverteilung. 3.5 Wahrscheinlichkeitsverteilungen von Zufallsvariablen Die Wahrscheinlichkeitsverteilung des Wahrscheinlichkeitsraumes (Ω ) kann auf die Zufallsvariable übertragen werden, so dass eine Verteilung für resultiert. Für eine Zufallsvariable, die nur diskrete Werte annehmen kann, gilt P ( ) = ( = ) (18) (Ω) mit 7
Diese Verteilung kann auch in der Form ( ) = P ( ) (19) dargestellt werden. Ein einfaches Beispiel ist die Bernoullische Verteilung zum Parameter mit [0 1]. Hierbei nimmt die Zufallsvariable die beiden Werte 0 und 1 an und es gilt ( =1)= und ( =0)=1 (20) Im Falle einer stetigen Zufallsvariablen, die beliebige Werte auf der Zahlengeraden annehmen kann, erhält man ( ) = Z ( ) (21) wobei ( ) die Dichte der Verteilung für die Zufallsvariable ist. Es gilt für ( ) die Normierungsbedingung Z ( ) =1 (22) Anstelle der Verteilungsdichte ( ) verwendet man häufig die Verteilungsfunktion ( ), diesichbeieinerintegrationüber ( ) ergibt ( ) = Somit folgt aus der Beziehung 21 Z ( ) (23) ( ) = ( ) ( ) (24) Offenbar ist ( ) eine monoton wachsende Funktion und es gilt ( ) =0 und ( ) =1.Einehäufig auftretende Verteilung ist die Normalverteilung (Gauss-Verteilung) Ã ( ) = 1 2 exp! ( )2 2 2 (25) mit dem Erwartungswert ( ) = und der Varianz ( ) = 2.Durch Standardisierung entsteht die Standardnormalverteilung mit der Wahrscheinlichkeitsdichte ( ) = 1 exp µ 2 (26) 2 2 8
wobei der Erwartungswert ( ) =0und die Varianz ( ) =1ist. Es können auch gemeinsame Verteilungen ( ) zweier Zufallsgrößen und (oder auch beliebig vieler Zufallsgrößen) eingeführt werden [1]. Zwei Zufallsgrößen und sind unabhängig voneinander, wenn für die gemeinsame Verteilungsfunktion die Gleichung ( ) = ( ) ( ) erfüllt ist, wobei ( ) die Verteilungsfunktion von und ( ) die Verteilungsfunktion von ist. Entsprechend gilt dann für die Wahrscheinlichkeitsdichte der gemeinsamen Verteilung ( ) = ( ) ( ). 3.6 Erwartungswert, Varianz und Kovarianz Der Erwartungswert einer diskreten Zufallsvariablen ist durch ( ) = P ( ) (27) gegeben, wobei ( ) die Wahrscheinlichkeit für den Wert der Zufallsvariablen ist. Dementsprechend gilt für eine kontinuierlichen Zufallsvariable ( ) ( ) = Z Die Varianz der Zufallsvariablen ist durch ( ) (28) ( ) = [ ( )] 2 (29) definiert. Die Wurzel aus der Varianz = p ( ) wird als Standardabweichung bezeichnet. Die Kovarianz zweier Zufallsvariablen und wird aus ( )= [( ( )) ( ( ))] (30) erhalten. Teil III Wahrscheinlichkeitsrechnung und Statistik Die Wahrscheinlichkeitsrechnung schließt von der Grundgesamtheit auf die Stichprobe, hingegen die beurteilende Statistik von der Stichprobe auf die 9
Grundgesamtheit. Allerdings werden die grundlegenden Beziehungen der beschreibenden Statistik mit den mathematisch fundierten Methoden der Wahrscheinlichkeitsrechnung hergeleitet. Eine große Rolle spielen Grenzwertsätze über Summen von Zufallsvariablen, wobei in vielen Fällen die Gausssche Verteilung (Normalverteilung) eine zentrale Rolle spielt. 4 Der zentrale Grenzwertsatz Es seien die Zufallsvariablen 1, 2 voneinander unabhängig und sie besitzen die gleiche Verteilung. Der zentrale Grenzwertsatz trifft danneine Aussage über die Summe = (31) von Zufallsvariablen. Zentraler Grenzwertsatz: Für jedes seien die Zufallsvariablen 1, 2 voneinander unabhängig und sie besitzen die gleiche Verteilung. Bezeichnet man den Erwartungswert und die Varianz der Zufallsvariablen mit = ( ) bzw. 2 = ( ), dann gilt µ = 1 Z 2 2 für den Grenzübergang =. exp µ 2 (32) 2 Beispiel: Wenn einer Bernoulliverteilung mit dem Parameter genügt, dann gilt wegen = und 2 = (1 ) für = Ã! p = 1 Z exp µ 2 (33) (1 ) 2 2 5 Vertrauensintervall bei der Fehlerrechnung In der Fehlerrechnung, zur Bewertung experimenteller Daten, kann man häufig die Größe von zufälligen Messfehlern von Einzelmessungen aus Plausibilitätsbetrachtungen abschätzen und damit Standardabweichungen sinnvoll vorgeben. Wenn eine genügende Anzahl von Wiederholungsmessungen vorliegen, kann auch die empirische Varianz verwendet werden. Es besteht die Frage, wie groß das Vertrauen darin ist, dass ein erwartbares Fehlerintervall eine 10
bestimmte Größe nicht überschreitet, nachdem mehrere Wiederholungsmessungen durchgeführt und die Mittelwerte der Messwerte bestimmt worden sind. Durch die Mittelwertbildung wird der zufällige Fehler reduziert. Unter sehr allgemeinen Voraussetzungen sind die Messfehler der Einzelmessungen normal verteilt (Gauss-Verteilung). Es werden Messungen einer Größe durchgeführt. Da zufällige Messfehler bei den Messungen auftreten, soll jede Messung der Größe auch als Realisierung einer Zufallsvariable aufgefasst werden. Der empirische Mittelwert und die empirische Varianz sind wieder mit der Stichprobe (bestehend aus den Werten für die Messungen) aus den Beziehungen = 1 bzw. 2 1 = 1 1 ( ) 2 (34) bestimmbar. Daraus erhält man Schätzwerte für Mittelwert = ( ) und Varianz 2 = ( ) der Zufallsvariablen : ( ) ' = 1 (35) und 2 ( ) ' 2 1 = 1 1 ( ) 2 (36) Aus dem zentralen Grenzwertsatz [2] folgt, dass für genügend große Werte von die Verteilung der standardisierte Zufallsgröße = P 2 (37) gleich der Normalverteilung mit dem Erwartungswert 0 und der Varianz 1 ist. Die Zufallsgröße dient dazu, die erwartbaren Abweichungen des empirisch bestimmten Mittelwertes vom wahren Messwert zu bestimmen. Es sei nun die Zahl gleich der Wahrscheinlichkeit ( ) dafür, dass die normierte Fehlerabweichung innerhalb eines gewählten Intervalls [ ] liegt. Mit dem zentralen Grenzwertsatz folgert man ( )= Z 1 2 exp( 2 2) = (38) Für ( ) können wir offenbar auch alternative Bezeichnungswei- 11
sen ( ) = µ + = µ + = µ + verwenden. Mit Gleichungen 38 und 23 zeigt man leicht die folgende Beziehung zwischen und : ( ) = 1+ (39) 2 mit ( ) = Z 1 2 exp( 2 2) (40) In der Praxis wählt man für häufig diewerte0 95 oder 0 99 (Konfidenzniveau). Dann wird mit Gleichung 40 der Wert von für das gewählte Konfidenzniveau bestimmt. Schließlich können mit der Beziehung 37 die Fehlerschranken für den erhaltenen Mittelwert =( P ) angegeben werden. Bei einer vorgegebenen Zuverlässigkeit (Vorgabe des Parameters für das Vertrauensniveau) liegt dann der wahre Wert der Messgröße innerhalb eines Intervalls + (41) 6 Aufgaben 1) Eine Zellspannung wurde 12-mal bestimmt (Angaben in Millivolt): [110], [103], [102], [107], [101], [102], [106], [104], [105], [106], [105], [106] a) Bestimmen Sie Mittelwert und empirische Varianz der Zellspannung. b) Geben Sie die Vertrauensintervalle für =90%und = 95% an. (Mit der Wahrscheinlichkeit soll die wahre Zellspannung innerhalb des jeweiligen Vertrauensintervalls [ min max ] liegen.) 2) Der elektrische Widerstand = eines Drahtes wird durch 6 Messungen [ ] der Spannung in mv und der Stromstärke in ma bestimmt: [512 212], [530 201], [501 208], [525 203], [508 202], [523 205] 12
Es wird vorausgesetzt, dass die Messungen von und voneinander unabhängig sind. a) Schätzen Sie aus den Daten die mittleren Fehlerquadrate ( ) 2 und ( ) 2 mit Hilfe der empirischen Varianz ab. b) Verwenden Sie das Gausssche Fehlerfortpflanzungsgesetz q und die Ergebnisse für ( ) 2 und ( ) 2,um( ) 2 bzw. ( ) 2 abzuschätzen (Fehler von ). 3) Eine Zufallsvariable ist im Intervall gleich verteilt. Bestimmen Sie Erwartungswert = ( ) und Varianz 2 = ( ) von. 4) Bestimmen Sie Erwartungswert = ( ) und Varianz 2 = ( ) für die Bernoullische Verteilung (siehe Definitionsgleichungen 20). 5) Bei einer Bürgermeisterwahl mit zwei Kandidaten und werden mehr als 7000 Stimmen abgegeben. Vor der Auszählung wurde eine Stichprobe von 200 Stimmzetteln zufällig ausgewählt. Dabei zeigte sich, dass für Kandidat insgesamt 110 und für Kandidat die restlichen 90 Stimmen abgegeben wurden. a)wiegenauisteineprognosedeswahlausgangesmitderstichprobe, wenn eine Vertrauenswahrscheinlichkeit von =0 95 zugrunde gelegt wird? b) Schätzen Sie aus den Angaben der Stichprobe die Wahrscheinlichkeit dafür ab, dass Kandidat doch noch die Bürgermeisterwahl gewinnt! 6) In einer repräsentativen Umfrage haben 400 von 1200 Befragten für eine Partei votiert. Wie genau ist der Schätzwert für das Wahlergebnis dieser Partei, wenn die Befragten rein zufällig ausgewählt und Vertrauenswahrscheinlichkeiten von a) =0 90 und von b) =0 95 zugrunde gelegt werden? 7) Bestimmen Sie die Ausgleichsgerade für einen vermuteten linearen Zusammenhang = + der Größen und unter Verwendung folgender Daten [ ]: [1 4] [2 2] [3 1] [4 4] Wie groß ist der empirische Korrelationskoeffizient zwischen den Größen und, wenn man die vorliegenden Daten zugrunde legt? Ist eine Korrelation zwischen und zu erwarten? 13
8) Bestimmen Sie Erwartungswert = ( ) und Varianz 2 = ( ) für die Binomialverteilung und die Poisson-Verteilung. 9) In einem klassischen Gas sei die Teilchengeschwindigkeit (in km/s) folgendermaßen verteilt (Maxwell-Verteilungsdichte bei einer bestimmten Temperatur): ( ) = 4 2 exp( 2 ) für 0 a) Bestimmen Sie Erwartungswert und Varianz für die Zufallsvariable Geschwindigkeit! b) Wie groß ist die Wahrscheinlichkeit dafür, dass die Geschwindigkeit eines Teilchens größer als 0 5 (in km/s) ist? Anmerkung: Es gilt mit der Fehlerfunktion erf : ( ) = 1 2 1+erf 2. Gleichung 39 kann mit Marlab durch (@( )1 2 (1 + erf( (2))) (1 + ) 2 1) gelöst werden, wobei für der gewünschte Zahlenwert (Wahrscheinlichkeitswert) des Vertrauensintervalls eingesetzt werden muss. [1] H. Knöpfel, M. Löwe, Stochastik-Struktur im Zufall, Oldenbourg Wissenschaftsverlag GmbH 2007, ISBN 978-3-486-58448-6 [2] J. A. Rosanow, Stochastische Prozesse, Akademie-Verlag, Berlin 1975 [3] B. W. Gnedenko, Lehrbuch der Wahrscheinlichkeitsrechnung, Akademie-Verlag, Berlin 1979 [4] Henze, Stochastik für Einsteiger, Vieweg Verlag,Wiesbaden 2006 14