Resampling Methoden Dortmund, 2005 (Jenő Reiczigel) 1. Bootstrap: Tests

Transkript

1 Resampling Methoden Dortmund, 2005 (Jenő Reiczigel) 1 Bootstrap: Tests Zwei Ideen 1. Mit dem Bootstrap kann man gute Konfidenzintervalle erstellen, und die Tests kann man von diesen Konfidenzintervallen herleiten. 2. Man generiert die bootstrap Stichproben nicht direkt aus der empirischen Verteilung (=nicht aus der beobachteten Stichprobe), sondern aus einer Verteilung, die in H 0 liegt (man projeziert die empirische Verteilung auf die Nullhypothese).

2 Resampling Methoden Dortmund, 2005 (Jenő Reiczigel) 2 Beispiel: Zwei-Stichprobentest (dasselbe wie beim Permutationstest) Behandlung gegen Blutarmut Meßwert: Hämoglobin (g/dl) bei mäßig anämischen randomisierten Patienten nach der Behandlung Daten: Gruppe B (behandelte): 9.1, 10.3, 11.0, 11.5, 11.9 Gruppe K (kontrolle): 8.1, 8.4, 9.2, 9.4 Beh. Kontr

3 Hypothesenstellung I. Resampling Methoden Dortmund, 2005 (Jenő Reiczigel) 3 H 0 : Die Verteilungen in B und K sind identisch (die Behandlung hat keine Wirkung) H 1 : Meßwerte in B sind größer als in K (viele Varianten: verschoben, stochastisch größer, größerer Mittelwert, usw.) Prüfgröße: Differenz zwischen den Mittelwerten. Testverfahren: Man nimmt Stichproben mit Zurücklegen aus den vereinigten Stichproben (zu viele Möglichkeiten, Simulationen nötig). Nullverteilung: die Vtlg der Prüfgröße für diese Stichproben. p = (mit der boot Funktion von R mit Replik.) Mit dem Permutationstest war p = dieser Unterschied ist nicht zufällig!

4 Resampling Methoden Dortmund, 2005 (Jenő Reiczigel) 4 Hypothesenstellung II. a) H 0 : Die Mittelwerte von B und K sind identisch (die Behandlung hat keine Wirkung auf den Mittelwert). H 1 : MW von B ist größer als MW von K Prüfgröße: Differenz zwischen den Mittelwerten. Testverfahren: 1) Man transformiert die Stichproben so, dass H 0 gilt (jetzt verschieben wir B so, dass MW B = MW K gilt). 2) Man nimmt Stichproben mit Zurücklegen aus den transformierten Stichproben. Nullverteilung die Vtlg der Prüfgröße für diese Stichproben.

5 Resampling Methoden Dortmund, 2005 (Jenő Reiczigel) 5 Die transformierten Stichproben (X B(transf) = X B 1.98): Beh.(transf) Kontr p < (wieder mit boot mit Replikationen) Interpretation: fast unmöglich, dass die Verteilungen, aus deren die Beobachtungen stammen, solche Formen und zusätzlich gleichen MW haben.

6 Resampling Methoden Dortmund, 2005 (Jenő Reiczigel) 6 Hypothesenstellung II. b) Hypothesen sind dieselbe wie in II. a) Prüfgröße: Studentisierte Differenz zwischen den Mittelwerten. Testverfahren ist dasselbe wie in II. a) p < (wieder mit boot mit Replikationen) Ist die studentisierte Differenz besser?

7 Resampling Methoden Dortmund, 2005 (Jenő Reiczigel) 7 Hypothesenstellung III. a) H 0 : Die Mediane von B und K sind identisch H 1 : Der Median von B ist größer Prüfgröße: Differenz zwischen den Medianen Beim bootstrap Test kann man nicht nur die Prüfgröße, sondern auch die Nullhypothese relativ frei auswählen. Die Prüfgröße muss empfindlich gegenüber die aktuelle Alternative sein Die Prüfverteilung darf nicht (stark) von unbekannten Parametern abhängen.

8 Resampling Methoden Dortmund, 2005 (Jenő Reiczigel) 8 Bootstrap Zwei-Stichprobentest: Vergleich mit dem Permutationstest Permutationstest H 0 : immer die Gleichheit der zwei Verteilungen bedingter Test (Bedingung: die beobachteten Werte) exakt, wenn Austauschbarkeit unter H 0 besteht Bootstrap Test H 0 kann allgemeiner sein (Gleichheit von Mittelwerten, Medians, ) kein bedingter Test nicht exakt

9 Resampling Methoden Dortmund, 2005 (Jenő Reiczigel) 9 Mehrere Stichproben Grundsätzlich kann man dieselbe Idee verwenden, wie beim Zwei- Stichprobentest H 0 : Gleichheit der Mittelwerte H 1 : Ungleichheit der Mittelwerte Prüfgröße: dieselbe wie bei der klassischen Varianzanalyse oder dieselbe wie beim Permutationstest oder eine gewichtete Version g 2 ni wi ( xi. x.. ) wobei w i = und 2 i= 1 si... x.. = wi x w i i

10 Resampling Methoden Dortmund, 2005 (Jenő Reiczigel) 10 Prüfverteilung basiert auf bootstrap Stichproben gezogen aus den verschobenen Stichproben (verschoben so, dass alle Mittelwerte gleich sind). Das ist eigentlich bootstrap aus den Residuen! (Das wird die Basis der Verallgemeinerung gegen kompliziertere Modelle.)

11 Resampling Methoden Dortmund, 2005 (Jenő Reiczigel) 11 Parametrische bootstrap Tests Bei einem parametrischen Problem mit Störparametern (wo man einen bedingten Test nicht kriegen kann), kann man einen bootstrap Test anwenden. 1. Man passt ein Modell ˆF 0 an, d.h. man schätzt alle Parameter (auch die Störparameter!) z.b. mit ML 2. Man wählt eine Prüfgröße T und berechnet T für die beobachtete Stichprobe (t) 3. Durch bootstrap aus dem Modell ˆF 0 bestimmt man einen p-wert: p = P F ( T t) ˆ 0 Wenn man simuliert, nimmt man b bootstrap Stichproben aus ˆF 0, berechnet t* für alle und erhält damit p = 1 1. b t t*

12 Resampling Methoden Dortmund, 2005 (Jenő Reiczigel) 12 Zweiseitige p-werte Ein zweiseitiger p-wert wird so definiert: p 2s = 2 min{p H0 (T t beob ), P H0 (T t beob )} Angenommen, dass sowohl zu große als auch zu kleine Werte von T gegen H 0 sprechen, und dass die großen und die kleinen Werte in Paare gestellt werden können (die gleich stark gegen H 0 sprechen), würde man als Paar von t beob lieber einen Wert t mit dem Eigenschaft P H0 (T t ) = P H0 (T t beob ) wählen, als t beob.