Statistik und Wahrscheinlichkeitsrechnung

Transkript

1 Statistik ud Wahrscheilichkeitsrechug Dr. Joche Köhler

2 Äderug Übugsstude Statistik ud Wahrscheilichkeitsrechug Die Gruppe vo Markus trifft sich am Doerstag statt im HCI D zusamme mit der Gruppe vo Eva im HIL E

3 Kurze Zusammefassug der letzte Vorlesug Kofidezitervall: Typische Kofidezitervalle ud die dazugehörige Fraktilwerte der Stadardormalverteilug: Kovidez α k α k α 99% % %

4 Ihalt der heutige Vorlesug Kurze Zusammefassug der letzte Vorlesug Schätzug ud Modelletwicklug: Methode der Momete Methode der Maximum Likelihood Befragug der Studierede (ca. 5 mi)

5 Kleie Dekaufgabe. Das Sigifikaziveau eies Hypothesetests etpricht: der Wahrscheilichkeit eies Fehlers. Art der Wahrscheilichkeit eies Fehlers. Art je ach Wahl der Null Hypothese etweder der Wahrscheilichkeit eies Fehlers. Art oder eies Fehlers. Art.

6 Kleie Dekaufgabe. Lösug Das Sigifikaziveau eies Hypothesetests etpricht per Defiitio der Wahrscheilichkeit eies Fehlers. Art Urteil Wahrheit H 0 trifft zu. H 0 trifft icht zu. Akzeptaz vo H 0. Richtiges Urteil. Fehler. Art. Ausschluss vo H 0. Fehler. Art. Richtiges Urteil.

7 Schätzug ud Modelletwicklug Übersicht We ma Modelle im Igeieurbereich etwickel möchte, müsse uterschiedliche Type vo Iformatioe heragezoge werde. subjektive Iformatioe frequetistische Iformatioe subjektiv physikalisches Verstädis Erfahrug Beurteilugsvermöge Verteilugsfamilie frequetistisch Date Verteilugsparameter probabilistisches Modell

8 Schätzug der Verteilugsparameter Habe wir us für ei Verteilugstyp etschiede, müsse die Parameter abgeschätzt werde. z.b. Normalverteilug Weibullverteilug f ( x) = exp σ π x μ σ f k k x ε x ε () x = exp u ε u ε u ε k Wahrscheilichkeitsdichtefuktioe werde defiiert durch ihre T Parameter =,,..,. ( ) k Allgemei gibt ma Dichtefuktioe bedigt auf die Parameter a: f ( x )

9 Schätzug der Verteilugsparameter Es gibt eie Vielzahl vo Methode Verteilugsparameter zu schätze; geerell wird uterschiede zwische: Puktschätzer Itervallschätzer. Im folgede werde wir zwei Methode äher betrachte: Methode der Momete Methode der Maximum Likelihood

10 Schätzug der Verteilugsparameter Methode der Momete (MoM) Gegebe ist eie Stichprobe ahad desse wir die T Verteilugsparameter abschätze: x = (ˆ x, xˆ,..,ˆ ) ˆ, Das Prizip der Methode der Momete ist die Parameter so abzuschätze, dass die Momete der Verteilug ud die Momete der Stichprobe idetisch sid. m = j j x i i= Stichprobe x j j = j k = λ λ (,,.., ) x f ( x) dx Verteilug

11 Schätzug der Verteilugsparameter Methode der Momete (MoM) Ageomme wir habe eie Verteilug mit k Parameter: Da habe wir k Gleichuge mit k ubekate zu löse: m = λ ( ), j =,,.., k j j j i i= j x = x f ( x ) dx, j =,,.., k Stichprobe Verteilug

12 Schätzug der Verteilugsparameter Methode der Momete (MoM) Beispiel: Beto Druckfestigkeit, Aahme Normalverteilt: Die Normalverteilug hat zwei Parameter wir müsse also zwei Gleichuge löse: m xˆ = λ x f ( xμσ, ) dx = = i i= i λ i= m xˆ = x f ( xμσ, ) dx = =

13 Schätzug der Verteilugsparameter Methode der Momete (MoM) Die Stichprobemomete sid: m ˆ = x i = 3.67 m ˆ = x = i 0 i= Die Momete der Verteilug sid: i= ( x μ) λ = x exp( 0.5 ) dx σ π σ ( x μ) λ = x exp( 0.5 ) dx σ π σ

14 Schätzug der Verteilugsparameter Methode der Momete (MoM) Bei Formulierug der folgede Objektfuktio: g( μ, σ) = ( λ σ m ( μ, σ) m ) + ( λ ( μ, ) ) Lasse sich die Parameter durch Optimierug fide. z.b. mit Hilfe vo MS ECEL

15 Schätzug der Verteilugsparameter Methode der Momete (MoM) ODER: Alterativ ud viel eifacher ist die Heragehesweise mithilfe vo de zetrale Momete.. Bestimme des Stichprobemittelwertes ud der Stichprobestadardabweichug.. Gleichsetze mit dem Stichprobemittelwert ud der Stadardabweichug der Verteilugsfuktio. 3. Erreche der Parameter

16 Schätzug der Verteilugsparameter Methode der Momete (MoM) Log-Normalverteilug, Parameter Momete x λ F ( x) =Φ ζ 0 x l ( x) λ λζ, f ( x) = exp xζ π ζ ζ 0 l ( ) > σ μ ( ζ ) Gumbel max. Parameter Momete ζ μ = exp λ+ = exp ( α( ) ( )) ( α ( )) f ( x) = αexp x u exp x u ( ) F ( x) = exp exp x u x u α > 0 γ μ = u +, γ α π σ = α

17 Kleie Dekaufgabe. Welche der folgede Aussage i Bezug auf Hypothesetests ist richtig? Die Wahl der Null Hypothese ist subjektiv. Das Sigifikaziveau sollte so klei wie möglich ausgewählt werde. We die Azahl der Stichprobe bekat ist, ka das Sigifikaziveau beliebig gewählt werde.

18 Kleie Dekaufgabe. Lösug Die Wahl der Null Hypothese ist subjektiv. Auf gleiche Weise ka auch die Wahl des Sigifikaziveaus subjektiv sei. Das subjektive Auswähle vo Null Hypothese ud Sigifikaziveaus ka als Prozess der Etscheidugsfidug verstade werde, der die ökoomische Auswirkuge vo Kosequeze bedigt durch statistische Schlussfolgeruge mit eibezieht.

19 Schätzug der Verteilugsparameter Maximum Likelihood Methode (MLM) Die Grudidee der MLM ist die Parameter der Verteilug zu idetifiziere, welche die maximale Likelihood besitze welche also am wahrscheilichste sid

20 Schätzug der Verteilugsparameter Maximum Likelihood Methode (MLM) Die Form eier Wahrscheilichkeitsdichtefuktio ist bestimmt durch ihre Parameter =,,.., Ṭ ( k )

21 Schätzug der Verteilugsparameter Maximum Likelihood Methode (MLM) Die Form eier Wahrscheilichkeitsdichtefuktio ist bestimmt durch ihre Parameter =,,.., Ṭ ( k ) Wird u eie Stichprobe x ˆ= ( xˆ, xˆ,,.., xˆ ) T beobachtet, hat eie Realisatio der Stichprobe die Likelihood : L= f ( xˆ ) ˆx

22 Schätzug der Verteilugsparameter Maximum Likelihood Methode (MLM) Die Form eier Wahrscheilichkeitsdichtefuktio ist bestimmt durch ihre Parameter =,,.., Ṭ ( k ) Wird u eie Stichprobe x ˆ= ( xˆ, xˆ,,.., xˆ ) T beobachtet, hat eie Realisatio der Stichprobe die Likelihood : L= f ( xˆ ) Die Likelihood der gesamte Stichprobe errechet sich aus dem Produkt der Likelihoods der Eizelbeobachtuge > ˆx L= f ( xˆ ) i= i > bei gegebee Parameter

23 Schätzug der Verteilugsparameter Maximum Likelihood Methode (MLM) Die Form eier Wahrscheilichkeitsdichtefuktio ist bestimmt durch ihre Parameter =,,.., Ṭ ( k ) Wird u eie Stichprobe x ˆ= ( xˆ, xˆ,,.., xˆ ) T beobachtet, hat eie Realisatio der Stichprobe die Likelihood : L= f ( xˆ ) Die Likelihood der gesamte Stichprobe errechet sich aus dem Produkt der Likelihoods der Eizelbeobachtuge > ˆx L= f ( xˆ ) i= i > bei gegebee Parameter 3

24 Schätzug der Verteilugsparameter Maximum Likelihood Methode (MLM) Wir maximiere die Likelihood uter Veräderug der Parameter: max L ( xˆ i ) > ud erhalte die Parameter welche am beste zu der Stichprobe passe

25 Schätzug der Verteilugsparameter Maximum Likelihood Methode (MLM) Beispiel Normalverteilug: Wir ehme a, die usere Beobachtuge zugrudeliegede Verteilugsfuktio ist die Normalverteilug. f ( x ) = exp σ π x μ σ Die Likelihood der Beobachtuge der Stichprobe x ˆ = ( ˆ, ˆ,..., ˆ ) T ist da; x x x L( xˆ ) = exp i= σ π xˆ i μ σ

26 Schätzug der Verteilugsparameter Maximum Likelihood Methode (MLM) Beispiel Normalverteilug: Die Parameter der Normalverteilug werde so gewählt, dass sie die Likelihoodfuktio maximiere: mi ( L ( xˆ )) > es ist vo Vorteil die logarithmierte Likelihoodfuktio zu verwede: l( x) = l( f ( ˆ xi )) i= l( x) = l( f ( ˆ xi )) i=

27 Schätzug der Verteilugsparameter Maximum Likelihood Methode (MLM) Beispiel Normalverteilug: Werde die Parameter so gewählt, dass sie die log Likelihoodfuktio maximiere: mi( l ( xˆ )) Ka gezeigt werde, dass die Parameter a sich zu Normalverteilte Zufallsvariable kovergiere: Mit Mittelwerte: μ ( Θ =,,.., ) T Ud Kovariazmatrix: CΘΘ = H wobei H ij l( xˆ) = = i j 7

28 Schätzug der Verteilugsparameter Maximum Likelihood Methode (MLM) Beispiel Normalverteilug: Betrachte wir u die Date der Betodruckfestigkeit, uter der Aahme, dass die Betodruckfestigkeit eier Normalverteilug folgt, ergibt sich für die log Likelihoodfuktio: l( xˆ) = l π ( ˆ ) Das Miimum ka aalytisch wie folgt bestimmt werde: i= x i l = + 3 l = i= i= ( ˆ ) = 0 x i ( ˆ ) = 0 x i i= = = xˆ i i= ( xˆ ) i 8

29 Schätzug der Verteilugsparameter Maximum Likelihood Methode (MLM) Beispiel Normalverteilug: Gemäss Zahlebeispiel Betodruckfestigkeit ergibt sich: i= ( xˆ ) i = = = Mittelwert der Stadardabweichug Biased (!) ˆ = xi = = i= Mittelwert des Mittelwertes

30 Statistik ud Wahrscheilichkeitsrechug 30 Schätzug der Verteilugsparameter Maximum Likelihood Methode (MLM) Beispiel Normalverteilug: Gemäss Zahlebeispiel Betodruckfestigkeit ergibt sich: Für die Kovariazmatrix: ( ) ( ) ( ) = = = = x x x H i i i i i i C H ΘΘ = = Variaz der Stadardabweichug Variaz des Mittelwertes

31 Schätzug der Verteilugsparameter Maximum Likelihood Methode (MLM) Das Problem lässt sich ebefalls umerisch löse z.b. mit MS ECEL

32 Schätzug der Verteilugsparameter Maximum Likelihood Methode (MLM) Illustratio Likelihood