Übungsrunde 12, Gruppe 2 LVA , Übungsrunde 12, Gruppe 2, Markus Nemetz, TU Wien,

Transkript

1 Übugsrude 12, Gruppe 2 LVA , Übugsrude 12, Gruppe 2, Markus Nemetz, markus.emetz@tuwie.ac.at, TU Wie, Agabe Währed eier 6-moatige Periode wurde die Zeite (Stude) zwische aufeiader folgede Crashes eies eu istallierte Computersystems registriert. Die (der Größe ach geordete) Zeite ware wie folgt: (a) Zeiche Sie die empirische Verteilugsfuktio F. (b) Bestimme Sie (graphisch oder recherisch) die Stelle ud de Wert des größte Abstads zwische der empirische Verteilugsfuktio F ud ˆF = e x/x. Letztere ist die Verteilugsfuktio eier Expoetialverteilug, wobei τ durch das Stichprobemittel x ersetzt wird. (Ist diese Ersetzug sivoll?) [dist.exp2.r] 1 "dist.exp2" <- 2 fuctio(data,lambda=1,plotit=true) { 3 # W. Gurker (for "Agew. Statistik" S-06) 4 <- legth(data) 5 d.s <- sort(data) 6 e.1 <- (1:)/ 7 e.2 <- (0:(-1))/ 8 F <- pexp(d.s,lambda) 9 ABS <- c(abs(f-e.1),abs(f-e.2)) 10 MAX <- max(abs) 11 id <- which.max(abs) 12 if ( plotit ) { 13 plot(ecdf(data),verticals=true,do.p=false, 14 mai="emp. VF - Expoetial", 15 xlab="data",ylab=expressio(f[](x))) 16 t <- seq(0,d.s[]+max(diff(d.s))/10,legth=100) 17 lies(t,pexp(t,lambda),lty=1,col= red ) 18 IND <- ifelse(id <=,id,id-) 19 x.max <- sort(data)[ind] 20 ablie(v=x.max,lty=2) 21 poits(c(x.max,x.max),c(pexp(x.max,lambda),pexp(x.max,lambda) + 22 MAX*ifelse(id<=,1,-1)),pch=21,cex=1.1) 23 mtext(paste("n =",," D =",roud(max,4)," x =", 24 roud(sort(data)[ind],4)),side=3,lie=0,cex=0.8) } 25 retur(list(maxdist = MAX, id = IND)) 26 } DATA <- c(1, 10, 20, 30, 40, 52, 63, 70, 80, 90, 100, 102, 130, , 190, 210, 266, 310, 530, 590, 640, 1340) 1

2 1.2 Empirische Verteilugsfuktio Die e.v. stellt die kumulierte Häufigkeitsverteilug eier Reihe vo Messwerte dar. Die kumulierte Häufigkeit eies Merkmals gibt a, wie viele Fälle i eiem Datesatz kleier oder gleich eiem bestimmte Wert eies iteressierede Merkmals sid. We die etsprechede Zahl der Fälle agegebe wird, hadelt es sich um absolute kumulierte Häufigkeite, doch werde meist die relative k. H.e agegebe, also der Ateil bzw. der Prozetwert der Fälle, die kleier oder gleich diesem Wert sid. Eie Aussage über die relative k. H. köte z.b. laute: 60 Prozet der Persoe im Datesatz habe ei Eikomme kleier oder gleich EUR. Formal schreibe wir F(x) = f f i = sum f i relative kumulierte Häufigkeite wobei f 1,...,f j die relative Häufigkeite der Merkmalsauspräguge a 1,...,a j sid. Bei Prozetagabe ist dieser Wert mit 100 zu multipliziere. 1.3 Lösug des Beispiels a 2

3 1.3.2 b Hier wird der größte Abstad vo F (X) ud eiem F(x) = 1 e x i x gesucht. Der Parameter ist (laut Agabe) jetzt icht λ, soder ma immt eifach de Kehrwert des Mittelwerts aus DATEN. Dazu ruft ma m<-mea(data) auf ud da dist.exp2(data,1/m,true) Die rote Liie stellt Expoetial-Verteilugsfuktio dar ud die Schittpukte die da eigezeichet werde, markiere de größte Abstad: sup F (x) f(x) Prof. Gurker zeigte i der UE (Ausschitt aus obesteheder Grafik): b a x i Es gilt: b = F(x ) i, a = F(x ) i i 1 Weiterführed siehe Kolmogoroff-Smiroff-Statistik, z.b hier: 3

4 Agabe Eie logarithmisch ormalverteilte sg, X L( µ, σ 2 ), wird -mal uabhägig beobachtet, X 1,...,X. (a) Bestimme Sie de Merkmalraum, de Parameterraum ud de Stichproberaum. (b) Ermittel Sie die gemeisame Dichtefuktio der Stichprobe. (c) Gebe Sie geeigete Schätzfuktioe für µ ud σ a. 2.2 Lösug des Beispiels a Zuerst sollte wir scho die Dichtefuktio der logarithmische Normalverteilug betrachte: 1 (lx µ)2 exp( f(x) = 2πσx 2σ 2 ), x > 0 0, x 0 Wir vergegewärtige: X LN(µ, σ 2 ) lx N(µ, σ 2 ) Der Merkmalraum ist Mege aller mögliche Merkmale - hier sid es die positive reelle Zahle, da die logarithmische Normalverteilug ie egativ wird Parameterraum (lt. Buch S.125): We sich die Wahrscheilichkeitsverteilug durch edlichdimesioale Parameter θ charakterisiere lässt, ist die Mege Θ aller i Betracht kommede Parameterwerte θ der Parameterraum. Nu de betrachte wir die Parameter: Eie stetige Zufallsvariable X uterliegt der logarithmische Normalverteilug LN(µ, σ 2 ) mit de Parameter µ R (Schwerpukt) ud σ R, σ > 0 (Streuug). Daher gehe ich davo aus, dass der Parameterraum die Mege der reelle Zahle umfasst, kokreter: R + für σ 2 R für µ Stichproberaum scheit mir R + zu sei ( ist die Azahl der Beobachtuge): ( ist das karthesische Produkt) b M x = R + R + R + Die gemeisame Dichtefuktio der Stichprobe ist das Produkt über die eizele Dichtefuktioe f(x) = 1 σ Π 2pi x i = exp( 1 2σ 2 (lx i µ) 2 ) i=0 4

5 2.2.3 c Die sog. Fuktio der Parameterwerte ist allgemei: l( µ, σ 2, x }{{} 1...x i ) Likelihood Die Schätzfuktioe - allgemei: M X R R ˆµ = 1 l(x i ) i=0 ˆσ 2 = (l(x i ) µ) Agabe X 1,...,X sei eie Stichprobe vo X U (0,θ), (θ > 0). (a) Zeige Sie, daß T 1 = 2X ei uverzerrter Schätzer für θ ist. (Variaz des Schätzers? *Ist der Schätzer kosistet für µ?) (b) Ist T 2 = max{x i, i = 1,...,} ei uverzerrter Schätzer für θ? (c) Wie lautet die effiziete lieare Schätzfuktio für θ? 3.2 Lösug des Beispiels a Die Dichtefuktio der uiforme Verteilug ist gegebe durch: { 1 f(x) = θ 0, 0 < x < θ 0, sost. T 1 = 2X ist als uverzerrter Schätzer für θ zu zeige. wir bereche daher de Erwartugswert (UIV, uiform idetisch verteilt) E(X) = 1 X i = 1 θ E(X i ) = E(X i) = E(X i ) E(X) = 1 θ Nu zeige wir T 1 als uverzerrte Schätzer: 0 xdx = θ 2 Damit ist der Schätzer uverzerrt. E(θ) = 2E(X) = 2 θ 2 = θ 5

6 Nu bereche wir die Variaz des Schätzers: I der Übug wurde gezeigt: Var(T 1 ) = E(X 2 ) E(X) 2 = 2 3 θ2 θ 2 = 1 3 θ2 Var(2X) = 4 Var(X) = 4 2 Var(X ) = Var(X) 4 Var(X) Var(X i ) = 2 = 4 Var(X) = 4θ Zur Frage, ob der Schätzer kosistet für µ ist: Bei steigeder Stichprobegröße wird die Abweichug des Stichprobemittelwertes vom Mittelwert der Grudgesamtheit kleier ud geht mit gege uedlich gege Null. Die Erwartugstreue sagt also, ob der Erwartugswert eies Schätzers gege de wahre Parameter kovergiert. Damit ist och ichts über die Größe der mögliche Fehler gesagt (solage sie ur i beide Richtuge im Mittel gleich groß sid). Aussage über die Größe der Fehler erhält ma, we ma die Kosistez eies Schätzers utersucht. Dabei gilt ei Schätzer als kosistet, we die Wahrscheilichkeit eies mehr als ifiitesimal große Fehlers gege Null geht: lim P( ˆθ N θ > ε) = 0 N Es gilt das Gesetz der Grosse Zahle: Der Mittelwert kozetriert sich mit wachsedem immer mehr um de gemeisame Erwartugswert µ der X i. Somit ist der Schätzer kosistet für µ b Zu prüfe ist, ob T 2 = max(x i, i = 1,...,) ei uverzerrter Schätzer für θ ist. Die Verteilugsfuktio der uiforme Verteilug mit poteziert ist die Verteilugsfuktio des Maximums ud damit der Schätzfuktio: T 2 = ( 1 θ ) Um die Dichtefuktio zu erhalte, wird abgeleitet: Der Erwartugswert ist da: T 2 = (T 2 ) = ( 1 θ ) x Der Schätzer ist somit icht uverzerrt. E(T 2 ) = θ θ + 1 6

7 3.2.3 c Wie lautet die effiziete lieare Schätzfuktio für θ? We X eie stochastische Grösse mit edlicher Variaz ud X 1,...,X eie Stichprobe vo X ist, so ist X die effiziete lieare Schätzfuktio für E(X) (Beweis ergibt sich aus Uverzerrtheit ud daraus, dass Variaz miimal ist - siehe Satz 25.4 i de Folie). Nach diesem Satz ist T 1 = X die effiziete Schätzfuktio vo θ. (Variaz ist so klei wie möglich - Effiziez der Schätzfuktio) Agabe Bei 50 Autobleche wurde die folgede Azahle vo Lackierugsfehler registriert: 1 Fehlerzahl Haufigkeit We ma davo ausgeht, daß es sich um eie Stichprobe aus eier P µ -Verteilug hadelt, bestimme Sie de plausible Schätzwert vo µ. (Überzeuge Sie sich davo, daß dieser Schätzwert die Plausibilitätsfuktio maximiert.) Ist der plausible Schätzer uverzerrt? 4.2 Theoretische Grudlage: Poisso-Verteilug Approximatio für die Biomialverteilug für kleies p ud großes (tritt bei seltee Ereigisse auf) - Bsp.: Rosie pro Brötche; Druckfehler pro Seite; gleichzeitig geführte Telefoate ierhalb eier Firma. Sei X = N 0 = {0, 1, 2, 3,... }, B = P(X). Das durch P(B) := k B µ k k! e µ, B X, defiierte Maß heißt Poisso-Verteilug mit Parameter µ > Lösug des Beispiels Ableite ud 0 setze: l(x 1,.., x µ) = Π(p(x i µ)) = µ (x i) e µ 1 Π(x i!) l (x 1,...,x µ) = 1 Π(x i!) [ (x i ) µ (x i) 1 e µ + µ (x i) ( ) e µ ] = 0 e µ µ (x i) 1 ( (x i ) µ) = 0 7

8 Die erste beide Faktore sid Expoetialfuktioe ud köe icht 0 werde, daher: (x i ) µ = 0 µ = (x i) Ei plausibler Schätzwert ist u das Stichprobemittel X = 23/25. Zur Uverzerrtheit - hier muss gelte: E(X ) = µ. Zuerst berechet ma E(X i ) aus: Abschliessede Berechug: E(X) = (x µx x! e µ ) = SvuStat i=0 = µ e µ i=0 ( µx 1 (x 1)! ) = µ e µ e µ = µ E(X ) = E( 1 (X i )) = 1 i=0 (E(X i )) = 1 µ = µ i=0 Es kommt das gleiche raus wie beim Stichprobemittel, daher ist der Schätzer uverzerrt Agabe Die folgede Date sid Zeite (Betriebsstude) zwische aufeiader folgede Ausfälle eies Systems: Ermittel Sie uter der Aahme, daß es sich um eie Stichprobe aus eier E x -Verteilug hadelt, de plausible Schätzwert vo (a) τ ud vo (b) λ = 1/τ. (Überzeuge Sie sich i beide Fälle davo, daß der Schätzwert die Plausibilitätsfuktio maximiert.) Sid die Schätzer uverzerrt? 5.2 Theoretische Grudlage: Expoeverteilug Die Expoetialverteilug ist eie kotiuierliche Wahrscheilichkeitsverteilug über der Mege der positive reelle Zahle. Sie wird vorragig bei der Beatwortug der Frage ach der Dauer vo zufällige Zeititervalle beutzt, wie z.b. Läge eies Telefogespräches, Dauer vo Diestleistuge, Reparature, Istadhaltugsmaßame, Zeit zwische zwei Arufe, Lebesdauer vo Atome beim radioaktive Zerfall, Lebesdauer vo Bauteile, Maschie ud Geräte, we Alterugserscheiuge icht betrachtet werde müsse, Alter vo Lebewese, als grobes Modell für kleie ud 8

9 mittlere Schäde i Hausrat, Kraftfahrzeug-Haftpflicht, Kasko i der Versicherugsmathematik. Eie stetige Zufallsvariable X geügt der Expoetialverteilug Exp(λ) mit dem Parameter λ, we sie die Wahrscheilichkeitsdichte { λe λx x 0 f λ (x) = 0 x < 0 besitzt. Ma beachte, dass statt λ auch 1 τ verwedet wird.1 Die Expoetialverteilug hat eie reelle Parameter λ. Er besitzt de Charakter eier Ausfallrate ud 1/λ de eier Lebesdauer. Um ihre Normierbarkeit zu garatiere, wird λ > 0 gefordert. De maximale Wert immt die Dichtefuktio der Expoetialverteilug bei x max = 0 ei, er beträgt dort f max = λ. 5.3 Lösug des Beispiels a Aus eier kokrete Stichprobe x 1,...,x mit der plausible Schättzwert ˆτ für de Parameter zu suche. Für die Plausibilitätsfuktio l(τ; x 1,...,x ) gilt: l(τ; x 1,...,x ) = Π 1 τ e xi τ = 1 τ Wir logarithmiere die Plausibilitätsfuktio ud erhalte 1 τ e x i l (τ; x 1,...,x ) = l(l(τ; x 1,...,x )) l (τ; x 1,...,x ) = l(τ) 1 τ Die Lösug ˆτ erhalte wir durch Differetiatio ach τ ud Nullsetze: ˆτ = 1 h I userem Fall ergibt sich da für ˆτ = = Uverzerrt, weil das gleiche rauskommt wie beim Stichprobemittel. Die Maximumstelle der Plausibilitätsfuktio ist geau beim plausible Schätzwert erreicht. Daher wird die Plausibilätsfuktio maximiert (geauer gesagt, eimal abgeleitet ud ull gesetzt), um de plausible Schätzwert zu erhalte. 1 Prof. Viertl verwedet i seie VO-Folie τ, ebeso auf S. 50 i Eiführug i die Stochastik. Bosch verwedet i Elemetare Eif.i.d.Wahrscheilichkeitsrechug auf S. 138 α, ud i weiterer Literatur ud i Websites wird oft λ verwedet. x i x i 9

10 I der UE wurde wie folgt gerechet: (Zeile obe ist Log-Likelihood ) f(x i τ) = ˆτe x τ l(τ, x 1...x ) = Π f(x i τ) = Π 1 τ e x 1 τ = x τ e τ x i l(l(τ, x 1...x )) = lτ x x i τ d dτ l(l(τ, x 1...x )) = τ + 1 τ 2 X i = 0 ˆτ Pl = 1 X i = X Weil E(X) = E(X) = τ ist Schätzer uverzerrt b λ = 1ˆτ = Aus der Übug: Dies gilt weil E(ˆλ) = λ > λ } {{ 1 } 1 l E(ˆλ) = λ Schätzer zwar icht uverzerrt, aber asymptotisch uverzerrt. 10

11 Agabe Bei zeh Batterie fidet ma die folgede Kapazitäte [Amperestude]: We ma davo ausgeht, daß es sich um eie Stichprobe aus eier N(µ, σ 2 )-Verteilug hadelt, ermittel Sie (a) eie Schätzwert, (b) ei 95%- ud (c) ei 99%-Kofidezitervall für die mittlere Kapazität µ dieses Batterietyps. 6.2 Lösug des Beispiels a Laut Skriptum: Kapitel VI Klassische Puktschätzuge: 1. Eie Schätzfuktio wird beötigt (V(X 1,...,X 10 )) 2. (x 1,...,x 10 ) sei usere Stichprobe: da ist V(x 1,...,x 10 ) user Schätzwert Der Erwartugswert ist E(X) = ud die Variaz Der Stichprobemittel ist erwieseermaße uverzerrt für de Schätzwert. Daher lässt sich argumetiere wieso diese Schätzfuktio gut ist b + c Erwartugswert eies ormalverteilte Merkmals mit ubekater Variaz. Die Variaz der Grudgesamheit wird durch die korrigierte Stichprobevariaz s 2 = 1 (xi x) 2 1 geschätzt. t(1 α; 1) ist das 1 α-quatil der t-verteilug mit 1 Freiheitsgrade. Für > 30 ka das Quatil der t-verteilug äherugsweise durch das etsprechede Quatil der Stadardormalverteilug ersetzt werde. [ x t(1 α 2, 1) s ; x + t(1 α 2, 1) s ] X = 144, 3, s 2 = 32, 23, s / = Erhalte für Kofidezitervall 95% Utergreze vo , Obergreze vo (t(0.975, 9) = 2.26) Erhalte für Kofidezitervall 99% Utergreze vo , Obergreze vo (t(0.995, 9) = 3.25) 11

12 Agabe Eie zufällige Stichprobe vo 300 Kreditkarteihaber eier Bak ergab eie mittlere Schuldestad vo 1220 EUR bei eier Stichprobestreuug vo 840 EUR. Ermittel Sie ei 95%-Kofidezitervall für de mittlere Schuldestad aller Karteihaber dieser Bak. (Hiweis: Berufe Sie sich auf de zetrale Grezverteilugssatz.) 7.2 Lösug des Beispiels Die Parameter sid: µ = 1220 σ = 840 α = = 0.05 Azuwede ist der Satz über die Kofidezitervalle mit Überdeckugswahrscheilichkeit 1 α für die Parameter der Normalverteilug - für µ: Mit R bereche wir: [X s t 1,1 α 2 ; X + s t 1,1 α 2 ] 1 > xquer = > s = > = > alpha = > 6 > diff = (s / sqrt() * qt(1-(alpha/2),-1)); 7 > 8 > left = xquer - diff 9 > right = xquer + diff 10 > left 11 [1] > right 13 [1] Berufug auf de zetrale Grezverteilugssatz weil viele Stichprobe ud es git: lim = µ p X N(µ, σ 2 ) 12