Statistische Kennzahlen für die Lage

Transkript

1 Statistische Kennzahlen für die Lage technische universität ach der passenden grafischen Darstellung der Werte eines Merkmals auf der Gesamtheit der Beobachtungen interessieren jetzt geschickte algebraische Charakterisierungen der Verteilung solcher Werte. Ziel ist es, die Verteilung durch möglichst wenige Maßzahlen zu beschreiben.. Wo liegt die Mitte der Werte? Repräsentative Charakterisierung einer Verteilung durch eine Zahl: Lagemaß. Wie streuen die Werte um die Mitte? Charakterisierung der Größe der Unsicherheit (= Streuung) der Merkmalswerte: Streuungsmaß Später: Vergleich verschiedener Gesamtheiten miteinander mit Hilfe der Maßzahlen. Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - -

2 Statistische Kennzahlen für die Lage technische universität Beispiel: Welcher Schütze schießt besser? Schütze : Lage gut, Streuung schlecht Schütze : Lage schlecht, Streuung gut Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - -

3 Statistische Kennzahlen für die Lage technische universität Bisher: geringe Informationsverdichtung durch Verteilungsbeschreibung Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 3 -

4 Statistische Kennzahlen für die Lage technische universität Bisher: geringe Informationsverdichtung durch Verteilungsbeschreibung Jetzt: stärkere Zusammenfassung der Daten auf ihr Zentrum Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 4 -

5 Statistische Kennzahlen für die Lage technische universität Bisher: geringe Informationsverdichtung durch Verteilungsbeschreibung Jetzt: stärkere Zusammenfassung der Daten auf ihr Zentrum Unterschiedliche Definitionen von Zentrum. Allgemein: repräsentative Merkmalsausprägung, von der alle beobachteten Werte möglichst wenig abweichen Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 5 -

10 Statistische Kennzahlen für die Lage technische universität Charakterisierung der Merkmalswerte auf einer Gesamtheit durch eine einzige Zahl: Lagemaße Lagemaß = Mitte der Merkmalswerte Auswahl des geeigneten Lagemaßes hängt vom Skalenniveau ab Wichtigste Beispiele: Arithmetisches Mittel: Klassischer Mittelwert Regiert am empfindlichsten auf Ausreißer, d.h. für die Verteilung ungewöhnlich große oder kleine Werte Median: Zentralwert, mittlerer Wert in der geordneten Stichprobe Liegt nicht unbedingt in der Mitte der Merkmalswerte, ist aber dennoch oft ein guter Repräsentant Ist nicht unbedingt eindeutig Modalwert: Häufigster Wert in der Stichprobe Ist nicht unbedingt eindeutig Bei stetigen Merkmalen meist erst nach Klassierung geeignet Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 0 -

11 Statistische Kennzahlen für die Lage technische universität Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - -

12 Statistische Kennzahlen für die Lage technische universität ~ p-quantil Q p = x p Verallgemeinerung des Medians (50%-Wert) auf beliebige Prozentzahlen (00p%-Werte) ützliches Mittel zur Beschreibung einer Rangliste x () x () x (n) Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - -

13 Statistische Kennzahlen für die Lage technische universität Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 3 -

14 Statistische Kennzahlen für die Lage technische universität ominale Daten Gesucht: x *, für das Abweichung zwischen x * und x,,x minimal ist Mit nominellen Ausprägungen kann keine sinnvolle Abweichung berechnet werden Dummykodierung führt auf den Modalwert x(j * ) i x i i x i d i () d i () d i (3) A C A 0 0 C 0 0 B B 0 0 Σ 3 Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 4 -

15 Statistische Kennzahlen für die Lage technische universität ominale Daten Modalwert Beispiel Bearbeitungen von Softwareaufgaben Die Modalwerte lauten x (j * ) = Oliver x (j * ) = Export x 3 (j * ) =. Ausprägung Aufgabe Absolute Häufigkeit Relative Häufigkeit Abfrage 0.7 Export Verknüpfung Ausprägung Bearbeiter(in) Absolute Häufigkeit Relative Häufigkeit Kai 0.7 Miriam Oliver Tina Ausprägung Version Absolute Häufigkeit Relative Häufigkeit Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 5 -

16 Statistische Kennzahlen für die Lage technische universität Ordinale Daten x,...,x xi W X,i,..., WX {x(j) j,..., J} {x(),..., x(j)} x() x() x(j) i x i x(3) x() k X (k) Urliste x,...,x Geordnete Liste x x... x mit () () () (k) * ik min[argmin *(x * i {,...,}\{i i i,...,i k-})], k,..., x x i k x() 3 x() Geordnete Liste x() 3 x() x (k) wird k-ter Rangwert genannt, erster und letzter Rangwert x () und x () heißen Minimum und Maximum. 4 x() 4 x(3) 5 x(3) 5 x(3) Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 6 -

17 Statistische Kennzahlen für die Lage technische universität Ordinale Daten x,...,x xi W X,i,..., WX {x(j) j,..., J} {x(),..., x(j)} x() x() x(j) i x i R(x i ) x(3) 4.5 k X (k) x() x (k) wird k-ter Rangwert genannt, erster und letzter Rangwert x () und x () heißen Minimum und Maximum. R(x ) #K k * mit K {k x i * * * * k K * * (k ) x i } x() 3 3 x().5 4 x().5 Ränge x() 3 x() 4 x(3) R(x i ) ist der Rang von x i. Gesucht: x (k*), für das Abweichung zwischen x (k*) und x,,x minimal ist. 5 x(3) x(3) Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 7 -

18 Statistische Kennzahlen für die Lage technische universität Ordinale Daten Beispiel Bearbeitungen von Softwareaufgaben i Version i.. 3. Geordnete Liste k Version (k).. 3. Ränge i Version i R(Version i ) 3 3 s s s4 s s0 s Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 8 -

19 Statistische Kennzahlen für die Lage technische universität Quantitative Daten x,...,x xi W X,i,..., WX {x(j) j,..., J} {x(),..., x(j)} bzw. W (-, ) X Der Median minimiert die Summe der absoluten Abweichungen Δ a (x) i x i x Der Mittelwert minimiert die Summe der quadratischen Abweichungen. Δ(x) x i x i Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 9 -

20 Statistische Kennzahlen für die Lage technische universität Quantitative Daten Δ(x) Generell gilt: x i x istminimalfürx x Beweis x: i i i i i Δ(x) (x x) [(x x) (x x)] (xi x) (x x) (xi x) (x x) i i i Δ(x) (x x) Δ(x) 0 0 (x x) i x i * (x x) x x x x x x i i l i l i l i i l i i l i l Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 0 -

21 Statistische Kennzahlen für die Lage technische universität Zusammenfassung: Welche Maßzahlen sind bei welchem Skalenniveau geeignet? Skalennivau Lagemaß ominal Ordinal Quantitativ Modus Informationsverlust ur für klassierte Daten Median Arithmetisches Mittel ur für J = Geringe Aussagekraft für kleine J + Robust Informationsverlust Hohe Streubreite Ausreißeranfällig + Informationsnutzung + Geringe Streubreite Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - -

22 Bisher: Beschreibung von Häufigkeitsverteilung und Lage Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - -

23 Bisher: Beschreibung von Häufigkeitsverteilung und Lage Jetzt: Beschreibung der mittleren Variation um die Lage Allgemein: Streuung desto höher, je schlechter konkrete Werte sich vorhersagen lassen. Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 3 -

24 Bisher: Beschreibung von Häufigkeitsverteilung und Lage Jetzt: Beschreibung der mittleren Variation um die Lage Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 4 -

25 Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 5 -

28 ominale Daten x,...,x xi W X,i,..., W {x(j) j,..., J} {x(),..., x(j)} X i x i i x i d i () d i () d i (3) A C Rechnen nur sinnvoll mit Dummyvariablen bzw. Häufigkeiten. A 0 0 C 0 0 B B 0 0 Σ 3 Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 8 -

29 ominale Daten Allgemein: Streuung desto höher, je schlechter konkrete Werte sich vorhersagen lassen. ominale Merkmalsausprägungen lassen sich um so besser vorhersagen, desto häufiger eine bestimmte Kategorie vorkommt. Geringste Streuung, falls es ein j gibt mit f j =. Höchste Streuung, falls f j = /J, j=,,j. Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 9 -

30 ominale Daten Geringste Streuung, falls es ein j gibt mit f j =. Höchste Streuung, falls f j = /J, j=,,j. Simpson s D D Beispiel i J x i A B 3 A 4 C j f j 4 D 6 6 D 5 8 D entspricht dem Anteil von Paaren mit unterschiedlichen Merkmalsausprägungen an allen aus der Urliste bildbaren Beobachtungspaaren: 4 #{(i,k) {,...,} {,...,} #{(,), (,4), (,), (,3), (,4), (3,), (3,4), (4,), (4,), (4,3)} x i x k } Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel

31 ominale Daten Geringste Streuung, falls es ein j gibt mit f j =. Höchste Streuung, falls f j = /J, j=,,j. Beispiel J= Simpson s D D D f J j j 0 D - D 0 für max[(f,...,f J)] J D - für f... fj J J f = f Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 3 -

32 ominale Daten Geringste Streuung, falls es ein j gibt mit f j =. Höchste Streuung, falls f j = /J, j=,,j. Beispiel J= Simpson s D z (ormierte Version)) D z J( f ) J j J j D z f = f 0 D D 0 für max[(f,...,f )] z z J D für f... f z J J Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 3 -

33 ominale Daten Informationstheorie: Ein Ereignis liefert desto mehr Information, je geringer seine Eintrittswahrscheinlichkeit ist. Kodierung der Elementarereignisse in Bits, Beispiel Kaffeebestellung:. Bit: 0 = Tasse = Kännchen. Bit: 0 = Schwarz = mit Milch 3. Bit: 0 = Süßstoff = Zucker 8 Mögliche Bestellungen: 000, 00, 00, 0, 00, 0, 0, Beträgt die Wahrscheinlichkeit einer Teilmenge dieser Bestellungen p = /8, wird genau eine Bestellung ausgewählt und man erhält Information über alle 3 = log (/8) Bits, falls die Teilmenge ausgewählt wird. Wird dagegen die Menge möglicher Bestellungen auf 50%, z.b. alle Bestellungen mit Kännchen eingegrenzt, also p = /, so erhält man nur Information über = log (/) Bit. Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel

34 ominale Daten Die Information einer Merkmalsausprägung x(j) in Bits kann also allgemein definiert werden durch log (f j ). Der Informationsgehalt des gesamten Merkmals x ergibt sich durch die Entropie genannte erwartete Information H(x) von x: H(x) f j log f Beispiel Kaffeebestellung: Sei x F die Antwort auf eine bestimmte Frage F J j j F = Möchten Sie Ihren Kaffee mit Milch und Zucker? x F (0) = ein, x F () = Ja, f = 6/8, f = /8, H(x F ) = (6/8) log (6/8) (/8) log (/8) = 0.83 Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel

35 ominale Daten Entropie von x: H(x) J f j log f j j Beispiel Kaffeebestellung F = Möchten Sie Ihren Kaffee mit Milch und Zucker? x F (0) = ein, x F () = Ja, f = 6/8, f = /8, H(x F ) = F = Möchten Sie Ihren Kaffee in der Tasse? x F (0) = ein, x F () = Ja, f = 4/8, f = 4/8, H(x F ) = (4/8) log (4/8) (4/8) log (4/8) = Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel

36 Entropie gibt also die Information an, die man im Mittel durch Kenntnis der tatsächlichen Ausprägung erhält, wenn man vorher nur die Verteilung kannte. Ist diese hoch, konnte man den Wert vorher schlecht vorhersagen => hohe Streuung. Ist der Informationszugewinn gering, konnte man vorher schon gut prognostizieren. Beispiel Wer wird Millionär Kandidat ist sicher = geringe Streuung, keine weitere Information durch Joker Kandidat ist unsicher = hohe Streuung, erhofft Informationsgewinn durch Publikumsjoker Ist hier die Streuung hoch, weiterer Informationsgewinn durch Einzelbefragungsjoker Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel

37 ominale Daten Entropie von x: H(x) f j log f Die Entropie ist ein sinnvolles Maß für die Streuung, denn sie erfüllt die Forderungen: Geringste Streuung, falls es ein j gibt mit f j =. Höchste Streuung, falls f j = /J, j=,,j. J j j Beispiel J= 0 H(x) log (J) lim[h(x)] 0 für max[(f,...,f )] J H(x) log (J) für f... fj J H(x) f = f Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel

38 ominale Daten ormierte Entropie von x: H n(x) log f J j fj j log J Die Entropie ist ein sinnvolles Maß für die Streuung, denn sie erfüllt die Forderungen: Geringste Streuung, falls es ein j gibt mit f j =. Höchste Streuung, falls f j = /J, j=,,j. Beispiel J= 0 H (x) lim[h(x)] 0 für max[(f,...,f )] n J H(x) für f... fj J H n (x) D z f = f Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel

39 ominale Daten: Beispiel Bearbeitungen von Softwareaufgaben Merkmal D z H n (x) Bearbeiter(in) 4/3 ( ) = Aufgabe 3/ ( ) = Version 3/ ( ) = [ 0.7 log (0.7) 0.5 log (0.5) 0.33 log (0.33) 0.5 log (0.5)] /log (4) = [ 0.7 log (0.7) 0.5 log (0.5) 0.33 log (0.33) ]/log (3) = [ 0.5 log (0.5) 0.5 log (0.5) 0.5 log (0.5) ]/log (3) = Bearbeiter(in) Absolute Häufigkeit Relative Häufigkeit Kai 0.7 Miriam Oliver Tina Ausprägung Aufgabe Absolute Häufigkeit Relative Häufigkeit Abfrage 0.7 Export Verknüpfung Ausprägung Ausprägung Version Absolute Häufigkeit Relative Häufigkeit Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel

40 Ordinale Daten x,...,x xi W X,i,..., WX {x(j) j,..., J} {x(),..., x(j)} x() x() x(j) i x i x(3) x() 3 x() Geordnete Liste k X (k) x() x() 3 x() Simpson s D und H(x) sind anwendbar, allerdings wird Information der Kategorienordnung nicht genutzt. 4 x() 5 x(3) 4 x(3) 5 x(3) Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel

41 Ordinale Daten Allgemein: Streuung desto höher, je schlechter konkrete Werte sich vorhersagen lassen. Werte lassen sich umso besser vorhersagen, je stärker sie sich um den Median verdichten. Geringste Streuung für (x~ 0.5 ) = Höchste Streuung für (x~ 0 ) = (x ~ ) = / icht mehr höchste Streuung bei ausgeglichener Belegung, da die Kategorien unterschiedlich weit von der Mitte entfernt sind. Höchste Streuung bei maximaler Entfernung zur Mitte, also bei gleichmäßiger Konzentration an Minimum und Maximum. Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 4 -

42 Ordinale Daten Geringste Streuung für (x 0.5 ) = Höchste Streuung für (x 0 ) = (x ) = / ~ ~ ~ Dispersionsindex nach Leti D L J j F [x(j)] F [x(j)] F (x) 0 x() x() x(3) x(4) x(5) Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 4 -

43 Ordinale Daten Geringste Streuung für (x 0.5 ) = Höchste Streuung für (x 0 ) = (x ) = / ~ ~ ~ D L Beispiel J= Dispersionsindex nach Leti D L J j F [x(j)] F [x(j)] f = f 0 DL J- 4 F (x) 0 x() x() x(3) x(4) x(5) Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel

44 Ordinale Daten Geringste Streuung für (x 0.5 ) = Höchste Streuung für (x 0 ) = (x ) = / ormierter Dispersionsindex nach Leti D Lz 4 J J j F [x(j)] ~ ~ ~ F [x(j)] Für J= gilt D z = D Lz Bewei s 4 DLz j (- f 4 (f (- f )) F [x(j)]( F [x(j)]) (f - f ) 0 D Lz (- f (-[f - f (- ) - f ]) ) j - f j ) D z Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel

45 Quantitative Daten x,...,x xi W X,i,..., WX {x(j) j,..., J} {x(),..., x(j)} bzw. W (-, ) X Allgemein: Streuung desto höher, je schlechter konkrete Werte sich vorhersagen lassen. Werte lassen sich umso besser vorhersagen, je stärker sie sich um das jeweilige Lagemaß verdichten. Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel

46 Quantitative Daten Werte lassen sich umso besser vorhersagen, je stärker sie sich um das jeweilige Lagemaß verdichten. Lagemaß: Arithmetisches Mittel Streuungsmaß: Varianz (mittlere quadratische Abweichung) s x (xn x) n bzw.d x (xn x) n Standardabweichung s s x (xn x) n Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel

47 Quantitative Daten Von Streuungsparametern abgeleitete Größen für verhältnisskalierte Merkmale Quartilskoeffizient Variationskoeffizient Q ~ x (x ~ ~ x ~ x ~ x ) (x ~ ~ x ~ x )/ ~ x Qkoeff ~ x V x sx x Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel

48 Quantitative Daten: Berechnung der Varianz aus Häufigkeitsverteilung s f [x(j)- f x(k)] f [x(j)-x] J K J x j k j - j k - j i (i) i i () () () (x x) (x x) (x x) Beweis: (x x) (x x) (x() x) (x() x) (x() x) (x() x) (x(j) x) (x(j) x) f mal f mal J f mal f (x() x) f (x() x)... f (x(j) x) f (x(j) x) J J j j c Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel

49 Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel technische universität n n n n n n y b ax b x a b) (ax b ax y y) (y s Beweis Quantitative Daten: Varianz von Lineartransformationen x y s a s b ax y x n n n n n n n n y s a x) (x - a ax) (ax - b) (ax b ax - y) (y s Bewei s

50 Quantitative Daten: Verschiebungssatz von Steiner Beweis: d (x x) [(x b) (b x)] x n n n n [(xn b) (xn b)(b x) (b x) ] n dx (xn b) (x b) n (xn b) (b x) (xn b) (b x) n n n (xn b) (x b) (x b) (xn b) n n speziell für b=0: (x-b) d x x x Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel

51 Quantitative Daten: Beispiel Bearbeitungen von Softwareaufgaben s x 4 (0-3.5) (-3.5) (-3.5) (3-3.5) (4-3.5) (5-3.5) (6-3.5) (7-3.5) (8-3.5) 7 V k Anzahl Clicks (k) Q koeff;4 ~ x 4;0.5.5 x Q 4 4 R 4 8 ~ x 4; Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 5 -

52 Quantitative Daten: Beispiel Bearbeitungen von Softwareaufgaben s x 5 ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) 3.4 V x k Bearbeitungszeit (k) Q koeff;5 ~ x 5; ~ x 5; Q 5.65 R Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel - 5 -

53 Zusammenfassung: Welche Maßzahlen sind bei welchem Skalenniveau geeignet? Skalennivau ominal Ordinal Quantitativ Streuungsmaß Simpson s D/ Entropie Informationsverlust ur für klassierte Daten Leti s D ur für J = ur für klassierte Daten MAD/ Spannweite/ Quartilsdifferenz Varianz/ Standardabweichung Variationskoeffizient ur für J = Geringe Aussagekraft für kleine J + Robust Informationsverlust Hohe Streubreite Ausreißeranfällig + Informationsnutzung + Geringe Streubreite Jörg Rahnenführer, WRUMS, WS34, TU Dortmund Kapitel