Lineare Klassifikatoren
|
|
|
- Gisela Vogt
- vor 5 Jahren
- Abrufe
Transkript
1 Uverstät Potsdam Isttut für Iformatk Lehrstuhl Maschelles Lere Leare Klassfkatore Chrstoph Sawade, obas Scheffer
2 Vorlesug am ächste Destag De VL am fägt um ca. 2:30 a. 2
3 Ihalt Klassfkatosproblem Bayes sche Klasseetschedug MAP-Modell Logstsche Regresso Regularserte Emprsche Rskommerug Kerel Perzeptro, Support Vector Mache Represeter heorem Duales Perzeptro, Duale SVM 3
4 Klassfkato Egabe: Istaz X ka z.b. Vektorraum über Attrbute se Istaz st desem Fall Belegug der Attrbute. Ausgabe: Klasse y Y; edlche Mege Y. Klasse wrd auch als Zelattrbut bezechet x x x m x X Merkmalsvektor y heßt auch (Klasse)Label x Klassfkator y 4
5 Klassfkato: Bespel Egabe: Istaz x X X = Mege aller möglche Kombatoe eer Mege vo Medkamete Attrbute Medkamet ethalte? Medkamet 6 ethalte? Istaz x Medkametekombato Ausgabe: yy { toxsch, ok} / Klassfkator 5
6 Klassfkatoslere Egabe Lerproblem: ragsdate. x X x y y y m x x m ragsdate: {( x, y ),,( x, y )} 6
7 Klassfkatoslere Egabe Lerproblem: ragsdate. x X x y y y m x x m Ausgabe: Modell y : X Y zum Bespel y ( x), we ( x) 0, sost ragsdate: {( x, y ),,( x, y )} Learer Klassfkator mt Parametervektor. 7
8 Emprsche Iferez Iferez der Wahrschelchket vo y gegebe Istaz x ud ragsdate? Iferez der wahrschelchste Klasse Pyx (, X, y) y * arg max P( y x, X, y) y Wr müsse jetzt Aahme über de Prozess treffe, durch de de Date erzeugt werde, um de wahrschelchste Klasse bereche zu köe. 8
9 Graphsches Modell für Klassfkato Graphsches Modell defert stochastsche Prozess Bldet Modellaahme über Erzeugug der Date Zuerst wrd e Modellparameter gezoge Deses parametrsert ragsdate P(y x, ) De Vertelug der Date wrd cht weter modellert ( ) p x x y x y 9
10 Bespel De Evoluto legt physologsche Parameter des Mesche fest Gegebe dese Parameter ud de Wrkstoffkombato würfelt de Natur, ob wr de Eahme eer Wrkstoffkombato überlebe. Für jede Eahme eer Wrkstoffkombato wrd eu ach gewürfelt py ( x, ) x x? 0
11 Emprsche Iferez Iferez der Wahrschelchket vo y gegebe Istaz x ud ragsdate? P( y x, X, y) p( y, x, X, y)d Itegrato über Raum aller Modellparameter: Bayesa Model Averagg Iferez der wahrschelchste Klasse y * arg max P( y x, X, y) y P( y x, ) p( X, y)d arg max y P( y x, ) p( X, y)d Uabhäggketsaahme aus graphschem Modell
12 Emprsche Iferez Iferez der Wahrschelchket vo y gegebe Istaz x ud ragsdate? P( y x, X, y) p( y, x, X, y)d Klassewahrschelchket für x auf Grudlage vo. Iferez der wahrschelchste Klasse y * arg max P( y x, X, y) y P( y x, ) p( X, y)d A-Posteror-Wahrschelchket (Posteror): Wahrschelchket des Modells gegebe ragsdate arg max y P( y x, ) p( X, y)d 2
13 Emprsche Iferez Iferez der Wahrschelchket vo y gegebe Istaz x ud ragsdate? P( y x, X, y) P( y x, ) p( X, y)d Kee geschlossee Lösug für Klassfkato. Schwerg zu approxmere, da Raum aller Parametervektore zu groß st. 3
14 Emprsche Iferez Iferez der Wahrschelchket vo y gegebe Istaz x ud ragsdate? P( y x, X, y) P( y x, ) p( X, y)d P( y x, ) mt arg max p( X, y) MAP MAP Approxmato der gewchtete Summe durch das Maxmum. Klassfkato durch wahrschelchstes ezeles Modell statt Summe über alle Modelle. 4
15 Bespel Iferez der Wahrschelchket vo y gegebe Istaz x ud ragsdate? Klsche Stude: Wrkstoffkombatoe x ud Ergebs y P( y x, X, y) P( y x, ) p( X, y)d P( y x, ) mt arg max p( X, y) MAP MAP Itegral über alle Modelle Approxmato der gewchtete Summe durch das Maxmum. Wahrschelchstes Modell gegebe ragsdate (Maxmum-A-Posteror-Modell) Klassfkato durch wahrschelchstes ezeles Modell statt Summe über alle Modelle. 5
16 Emprsche Iferez Berechug vo : Dskrmatver Asatz: Lkelhood ur für Klasselabel gegebe kostate Date: MAP MAP arg max p( X, y) arg max p( Xy, ) P( ) MAP arg max P( y X, P( ) x y x y 6
17 Emprsche Iferez Berechug vo p( X, y). Uabhäggket der ragsdate (aus graphschem Modell) P( y X, P( y x, Modellerug vo Py ( x, durch logstsche Fukto: Py ( x, y x e x y x y Gerechtfertgt we Vertelug der Date aus expoeteller Famle stammt (s. folgede Fole). 7
18 Emprsche Iferez Berechug vo p( X, y). Uabhäggket der ragsdate (aus graphschem Modell) P( y X, P( y x, Bayes Glechug auf Klasselabel agewadt x y x y Py ( x, p( x y, P( y ) p( x y, P( y ) y 8
19 Emprsche Iferez Zusammefassug emprsche Iferez bs her: P( y x, X, y) P( y x, ) p( X, y)d P( y x, ) mt arg max p( X, y) MAP MAP arg max P( y X, P( ) P( y X, P( y x, MAP Py ( x, p( x y, P( y ) y p( x y, P( y ) 9
20 Emprsche Iferez Zusammefassug emprsche Iferez bs her: P( y x, X, y) P( y x, ) p( X, y)d Lkelhood der Date ragsdate sd uabhägg P( y x, ) mt arg max p( X, y) MAP MAP arg max P( y X, P( ) P( y X, P( y x, Py ( x, Bayes Glechug Itegral über alle Modelle: Bayesa model averagg p( x y, P( y ) y MAP p( x y, P( y ) MAP: Approxmato durch wahrschelchstes Modell Pror über Modellparameter 20
21 Expoetelle Famle Wahrschelchket für Klasselabel st el des Parametervektors Bedgte Wahrschelchket für x folgt: y Py ( ) y p( x y, ) h( x ) e, y, y ( x ) l g ( ) Be Klasse k zerfällt Parametervektor,, k y y yk P( y x, p( x y, Py ( ) p( x y, Py ( ) y 2
22 Expoetelle Famle Bedgte Wahrschelchket für x folgt: p( x y, ) h( x ) e Abbldug (x) heßt: I der Statstk: suffzete Statstk Im maschelle Lere: Feature Mappg Parttoerugsfukto, y ormert de Vertelug Base Measure h(x)., y, y ( x ) l g ( ) g( ) Vertelug wrd durch h(x), (x), ud g festgelegt. 22
23 Expoetelle Famle Vektor (x) Suffzete Statstk: Abbldug, de alle Iformatoe über de zu Grude legede Wahrschelchketsvertelug erhält. Feature Mappg: Abbldug auf Merkmale, de ee reug der Klasse durch e leares Modell ermöglcht. 23
24 Eschub: esorprodukt esorprodukt zwsche eem - ud eem m dmesoale Vektor lefert m-dmesoale Vektor aller Produkte der Elemete: xy... x y xy m x y x y m x y... xy m 24
25 Suffzete Statstk, Feature Mappg Leares Mappg: Quadratsches Mappg : Polyomelles Mappg : ( x ) x Häufg verwedet ma auch Mappgs, de kee geschlossee Form habe, für de sch aber ere Produkte bestmme lasse Z.B. RBF-Kere, Hash-Kere ( x ) x x x x ( x) x x x... x p Faktore esorprodukt 25
26 Suffzete Statstk, Feature Mappg Spezalfall: Leares Mappg ( x ) x st suffzete Statstk, We p( x y, ) [ μ y, Σ]( x) ud de Kovarazmatrx der Klasse glech st E leares Mappg ( x ) x geügt da für de Berechug der Klassewahrschelchket. 26
27 Expoetelle Famle: Normalvertelug Bedgte Wahrschelchket für x folgt: Bespel: Normalvertelug p( x y, ) h( x) e, y, y Ka als expoetelle Famle dargestellt werde ( x) l g ( ) m/2 /2 2 [ μ, Σ] ( x) (2 ) Σ e xμ Σ xμ x x 0 0,5 0,6x, 0 0,6 x 2 27
28 Expoetelle Famle: Normalvertelug Darstellug der Normalvertelug als exp. Famle: m/ 2 /2 2 [ μ, Σ]( x) (2 ) Σ e h( x) h( x)e h( x) e h( x)e h( x)e Σ c Σ 2 x μ Σ x μ x xx Σ μ μ Σ μ /2 2 2 e / 2 ( xx) vec Σ x Σ μ μ Σ μlog Σ 2 2 x xx ( x) ( x) Σ ve 2 μ μ Σ l exp Σ μ Σ μ l g ( ) / 2 μlog Σ 28
29 Expoetelle Famle: Normalvertelug Bedgte Wahrschelchket für x folgt: Bespel: Normalvertelug p( x y, ) h( x) e [ μ, Σ]( x) e m/2 /2 (2 ) Σ Als expoetelle Famle:, y, y ( x) l g( ) 2 x μ Σ x μ x Σ μ x ( x),, x x vec Σ 2 h( x) (2 ), g( ) Σ exp μ m/2 Σ μ x 0 0,5 0,6x, 0 0,6 x 2 29
30 N(0,) Expoetelle Famle: Normalvertelug Bedgte Wahrschelchket für x folgt: Bespel: Normalvertelug p( x y, ) h( x) e [, ]( ) 2 e x x 2 Als expoetelle Famle:, y, y ( x) l g( ) x ( x), 2 x 2 2 2, 2 /2 h( x) 2, g( ) exp x 0, x 30
31 Expoetelle Famle Bedgte Wahrschelchket für x folgt: ( x) l g( ) p( x y, ) h( x) e Esetze p( x y, P( y ) Py ( x, p( x y ', P( y ' ) y ' h( x) e e y ' ( x) y ' h( x) e e ( x), y, y ', y, y ( x) l g ( ), y, y, y', y' ( x) l g ( ) yy' b y b y ' y y y b g y y, y l l ( ) 3
32 Logstsche Regresso Aus de Aahme Dategeererugsmodell vo Fole 8 p( x y, ) st ee expoetelle Famle ergbt sch de Form der bedgte Vertelug der Zelvarable: ( ) x e Py ( x, e, y, y ' ( x) by ' y ' b y, y Wr kee de Parameter cht. Wr werde bald de MAP- (Maxmum-A-Posteror-) Parameter ferere. 32
33 Logstsche Regresso Wahrschelchket für Klasse y : ( ) x e Py ( x, e Klasse y st wahrschelchste Klasse we, y y arg max ( x ) b Leare (+offset) Etschedugsfukto, y, y ' ( x) by ' y ' y y b y Expoet st aff (x) (lear + offset) Neer st kostat bezüglch y 33
34 Logstsche Regresso: Zweklassefall Spezalfall: Klasse + ud - Py ( x,, y,, y,, y,, y,, y,, y ( x ) l l g ( ) ( x ) l l g( ) ( x ) l l g( ) e e e e e e ( x ) l l g ( ) ( x ) l l g ( ) ( x ) l l g( ) ( x ) l l g( ),, ( x ) ( ) b b ( x ) b e e,, y,,, b b b 34
35 Logstsche Regresso: Zweklassefall Spezalfall: Klasse + ud - Etschedugsgreze: 0. Py ( x, ( ) b x e Puktmege (x) mt ( x ) b 0 bldet ee reebee zwsche de Klasse - ud +. P( y x, P( y x, ( x) b 0 ( x) b e 5 35
36 Leare Modelle Hyperebee durch Normalevektor ud Verschebug gegebe: H { f ( ) ( b 0} Klassewahrschelchket: Etschedugsfukto: Klassfkator:, b x x x) Py ( x, ( ) b x e f ( x ) ( x ) b y( x ) sg( f ( x )) ( x) 2 b f f ( x ) 0 ( x ) 0 f ( x ) 0 ( x) 36
37 Leare Modelle Hyperebee durch Normalevektor ud Verschebug gegebe: H { f ( ) ( b 0} Klassewahrschelchket: Etschedugsfukto: Klassfkator:, b x x x) Py ( x, ( ) b x e f ( x ) ( x ) y( x ) sg( f ( x )) b x 2 p( x y, ) ( x ) x p( x y, ) x 37
38 Leare Modelle Hyperebee durch Normalevektor ud Verschebug gegebe: H { f ( ) ( b 0} Klassewahrschelchket: Etschedugsfukto: Klassfkator:, b x x x) Py ( x, ( ) b x e f ( x ) ( x ) y( x ) sg( f ( x )) b x 2 f ( x ) 0 py ( x, ) ( x ) x x 38
39 Geeralserte Leare Modelle Hyperebee durch Normalevektor ud Verschebug gegebe: H { f ( ) ( b 0} Klassewahrschelchket: Etschedugsfukto: Klassfkator:, b x x x) Py ( x, ( ) b x e f ( x ) ( x ) y( x ) sg( f ( x )) b x 2 p( x y, ) ( x ) x p( x y, ) x x x 39
40 Geeralserte Leare Modelle Hyperebee durch Normalevektor ud Verschebug gegebe: H { f ( ) ( b 0} Klassewahrschelchket: Etschedugsfukto: Klassfkator:, b x x x) Py ( x, ( ) b x e f ( x ) ( x ) y( x ) sg( f ( x )) b x 2 f ( x ) 0 py ( x, ) ( x ) x x x x 40
41 Leare Klassfkatore Umformulerug mt zusätzlchem, kostate Egabeattrbut: f ( x) ( x) ( x) (... ) (... ) [ ( x) ] [ ( x) ] (... ) (... ) b b wobe [ ( x) ] ud f ( x ) ( x ) b y( x) sg f ( x) b 4
42 Leare Klassfkatore Umformulerug mt zusätzlchem, kostate Egabeattrbut: f ( x) ( x) ( x) (... ) (... ) [ ( x) ] [ ( x) ] (... ) (... ) b b wobe [ ( x) ] ud f ( x ) X ( x ) y x f b ( ) sg ( x) b f ( x ) ( x ) y( x) sg f ( x) 42
43 Leare Klassfkatore Umformulerug mt zusätzlchem, kostate Egabeattrbut: y f ( x ) ( x ) y( x) sg f ( x) b 43
44 Leare Klassfkatore Umformulerug mt zusätzlchem, kostate Egabeattrbut: X y b f ( x ) X ( x ) b y( x) sg f( x) f ( x ) ( x ) y( x) sg f ( x) 44
45 Leare Klassfkatore Im Zweklassefall st für leare Klassfkatore de Etschedugsfukto f ( x ) ( x ) der Klassfkator y( x) sg( f( x)) b Offsets b lässt sch as Ede des Vektors häge, as Ede vo ( x ) wrd dafür ee gehägt. Parametervektor st Normalevektor eer reebee. 45
46 Logstsche Regresso: Lerproblem Iferez vo MAP arg max p( X, y) Wetere Aahme: Pror ormalvertelt mt Mttelwert 0: p( [ 0, Σ 46
47 Logstsche Regresso: Lerproblem Iferez der MAP-Parameter: MAP arg max P( X, y) arg max P( y X, p( arg max log P( y X, log p( Σ 2 arg m log log m e ( x ) 2 2 e (2 ) Σ arg m arg max log Py ( x, lo g [, 0 Σ]( ) log e y ( ( x ) ) 2 Σ 47
48 Logstsche Regresso We de Modellaahme erfüllt sd: Uabhäggketsaahme vo Fole 8, p( [ 0, Σ ormalvertelt,, y, ( ) y x l g( ) p( x y, ) h( x) e expoetelle Famle Da st Py (, x ( x) e ud der Maxmum-A-Posteror-Parameter st y ( ( ) ) x MA P arg m log e Σ 2 48
49 Ihalt Klassfkatosproblem Bayes sche Klasseetschedug MAP-Modell Logstsche Regresso Regularserte Emprsche Rskommerug Kerel Perzeptro Support Vector Mache Represeter heorem Duales Perzeptro, Duale SVM 49
50 Regularzed Emprcal Rsk Mmzato MAP-Schätzer der Logstsche Regresso: MAP y ( ( ) ) arg m log x e arg m ( f ( x ), y ) mt f ( x ) ( f ( x ), y ) log e ( x ) 2 Σ y ( ( x ) ) 2 Σ 50
51 Logstsche Regresso De MAP-(Maxmum-A-Posteror-)Parameter der logstsche Regresso (Zweklassefall) sd das Mmum der Summe aus Summe des logstsche Verlustes yf ( ) ( f ( ), y ) log( e x ) über alle Bespele x L2-Regularserer Ee Implemeterug des logstsche Regressosverfahres muss das Mmum deser Summe bestmme. 2 Σ 5
52 Regularzed Emprcal Rsk Mmzato Verallgemeerug: arg m f ( ), y x Verlustfukto f ( x ), y bemsst Verlust der etsteht, we be wrklcher Klasse y das Modell f ( x) ausgbt. Regularserer : Letet sch aus Pror p() her, drückt Htergrudwsse über wahrschelche Lösug aus (Bayes sche Motvato) Sorgt für umersch stable Lösug (khoov-regularserer) Ermöglcht egere Fehlerschrake (PAC-heore) 52
53 Löse des Optmerugsproblems Zel: Mmere de Fukto L( ) f ( x ), y für bestmmte Verlustfukto ud Regularserer. Aalytsche Lösug exstert ur selte. Nummersche Lösugsasätze: Gradeteabsteg (z.b. Le-Search, Newto- Verfahre). Cuttg-Plae-Verfahre. Iere-Pukt-Verfahre. 53
54 Löse des Optmerugsproblems Zel: Mmere de Fukto für bestmmte Verlustfukto ud Regularserer. Gradet: x L( ) f ( ), y Vektor der Abletuge ach jedem der ezele Parameter Rchtug des stärkste Astegs der Fukto L(). L( ) L( ) L( ) m L( ) k m 54
55 Löse des Optmerugsproblems Zel: Mmere de Fukto x für bestmmte Verlustfukto ud Regularserer. Gradeteverfahre: L( ) f ( ), y Iteratves Verfahre um dfferezerbare Fukto L( ) zu mmere. I jedem Schrtt Äderug Rchtug des stelste Abstegs. 0 L( ) L( ) Astegsrchtug gegebe durch Gradet L( ). L L( ) 0 Startlösug 55
56 Gradet für logstsche Regresso Optmerugskrterum: Gradet (bewese Se!) 56, ' ( ' ), ( ) l g ) 2 o ( y y y L e x Σ x, ' ), ' ' ' ( ) ' ) ( ) y y y y y y y y L e y y e x x x
57 Löse des Optmerugsproblems Zel: Mmere de Fukto für bestmmte Verlustfukto ud Regularserer. Gradeteverfahre: RegERM(Date ( x, y ),, ( x, y )) Setze DO WHILE REURN k 0 0 ud k 0 k Bereche Gradet L( ) k Bereche Schrttwete Setze k k k L( k ) Setze k k k x k L( ) f ( ), y 0 L( ) L( ) L L( ) 0 Startlösug 57
58 Egeschafte des Gradeteverfahres Optmerugskrterum verbessert sch jedem Schrtt Kovergert gege das globale Mmum des Optmerugskrterums, we deses Krterum kovex st RegERM(Date ( x, y ),, ( x, y )) Setze DO WHILE REURN k 0 0 ud k 0 k Bereche Gradet L( ) k Bereche Schrttwete Setze k k k L( k ) Setze k k k k 0 L( ) L( ) L L( ) 0 Startlösug 58
59 Kovextät des Optmerugsproblems Optmerugskrterum der Logstsche Regresso:, y ' ( ), y o e ( x x y' Σ L( ) l g ) Kovex, da zwete Abletug postv (reche Se es ach!) Summe zweer kovexer Fuktoe st kovex. 2 Quadratscher erm st kovex l yf ( ) ( f ( x ), y) log( e x ) 0 yf ( x) 59
60 Gradeteverfahre Mmere Gradet hägt vo Verlustfukto ud Regularserer ab Schrttwete ka bestmmt werde durch Le-Search Barzla-Borwe-Verfahre L( ) f ( x ), y k L( ) f ( x ), y k k k k 60
61 Gradeteverfahre: Le Search Löse RegErm-Optmerugsproblem: RegERM-LeSearch(Date ( x, y ),, ( x, y )) Setze DO WHILE REURN k 0 0 ud k 0 k Bereche Gradet L( ) k Wähle Schrttwete : Setze Setze arg m L( L( )) k k k k k k k k k k L( k ) I der Praxs st es zu teuer optmale Schrttwete zu bestmme. Notwedges Krterum: k k k L( L( )) L( ). 6
62 Gradeteverfahre: Iexact Le Search Löse RegErm-Optmerugsproblem: RegERM-LeSearch(Date ( x, y ),, ( x, y )) Setze DO WHILE REURN 0 0 ud k 0 Setze Setze k k k Bereche Gradet L( ) k Setze = WHILE L( k L( k )) L( k ) k k Setze /2 k k k L( k ) k k 62
63 Stochastsche Gradeteverfahre Idee: Bestmme Gradete für zufällge elmege der Bespele (z.b. e ezeles Bespel). Weger reche pro Optmerugsschrtt, dafür approxmerte Abstegsrchtug Optmerugskrterum: Stochastscher Gradet für ezeles Bespel: L( ) f ( x ), y k Lx ( ) ( x ), k k f k y k Gradet st Summe der stochastsche Gradete über alle Bespele 63
64 Stochastsche Gradeteverfahre Idee: Bestmme Gradete für zufällge elmege der Bespele (z.b. e ezeles Bespel). RegERM-Stoch(Date ( x, y ),, ( x, y ) Setze DO WHILE REURN k 0 0 ud k 0 Msche Date zufällg FOR =,, END k Bereche elgradet k Bereche Schrttwete k k k k Setze L( ) Setze k k k x x k L( ) 64
65 Stochastsche Gradeteverfahre I jedem Schrtt wrd ur e Summad des Optmerugskrterums verbessert. Das gesamte Optmerugskrterum ka sch durch ee Schrtt verschlechter. Kovergert gege Optmum, we für de Schrttwete glt: 2 ud (Robbs & Moro, 95) 65
66 Stochastsche Gradeteverfahre heoretsche Kovergezgeschwdgket schlechter als bem Gradeteverfahre. I der Praxs sd stochastsche Gradeteverfahre aber häufg extrem vel scheller als Gradeteverfahre: Berechug des elgradete st sehr schell, Kovergert schell, we Date redudat ud weg verrauscht sd. 66
67 Regularzed Emprcal Rsk Mmzato Verallgemeerug (Zweklassefall): arg m f ( x ), y Verlustfukto f ( x ), y bemsst Verlust der etsteht, we be wrklcher Klasse y das Modell f ( x) ausgbt. Regularserer : Letet sch aus Pror p() her, drückt Htergrudwsse über wahrschelche Lösug aus (Bayes sche Motvato) Sorgt für umersch stable Lösug (khoov-regularserer) Ermöglcht egere Fehlerschrake (PAC-heore) 67
68 ERM: Verlustfuktoe für Klassfkato Zero-oe loss: 0/ yf ( x) 0 ( f( x), y) 0 yf ( x) 0 Perceptro loss: sg( f ( x )) y y f( x ) y f( x ) 0 ( f( x ), y ) max(0, y f( x )) 0 yf ( x) 0 p Hge loss: y f( x ) y f( x ) 0 h( f( x ), y ) max(0, y f( x )) 0 yf ( x) 0 Logstc loss: yf ( ) log ( f ( x ), y) log( e x ) w sg( f ( x )) y w Zero-oe loss st cht kovex schwer zu mmere! l 0 yf ( x)
69 ERM: Verlustfuktoe für Regresso Absolute loss: ( f ( x ), y ) f ( x ) y a Squared loss: -Isestve loss: ( f ( x ), y ) f ( x ) y s 2 ( x ) y f( x ) y f( x ) y 0 ( f( x ), y ) max(0, f( x) y ) 0 f( x) y 0 l 0 f w
70 Emprcal Rsk Mmzato Verallgemeerug (Zweklassefall): arg m f ( ), y x Verlustfukto f ( x ), y bemsst Verlust der etsteht, we be wrklcher Klasse y das Modell f ( x) ausgbt. Regularserer : Letet sch aus Pror p() her, drückt Htergrudwsse über wahrschelche Lösug aus (Bayes sche Motvato) Sorgt für umersch stable Lösug (khoov-regularserer) Ermöglcht egere Fehlerschrake (PAC-heore) 70
71 ERM: Regularserer Idee: Etschedug basered auf so wege Attrbute we möglch treffe. Wege Eträge m Parametervektor uglech Null: Gerge Mahatte-Norm: Idee: Gewchte für alle Attrbute solle möglchst gerg se. 0 Azahl 0 0 j m j j Gerge (quadratsche) eukldsche Norm: m 2 2 j j st cht kovex schwer zu mmere!
72 Reg. Emprcal Rsk Mmzato Vele Lerverfahre mmere Summe eer Verlustfuktoe über de ragsdate plus Regularserer. Optmerugsasätze Gradeteabsteg mt automatscher Estellug der Schrttwete. Stochastsche Gradeteverfahre. 72
73 ERM: Perzeptro Verlustfukto: ( f ( x ), y ) p y f( x ) y f( x ) 0 0 yf ( x) 0 max(0, yf( x )) Ke Regularserer Klasse y{-,+} Leares Feature Mappg: (x)= x l 0 yf ( x) Stochastsches Gradeteverfahre: L x k ( ) Roseblatt,
74 ERM: Perzeptro Verlustfukto: Ke Regularserer Klasse y{-,+} Leares Feature Mappg: (x)= x Stochastsches Gradeteverfahre: ( f ( x ), y ) p y f( x ) y f( x ) 0 0 yf ( x) 0 max(0, yf( x )) L x k ( ) yx y f( x ) 0 0 yf ( x) 0 l 0 yf ( x) Roseblatt,
75 ERM: Perzeptro-Algorthmus Perceptro(Istaze (x, y )) Setze = 0 DO FOR =,, IF HEN END yf( x ) 0 x WHILE verädert REURN y Stochastsches Gradeteverfahre mt 0 ud Schrttwete 2 ermert, obwohl Date lear separerbar., we Roseblatt,
76 ERM: Perzeptro x x 8 x 2 x xj j j x x 7 x 6 sg( x b) x 5 76
77 Perzeptro-Algorthmus: Bespel kostat 3 = b (Offset) x x2 x y 3 2 f ( ) 3 x IF HEN yf ( ) 0 y x x
78 Perzeptro-Algorthmus: Bespel kostat 3 = b (Offset) x x2 x y 3 2 f ( ) 3 x IF HEN yf ( ) 0 y x x
79 Perzeptro-Algorthmus: Bespel kostat 3 = b (Offset) x x2 x y 3 2 f ( ) 3 x IF HEN yf ( ) 0 y x x
80 Perzeptro-Algorthmus: Bespel kostat 3 = b (Offset) x x2 x y 3 2 f ( ) 3 x IF HEN yf ( ) 0 y x x
81 Perzeptro-Algorthmus: Bespel kostat 3 = b (Offset) x x2 x y 3 2 f ( ) 3 x IF HEN yf ( ) 0 y x x
82 Perzeptro-Algorthmus: Bespel kostat 3 = b (Offset) x x2 x y 3 2 f ( ) 3 x IF HEN yf ( ) 0 y x x
83 Perzeptro-Algorthmus: Bespel kostat 3 = b (Offset) x x2 x y 3 2 f ( ) 3 x IF HEN yf ( ) 0 y x x
84 Perzeptro-Algorthmus: Bespel kostat 3 = b (Offset) x x2 x y 3 2 f ( ) 3 x IF HEN yf ( ) 0 y x x
85 Perzeptro-Algorthmus: Bespel kostat 3 = b (Offset) x x2 x y 3 2 f ( ) 3 x IF HEN yf ( ) 0 y x x
86 Perzeptro-Algorthmus: Bespel kostat 3 = b (Offset) x x2 x y 3 2 f ( ) 3 x IF HEN yf ( ) 0 y x x
87 Perzeptro-Algorthmus: Bespel kostat 3 = b (Offset) x x2 x y 3 2 f ( ) 3 x IF HEN yf ( ) 0 y x x
88 Perzeptro-Algorthmus: Bespel kostat 3 = b (Offset) x x2 x y 3 2 f ( ) 3 x IF HEN yf ( ) 0 y x x
89 Perzeptro-Algorthmus: Bespel kostat 3 = b (Offset) x x2 x y 3 2 f ( ) 3 x IF HEN yf ( ) 0 y x x
90 Perzeptro-Algorthmus: Bespel kostat 3 = b (Offset) x x2 x y 3 2 f ( ) 3 x IF HEN yf ( ) 0 y x x
91 Perzeptro-Algorthmus: Bespel kostat 3 = b (Offset) x x2 x y 3 2 f ( ) 3 x IF HEN yf ( ) 0 y x x
92 Perzeptro Perzeptroalgorthmus mmert de Summe des Perzepro-Verlustes über alle Bespele Ke Regularserer Updateregel realsert stochastsche Gradetesuche Feste Schrttwete vo, daher kee Kovergez garatert Perzeptro fdet (rgedee) reebee zwsche postve ud egatve Bespele Perzeptro kovergert, we ee solche reebee exstert. 92
93 ERM: Support Vector Mache Verlustfukto: y f( x ) y f( x ) 0 ( f( x ), y ) 0 yf ( x) 0 max(0, yf( x )) h Regularserer: m Klasse y{-,+} j j 2 l 0 yf ( x) 93
94 Support Vector Mache Verlustfukto st 0, we max(0, yf( x )) 0 : yf( x ) N N : y x ) ) we y N 2 2 : x y x ) we
95 Support Vector Mache Verlustfukto st 0, we max(0, yf( x )) 0 : yf( x ) N N : y x ) ) we y N 2 2 : x y ) we 2 2 alle ragsbespele ee Abstad vo mdestes zur reebee habe x + ( x) Abstad der Ebee vom Ursprug Hesse sche Normalform: Normalevektor hat Läge ( x) 95
96 Support Vector Mache Verlustfukto st 0, we alle ragsbespele ee Abstad vo mdestes 2 zur reebee habe Regularserer 2 2 Ist ull, we 0 SVM wrd auch als Large-Marg-Klassfkator bezechet, wel Optmerugskrterum vo Ebee mmert wrd, de möglchst große Abstad vo Bespele hat. + ( x) ( x) 96
97 Support Vector Mache Verlustfukto als Summe vo Slack-erme max(0, yf( x )) max(0, yx ) ) Slack-erm, Marg-Verletzug N 97
98 Prmale Support Vector Mache Mmert Hge Loss ud L2-Norm des 2 Parametervektors. Hge Loss st für e Bespel postv, we das Bespel ee Abstad (Marg) vo weger als zur reebee hat. SVM legt dadurch de reebee so, dass möglchst alle Bespele ee möglchst große Abstad zur reebee habe. 2 98
99 Ihalt Klassfkatosproblem Bayes sche Klasseetschedug MAP-Modell Logstsche Regresso Regularserte Emprsche Rskommerug Kerel Perzeptro Support Vector Mache Represeter heorem Duales Perzeptro, Duale SVM 99
100 Duale Form learer Modelle Feature Mappg ( x) ka hochdmesoal se Azahl zu schätzeder Parameter hägt vo ab. Berechug vo ( x) teuer. 00
101 Duale Form learer Modelle Represeter heorem: We g f streg mooto 2 * steged st, hat das Argumet, das * mmert, de Form ( x ), mt. * f ( x) ( x) ( x) 2 x L ( ) f ( ), y g f Ieres Produkt st Maß für Ählchlchket zwsche Bespele 0
102 Represeter heorem: Bewes Orthogoale Zerlegug: *, mt ( x ) ud 0 für alle 2 x L ( ) f ( ), y g f 02
103 Represeter heorem: Bewes Orthogoale Zerlegug: *, mt ( x ) ud Für alle x,, x glt da 0 für alle f * x ( x) ( x) ( x) 2 x L ( ) f ( ), y g f 03
104 Represeter heorem: Bewes Orthogoale Zerlegug: *, mt ( x ) ud Für alle x,, x glt da Somt st f ( ), y uabhägg vo 0 für alle f * x ( x) ( x) ( x) x 2 x L ( ) f ( ), y g f g 2 * Da g g g muss Da 0 Da g streg mooto wachsed. (Satz des Pythagoras). 04
105 Represeter heorem Gegebe Abbldug reebee * De reebee, de x mmert, lässt sch repräsetere als f Prmale Scht: Hypothese hat so vele Parameter we Dmesoe hat. Duale Scht: ( x, y ),...,( x, y ) ( x) f ( x) x) * * * x x f * x ( x) ( x α ( ) ) ( ) ) f * Hypothese hat so vele Parameter we Bespele exstere. 2 L ( ) f ( ), y g f * ( x) x) * f * ( x) ( x) ( x ) α ( x) 05
106 Represeter heorem Prmale Scht: Hypothese hat so vele Parameter we Dmesoe hat. Gut für vele Bespele, wege Attrbute. Duale Scht: f * * ( x) x) * f * ( x) ( x) ( x) α ( x) Hypothese hat so vele Parameter we Bespele exstere. Gut für wege Bespele, vele Dmesoe. Repräsetato ( x) ka uedlch vele Dmesoe habe, solage ere Produkt effzet berechet werde ka: Kerelfuktoe. 06
107 Duale Form learer Modelle * E Parametervektor, der ee regularserte Verlustfukto mmert, st mmer ee * Learkombato der Bespele: ( x ) De duale Form α hat so vele Parameter, we es ragsbespele gbt. Duale Etschedugsfukto: * * De prmale Form hat so vele Parameter, we ( x ) Dmetoe hat. Prmale Etschedugsfukto: De duale Form st vortelhaft, we es wege Bespele ud vele Attrbute gbt. f * * ( x) x) * f * ( x) ( x) ( x) α 07
108 Duales Perzeptro Perzeptro-Klassfkato: Perzeptro: für alle Bespele muss gelte f ( x ) ( ) x yf ( x ) 0 = Bespel legt auf der rchtge Sete der Ebee. Update-Schrtt: y( x )
109 Duales Perzeptro Perzeptro-Klassfkato: f ( x ) ( x ) f α Perzeptro: für alle Bespele muss gelte y f ( x ) 0 y ( j) ( ) 0 j j x x = Bespel legt auf der rchtge Sete der Ebee. Update-Schrtt: ( ( j j j ( x ) x ) x ) y( x )
110 Duales Perzeptro Perzeptro-Klassfkato: f ( x ) ( x ) f α Perzeptro: für alle Bespele muss gelte yf ( x ) 0 y ( j) ( ) 0 j j x x = Bespel legt auf der rchtge Sete der Ebee. Update-Schrtt: ( ( j j j ( x ) x ) x ) y ( x ) ( x ) ( x ) y ( x ) j j j j j j ( x ) ( x ) y ( x ) y
111 Dualer Perzeptro-Algorthmus Perceptro(Istaze (x, y )) Setze = 0 DO FOR =,, Etschedugsfukto: IF HEN END yf( x α ) 0 y WHILE verädert REURN j j j f ( x ) ( x α ) ( x )
112 Duales Perzeptro Perzeptro-Verlust, ke Regularserer Duale Form der Etschedugsfukto: Duale Form der Updateregel: We j j j f ( x ) ( x α ) ( x ) yf α ( x ) 0, da Äquvalet zur prmale Form des Perzeptros Vortelhafter als prmales Perzeptro, we wege Bespele vorlege ud ( x ) vele Dmesoe hat. y 2
113 Duale Support Vector Mache Prmal: y x 2 m max(0, ( ) ) Äquvaletes Optmerugsproblem mt Nebebedguge: mξ, 2 uter de Nebebedguge: y ( x ) ud 0. Zel: duale Formulerug des Optmerugsproblems 3
114 Duale Support Vector Mache Optmerugsproblem mt Nebebedguge: mξ, 2 uter de Nebebedguge: y ( x ) ud 0. Lagragefukto mt Lagrage-Multplkatore ud β 0 0für Nebebedguge: 0 L( ξ,, ββ, ) y( x) 2 0 Optmerugsproblem ohe Nebebedguge: m ( Zelfukto: 0 ξ, max 0 L, ξ, β, β ) ββ, Z( ξ, ) Nebebedgug: g( ξ, ) 0 Lagragefukto: Z(, ξ) g(, ξ) β 0 4
115 Duale Support Vector Mache Lagragefukto: Da kovex ( ξ, ) glt starker Dualtätssatz: m max L(, ξ, β, β ) ma x m L(, ξ, β, β ) ξ 0 0 β β ξ, 0 0,,, β β Mmum: Abletuge vo L ach ( ξ, ), ull setze: L 0 (, ξ, β, β ) 0 y( x) L( ξ β, β 0 0 L(, ξ, β, β ) y( x) 2 0 0,, ) 0 Relato zwsche prmale ud duale Parameter, Represeter heorem. 5
116 Duale Support Vector Mache L Nullstelle der Abletug Lagrage-Fukto esetze: 0 (, ξ, β, β ) 2 0 y ( x ) y( x ) 0 6
117 Duale Support Vector Mache L Nullstelle der Abletug Lagrage-Fukto esetze: 0 (, ξ, β, β ) y( ) j yj( j ) 2 x x j 0 y( x ) j y j( x j ) j y( x ) 0 7
118 Duale Support Vector Mache L Nullstelle der Abletug Lagrage-Fukto esetze: 0 (, ξ, β, β ) y( ) j yj( j ) 2 x x j 2, j 0 y ( x ) j y j( x j) j yy( x ) ( x ) j j j j y y j( x ) ( x j ), j ( ) 0 y( x ) 0 8
119 Duale Support Vector Mache L Nullstelle der Abletug Lagrage-Fukto esetze: 0 (, ξ, β, β ) y( ) j yj( j ) 2 x x j 2, j 0 y ( x ) j y j( x j) j yy( x ) ( x ) j j j j y y j( x ) ( x j ), j j yy j ) j 2, j x x ( ( ) ( ) 0 y( x ) 0 9
120 Duale Support Vector Mache Nullstelle der Abletug Lagrage-Fukto esetze: L( β) y y j ( x ) ( j ) x j 2, j 0 0 Da β 0 folgt aus ββ, dass 0 Optmerugskrterum der duale SVM: L-Regularserug vo (sparse) β max β ( x ) ( x ) j yy j j 2, j uter de Nebebedguge: 0, Groß, we j für ählche Bespele mt uterschedlcher Klasse. y( x )
121 Duale Support Vector Mache Optmerugskrterum der duale SVM: max ( ) ( ) β j yy j x x j 2, j uter de Nebebedguge: 0. Lagrage-Multplkator st größer Null, geau da we de zugehörge Nebebedgug mt 0 Glechhet erfüllt st. 0 0 : es glt y ( x ) ud. 0 (Abstad zur reebee st größer als Marg) 0 0 : es glt y( ) x ud 0. (Bespel verletzt de Marg) 0 0, : es glt y ( ) x ud 0. (Bespel legt auf dem Marg) : y ( x ) 0 : 0 2
122 Duale Support Vector Mache Optmerugskrterum der duale SVM: max ( ) ( ) β j yy j x x j 2, j uter de Nebebedguge: Optmerug über Parameter β. Lösug mt QP-Solver O( 2 ). Sparse Lösug. 0. Bespele tauche ur als ere Produkte auf. 22
123 Duale Support Vector Mache Prmales ud duales Optmerugsproblem habe deselbe Lösug. Duale Form der Etschedugsfukto: f β x SV Prmale SVM: Lösug st Vektor m Raum der Attrbute. Duale SVM: y x ( x) y( x) ( x) x SV ) Support-Vektore: 0 Gleche Lösug repräsetert als Gewchte Bespele. der 23
124 Duale Support Vector Mache Hge Loss, L2-Regularserug Duale Form der Etschedugsfukto: Duale Form des Optmerugsproblems f β ( x) y( x) ( x) x SV max ( ) ( ) β j yy j x x j 2, j uter de Nebebedguge: 0. Prmale ud duale Optmerugsprobleme habe detsche Lösug, aber prmale bzw. duale Form Vortelhafter als prmale SVM, we wege Bespele vorlege ud ( x) vele Dmesoe hat. 24
125 Kerel ( x) Feature Mappg ka hochdmesoal se Azahl zu schätzeder Parameter hägt vo ab. Berechug vo ( x) teuer. Bsher: ( x ) gegebe, ( x) ( x' ) taucht dualer Form der Etschedugsfukto auf. Ieres Produkt ka durch (ahezu) belebge Ählchketsfukto k( x, x') ( x) ( x ') ersetzt werde. Für welche Fuktoe k exstert e Mappg ( x), so dass k eres Produkt darstellt? 25
126 Wederholug: Postve Defthet Ee Matrx K heßt postv sem-deft, we x x : x Kx 0 für alle glt. Se heßt postv deft, we de Glechhet ur für glt. x 0 Ee Fukto k heßt postv sem-deft, we z( x) k( x, x') z( x' ) dxdx ' 0 für alle kotuerlche Fuktoe z glt. 26
127 Wederholug: Postve Defthet Ee Matrx K heßt postv sem-deft, we x : x Kx 0 Bespel: Kovaraz-Matrx m/2 /2 2 [ μ, Σ] ( x) (2 ) Σ e xμ Σ xμ Postv defte Matrze sd verterbar ud 3 de Iverse st auch postve deft. 2 x x
128 Wederholug: Postve Defthet Ee Matrx K heßt postv sem-deft, we x : x Kx 0 Bespel: Kovaraz-Matrx m/2 /2 2 [ μ, Σ]( x) ( 2 ) Σ e Postve Defthet mplzert Norm x : x Σ x xμ 3 2 x x
129 Wederholug: Postve Defthet Ee Matrx K heßt postv sem-deft, we x : x Kx 0 Bespel: Kovaraz-Matrx m/2 /2 2 [ μ, Σ]( x) ( 2 ) Σ e Postve Defthet mplzert Norm x : x Σ x xμ 3 2 Mahalaobs-Dstaz: d ( x, x') ( x x') Σ ( x x') x x
130 Kere heorem: Für jede postv defte Fukto exstert ee Abbldug ( x), so dass k( x, x') ( x) ( x') glt. Abbldug cht edeutg. Bespel ( x) x ud 2( x) x : es glt: ( x) ( x') x x' ( x) ( x' ) ( x) ( x ') 2 2 k Gram-Matrx oder Kerel-Matrx K ( k( x, x )) j j Matrx der ere Produkte = Ählchkete zwsche Bespele, x -Matrx. 30
131 Kere Für jede postv defte Fukto exstert ee Abbldug ( x), so dass k( x, x') ( x) ( x') glt. Kostruktve Bewese: Reproducg Kerel Hlbert Space (RKHS). Idee: Defere Mappg als Fukto ( x) k( x, ) Defere eres Produkt, zwsche Fuktoe Zege k( x, x') k( x, ), k( x', ). Mercer Mappg. Idee: Zerlegug vo k hre Egefuktoe. Für Praxs relevat: edlcher Fall. k 3
132 Kerel-Fuktoe Polyomelle Kerels Radale Bassfukto k x x x x (, ) ( ) p poly j j RBF ( x, x j ) e ( x Sgmode Kerels, Strg-Kerels (z.b. zum Klassfzere vo Gesequeze). Graph-Kerels zum Lere mt strukturerte Istaze. k x j ) 2 Wetere Lteratur: B.Schölkopf, A.J.Smola: Learg wth Kerels
133 Polyomelle Kerel Kerel: k (, ) ( poly x x j x x j )k Welcher rasformato etsprcht das? Bespel: 2-D Orgalraum, t=2. 33
134 Polyomelle Kerel Kerel: k x x x x, 2D-Egabe, k=2. k k poly ( x, x j ) ( x x j ) x (, ) ( poly j j )k x 2 x x j j2 2 34
135 Polyomelle Kerel Kerel: k x x x x, 2D-Egabe, k=2. k (, ) ( poly j j )k k poly( x, x j ) ( x x j ) x x j2 j x x2 xx j x2x j2 2 x x x x 2x x x x 2x x 2x x j 2 j2 j 2 j 2 j 2 j 2 x x 2x x 2 x 2x x Alle Polyome 2. Grades über Egabeattrbute 2 x j 2 x j2 2x x 2x j 2x j2 ( x ) j j2 j 2 35
136 Polyomelle Kerel Kerel: k x x x x, 2D-Egabe, k=2. k (, ) ( poly j j )k k poly( x, x j ) ( x x j ) x x j2 j x x2 xx j x2x j2 2 x x x x 2x x x x 2x x 2x x j 2 j2 j 2 j2 j 2 j2 x x 2x x 2 x 2x x Alle Polyome 2. Grades über Egabeattrbute x 2 2 j 2 x j2 2 x x j x jx j2 x x x j x j 2x j 2 x j2 ( x ) j 36
137 RBF-Kerel Kerel k 2 RBF ( x, x j ) exp ( x x j ) Welcher rasformato etsprcht das? 37
138 Kerel Kerfukto k( x, x') ( x) ( x' ) berechet Produkt der Feature Mappgs zweer Istaze Ka oft ohe explzte Repräsetato der berechet werde Bespel: polyomelle Kere Uedlch-dmesoale Feature Mappgs möglch Bespel: RBF-Kere k x x x x ( x) (, ) ( ) p poly j j Für jede postv-defte Ker-Fukto gbt es e Feature Mappg ( x ) so dass k( x, x') ( x) ( x') 38
Erinnerung: Funktionslernen. 5.6 Support Vector Maschines (SVM) Beispiel: Funktionenlernen. Reale Beispiele
Ererug: Fuktoslere 5.6 Support Vector Masches (SVM) überomme vo Stefa Rüpg, Kathara Mork Uverstät Dortmud Vorlesug Maschelles Lere ud Data Mg WS 2002/03 Gegebe: Bespele X LE de ahad eer Wahrschelchketsvertelug
3.7 Support Vector Machines
3.7 Support Vector Maches Motvato: Leare Separato Vektore R d repräsetere Objekte. Objekte gehöre zu geau eer vo je 2 Klasse Klassfkato durch leare Separato: Suche Hperebee de bede Klasse mamal stabl voeader
Kapitel 6: Regression
udwg-maxmlas-uverstät Müche Isttut für Iformatk ehr- ud Forschugsehet für Datebaksysteme Skrpt zur Vorlesug Kowledge Dscovery Databases m Sommersemester 05 Kaptel 6: Regresso Vorlesug: PD Dr. Arthur Zmek
Optimierungsverfahren: Motivation. Bayes-Formalismus. Schätztheorie. -- Fehlerfunktion L -- Regularisierungsfunktion R
Optmerugsverfahre: Motvato Bayes-Formalsmus -- egatve log-lkelhoo -- egatver log-pror -- Max. a Posteror! l p( D! l p( + cost = m Schätztheore -- Fehlerfukto L -- Regularserugsfukto R -- F ( = L( +! R(
Statistische Grundlagen Ein kurzer Überblick (diskret)
Prof. J.C. Jackwerth 1 Statstsche Grudlage E kurzer Überblck (dskret De wchtgste Begrffe ud Deftoe: 1 Erwartugswert Varaz / Stadardabwechug 3 Stchprobevaraz 4 Kovaraz 5 Korrelatoskoeffzet 6 Uabhäggket
( x) eine Funktion definiert, in der nur die i-te Komponente variabel ist. Folgende Schreibweisen werden aufgrund dieser Anmerkungen auch verwendet:
Pro. Dr. Fredel Bolle LS ür Volkswrtschatslehre sb. Wrtschatstheore (Mkroökoome) Vorlesug Mathematk - WS 008/009 4. Deretalrechug reeller Fuktoe IR IR (Karma, S. 00 06, dort glech ür IR IR m ) 4. Partelle
Statistik und Wahrscheinlichkeitsrechnung
Statstk ud Wahrschelchketsrechug Mathas Graf 8.04.009 Ihalt der heutge Vorlesug Auswahl eer Vertelugsfukto: Wahrschelchketspaper Schätzug ud Modelletwcklug: Methode der Momete Methode der Maxmum Lkelhood
Lineare Klassifikatoren III
Uiversität Potsdam Istitut für Iformatik Lehrstuhl Maschielles Lere Lieare Klassifikatore III Christoph Sawade, Blaie Nelso, Tobias Scheffer Ihalt Klassifikatiosproblem Bayes sche Klasseetscheidug MAP-Modell
Eigenwerteinschließungen I
auptsemar: Numersche Lösuge für Egewertaufgabe Egewerteschleßuge I Referet: Wolfgag Wesselsky Glederug Eletug Kodto vo Egewerte 3 Eschleßugssätze Bauer-Fke, Gershgor, Wlkso, Bedxo 4 Zusatz: Courat / Weyl
Ordnungsstatistiken und Quantile
KAPITEL Ordugsstatste ud Quatle Um robuste Lage- ud Streuugsparameter eführe zu öe, beötge wr Ordugsstatste ud Quatle... Ordugsstatste ud Quatle Defto... Se (x,..., x R ee Stchprobe. Wr öe de Elemete der
Übungen zur Wahrscheinlichkeitsrechnung und Schliessenden Statistik
Übuge zur Wahrschelchketsrechug ud Schlessede Statstk Aufgabe ud Lösuge vo Peter M Schulze, Verea Dexhemer. Auflage Übuge zur Wahrschelchketsrechug ud Schlessede Statstk Schulze / Dexhemer schell ud portofre
Der Approximationssatz von Weierstraß
Der Approxmatossatz vo Weerstraß Ja Köster 22. Oktober 2007 1 Eführug Aus der Aalyss wsse wr, dass sch aalytsche Fuktoe durch Potezrehe der Form f(x = a 0 + a 1 x + a 2 x 2 +... darstelle lasse. Dabe kovergert
Statistik. ist die Kunst, Daten zu gewinnen, darzustellen, zu analysieren und zu interpretieren um zu neuem Wissen zu gelangen.
Statstk st de Kust, Date zu gewe, darzustelle, zu aalysere ud zu terpretere um zu euem Wsse zu gelage. Sachs (984) Aufgabe De Statstk hat also folgede Aufgabe: Zusammefassug vo Date Darstellug vo Date
Quellencodierung I: Redundanzreduktion, redundanzsparende Codes
Quellecoderug I: Redudazredukto, redudazsparede Codes. Redudaz. Eführug. Defto der Redudaz. allgemee Redudazredukto. redudazsparede Codes. Coderug ach Shao. Coderug ach Fao. Coderug ach Huffma.4 Coderug
für j=0,1,...,n Lagrange zur Lösung der Interpolation nicht geeignet, da numerisch problematisch und teuer. 1 n
Aahme: Es gbt zwe Polyome p ud q vom Grad
Kapitel XI. Funktionen mit mehreren Variablen
Kaptel XI Fuktoe mt mehrere Varable D (Fuktoe vo uabhägge Varable Se R ud D( f R Ist jedem Vektor (Pukt (,,, D( f durch ee Vorschrft f ee reelle Zahl z = f (,,, zugeordet, so heßt f ee Fukto vo uabhägge
Seminar: Stochastische Geometrie und ihre Anwendungen - Unbegrenzt teilbare und stabile Verteilungen.
Uverstät Ulm, Isttut Stochastk 5. Jul 200 Semar: Stochastsche Geometre ud hre Aweduge - Ubegrezt telbare ud stable Verteluge. Ausarbetug: Stefa Fuke Betreuer: Ju.-Prof. Dr. Zakhar Kabluchko Ubegrezt telbare
5 Reproduktions- und Grenzwertsätze
Reproduktos- ud Grezwertsätze Reproduktos- ud Grezwertsätze. Reproduktossätze Bespel 0: Der Aufzug eer Frma st zugelasse für Persoe bzw. 000 kg. Das Durchschttsgewcht der Agestellte der Frma st µ = 80
2.2 Rangkorrelation nach Spearman
. Ragkorrelato ach Spearma Wr wolle desem Kaptel de Ragkorrelatoskoeffzete ach Spearma bereche. De erste Daterehe besteht aus Realseruge x, x,..., x der uabhägg ud detsch stetg vertelte Zufallsvarable
Varianzfortpflanzung
5.0 / SES.5 Parameterschätzug Varazortplazug Torste Maer-Gürr Torste Maer-Gürr Dskrete Zuallsvarable Ee dskrete Zuallsvarable mmt edlch vele oder abzählbar uedlch vele Werte a. - Werte: - Wahrschelchket:,,,,,,,,
Einführung in die Stochastik 3. Übungsblatt
Eführug de Stochastk 3. Übugsblatt Fachberech Mathematk SS 0 M. Kohler 06.05.0 A. Fromkorth D. Furer Gruppe ud Hausübug Aufgabe 9 (4 Pukte) Der Mkrozesus st ee statstsche Erhebug. Herbe werde ach bestmmte
Lösungen. Häufigkeitsverteilung (Stabdiagramm) Aufgabe 1. Häufigkeit (h) Merkmal (x)
Lösuge Aufgabe Merkmal (x) Häufgket (h) h x,, 3, 3,, 8, 5, 5, 6, 6, 7, 3, 8, 3 5, 9, 38,, 5,, 8 68,, 6 3, 3, 9,, 8, 5, 5 5, 6, 3 78, 7, 5, 8, 8, 3, 3, Summe 5.63, Aufgabe Häufgketsvertelug (Stabdagramm)
4. Marshallsche Nachfragefunktionen Frage: Wie hängt die Nachfrage nach Gütern
Prof. Dr. Fredel Bolle Vorlesug "Mkroökoome" WS 008/009 III. Theore des Haushalts 0 Prof. Dr. Fredel Bolle Vorlesug "Mkroökoome" WS 008/009 III. Theore des Haushalts 0 4. Marshallsche Nachfragefuktoe Frage:
Die Methode des 2.Moments
De Methode des 2.Momets Chrstoph Schmdt July 13, 2004 1 Eletug De Varaz eer Zufallsvarable st hre mttlere quadratsche Abwechug vo hrem Erwartugswert. V ar[x] = E[(X EX) 2 ] = E[X 2 ] E[X] 2 Der Term E[X
Dr. H. Grunert Einführung in die Wahrscheinlichkeitsrechnung Vorlesungscharts. Vorlesung 5.2. Eigenschaften von Zufallsvariablen
Vorlesugscharts Vorlesug 5. Egeschafte vo Zufallsvarable Reproduktvtät Approxmatoe Zetraler Grezwertsatz Sete vo Chart : Uabhäggket vo Zufallsvarable Zwe Zufallsvarable X ud Y mt hre Realsatoe { x, x,...,
Einführung Fehlerrechnung
IV Eführug Fehlerrechug Fehlerrechuge werde durchgeführt, um de Vertraueswürdgket vo Meßergebsse beurtele zu köe. Uter dem Fehler eer Messug versteht ma de Abwechug ees Meßergebsses vom (grudsätzlch ubekate
Der Korrelationskoeffizient ist ein Maß für den linearen Zusammenhang zwischen zwei Variablen X und Y. Er ist durch folgende Formel charakterisiert:
Korrelatoskoeffzet Der Korrelatoskoeffzet st e Maß für de leare Zusammehag zwsche zwe Varable X ud Y. Er st durch folgede Formel charaktersert: r xy corr XY ( x x)( y y) ( ) x x ( y y) x x y x ( ) ( )
WIB 2 Mathematik und Statistik Formelsammlung. Z Menge der ganzen Zahlen {...,-3,-2,-1,0,1,2,3,...}
1 Allgeme Geometrsche Rehe: q t = 1 q1 t=0 1 q Mtterachtsformel: ax 2 bxc=0 x 1/ 2 = b±b2 4ac 2a Bomsche Formel: 1. ab 2 =a 2 2abb 2 2. a b 2 =a 2 2abb 2 3. ab a b=a 2 b 2 Wurzel: ugerade 1 Ergebs gerade
Stochastische Bildmodelle und deren Anwendung
Abtelug Stochastk --Uverstät Ulm Ulm Semar: Bayessche Asätze der der Bldaalyse Stochastsche Bldmodelle ud dere Awedug Sad Bakadr 22.Ma 2006 Sad Bakadr - Uverstät Ulm - Ihalt Eletug Bespele vo Bldmodelle
Universität Potsdam Institut für Informatik Lehrstuhl Maschinelles Lernen. Maschinelles Lernen II. Clustering
Uverstät Potsdam Isttut für Iformatk Lehrstuhl Maschelles Lere Maschelles Lere II Clusterg Matthas Bussas / Nels Ladwehr Tobas Scheffer Motvato 2 Motvato 3 Clusterg Gegebe: Objekte V = { x,...,x } 1 Dstazfukto
(Markowitz-Portfoliotheorie)
Thema : ortfolo-selekto ud m-s-rzp (Markowtz-ortfolotheore) Beurtelugskrtere be quadratscher Nutzefukto: Beroull-rzp + quadratsche Nutzefukto Thema Höhekompoete: Erwartugswert µ Rskokompoete: Stadardabwechug
9. Clustern und Klassifizieren
03. JULI 2006: BLATT 55 9. Cluster ud Klassfzere 9.. Eletug Uter Klassfkato wrd de Zuordug vordeferter Klassfkatore (etwa sytaktsche Kategore aus eer Grammatk) zu Obekte verstade - userem Fall zu sprachlche
Übungen zum Vorkurs Mathematik
Matheatsches Isttut der Uverstät zu Köl Dr. L. Galat WSe 016/017 Motag, 19.09.016 Blatt 6-10 Übuge zu Vorkurs Matheatk Aufgabe 0. (1 Es gbt 6 5 4 3 7893600 Möglchkete. 1 ( Uter Aahe vo Glechvertelug ergbt
Klausur Statistik IV Sommersemester 2009
Klausur Statstk IV (Lösug) Name, Vorame 013456 Klausur Statstk IV Sommersemester 009 Prof. Dr. Torste Hothor Isttut für Statstk Name: Name, Vorame Matrkelummer: 013456 Wchtg: ˆ Überprüfe Se, ob Ihr Klausurexemplar
Lösungen zum Übungs-Blatt 7 Wahrscheinlichkeitsrechnung
Lösuge zum Übugs-Blatt 7 Wahrschelchketsrechug BMT Bostatstk Prof. Dr. B. Grabowsk ----------------------------------------------------------------------------------------------- Bedgte Wahrschelchket
DIE VAPNIK-CHERVONENKIS THEORIE. Inhaltsverzeichnis
DIE VAPNIK-CHERVONENKIS THEORIE MATHIS KLEPPER, MICHAEL SAß Ihaltsverzechs Tel Vapk-Chervoeks Theore Tel I 2 Eführug 2 2 Glveko-Catell 5 3 Vapk-Chervoeks-Theore 0 Tel 2 Vapk-Chervoeks Theore Tel II 2 4
Physikalische Messungen sind immer fehlerbehaftet! Der wahre Wert ist nicht ermittelbar. Der wahre Wert x ist nicht identisch mit dem Mittelwert
Physkalsche Messuge sd mmer fehlerbehaftet! Der wahre Wert st cht ermttelbar. Der wahre Wert st cht detsch mt dem Mttelwert Der Wert legt mt eer gewsse Wahrschelchket (Kofdezahl bzw. Vertrauesveau %) m
Probleme mit mehreren Zielen. Probleme mit mehreren Zielen. Probleme mit mehreren Zielen
Probleme mt mehrere Zele Bespel (Dkelbach) E Reseder muss sch vor Ort vo ver Hotels für ees etschede. Dabe verfolgt er folgede Zele: - Bestmöglche Ruhe - Qualtät des Frühstücks - Sauberes Bad - Scherer
Vorkurs, Teil 1. (3) Matrizen, lineare Gleichungssysteme, Determinanten (Lehrbuch Kap )
Vorkurs, Tel Lehrbuch: Sydsaeter / Hammod, Mathematk für Wrtschaftswsseschaftler, Pearso Studum, ISBN 978-3-873-73-9 Skrpt vo Sevtap Kestel Ihalt () Eführug: Zahle, Fuktoe Potezfukto, Expoetalfukto (Lehrbuch
Erzeugen und Testen von Zufallszahlen
Erzeuge ud Teste vo Zufallszahle Jürge Zumdck Eletug Ee Lergruppe wrd aufgefordert 00 Zufallszahle (0 oder ) ach folgede Methode zu erzeuge: De Hälfte der Gruppe beutzt a) ee Müze oder b) de Zufallszahlefukto
Lohnkosten pro Arbeitsstunde. Wie hoch sind die Lohnkosten pro Arbeitsstunde im Jahresdurchschnitt?
Klausur Wrtschaftsstatstk. [ Pukte] E Uterehme hat folgede Date ermttelt: Moat Gelestete Arbetsstude Lohkoste pro Arbetsstude Jauar 86.400 0,06 Februar 75.000 3,0 März 756.000 4,47 Aprl 768.000,53 Ma 638.400
Konzentrationsanalyse
Kaptel V Kozetratosaalyse B. 5.. Im Allgemee wrd aus statstscher Scht zwsche - absoluter ud - relatver Kozetrato uterschede Der absolute ud relatve Aspekt wrd och emal utertelt - statscher ud - dyamscher
Grundlagen der Entscheidungstheorie
Kaptel 0 Grudlage der Etschedugstheore B. 0 (Gegestad) De Etschedugstheore befasst sch mt dem Etschedugsverhalte vo Idvdue ud Gruppe. Se besteht aus we Telgebete. Deskrptve Etschedugstheore De deskrptve
2. Die Elementarereignisse sind die Kombinationsmöglichkeiten von: Wappen = W und:
1 L - Hausaufgabe Nr. 55 Sotag, 1. Ju 2003 Ee Müze werde dremal geworfe. Was st das Zufallsexpermet, das Elemetareregs, das zusammegesetzte Eregs, der Eregsraum ud de Wahrschelchket? Lösugs kte.: 1 De
Elemente der Algebra und Zahlentheorie Musterlösung, Serie 7, Wintersemester vom 21. Januar 2006
Prof. E.-W. Zk Isttut für Matheatk Huboldt-Uverstät zu Berl Eleete der Algebra ud Zahletheore Musterlösug, Sere 7, Wterseester 2005-06 vo 21. Jauar 2006 1. Se = 2 p 1 Mersee-Zahl, d.h. p P 1. a) Zege:
die Schadenhöhe ( = Risikoergebnis) des i-ten Versicherungsnehmers i 1,, n).
Aufgabe Wr betrachte ee Reteverscherug der Retebezugszet mt jährlch vorschüssger Retezahlug solage der Verscherte lebt. a) Bezeche V bzw. V de rechugsmäßge Deckugsrückstellug am Afag bzw. am Ede des Verscherugsjahres.
Teil II. Analysis in der Ökonomie
Tel II Aalyss der Ökoome D (Fuktoe vo uabhägge Varable Se N ud D( f R Ist jedem Vektor (Pukt ( Vorschrft f ee reelle Zahl z f (,,, D( f durch ee =,,, zugeordet, so heßt f ee Fukto vo uabhägge Varable,,,
3. Das Messergebnis. Was ist ein Messergebnis?
. Das Messergebs Was st e Messergebs? Wederholug der Messug Wahrer Wert? Mehrere Eflussgröße Fehlerbetrachtug Messergebs Vorgeheswese für Messergebs. Bestmmug des bekate systematsche Fehlers 2. Aufahme
Sitzplatzreservierungsproblem
tzplatzreserverugsproblem Be vele Zugsysteme Europa müsse Passagere mt hrem Zugtcet ee tzplatzreserverug aufe. Da das Tcetsystem Kude ee ezele Platz zuwese muss, we dese e Tcet aufe, ohe zu wsse, welche
Lösungen zum Übungs-Blatt 7 Wahrscheinlichkeitsrechnung
Lösuge zum Übugs-Blatt 7 Wahrschelchketsrechug BMT Bostatstk Prof. Dr. B. Grabowsk ----------------------------------------------------------------------------------------------- Satz vo Bayes ud totale
Scatterplots. Scatterplot Zweidimensionale Stichproben können als Punkte in der Ebene dargestellt werden. Länge und Breite von Venusmuscheln
Scatterplots emprsche Eletug Trasformatoe Exteres Fle Iput-Awesug SAS-Fles Output-Awesug DO-Schlefe Populato Wahrschelchket Zufallsvarable Dskrete Zufallsvarable Stetge Zufallsvarable Normalvertelug (1)
Definitionen und Aussagen zu Potenzreihen
Deftoe ud Aussage zu Potezrehe User bsherges Repertore a stetge Abblduge basert auf ratoale Fuktoe, also Ausdrücke, dee Addto, Subtrakto, Multplkato ud Dvso vorkomme. Auf dese Wese sd aber Epoetalfukto,
annehmen, so heißt die Funktion, die jedem atomaren Ereignis { x i } mit i { 1; 2; ;
Wahrschelchet Ee Futo X : Ω R, de edem Ergebs ees zufällge Vorgages ee reelle Zahl zuordet, heßt Zufallsgröße (oder auch Zufallsvarable Ee Zufallsgröße X heßt edlch, we X ur edlch vele Werte x aehme a
Universität Potsdam Institut für Informatik Lehrstuhl Maschinelles Lernen. Maschinelles Lernen II. Clustering 2
Uverstät Potsdam Isttut für Iformatk Lehrstuhl Maschelles Lere Maschelles Lere II Clusterg 2 Chrstoph Sawade/Nels Ladwehr Tobas Scheffer Überblck Zuletzt: K-meas Mxture of Gaussas Herarchsches Cluster
Alternative Darstellung des 2-Stichprobentests für Anteile. Beobachtete Response No Response Total absolut DCF CF
Alteratve Darstellug des -Stchprobetests für Atele DCF CF Total 111 11 3 Respose 43 6 69 Resp. Rate 0,387 0,3 0,309 Beobachtete Respose No Respose Total absolut DCF 43 68 111 CF 6 86 11 69 154 3 Be Gültgket
Zur Interpretation einer Beobachtungsreihe kann man neben der grafischen Darstellung weitere charakteristische Größen heranziehen.
Rudolf Brkma http://brkma-du.de Sete 0.0.008 Lagemaße der beschrebede Statstk. Zur Iterpretato eer Beobachtugsrehe ka ma ebe der grafsche Darstellug wetere charakterstsche Größe herazehe. Mttelwert ud
Maße zur Kennzeichnung der Form einer Verteilung (1)
Maße zur Kezechug der Form eer Vertelug (1) - Schefe (skewess): Defto I - Ee Vertelug vo Messwerte wrd als schef bezechet, we se der Wese asymmetrsch st, dass lks oder rechts des Durchschtts ee Häufug
Interpolationspolynome
Iterpolatospolyome Ac Gegebe sd +1 Stützstelle x 0 bs x zusamme mt hre Stützwerte y 0 bs y. Durch de Pukte ( x / y ) soll e Polyom p(x) -te Grades gelegt werde : p(x) = a 0 + a 1 x + a 2 x² + + a x = Das
Prinzip "Proportional Reduction of Error" (PRE)
Dr. Reate Prust: Eführug quattatve Forschugsmethode Bvarate Maße: Przp "Proportoal Reducto of Error" (PRE) E 1 - E Fehler be Regel 1 - Fehler be Regel = E 1 Fehler be Regel 1 Regel 1: Vorhersageregel ur
Einführung 2. Teil: Fehleranalyse
Phskalsch-chesches Praktku I Modul Eführug. Tel: Fehleraalse Ja Helbg, 7.09.08 Uterlage: htt://www.che.uzh.ch/stud/old/docuets/ear/che3.htl Fehlerrechug Gesucht: wahrer Wert eer Grösse Aber: Sere vo Messuge
Grundlagen der Informatik 2. Grundlagen der Digitaltechnik. 3. Entwicklungssatz der Schaltalgebra
Grudlage der Iormatk Grudlage der Dgtaltechk 3. Etwcklugssatz der Schaltalgebra Pro. Dr.-Ig. Jürge Tech Dr.-Ig. Chrsta Haubelt Lehrstuhl ür Hardware-Sotware Sotware-Co-Desg Grudlage der Dgtaltechk Etwcklugssatz
Lösungen zu Übungs-Blatt 7 Klassische Wahrscheinlichkeit in Glücksspielen, Bedingte Wkt, Unabhängigkeit, Satz von Bayes
Lösuge zu Übugs-latt 7 Klasssche Wahrschelchet Glücsspele, edgte Wt, Uabhägget, Satz vo ayes Master M Höhere ud gewadte Mathemat rof. Dr.. Grabows De folgede ufgabe löse wr uter Verwedug der bede ombatorsche
Intervallschätzungen geben unter Berücksichtigung des Verteilungstyps von X einen Bereich an, der den Parameter mit vorgegebener Sicherheit enthält.
Parameterschätzuge Fachhochschule Jea Uversty of Appled Sceces Jea Oft st der Vertelugstyp eer Zufallsgröße X bekat, ur de Parameter sd ubekat. Da erfolgt hre Schätzug aus eer Stchprobe. Ma uterschedet
Korrelations- und Assoziationsmaße
k m χ : j l r +. Zusammehagsmaße ( o e ) jl jl e jl Korrelatos- ud Assozatosmaße e jl 5 Merkmal Y Summe X b b m a H (a,b) H (a,b). a H (a,b) H (a,b). Summe.. Zusammehagsmaße Eführug Sche- ud Noses-Korrelato
Vl. Statistische Prozess- und Qualitätskontrolle und Versuchsplanung Übung 3: Diskrete Verteilungen
Vl. Statstsche Prozess- ud Qualtätsotrolle ud Versuchsplaug Übug 3: Dsrete Verteluge Prof. Dr. B. Grabows Zur Lösug der folgede Aufgabe öe Se auch de begefügte Tabelle der dsrete Verteluge m Ahag verwede.
Prof. Dr. H. Rommelfanger: Entscheidungstheorie, Kapitel 3 54
Prof. Dr. H. Rommelfager: tschedugstheore, Katel 3 54 3.2.8 ARROW-PRATT-Maß für de Rskoestellug Rskoverhalte bsher grob kategorsert ach Rskoeutraltät, -symathe ud averso be Rskoaverso: (X) < SÄ Rskoräme
Korrelations- und Regressionsanalyse
Kaptel VI Korrelatos- ud Regressosaalse B 6 (Gegestad der Korrelatos- ud Regressosaalse) Währed de Korrelatosaalse de Estez, de Stärke ud de Rchtug des Zusammehags zwsche zwe oder mehrere statstsche Varable
Im Wöhlerdiagramm wird die Lebensdauer (Lastwechsel oder Laufzeit) eines Bauteils in Abhängigkeit von der Belastung dargestellt.
Webull & Wöhler 0 CRGRAPH Wöhlerdagramm Im Wöhlerdagramm wrd de Lebesdauer ( oder Laufzet) ees Bautels Abhägget vo der Belastug dargestellt. Kurzetfestget Beaspruchug Zetfestget auerfestget 0 5 3 4 6 0
Genexpression (1) Clustering
Clusterg Clusterg: Grupperug ud Etelug eer Datemege ach ählche Merkmale Uüberwachte Klassfzerug (Neuroale Netze- Termologe) Dstazkrterum: E Datevektor st zu adere Datevektore seer Gruppe ahe (äher als
Klausur SS 2005 Version 1
BEMERKUG: für de Rchtgket der Lösuge wrd atürlch kee Garate überomme!! Klausur SS 005 Verso Aufgabe : e Gamma-Quat hat kee Ladug > el. Felder übe kee Kräfte aus > kee Kräfte, kee Äderug der Bewegug (ewto)
Universitätslehrgang Sports Physiotherapy Einführung in die Statistik
Departmet of Sport Scece ad Kesolog Uverstätslehrgag Sports Phsotherap Eführug de Statstk Gerda Strutzeberger Block I Block Mttwoch 5..0 3:00 bs 4:50 Grudlage, Skaleveau 5:05 bs 7:00 Gütekrtere, Hpothese,
Einführung 2. Teil: Fehleranalyse
Phscal Chemstr Phskalsch-chemsches Praktkum I Modul Eführug. Tel: Fehleraalse Ja Helbg, 9.09.06 Uterlage: htt://www.chem.uzh.ch/stud/old/documets/ear/che3.html Fehlerrechug Phscal Chemstr Gesucht: wahrer
( ) ( ) ( ) ( ) è ø. P A Wahrscheinlichkeitsmaß. lim n. Dr. Christian Schwarz 4. KOMBINATORIK Permutationen
BBA Projektsemar Thess Dr. Chrsta Schwarz Formelsammlug Aalytsche Statstk 4. KOMBINATORIK 4.. Permutatoe Azahl der Permutatoe vo N Elemete ohe Wederholug: Multomalkoeffzet: N! = N N- N -... 3 N! N! N!...
Quellencodierung I: Redundanzreduktion, redundanzsparende Codes
Quellecoderug I: Redudazredukto, redudazsparede Codes Quellecoderug Durch de Quellecoderug werde de Date aus der Quelle codert, bevor se ee Übertragugskaal übertrage werde De Coderug det der Verkleerug
1 Mathe Formeln Statistik und Wahrscheinlichkeitsrechnung
1 Mathe Formel Statstk ud Wahrschelchketsrechug Jör Horstma, 6.10.003. Alle Agabe ohe Gewähr. http://www.ba-stuttgart.de/ w017/ 1.1 Grudlage Ezelklasse [a ; b [ Klassewete Klassemtte Mttelwert b a = w
Einen Spieler interessiert nicht, wie er gewinnt, sondern ob und wie viel er gewinnt.
III Zufallsgröße Bespel ud Defto Bespel: Dremal Müzwurf Spel: Esatz, we cht zwe gleche htereader 3 Auszahlug. Ω = {(x x x3) x,x,x3 {Z,K}} Retert sch deses Spel? Dabe geht es ur um de Gew! Also: Defto Gew:
Asymptotische Normalverteilung nach dem zentralen Grenzwertsatz
Asymptotsche ormalvertelug ach dem zetrale Grezwertsatz Erwartugswert eer Summe vo Zufallsvarable mt jewels de Erwartugswert x (Y Y Asymptotsche ormalvertelug ach dem zetrale Grezwertsatz Varaz eer Summe
Leitfaden zu den Indexkennzahlen der Deutschen Börse
Letfade zu de Idexkezahle der Deutsche Börse Verso.5 Deutsche Börse AG Verso.5 Letfade zu de Idexkezahle der Deutsche Börse Page Allgemee Iformato Um de hohe Qualtät der vo der Deutsche Börse AG berechete
Methoden der computergestützten Produktion und Logistik
Methode der comutergestützte Produkto ud Logstk 9. Bedesysteme ud Warteschlage Prof. Dr.-Ig. habl. Wlhelm Dagelmaer Modul W 336 SS 06 Bedesysteme ud Warteschlage Besel: Fahrradfabrk Presse Puffer Lackerere
Stochastik Formeln von Gerald Meier
Stochast Formel vo Gerald Meer Grudbegrffe ud Operatoe umöglches Eregs scheres Eregs Ω A mplzert B Glechhet A B AB cht A A A ud B A B A oder B A B A ohe B A \ B A B dsjut A B de Morga A B A B Elemetareregs
Verteilungen und Schätzungen
Verteluge ud Schätzuge Zufallseperet Grudbegrffe Vorgag ach eer bestte Vorschrft ausgeführt ( Przp) belebg oft wederholbar se Ergebs st zufallsabhägg be ehralge Durchführug des Eperets beeflusse de Ergebsse
Zahlensysteme. Dezimalsystem. Binär- oder Dualsystem. Hexadezimal- oder Sedezimalzahlen
IT Zahlesysteme Zahledarstellug eem Stellewertcode (jede Stelle hat ee bestmmte Wert) Def. Code: Edeutge Abbldugsvorschrft für de Abbldug ees Zeche-Vorrates eem adere Zechevorrat. Dezmalsystem De Bass
7/7/06. Formulierung mittels Dynamischer Programmierung. Berechnungsbeispiel. Gewinnung der optimalen Reihenfolge
Formulerug mttels Dyamscher Programmerug Berechugsbespel Beobachtug: de Azahl der Telprobleme A j mt j st ur Folgerug: der aïve rekursve Algo berechet vele Telprobleme mehrfach! Idee: Bottom-up-Berechug
Mehrdimensionale Merkmale
SS 013 Prof. Dr. J. Schütze/ J. Puhl FB GW Deskr 1 Mehrdmesoale Merkmale Werde am gleche Objekt mehrere Merkmale gemesse, teressert ma sch mest dafür, ob es zwsche he ee Abhäggket gbt oder cht. Passed
2. Zusammenhangsanalysen: Korrelation und Regression
2. Zusammehagsaalse: Korrelato ud Regresso Dowloads zur Vorlesug 2. Zusammehagsaalse: Korrelato ud Regresso 2 Grudbegrffe zwedmesoale Stchprobe De Gewug vo mehrere Merkmale vo eer Beobachtugsehet führt
Fehlerrechnung im Praktikum
Fehlerrechug m Pratum Pratum Phsalsche Cheme (A. Dael Boese) I chts zegt sch der Magel a mathematscher Bldug mehr, als eer überbertrebe geaue Rechug. Carl Fredrch Gauß, 777-855 Themegebete Utertelug vo
Es ist dann nämlich 2 2 2
Ege Bemerkuge zum Sklrprodukt See U,V,W Vektorräume üer eem Körper K. Ee Aldug ϕ :U V W heßt ler, we λ, λ, µ, µ K, u, u U, v, v V : ϕ( λ u + λ u, µ v + µ v ) = λ µ ϕ( u, v ) + λ µ ϕ( u, v ) + λ µ ϕ( u,
Mathematik für VIW - Prof. Dr. M. Ludwig ( ) ( ) ( ) n f. bestimmt m Funktionen. durch die Festlegung f (,,
Matheatk ür VIW - Pro. Dr. M. Ludwg 8. Deretato reeller Fuktoe ehrerer Varabler 8. Skalare Felder Vektorelder Koordatesystee Bsher wurde reelle Fuktoe ür ee Varable utersucht: : D t der egeührte Schrebwese
Unter einer Rente versteht man eine regelmässige und konstante Zahlung
8 Aweduge aus der Fazmathematk Perodsche Zahluge: Rete ud Leasg Uter eer Rete versteht ma ee regelmässge ud kostate Zahlug Bespele: moatlche Krakekassepräme, moatlche Altersrete, perodsches Spare, verteljährlcher
19. Amortisierte Analyse
9. Amortserte Aalyse Amortserte Aalyse wrd egesetzt zur Aalyse der Laufzet vo Operatoe Datestrukture. Allerdgs wrd cht mehr Laufzet ezeler Operatoe aalysert, soder de Gesamtlaufzet eer Folge vo Operatoe.
Spannweite, Median Quartilsabstand, Varianz und Standardabweichung.
Rudolf Brkma http://brkma-du.de Sete 06.0.008 Spawete, Meda Quartlsabstad, Varaz ud Stadardabwechug. Streuug um de Mttelwert. I de folgede Säuledagramme st de Notevertelug zweer Schülergruppe (Mädche,
Induktion am Beispiel des Pascalschen Dreiecks
Iduto am Bespel des Pascalsche Dreecs Alexader Rehold Coldtz 0.02.2005 Eletug vollstädge Iduto De vollstädge Iduto st ebe dem drete ud drete Bewesverfahre ees der wchtgste der Mathemat. Eher bespelhaft
Allgemeine Prinzipien
Allgemee Przpe Es estere sebe Grudehete der Physk; alle adere physkalsche Größe ka ma darauf zurückführe. Dese Grudehete sd: Läge [m] Masse [kg] Zet [s] Elektrsche Stromstärke [A] Temperatur [K], Stoffmege
14. Folgen und Reihen, Grenzwerte
4. Folge ud Rehe, Grezwerte 4. Folge ud Rehe, Grezwerte 4. Ee Folge defere Eplzte Defto Reursve Defto 4. Gleder eer vorher deferte Folge bereche E Gled Mehrere Gleder 6 4 5 4.3 Ee Folge defere ud ege hrer
Der Korrelationskoeffizient ist ein Maß für den linearen Zusammenhang zwischen zwei Variablen X und Y. Er ist durch folgende Formel charakterisiert:
Korrelatoskoeffzet Der Korrelatoskoeffzet st e Maß für de leare Zusammehag zwsche zwe Varable X ud Y. Er st durch folgede Formel charaktersert: r y corr XY Statstk für SozologIe y y y y y y y y Kozept
Der Korrelationskoeffizient ist ein Maß für den linearen Zusammenhang zwischen zwei Variablen X und Y. Er ist durch folgende Formel charakterisiert:
Korrelatoskoeffzet Der Korrelatoskoeffzet st e Maß für de leare Zusammehag zwsche zwe Varable X ud Y. Er st durch folgede Formel charaktersert: r xy corr XY x x y y x x y y x x y x x y y y Statstk für
Rekurrenz. Algorithmen rufen sich selbst (rekursiv) auf.
Rekurrez Rekurso: Algorthme rue sch selst rekursv u. Rekurrez: Ds Luzetverhlte zw. der Specherpltzedr vo rekursve Algorthme k der Regel durch ee Rekursosormel recurrece, RF eschree werde. Rekurrez Bespel: