3.1 Grundlagen. Grundbegriffe (Forts.) Grundbegriffe

Transkript

1 Beriebssyseme II - Analyse und Modellierung Sommersemeser Grundlagen Moivaion 3. Grundlagen Beriebssyseme II - Analyse und Modellierung 3. Kapiel Grundlagen der Sochasik Prof. Mahias Werner Professur Beriebssyseme Dieses Kapiel enhäl zum großen Teil Wiederholungen Soff is grundlegend für Performance-Analyse bei Scheduling Zei der Ankunf oder die Bedienzei einer Task lassen sich in der Regel nich deerminisisch vorhersagen zufällig Jedoch: zufällige Erscheinungen lassen sich mi Hilfe der Wahrscheinlichkeisrechnung / Sochasik beschreiben Wahrscheinlichkeisrechnung (Teilgebie der Sochasik/Maßheorie ) Ursprünglich aus Berachungen zum Glücksspiel ensanden Zunächs empirisch definier (LAPLACE), späer axiomaisch (KOLMOGOROW) umfass u.a. Fehlerrechnung, Saisik, ec. SoSe 208 M. Werner 2 / 37 osg.informaik.u-chemniz.de Grundbegriffe 3. Grundlagen 3. Grundlagen Grundbegriffe (Fors.) Zufallsexperimen Ein Experimen (Versuch), dessen Ausgang durch keine Regel exak besimmbar is, z.b. Würfeln Ereignis Jedes (heoreisch) beobachbare Ergebnis eines Experimens zufälliges Ereignis Ein Ereignis, das weder sicher noch unmöglich is Ereignisse können sich durch mengenheoreischen Verknüpfungen zu weieren Ereignissen kombinieren lassen. Ereignisraum Menge der bei einem Experimen möglichen Ereignisse (auch Ereignisfeld, Ω) unmögliches Ereignis Ein Ereignis, das bei einem Experimen niemals einri (ensprich ) Elemenarereignis Ein Ereignis, das sich nich durch die Vereinigung anderer Ereignisse darsellen läss Das unmögliche Ereignis zähl nich als Elemenarereignis sicheres Ereignis Ein Ereignis, das bei einem Experimen immer einri (ensprich Ω) Zufallsvariable Abbildung der möglichen Ausgänge eines Experimenes auf reelle Zahlen SoSe 208 M. Werner 3 / 37 osg.informaik.u-chemniz.de SoSe 208 M. Werner 4 / 37 osg.informaik.u-chemniz.de

2 3. Grundlagen Grundbegriffe (Fors.) 3. Grundlagen Wahrscheinlichkeien: grundlegende Eigenschafen Beobachung: Die relaive Häufigkei eines besimmen Ausgangs (Ereignis A) sabilisier sich für eine große Zahl von Wiederholungen des Experimens Definiion nach LAPLACE P (A) = Anzahl der für A günsigen Elemenarereignisse Anzahl der möglichen Elemenarereignisse Definiion nach KOLMOGOROW Gegeben is ein Ereignisraum Ω und Ereignisse A i. P (A i ) 0 2. P (Ω) = 3. P (A A 2...) = P (A ) + P (A 2 ) + wenn jedes Paar A i, A j disjunk is (d.h., A i A j = ) P ( ) = 0 P (A) = P (Ā), wobei Ā das Komplemenärereignis zu A is P (Ā B) = P (B) P (A B) P (A B) = P (A) P (A B) B A P (B) P (A) P (A B) = P (A) + P (B) P (A B) SoSe 208 M. Werner 5 / 37 osg.informaik.u-chemniz.de 3. Grundlagen Unabhängigkei und gegenseiiger Ausschluss SoSe 208 M. Werner 6 / 37 osg.informaik.u-chemniz.de 3. Grundlagen Bedinge Wahrscheinlichkei Zwei Ereignisse A und B heißen unabhängig, wenn: P (A B) = P (A) P (B) Zwei Ereignisse A und B schliessen sich gegenseiig aus, wenn Achung! A B = Miuner werden Unabhängigkei und gegenseiiger Ausschluss fälschlich gleichgesez. Offensichlich kann aber gelen: P (A B) = P (A) P (B) 0, wogegen beim gegenseiigen Ausschluss P (A B) = P ( ) = 0 gil. Die bedinge Wahrscheinlichkei P (A B) eines Ereignisses A uner der Bedingung, dass B schon eingereen oder bekann is, berechne sich: P (A B) = P (A B) P (B) Für unabhängige Ereignisse A, B gil: dabei muss P (B) 0 gelen P (A B) = P (A) SoSe 208 M. Werner 7 / 37 osg.informaik.u-chemniz.de SoSe 208 M. Werner 8 / 37 osg.informaik.u-chemniz.de

3 3. Grundlagen Bedinge Wahrscheinlichkei (Fors.) Zwei Ereignisse A und B sind beding unabhängig, wenn Merke: P ((A B) C) = P (A C)P (B C) Bedinge Unabhängigkei implizier nich Unabhängigkei! Aus der Definiion der bedingen Wahrscheinlichkei folg: Theorem 3. (Muliplikaionsheorem) P (A B) = P (A B)P (B) = P (B A)P (A) (mi P (A), P (B) 0) 3. Grundlagen Toale Wahrscheinlichkei Es seien A, A 2,... A n seien sich gegenseig ausschließende zufällige Ereignisse so dass i, j, i j, A i A j = i A i = Ω Es sei B ein beliebiges zufälliges Ereignis mi P (B) > 0 Dann gil: A 6 A 7 B A 4 A A 2 P (B) = n P (A i )P (B A i ) i= A 5 A 3 SoSe 208 M. Werner 9 / 37 osg.informaik.u-chemniz.de Saz von BAYES 3. Grundlagen Es seien A, A 2,... A n seien sich gegenseig ausschließende zufällige Ereignisse so dass i, j, i j, A i A j = A i = Ω i alle P (A i ) bekann sind (A-Priori-Wahrscheinlichkeien) Es sei B Ω ein beliebiges zufälliges Ereignis mi P (B) > 0 Dann gil: Theorem 3.2 (Saz von BAYES) P (A i B) = P (A i B) P (B) Man nenn P (A i B) A-poseriori-Wahrscheinlichkei. = P (A i)p (B A i ) P (A j )P (B A j ) j SoSe 208 M. Werner 0 / 37 osg.informaik.u-chemniz.de Zufallsvereilungen Die Funkion F X () = P (X ) ( R) heiß Vereilungsfunkion der Zufallsvariablen X. Mi ihrer Hilfe läss sich leich die Wahrscheinlichkei errechnen, dass X einen Wer im Inervall (a, b] annimm: P (a < X b) = F X (b) F X (a) Seige Vereilungen werden häufig durch ihre Dichefunkion f X () beschrieben. Dann gil: P (a < X b) = b a F X () = f()d. f X (τ)dτ SoSe 208 M. Werner / 37 osg.informaik.u-chemniz.de SoSe 208 M. Werner 2 / 37 osg.informaik.u-chemniz.de

4 Typische Vereilungen: Gleichvereilung Bei einer Gleichvereilung is jeder Wer einer Zufallsvariablen X innerhalb eines Inervalls I = [a, b] gleichwahrscheinlich. f() = { b a, für a b 0, sons F () = 0, für < a a b a, für a b, für > b Typische Vereilungen: Exponenialvereilung Bei Zerfallsprozessen hängen Zufallsvariablen häufig von der verbliebenen Resmenge ab. Dann erhäl man eine Exponenialvereilung. f() = { λe λ, für 0 0, sons F () = { 0, für < 0 e λ, für 0 f(x) b- a F(x) f() 2 F() a b x a b x 2 SoSe 208 M. Werner 3 / 37 osg.informaik.u-chemniz.de Warum Exponenialfunkion? Annahme: Der Zerfallsaneil pro Zeieinhei is konsan. Anders ausgedrück: Die Menge zerfallender Elemene pro Zeieinhei is proporional zur vorhandenen Menge (Beispiel: Bierschaum) d x() = λ x() d ( ) SoSe 208 M. Werner 4 / 37 osg.informaik.u-chemniz.de Warum Exponenialfunkion? (Fors.) ( ) is eine DGL. Sie ha den Lösungsansaz x() = x 0 e λ Bei Vereilungsfunkionen laue die Nebenbedingung, dass P (Ω) =, d.h. in diesem Fall x()d = 0 x 0 [e λ e λ0 ] λ x 0 e λ d = x = x 0 λ = e λ d = x 0 [ λ e λ ] 0 = x 0 = λ SoSe 208 M. Werner 5 / 37 osg.informaik.u-chemniz.de SoSe 208 M. Werner 6 / 37 osg.informaik.u-chemniz.de

5 Typische Vereilungen: Normalvereilung Die vermulich bekannese Vereilung: Normal- oder GAUSS- Vereilung. f() = σ 2π ( µ) 2 e 2σ 2 (σ > 0) Quanil Manchmal möche man bei bekanner Vereilungsfunkion den Wer wissen, bei dem eine besimme Wahrscheinlichkei erreich wird. Die Vereilungsfunkion F () = f(τ)dτ is nich elemenar berechenbar. Jedoch gib es Tabellen für eine normiere Normalvereilung (µ = 0, σ 2 = ). f() F() < 2 2 0,5 µ µ F () X p q f () X p q SoSe 208 M. Werner 7 / 37 osg.informaik.u-chemniz.de Quanil (Fors.) Es sei X eine Zufallsvariable mi der Vereilungsfunkion F X (). Für eine gegebene Wahrscheinlichkei p gele: F X (q) = P (X < q) = p, so dass 0 < p < Dann nenn man q ein Quanil der Ordnung p oder ein p-quanil von X. Ein Quanil is im allgemeinen nich eindeuig fesgeleg Is F X () sreng monoon, dann is q eindeuig. F () X p q f () X p q SoSe 208 M. Werner 8 / 37 osg.informaik.u-chemniz.de Erwarungswer und Median Vereilungen durch Dichefunkionen vollsändig charakerisier Aber: miuner kompakere Parameer gesuch Erwarungswer: Eine Ar Mielwer, gegen den die Zufallsvariable bei einer großen Anzahl von Versuchen sreb E(X) = + f()d Regeln für den Erwarungswer: E(aX ( + b) = ae(x) + b n ) E X i = n E(X i ) i= i= Median: Der Median is das Quanil der Ordnung 0, 5 Der Median eil genau die Fläche uner der Dichefunkion Der Median is nich immer besimmbar SoSe 208 M. Werner 9 / 37 osg.informaik.u-chemniz.de SoSe 208 M. Werner 20 / 37 osg.informaik.u-chemniz.de

6 Varianz und höhere Momene Eine Erwarungswer beschreib eine Ar Masseschwerpunk. Nähe der Vereilungswere zu diesem Schwerpunk: D 2 X = E(X E(X)) 2 Momene gängiger Vereilungen Vereilung Diche f(x) E(X) D 2 (X) D 2 X wird Sreuung, Dispersion oder Varianz genann. D 2 X = ( E(X)) 2 d Gleich b a a+b 2 Exponenial λ e λ λ (b a) 2 2 λ 2 Allgemein werden gewöhnliche Momene jer Ordnung bezüglich einer Konsanen c definier: µ j (c) = E(X c) i Normal 2πσ 2 ( µ)2 e 2σ 2 µ σ 2 Is c = E(X) so sprich man von zenralen Momenen. Speziell gil E(X) = µ (0) und D 2 X = µ 2 (EX) SoSe 208 M. Werner 2 / 37 osg.informaik.u-chemniz.de Verknüpfung zweier Zufallsvariablen SoSe 208 M. Werner 22 / 37 osg.informaik.u-chemniz.de Verknüpfung zweier Zufallsvariablen (Fors.) Experimene können auch von zwei oder mehr Zufallsvariablen abhängen. Verknüpfung einer Menge von Zufallszahlen X, X 2,..., X n durch eine Funkion Z = g(x, X 2,..., X n ) ergib wieder eine Zufallszahl Allgemein für zwei Vereilungen: F Z () = P (Z ) = g(x,y) f XY (x, y)dx dy Gemeinsame Vereilung f XY (x, y) beschreib Abhängigkei zwischen X und Y. Für unabhängige X und Y gil: F Z () = P (Z ) = f X (x)f Y (y)dx dy g(x,y) Dabei is f XY (x, y) die Diche der gemeinsamen Vereilung F XY (x, y) = P (X x Y y). SoSe 208 M. Werner 23 / 37 osg.informaik.u-chemniz.de SoSe 208 M. Werner 24 / 37 osg.informaik.u-chemniz.de

7 Spezialfälle Muliplikaion: (Z = X Y, X, Y 0) f Z () = Addiion: (Z = X + Y, X, Y > 0) Man nenn die Operaion schreib f () f 2 (). f Z () = f X (τ)f Y ( τ ) τ dτ f X (τ)f Y ( τ)dτ f (τ)f 2 ( τ)dτ die Falung von f und f 2 und SoSe 208 M. Werner 25 / 37 osg.informaik.u-chemniz.de 3.3 Sochasische Prozesse Häufige Annahmen Sei a((, 2 ]) = Anzahl von Ereignissen im Inervall (, 2 ] Spezialfall: a() = Anzahl von Ereignissen im Inervall (0, ] Häufig werden folgende Annahmen gemach: Singulariä: Pr{a(( Ereignisse finden einzeln sa: lim 0,])>} 0 0 = 0 Saionariä: Wahrscheinlichkei von n Ereignissen im Inervall häng nur von Inervalllänge ab: a2 a = b2 b Pr{a(( a, a2 ]) = n} = Pr{a(( b, b2 ]) = n} Unabhängigkei: Die Anzahl von Ereignissen sind in disjunken Inervallen unabhängig: Pr{a(( a, a2 ]) = k a a(( b, b2 ]) = k b } = Pr{a(( a, a2 ]) = k a } Pr{a(( b, b2 ]) = k b } 3.3 Sochasische Prozesse 3.3 Sochasische Prozesse Modell: Einzelne gleicharige zufällige Ereignisse (z.b.: Ankünfe von Tasks, siehe nächses Kapiel) ensprechen einem sochasischen Prozess Definiion 3. (sochasischer Prozess) Ein sochasischer Prozess (oder zufälliger Prozess) is eine Menge {X()} von Zufallsvariablen, die einen gemeinsamem Werebereich (Zusandsraum) und einen gemeinsamen Parameer als Index besizen. Der Parameer is häufig die Zei, kann aber auch ewas anderes sein Typisch: X is diskre und zähl die Anzahl von Ereignissen bis zu einer gewissen Zei SoSe 208 M. Werner 26 / 37 osg.informaik.u-chemniz.de 3.3 Sochasische Prozesse POISSON-Prozess Annahme von Unabhängigkei, Singulariä und Saionariä führ zu einer besimmen Ar von Prozess: POISSON-Prozess (nach SIMÉON DENIS POISSON, ) Bei POISSON-Prozess is die Zei zwischen zwei Ereignissen i exponenialvereil Pr{ i } = e λ Wahrscheinlichkei von n Ereignissen bis : z.b. Pr {a() = 0} = e λ Pr {a() = n} = (λ )n n! e λ SoSe 208 M. Werner 27 / 37 osg.informaik.u-chemniz.de SoSe 208 M. Werner 28 / 37 osg.informaik.u-chemniz.de

8 3.3 Sochasische Prozesse Beispiel für POISSON-Prozess 3.3 Sochasische Prozesse Beispiel für POISSON-Prozess (Fors.) Fußballspiele der 2. Pokalrunde in der Saison 2008/2009 (ohne Nachspielzei/Elfmeer) Ergebnis Zei der Tore [min] Erzgebirge Aue Werder Bremen :2 7; 26; 54 Energie Cobus Bor. Mönchengladbach 3:0 42; 73; 89 FSV Mainz 05. FC Köln 3: 6; 68; 73; 79 Einrach Frankfur Hansa Rosock : 44; 53 FC Schalke 04 Hannover 96 2:0 56; München MSV Duisburg 0:0 FC Augsburg Bayer Leverkusen 0:2 36; 79 Kickers Offenbach Karlsruher SC 0:2 45; 58 FC Oberneuland VfL Wolfsburg 0:7 5; 20; 26; 57; 67; 75; 89 SV Wehen Wiesbaden Alemannia Aachen :0 72 Hamburger SV VfL Bochum 2:0 9; 90 Borussia Dormund Herha BSC Berlin : 7; 22 Carl Zeiss Jena FSV Frankfur :0 25 Bayern München. FC Nürnberg 2:0 7; 69 VfB Sugar Arminia Bielefeld 2:0 7; 65 SC Freiburg 899 Hoffenheim 3: 36; 68; 84; Tore in 90 Minuen (Nachspielzei vernachlässig) Torrae: λ = min = 0, 4333 min Wenn POISSON-Prozess müsse gelen: Pr{n Tore pro Minue} = (λ min)n n! Tore pro min Anzahl Häufigkei 0,6666 0,2555 0,0555 0, Pr{n Tore pro Minue} 0,6483 0,2809 0,0609 0,0088 0,0009 e λ min SoSe 208 M. Werner 29 / 37 osg.informaik.u-chemniz.de 3.3 Sochasische Prozesse Beispiel für POISSON-Prozess (Fors.), 0,9 SoSe 208 M. Werner 30 / 37 osg.informaik.u-chemniz.de Anhang: LAPLACE-Transformaion Anhang: LAPLACE-Transformaion Einsaz Da die Falung häufiger gebrauch wird, aber Inegralrechnung nich immer rivial is, wird miuner die LAPLACE-Transformaion eingesez. 0,8 0,7 0,6 0,5 0,4 0,3 0,2 0, Theoreische Vereilungsfunkion Empirische Vereilungsfunkion L z = f() Z = F (s) Lösung im Bildbereich z() L Z(s) Uner anderem gil: L (f () f 2 ()) = L (f ()) L (f 2 ()) n SoSe 208 M. Werner 3 / 37 osg.informaik.u-chemniz.de SoSe 208 M. Werner 32 / 37 osg.informaik.u-chemniz.de

9 Anhang: LAPLACE-Transformaion Anhang: LAPLACE-Transformaion Definiion Definiion Hinransformaion Rückransformaion F (s) = f()e s d Korrespondenzen... der hare Weg: Berechnung des Inegrals...der lange Weg: zerlegen und Transformaionsabellen: F (s) f() = L {F (s)} F (s) f() = L {F (s)} (j is hier die imaginäre Einhei) Schreibweisen: f() = 2πj δ+j δ j F (s)e s ds δ() s n s () s + a n (n )! e a s 2 (s + a) 2 e a f() F (s) F (s) f() SoSe 208 M. Werner 33 / 37 osg.informaik.u-chemniz.de Anhang: LAPLACE-Transformaion Korrespondenzen (Fors.) SoSe 208 M. Werner 34 / 37 osg.informaik.u-chemniz.de Rechenregeln Anhang: LAPLACE-Transformaion F (s) f() F (s) () a s 2 + a 2 sin a + st s s 2 + a 2 cos a s( + st ) ( + st 2 ) T e T T T T 2 e T + T 2 e T 2 T T 2 Überlagerungssaz: a f () + a 2 f 2 () Ähnlichkeissaz: f(a) a F ( s a ), a 0 Verschiebungssaz: f( T ) e st F (s) a F (s) + a 2 F 2 (s) Dämpfungssaz:Frequency shifing e a f() F (s a) Differeniaionssaz: d df() sf (s) f( 0)...und für höhere Ableiungen: d k f() d k s k F (s) s k f( 0) s k 2 f( 0) f (k ) ( 0) SoSe 208 M. Werner 35 / 37 osg.informaik.u-chemniz.de SoSe 208 M. Werner 36 / 37 osg.informaik.u-chemniz.de

10 Anhang: LAPLACE-Transformaion Rechenregeln (Fors.) Inegraionssaz: f(τ)dτ 0 s F (s) Differeniaion der Bildfunkion: k f() ( ) k dk ds k F (s) Falungssaz f () f 2 () F (s)f 2 (s) Anfangswersaz: f(+0) = lim f() = lim s F (s) +0 s Endwersaz: lim f() = lim s F (s) s 0 SoSe 208 M. Werner 37 / 37 osg.informaik.u-chemniz.de