Übung 1 Algorithmen II

Transkript

1 Yaroslav Akhremtsev, Demia Hespe Mit Folie vo Michael Axtma (teilweise) Akhremtsev, Hespe: KIT Uiversität des Lades Bade-Württemberg ud atioales Forschugszetrum i der Helmholtz-Gemeischaft

2 Orgaisatorisches Vorlesuge: Mo 09:45 11:15 HS Neue Chemie Di 15:45 16:30 HS Neue Chemie Saalübug: Di 16:30 17:15 HS Neue Chemie Übugsblätter: 14-tägig, jeweils Diestags, Musterlösug 9 Tage später 1. Blatt: Ilias Forum: Frage zum Vorlesugsihalt (auch aoym möglich) Vorlesugsaufzeichug: Mitschitte der Vorlesug auf Youtube 1 Akhremtsev, Hespe:

3 Orgaisatorisches Sprechstude: Peter Saders, Diestag 13:45 14:45 Uhr, Raum 217 Thomas Worsch, Freitag 8:00 9:00 Uhr, Raum 230 Simo Gog, Nach Vereibarug, Raum 220 (erst ab November) Demia Hespe, Nach Vereibarug, Raum 210 Yarsolav Akhremtsev, Doerstag 14:00 15:00 Uhr, Raum 221 Letzte Vorlesug: 06. Februar 2018 Klausur: Mittwoch, 21. Februar 2018, 11:30 Uhr 2 Akhremtsev, Hespe:

4 Themeübersicht Radomisierte Algorithme Grudlage Verifikatio vo Matrix-Matrix Multiplikatio Coupo Collector Problem Harmoische Zahle 3 Akhremtsev, Hespe:

5 Radomisierte Algorithme Übersicht Las Vegas Algorithmus immer korrekte/optimale Lösug Laufzeit ist Zufallsvariable erwartete Laufzeit E[T ] Bsp.: Quicksort Mote Carlo Algorithmus falsche/suboptimale Lösug möglich mit Wahrscheilichkeit p Beschräkte (worst-case) Laufzeit Bsp.: Miller-Rabi Primzahltest, icht vorbereiteter Studet beim multiple-choice Test 4 Akhremtsev, Hespe:

6 Radomisierte Algorithme Las Vegas Mote Carlo geg: Las Vegas Algorithmus mit erwarteter Laufzeit E[T ] = f () ges: Mote Carlo Algorithmus mit Laufzeit O(f ()), Fehlerrate p Idee: Abbruch ach Zeit αf () Ausgabe FALSCH, we Algorithmus abgebroche wurde P[T > αf ()] 1/α (Markov Ugleichug) Mote Carlo Algorithmus mit Laufzeit αf () ud Fehlerrate p = 1/α 5 Akhremtsev, Hespe:

7 Radomisierte Algorithme Mote Carlo Las Vegas geg: Mote Carlo Algorithmus mit Laufzeit O(f ()), Fehlerrate p < 1 (gilt für alle Eigabe), Korrektheit i O(g()) prüfbar ges: Las Vegas Algorithmus mit erwarteter Laufzeit E[T ] Idee: Wiederhole MC bis korrekte Ergebis gefude Laufzeit T i O(f () + g()) (i Schritte beötigt) E[T ] E[i] O(f () + g()) E[i] = k=1 k pk 1 (1 p) = 1 1 p 6 Akhremtsev, Hespe: Sei f (p) = k=0 pk (also f (p) = k=1 k pk 1 ) f (p) = 1 p 1 (geometrische Reihe) f (p) = 1 (1 p) 2 E[i] = f (p) (1 p) = 1 p 1 Las Vegas Algorithmus mit erwarteter Laufzeit E[T ] O(f ()+g()) 1 p

8 Radomisierte Algorithme Matrix-Matrix Multiplikatio Aufgabe: Überprüfe, ob X Y = Z für Matrize X, Y, Z determiistisch: bereche X Y ud vergleiche mit Z Laufzeit O( 3 ) (aiv), O( 2.37 ) (best) radomisiert: Wähle 0-1 Vektor r = (r 1,..., r ) zufällig We X (Yr) = Zr da KORREKT, sost FALSCH Laufzeit O( 2 ) Behauptug: We XY = Z da P[XYr = Zr] Akhremtsev, Hespe:

9 Radomisierte Algorithme Matrix-Matrix Multiplikatio Aufgabe: Überprüfe, ob X Y = Z für Matrize X, Y, Z determiistisch: bereche X Y ud vergleiche mit Z Laufzeit O( 3 ) (aiv), O( 2.37 ) (best) radomisiert: Wähle 0-1 Vektor r = (r 1,..., r ) zufällig We X (Yr) = Zr da KORREKT, sost FALSCH Laufzeit O( 2 ) r Behauptug: We XY = Z da P[XYr = Zr] Akhremtsev, Hespe:

10 Radomisierte Algorithme Matrix-Matrix Multiplikatio Aufgabe: Überprüfe, ob X Y = Z für Matrize X, Y, Z determiistisch: bereche X Y ud vergleiche mit Z Laufzeit O( 3 ) (aiv), O( 2.37 ) (best) radomisiert: Wähle 0-1 Vektor r = (r 1,..., r ) zufällig We X (Yr) = Zr da KORREKT, sost FALSCH Laufzeit O( 2 ) C r Behauptug: We XY = Z da P[XYr = Zr] Akhremtsev, Hespe:

11 Radomisierte Algorithme Matrix-Matrix Multiplikatio Behauptug: We XY = Z da P[XYr = Zr] 0.5 Defiitioe: A := XY, B := Z Aahme: A = B; Wa ist da Ar = Br? i, j : A i,j = B i,j Sei a := A i ud b := B i (A i : i te Zeile vo A) α := k =j a k r k ud β := k =j b k r k ar = α + a j r j ud br = β + b j r j ar br = (α β) + (a j b j )r j Aahme: Werte für r 1...j 1,j+1... bereits festgelegt och 2 Möglichkeite für r j, Gleichheit bei maximal eier Pr[ar br = 0] = Pr[r j = α β a j b j ] 1 2 Fehlerrate p Akhremtsev, Hespe:

12 Radomisierte Algorithme Matrix-Matrix Multiplikatio Behauptug: We XY = Z da P[XYr = Zr] 0.5 Defiitioe: A := XY, B := Z Aahme: A = B; Wa ist da Ar = Br? i i, j : A i,j = B i,j Sei a := A i ud b := B i (A i : i te Zeile vo A) α := k =j a k r k ud β := k =j b k r k ar = α + a j r j ud br = β + b j r j ar br = (α β) + (a j b j )r j Aahme: Werte für r 1...j 1,j+1... bereits festgelegt och 2 Möglichkeite für r j, Gleichheit bei maximal eier Pr[ar br = 0] = Pr[r j = α β a j b j ] 1 2 Fehlerrate p Akhremtsev, Hespe: A j B j i

13 Radomisierte Algorithme Matrix-Matrix Multiplikatio Behauptug: We XY = Z da P[XYr = Zr] 0.5 Defiitioe: A := XY, B := Z Aahme: A = B; Wa ist da Ar = Br? a aj i, j : A i,j = B i,j Sei a := A i ud b := B i (A i : i te Zeile vo A) α := k =j a k r k ud β := k =j b k r k ar = α + a j r j ud br = β + b j r j ar br = (α β) + (a j b j )r j Aahme: Werte für r 1...j 1,j+1... bereits festgelegt och 2 Möglichkeite für r j, Gleichheit bei maximal eier Pr[ar br = 0] = Pr[r j = α β a j b j ] 1 2 Fehlerrate p Akhremtsev, Hespe: A B bj b

14 Radomisierte Algorithme Matrix-Matrix Multiplikatio Behauptug: We XY = Z da P[XYr = Zr] 0.5 Defiitioe: A := XY, B := Z Aahme: A = B; Wa ist da Ar = Br? a aj i, j : A i,j = B i,j Sei a := A i ud b := B i (A i : i te Zeile vo A) α := k =j a k r k ud β := k =j b k r k ar = α + a j r j ud br = β + b j r j ar br = (α β) + (a j b j )r j Aahme: Werte für r 1...j 1,j+1... bereits festgelegt och 2 Möglichkeite für r j, Gleichheit bei maximal eier Pr[ar br = 0] = Pr[r j = α β a j b j ] 1 2 Fehlerrate p Akhremtsev, Hespe: A r b B rj = {0, 1} bj r

15 Radomisierte Algorithme Matrix-Matrix Multiplikatio Beschleuigug durch probability boostig (ur bei p 0.5 schelle Kovergez) Wiederhole Test k mal mit uterschiedlicher Wahl vo r Ei Test liefert FALSCH AB = C, fertig Alle Tests liefer KORREKT false positive mit Wahrscheilichkeit P[ABr = Cr] 0.5 k Laufzeit O(k 2 ) (liear lägere Laufzeit bei expoetiell weiger Fehler) p 1,0 0,9 0,8 0,7 0,6 0,5 0,4 0,3 0,2 0, k 9 Akhremtsev, Hespe:

16 Coupo Collector Müslipackuge ethalte jeweils eie vo verschiedee Sammelkarte. Wie viele Packuge muss ich kaufe um alle Karte beisammezuhabe? X = # Packuge bis mid. eie vo jeder Karte X = i=1 X i, mit X i = # Packuge währed ich i 1 Karte hatte X i sid geometrische Zufallsvariable mit p i = 1 i 1 E[X i ] = 1 p i = i+1 E[X ] = E[ i=1 X i] = i=1 E[X i] (Liearität des Erwartugswertes) = i=1 i+1 = i=1 1 i 10 Akhremtsev, Hespe:

17 Coupo Collector Müslipackuge ethalte jeweils eie vo verschiedee Sammelkarte. Wie viele Packuge muss ich kaufe um alle Karte beisammezuhabe? X = # Packuge bis mid. eie vo jeder Karte X = i=1 X i, mit X i = # Packuge währed ich i 1 Karte hatte X i sid geometrische Zufallsvariable mit p i = 1 i 1 E[X i ] = 1 p i = i+1 E[X ] = E[ i=1 X i] = i=1 E[X i] (Liearität des Erwartugswertes) = i=1 i+1 = i=1 1 i 10 Akhremtsev, Hespe:

18 Coupo Collector Müslipackuge ethalte jeweils eie vo verschiedee Sammelkarte. Wie viele Packuge muss ich kaufe um alle Karte beisammezuhabe? X = # Packuge bis mid. eie vo jeder Karte X = i=1 X i, mit X i = # Packuge währed ich i 1 Karte hatte X i sid geometrische Zufallsvariable mit p i = 1 i 1 E[X i ] = 1 p i = i+1 E[X ] = E[ i=1 X i] = i=1 E[X i] (Liearität des Erwartugswertes) = i=1 i+1 = i=1 1 i 10 Akhremtsev, Hespe:

19 Coupo Collector Müslipackuge ethalte jeweils eie vo verschiedee Sammelkarte. Wie viele Packuge muss ich kaufe um alle Karte beisammezuhabe? X = # Packuge bis mid. eie vo jeder Karte X = i=1 X i, mit X i = # Packuge währed ich i 1 Karte hatte X i sid geometrische Zufallsvariable mit p i = 1 i 1 E[X i ] = 1 p i = i+1 E[X ] = E[ i=1 X i] = i=1 E[X i] (Liearität des Erwartugswertes) = i=1 i+1 = i=1 1 i 10 Akhremtsev, Hespe:

20 Harmoische Zahle H = i=1 1 i l = 1 x=1 x dx i=1 1 i i=2 1 i 1 x=1 x dx = l x 1 x x 1 x l H l Akhremtsev, Hespe:

21 Coupo Collector Müslipackuge ethalte jeweils eie vo verschiedee Sammelkarte. Wie viele Packuge muss ich kaufe um alle Karte beisammezuhabe? X = # Packuge bis mid. eie vo jeder Karte X = i=1 X i, mit X i = # Packuge währed ich i 1 Karte hatte X i sid geometrische Zufallsvariable mit p i = 1 i 1 E[X i ] = 1 p i = i+1 E[X ] = E[ i=1 X i] = i=1 E[X i] (Liearität des Erwartugswertes) = i=1 i+1 = i=1 1 i = H l + 12 Akhremtsev, Hespe:

22 Coupo Collector - Tailboud X = # Packuge bis mid. eie vo jeder Karte X = i=1 X i, mit X i = # Packuge währed ich i 1 Karte hatte X i sid geometrische Zufallsvariable mit p i = 1 i 1 E[X i ] = p 1 i = i+1 Var[X i ] = 1 p i 1 pi 2 pi 2 E[X ] = E[ i=1 X i] = i=1 E[X i] (Liearität des Erwartugswertes) = i=1 i+1 = i=1 1 i = H l + Chebyshev: P( X E[X ] t E[X ]) Var[X ] t 2 (E[X ]) 2 Var[X ] = i=1 Var[X i] i=1 ( i+1 )2 = 2 i=1 ( 1 ) π2 2 i 2 6 P( X H H ) 2 π 2 /6 O( 1 (H ) ) 2 l 2 = π2 6H 2 13 Akhremtsev, Hespe: