Übersicht. Datenstrukturen und Algorithmen. Rekursionsgleichungen. Übersicht. Vorlesung 6: Mastertheorem (K4) Joost-Pieter Katoen

Transkript

1 Übersicht Datestrukture ud Algorithme Vorlesug 6: (K) Joost-Pieter Katoe Lehrstuhl für Iformatik 2 Software Modelig ad Verificatio Group 1 Substitutiosmethode Rekursiosbäume April 2015 Joost-Pieter Katoe Datestrukture ud Algorithme 1/20 Joost-Pieter Katoe Datestrukture ud Algorithme 2/20 Übersicht Rekursiosgleichuge Rekursiosgleichug Für rekursive Algorithme wird die Laufzeit meistes durch Rekursiosgleichuge beschriebe. 1 Substitutiosmethode Rekursiosbäume Eie Rekursiosgleichug ist eie Gleichug oder eie Ugleichug, die eie Fuktio durch ihre eigee Fuktioswerte für kleiere Eigabe beschreibt. e T () = T ( ( 1)/2 ) + 1 T () = T ( 1) + 1 T () = 2 T (/2) + 1 T () = 7 T (/2) + c 2 Biäre Suche Bubblesort Mergesort Strasse s Matrixmultiplikatio Die zetrale Frage ist: Wie löst ma solche Rekursiosgleichuge? Joost-Pieter Katoe Datestrukture ud Algorithme 3/20 Joost-Pieter Katoe Datestrukture ud Algorithme /20

2 Die Substitutiosmethode Substitutiosmethode Die Substitutiosmethode besteht aus zwei Schritte: 1. Rate die Form der Lösug, durch z. B.: Scharfes Hisehe, kurze Eigabe ausprobiere ud eisetze Betrachtug des Rekursiosbaums 2. Vollstädige Iduktio, um die Kostate zu fide ud zu zeige, dass die Lösug fuktioiert. Die Substitutiosmethode: Betrachte folgede Rekursiosgleichug: T (1) = 1 T () = 2 T (/2) + für > 1. Wir vermute als Lösug T () O( log ). Dazu müsse wir T () c log zeige, für ei geeigetes c > 0. Bestimme, ob für ei geeigetes 0 ud für 0 gilt, dass T () c log. Stelle fest, dass T (1) = 1 c 1 log 1 = 0 verletzt ist. Es gilt: T (2) = c 2 log 2 ud T (3) = 5 c 3 log 3 für c 2 Überprüfe da durch Substitutio ud Iduktio (s. ächste Folie) Damit gilt für jedes c 2 ud 0 > 1, dass T () c log. Joost-Pieter Katoe Datestrukture ud Algorithme 5/20 Joost-Pieter Katoe Datestrukture ud Algorithme 6/20 Die Substitutiosmethode: T () = 2 T (/2) + für > 1, ud T (1) = 1 Rate der Lösug durch Iteratio Grudidee Wiederholtes Eisetze der Rekursiosgleichug i sich selbst, bis ma ei Muster erket. T () = 2 T (/2) + 2 (c /2 log /2) + = c log /2 + = c log c log 2 + c log c + c log Iduktioshypothese log-rechug: (log log 2 ) log /2 = log log 2 mit c > 1 folgt sofort: T () = 3 + Eisetze = 3 (3 T () + )) + Nochmal eisetze = 9 (3 T (/6) + )) Vereifache ( ) ( ) ( ) = 27 T (/6) log 1 Wir ehme T (1) = c a ud erhalte: T () = + c log 3 Diese Aussage ka mit Hilfe der Substitutiosmethode gezeigt werde. Joost-Pieter Katoe Datestrukture ud Algorithme 7/20 Joost-Pieter Katoe Datestrukture ud Algorithme 8/20

3 Rate der Lösug durch Rekursiosbäume Grudidee Stelle das Ieiader-Eisetze als Baum dar, idem ma Buch über das aktuelle Rekursiosargumet ud die icht-rekursive Koste führt. Rekursiosbaum 1. Jeder Kote stellt die Koste eies Teilproblems dar. Die Wurzel stellt die zu aalysierede Koste T () dar. Die Blätter stelle die Koste der Basisfälle dar, z. B. T (0) oder T (1). 2. Wir summiere die Koste ierhalb jeder Ebee des Baumes. 3. Die Gesamtkoste := summiere über die Koste aller Ebee. Wichtiger Hiweis Ei Rekursiosbaum ist sehr ützlich, um eie Lösug zu rate, die da mit Hilfe der Substitutiosmethode überprüft werde ka. Der Baum selber reicht jedoch meistes icht als Beweis. Joost-Pieter Katoe Datestrukture ud Algorithme 9/20 Rekursiosbaum: Der Rekursiosbaum vo T () = 3 + sieht etwa so aus: Aktuelles Rekursiosargumet T () T () T () T () T () Nichtrekursive Koste T () T () Joost-Pieter Katoe Datestrukture ud Algorithme 10/20 Rekursiosbaum: T () Rekursiosbaum: Eie obere Schrake für die Komplexität erhält ma u folgedermaße: log T () T () T () T () T () T () T (1) T (1) T (1) T (1) T (1) T (1) T (1) T (1) T (1) T (1) 3 log = log T () = < < log 1 ( 3 ) i + c log 3 Verachlässige kleierer Terme + c log 3 Geometrische Reihe 1 1 (3/) + c log 3 Umforme T () = log 1 Summe über alle Ebee Koste pro Ebee + c log 3 Gesamtkoste für die Blätter mit T (1) = c Joost-Pieter Katoe Datestrukture ud Algorithme 11/20 < + c log 3 Asymptotische Ordug bestimme setze ei, dass log 3 < 1 T () O(). Joost-Pieter Katoe Datestrukture ud Algorithme 12/20

4 Korrektheit Wir köe die Substitutiosmethode beutze, um die Vermutug zu bestätige, dass: T () O() eie obere Schrake vo T () = 3 + ist. T () = 3 + 3d + = 3 d + = Iduktioshypothese ( 3 d + 1 ) mit d folgt sofort: d Ud wir stelle fest, dass es ei 0 gibt, sodass T ( 0 ) d 0 ist. Allgemeies Format der Rekursiosgleichug Eie Rekursiosgleichug für die Komplexitätsaalyse sieht meistes folgedermaße aus: ( ) T () = b T + f () c wobei b > 0, c > 1 gilt ud f () eie gegebee Fuktio ist. Ituitio: Das zu aalysierede Problem teilt sich jeweils i b Teilprobleme auf. Jedes dieser Teilprobleme hat die Größe c. Die Koste für das Aufteile eies Problems ud Kombiiere der Teillösuge sid f (). Joost-Pieter Katoe Datestrukture ud Algorithme 13/20 Joost-Pieter Katoe Datestrukture ud Algorithme 1/20 Das T () = b T ( c ) + f () mit b 1 ud c > 1. Azahl der Blätter im Rekursiosbaum: E mit E = log b/ log c. We Da 1. f () O( E ε ) für ei ε > 0 T () Θ( E ) 2. f () Θ( E ) T () Θ( E log ) 3. f () Ω( E+ε ) für ei ε > 0 ud b f (/c) d f () für ei d < 1 ud hireiched groß T () Θ(f ()) Bemerke, dass das icht alle Fälle abdeckt. Das verstehe I jedem der 3 Fälle wird die Fuktio f () mit E = log c b vergliche. : Ituitio We Da 1. f () polyomial kleier ist als E T () Θ( E ) 2. f () ud E die gleiche Größe habe T () Θ( E log ) 3. f () ist polyomial größer als E ud erfüllt b f (/c) d f () Nicht abgedeckte Fälle: T () Θ(f ()) 1. f () ist kleier als E, jedoch icht polyomiell kleier. 2. f () ist größer als E, jedoch icht polyomiell größer. 3. f () ist polyomiell größer als E, erfüllt icht b f (/c) d f (). Joost-Pieter Katoe Datestrukture ud Algorithme 15/20 Joost-Pieter Katoe Datestrukture ud Algorithme 16/20

5 Awedug des s Awedug des s T () = T (/2) + Somit: b =, c = 2 ud f () = ; E = log / log 2 = 2. Da f () = O( 2 ε ), gilt Fall 1: T () Θ( 2 ) T () = T (/2) + 2 Somit: b =, c = 2 ud f () = 2 ; E = log / log 2 = 2. Da f () = 2 O( 2 ε ), gilt Fall 1 icht. Aber weil f () = 2 Θ( 2 ), gilt Fall 2: T () Θ( 2 log ) T () = T (/2) + 3 Somit: b =, c = 2 ud f () = 3 ; E = log / log 2 = 2. Wege E = 2 gelte Fälle 1 ud 2 offebar icht. Da f () = 3 Ω( 2+ε ) für ε = 1, köte Fall 3 gelte. Überprüfe: gilt f (/2) d f () für ei d < 1 ud hireiched grosse? Dies liefert d 3, ud dies gilt für alle 1 2 d < 1 (ud ) Somit gilt Fall 3 tatsächlich ud wir folger: T () Θ( 3 ) Joost-Pieter Katoe Datestrukture ud Algorithme 17/20 Joost-Pieter Katoe Datestrukture ud Algorithme 18/20 Das ist icht immer awedbar : Beweis T () = T (/2) + 2 log Also gilt: b =, c = 2 ud f () = 2 / log ; E = 2. Fall 1 ist icht awedbar: 2 / log O( 2 ε ), da f ()/ 2 = (log ) 1 O( ε ). Fall 2 ist icht awedbar: 2 / log Θ( 2 ). Fall 3 ist icht awedbar: f () Ω( 2+ε ), da f ()/ 2 = (log ) 1 O( +ε ). Das hilft hier überhaupt icht weiter! Durch Substitutio erhält ma: T () Θ( 2 log log ) Joost-Pieter Katoe Datestrukture ud Algorithme 19/20 Joost-Pieter Katoe Datestrukture ud Algorithme 20/20