Übersicht. Algorithmen und Datenstrukturen. Übersicht. Organisation. gic. Organisation. Einführung. Analyse von Algorithmen.

Transkript

1 OLC mputatioal gic Algorithme ud Datestrukture Reé Thiema Istitute of Computer Sciece Uiversity of Isbruck SS 010 Übersicht Orgaisatio Eiführug Aalyse vo Algorithme Suche ud Sortiere Hashverfahre Optimierugs-Probleme RT UIBK) Algorithme ud Datestrukture 1/371 RT UIBK) Algorithme ud Datestrukture /371 Orgaisatio Übersicht Orgaisatio Orgaisatio LVA VO 3 cl-iformatik.uibk.ac.at/teachig/ss10/ad/ Orgaisatio VO Mittwochs 13:15 14:00 HSB 1 (RT) Freitags 1:15 13:45 HS D PS Diestags 10:15 11:45 RR 0 (TV, eglisch) Diestags 1:15 13:45 RR 0 (WP) Diestags 1:15 13:45 RR (RT) Diestags 16:15 17:45 RR 0 (HS) olie Registrierug für PS erforderlich bis zum um 8:00 Uhr RT UIBK) Algorithme ud Datestrukture 3/371 Sprechstude Wolfgag Pausch 3S09 ach Vereibarug Heiko Studt W05 ach Vereibarug Reé Thiema 3N01 Motags 13:00 15:00 Tomas Vitvar 3N07 ach Vereibarug RT UIBK) Algorithme ud Datestrukture 4/371

2 Orgaisatio Literatur Orgaisatio Orgaisatio Vorlesug T. Ottma ud P. Widmayer Algorithme ud Datestrukture Spektrum Verlag T. H. Corme, C. E. Leiserso ud R. L. Rivest Itroductio to Algorithms MIT Press Vorlesugsfolie werde auf der Homepage vor der jeweilige Vorlesug olie gestellt Folie zur Vorlesug mitbrige, um dari Notize zu mache Ede des Semesters: schriftliche Prüfug RT UIBK) Algorithme ud Datestrukture 5/371 RT UIBK) Algorithme ud Datestrukture 6/371 Orgaisatio Orgaisatio Prosemiar Eiführug Übersicht Jede Mittwoch gibt es ei eues Übugsblatt auf der Webseite Übugsblätter solle i er oder 3er Gruppe bearbeitet werde Lösuge werde am folgede Diestag im Prosemiar eigesammelt Programmieraufgabe müsse i Java gelöst werde ud bis Motag, 10 Uhr a de Prosemiar Leiter geschickt werde Aweseheitspflicht i Prosemiare (x Abweseheit geduldet) Tests währed des Semesters (keie Gruppearbeit, keie Computer) Teilahme am 1. Test Note wird eigetrage Note: Test Test Übugsblätter ud Vorreche 50 % der Pukte otwedig zum Bestehe Eiführug Die Wahl des Algorithmus Die Wahl der Datestruktur Überblick der Vorlesug RT UIBK) Algorithme ud Datestrukture 7/371 RT UIBK) Algorithme ud Datestrukture 8/371

3 Eiführug Eigeschafte eies gute Algorithmus Eiführug Übersicht Die Wahl des Algorithmus korrekt (diese Vorlesug + Programmverifikatio) effiziet (diese Vorlesug) Zeit Platz wartbar (Etwurf vo Softwaresysteme) Eiführug Die Wahl des Algorithmus Die Wahl der Datestruktur Überblick der Vorlesug RT UIBK) Algorithme ud Datestrukture 9/371 RT UIBK) Algorithme ud Datestrukture 10/371 Eiführug Die Wahl des Algorithmus Eiführug Die Wahl des Algorithmus Treppesteige Ausgagslage: Ma ka jeweils 1 oder Stufe herutergehe. Fragestellug: Wieviele Möglichkeite gibt es, eie Treppe mit Stufe heruterzusteige? Bsp: ts(köler Dom) = ts(533) = { 1 we 1 Lösug: ts() = ts( 1) + ts( ) sost I Java: s t a t i c B i g I t e g e r t s ( i t ) { i f ( <= 1) { retur B i g I t e g e r.one; e l s e { retur t s ( 1). add ( t s ( )); Problem: expoetielle Laufzeit (Additio vo 1e) RT UIBK) Algorithme ud Datestrukture 11/371 Verbesserter Algorithmus s t a t i c B i g I t e g e r t s _ f a s t ( i t ) { B i g I t e g e r tmp, ts_i, ts_i_mi_1 ; i t i = 1 ; t s _ i = B i g I t e g e r.one; ts_i_mi_1 = B i g I t e g e r.one; while ( > i ) { i ++; tmp = t s _ i ; t s _ i = t s _ i. add ( ts_i_mi_1 ) ; ts_i_mi_1 = tmp ; retur t s _ i ; Ops zur Berechug vo ts() Frage: Wie kommt ma (systematisch) auf verbesserte Algorithmus? Algorithme-Etwurf RT UIBK) Algorithme ud Datestrukture 1/371

4 Eiführug Die Wahl der Datestruktur Eiführug Die Wahl der Datestruktur Übersicht Algorithme basiere immer auf Datestrukture Beispiel (Keller / Stapel / Stack) Eiführug Die Wahl des Algorithmus Die Wahl der Datestruktur Überblick der Vorlesug zwei primitive Operatioe: void push(t elem) lege elem obe auf de Stapel T pop() liefere ud etfere oberstes Elemet des Stapels zwei mögliche Implemetieruge basiered auf verkettete Liste basiered auf Arrays gemeisame Schittstelle (hier: ur Zahle) public i t e r f a c e Stack { void push ( i t ) ; i t pop ( ) ; RT UIBK) Algorithme ud Datestrukture 13/371 RT UIBK) Algorithme ud Datestrukture 14/371 Eiführug Die Wahl der Datestruktur Eiführug Die Wahl der Datestruktur Keller mit verkettete Liste oberster Wert am Afag der Liste für jede Wert ei Liste-Elemet leerer Keller Keller mit Werte 15, -8 ud 9 ListStack ListStack head ull Node value 15 ext Node value 8 ext head Node value 9 ext ull RT UIBK) Algorithme ud Datestrukture 15/371 Keller mit verkettete Liste p u b l i c c l a s s L i s t S t a c k implemets Stack { Node head = u l l ; // head o f s t a c k p u b l i c void push ( i t ) { t h i s. head = ew Node (, t h i s. head ) ; p u b l i c i t pop ( ) { i f ( t h i s. head == u l l ) { throw ew RutimeExceptio ( "o elemet" ) ; e l s e { i t = t h i s. head. v a l u e ; t h i s. head = t h i s. head. ext ; retur ; c l a s s Node { i t v a l u e ; Node ext ; p u b l i c Node ( i t value, Node ext ) { t h i s. v a l u e = v a l u e ; t h i s. ext = ext ; RT UIBK) Algorithme ud Datestrukture 16/371

5 Eiführug Die Wahl der Datestruktur Eiführug Die Wahl der Datestruktur kurze Eiführug i Java Klasse = Attribute (aalog zu C- struct ) + Methode p u b l i c c l a s s L i s t S t a c k { Node head = u l l ; // A t t r i b u t ( i i t i a l i s i e r t ) p u b l i c void push ( i t ) {... // Methode Zugriff auf Attribute ud Methode mittels., this ist eigees Objekt this. head = this.head.ext; Erzeugug vo Objekte mit ew ew it[4]; ew ListStack(); ew Node(,elem); Kostruktore werde bei Erzeugug aufgerufe public Node(it value, Node ext) { this. value =... Default-Kostruktor, we kei Kostruktor i Klasse public ListStack () { kurze Eiführug i Java Iterfaces = Liste vo erforderliche Methode public iterface Stack { public void push(it );... Klasse implemetiert Iterface, we alle geforderte Methode verfügbar sid p u b l i c c l a s s L i s t S t a c k implemets Stack { p u b l i c void push ( i t ) {... Vorteil: Programme leicht wartbar, Äderug ur bei Kostruktor-Aufruf Stack s = ew ListStack(); s.push(5);... Stack s = ew ArrayStack(); s.push(5);... Fehlerbehadlug mittels Exceptios if (...) { throw ew RutimeExceptio(message);... RT UIBK) Algorithme ud Datestrukture 17/371 RT UIBK) Algorithme ud Datestrukture 18/371 Eiführug Die Wahl der Datestruktur Eiführug Die Wahl der Datestruktur Keller mit Arrays oberster Wert am Ede des Arrays Idex zeigt auf ächste freie Platz Vergrößerug der Array-Größe bei Bedarf Keller mit Werte 15, -8 ud push(7) push() RT UIBK) Algorithme ud Datestrukture 19/371 Keller mit Arrays p u b l i c c l a s s ArrayStack implemets Stack { i t [ ] a r r = ew i t [ 1 ] ; i t s i z e = 0 ; // r o f e l e m e t s p u b l i c void push ( i t ) { i f ( t h i s. s i z e == t h i s. a r r. l e g t h ) { // too s m a l l i t [ ] l a r g e = ew i t [ t h i s. a r r. l e g t h ] ; System. a r r a y c o p y ( t h i s. a r r, 0, l a r g e, 0, t h i s. s i z e ) ; t h i s. a r r = l a r g e ; t h i s. a r r [ s i z e ] = ; s i z e ++; p u b l i c i t pop ( ) { i f ( t h i s. s i z e == 0) { throw ew RutimeExceptio ( "o elemet" ) ; e l s e { t h i s. s i z e ; retur t h i s. a r r [ s i z e ] ; RT UIBK) Algorithme ud Datestrukture 0/371

6 Eiführug Die Wahl der Datestruktur Eiführug Überblick der Vorlesug Vergleich vo Kellerimplemetieruge Übersicht Ageomme, es sid bereits Elemete im Keller. Liste Array Speicherplatz Kote Array der Größe 1.5 Refereze + Zahle 1.5 Zahle pop() 4 Ops 3 Ops push() 4 Ops Ops Liste-Implemetierug Platz-spareder? Nei, Speicherplatz für Kote zu teuer Liste-Implemetierug effizieter? Nei, da Array-Kopie ur selte beötigt (aber wie zeigt ma so etwas?) Eiführug Die Wahl des Algorithmus Die Wahl der Datestruktur Überblick der Vorlesug RT UIBK) Algorithme ud Datestrukture 1/371 RT UIBK) Algorithme ud Datestrukture /371 Eiführug Behadelte Theme Aalyse vo Algorithme O-otatio Rekursiosgleichuge amortisierte Aalyse Etwurf vo Algorithme Divide & Coquer Dyamische Programmierug Klassische Algorithme & Datestrukture Suche Sortiere Hashtabelle Überblick der Vorlesug Aalyse vo Algorithme Übersicht Aalyse vo Algorithme O-otatio Rekursiosgleichuge RT UIBK) Algorithme ud Datestrukture 3/371 RT UIBK) Algorithme ud Datestrukture 4/371

7 Aalyse vo Algorithme O-otatio Aalyse vo Algorithme O-otatio Übersicht Laufzeit vo Algorithme Aalyse vo Algorithme O-otatio Rekursiosgleichuge Defiitio Sei A ei Algorithmus. Da ist T A : IN IN (oder oft ur T ) die Fuktio, so dass T () die maximale Laufzeit vo A auf Eigabe der Größe ist. (Die Laufzeit wird i Azahl der atomare Operatioe agegebe) Amerkug: Nebe maximaler Laufzeit gibt es auch miimale oder durchschittliche Laufzeit Aalyse durchschittlicher Laufzeit oft kompliziert Problem: Wie sieht durchschittliche Eigabe gegebeer Größe aus? Diese Vorlesug: fast immer maximale Laufzeit RT UIBK) Algorithme ud Datestrukture 5/371 RT UIBK) Algorithme ud Datestrukture 6/371 Aalyse vo Algorithme O-otatio Aalyse vo Algorithme O-otatio Beispiel vo Laufzeit vo Algorithme i t = a r r. l e g t h ; f o r ( i t i =0; i < ; i ++) { i f ( a r r [ i ] == x ) { retur i ; retur 1; T () = miimale Laufzeit: 5 durchschittliche Laufzeit:? (wie wahrscheilich ist es, dass x i arr vorkommt?) RT UIBK) Algorithme ud Datestrukture 7/371 Beispiel vo Laufzeit vo Algorithme i t = a r r. l e g t h ; i t l a s t = a r r [ 1]; a r r [ 1] = x ; i t i = 0 ; while ( true ) { i f ( a r r [ i ] == x ) { break ; i ++; a r r [ 1] = l a s t ; retur ( i < 1? i : ( x == l a s t? 1 : 1)); T () = 6 + oder T () = 8 + oder...? Problem: was ist atomare Operatio? Lösug: igoriere kostate Faktore, icht relevat RT UIBK) Algorithme ud Datestrukture 8/371

8 Aalyse vo Algorithme O-otatio Aalyse vo Algorithme O-otatio Asymptotische Laufzeit O-Notatio Motivatio Geaue Laufzeit oft schwer zu bereche asymptotische Laufzeit oft präzise geug Wie verhält sich T () bei wachsedem? liear? logarithmisch? quadratisch? expoetiell? Defiitio Sei g eie Fuktio. O(g) = {f 0, c > 0 : 0 : f () c g() Mege aller Fuktioe, die höchstes so schell wie g wachse Ω(g) = {f 0, c > 0 : 0 : c g() f () Mege aller Fuktioe, die midestes so schell wie g wachse Θ(g) = {f 0, c 1, c > 0 : 0 : c 1 g() f () c g() Mege aller Fuktioe, die geauso schell wie g wachse Astelle vo f O(g) schreibt ma auch f = O(g). RT UIBK) Algorithme ud Datestrukture 9/371 RT UIBK) Algorithme ud Datestrukture 30/371 Aalyse vo Algorithme O-otatio Aalyse vo Algorithme O-otatio Asymptotische Laufzeit cg() c g() Komplexitätsklasse 0 f () = O(g()) Beispiel: f () 0 f () = Θ(g()) f () c 1 g() 1.5 = O(abs( )), de für c = 0.7 ud 0 = 4 gilt: 0 : 1.5 c (abs( )) Bezeichug O(1) kostat O(log(log())) doppelt logarithmisch O(log()) logarithmisch O() liear O( log()) O( ) quadratisch O( 3 ) kubisch O( k ) polyomiell O() expoetiell 1.5 = Θ( exp(4.5 3)) RT UIBK) Algorithme ud Datestrukture 31/371 RT UIBK) Algorithme ud Datestrukture 3/371

9 Aalyse vo Algorithme O-otatio Aalyse vo Algorithme O-otatio Reche mit asymptotische Laufzeite Reche mit asymptotische Laufzeite Ω ud Θ köe durch O ausgedrückt werde: f () = Ω(g()) gdw. g() = O(f ()) f () = Θ(g()) gdw. f () = O(g()) ud g() = O(f ()) Ausdrücke mit O auf der rechte Seite Trasitivität ud Reflexivität: f () = O(g()) ud g() = O(h()) impliziert f () = O(h()) f () = O(f ()) Kostate Faktore ud kleie Fuktioe spiele keie Rolle O(c f ()) = O(f ()) für alle c > 0 f () = O(g()) impliziert O(f () + g()) = O(g()) Beispiel: = O( ) = O(5 3 ) = O( 3 ) T () = + O() Bedeutug: es gibt eie Fuktio f (), so dass f () = O() ud T () = + f () Ausdrücke mit O auf der like Seite + O() = O( ) Bedeutug: für jede Fuktio f () mit f () = O() gilt + f () = O( ) RT UIBK) Algorithme ud Datestrukture 33/371 RT UIBK) Algorithme ud Datestrukture 34/371 Aalyse vo Algorithme O-otatio Aalyse vo Algorithme Rekursiosgleichuge Asymptotische Laufzeitaalyse 1 i t = a r r. l e g t h ; i t l a s t = a r r [ 1]; 3 a r r [ 1] = x ; 4 i t i = 0 ; 5 while ( true ) { 6 i f ( a r r [ i ] == x ) { 7 break ; 8 9 i ++; a r r [ 1] = l a s t ; 1 retur ( i < 1? i : ( x == l a s t? 1 : 1)); Übersicht Aalyse vo Algorithme O-otatio Rekursiosgleichuge T () = O(1) + O(1) + O(1) = O(1) + O() + O(1) = O() {{{{{{ {{ RT UIBK) Algorithme ud Datestrukture 35/371 RT UIBK) Algorithme ud Datestrukture 36/371

10 Aalyse vo Algorithme Rekursiosgleichuge Aalyse vo Algorithme Rekursiosgleichuge Divide & Coquer Merge-Sort D & C bezeichet ei Etwurfsmuster für Algorithme 1. Löse kleie Probleme direkt. Teile grosses Probleme i midestes Teilprobleme auf (Divide) 3. Löse Teilprobleme rekursiv 4. Füge aus Teillösuge Gesamtlösug zusamme (Coquer) Beispiele Merge-Sort Matrix Multiplikatio 1. We (Teil-)Array kleier als 1, mache ichts Asoste halbiere Array Sortiere beide Hälfte rekursiv Mische beide sortiere Arrays zu sortiertem Gesamtarray RT UIBK) Algorithme ud Datestrukture 37/371 RT UIBK) Algorithme ud Datestrukture 38/371 Aalyse vo Algorithme Rekursiosgleichuge Aalyse vo Algorithme Rekursiosgleichuge Matrix Multiplikatio Laufzeit vo D & C Algorithme Aufgabe: Bereche Produkt C = AB zweier -Matrize A ud B 1. Falls = 1, da ist A = (a), B = (b) ud C = (a b). ( ) ( ) A 1 A B 1 B. Falls > 1, da ist A = ud B =, A 3 A 4 B 3 B 4 wobei jedes A i ud B i eie -Matrix ist. 3. Bereche rekursiv A 1 B 1, A 1 B, A B 3, A B 4, A 3 B 1, A 3 B, A 4 B 3 ud A 4 B 4 ( ) A 1 B 1 + A B 3 A 1 B + A B 4 4. C = A 3 B 1 + A 4 B 3 A 3 B + A 4 B 4 Laufzeit: T () = { O(1) falls = 1 8 T ( ) + Θ( ) sost Laufzeit vo D & C Algorithme oft durch Rekursiosgleichug gegebe. Merge-Sort T () = Matrix Multiplikatio T () = { O(1) falls = 1 T ( ) + Θ() sost { O(1) falls = 1 8 T ( ) + Θ( ) sost Problem: fide geschlossee Form für Rekursiosgleichuge Merge-Sort: T () = O( log()) Matrix Multiplikatio: T () = O( 3 ) RT UIBK) Algorithme ud Datestrukture 39/371 RT UIBK) Algorithme ud Datestrukture 40/371

11 Aalyse vo Algorithme Rekursiosgleichuge Aalyse vo Algorithme Rekursiosgleichuge Löse vo Rekursiosgleichuge: Rate + Iduktio T () = { O(1) falls = 1 T ( ) + Θ() sost Um geschlossee Form für T () zu erhalte, führe Schritte durch: 1. Rate geschlossee Form f (). Führe eie Iduktiosbeweis, dass T () f (). RT UIBK) Algorithme ud Datestrukture 41/371 Rate mittels Rekursiosbaum T () c c T () = c T ( 4 ) T ( 4 ) T ( 4 ) T ( 4 ) Summe i jeder Ebee: c Azahl Ebee: log() Rate T () = O( log()) { c falls = 1 T ( ) + c sost c 4 c c 4 c c 4 c c 4 c c c c {{ c c c c RT UIBK) Algorithme ud Datestrukture 4/371 Aalyse vo Algorithme Rekursiosgleichuge Aalyse vo Algorithme Rekursiosgleichuge Iduktiosbeweis für T () = O( log()) T () = { c falls = 1 T ( ) + c sost Iduktiosafag T () = { c falls = 1 T ( ) + c sost Ziel: Fide geeigete Kostate 0, d ud zeige für alle 0 : T () d( log()) Vereifachte Aahme: = k für k IN Zeige T ( k ) d k k für alle k k 0 mittels Iduktio Iduktiosschritt: T ( k+1 ) = T ( k ) + c k+1 (IH) (d k k) + c k+1 = d k+1 k + c k+1 = d k+1 (k + 1) d k+1 + c k+1 (wähle d c) d k+1 (k + 1) RT UIBK) Algorithme ud Datestrukture 43/371 Ziel: Fide geeigete Kostate k 0, d ud zeige für alle k k 0 : T ( k ) d k k Iduktiosafag (k = 0): T ( 0 ) = c 0 = d 0 0 Ausweg: Ugleichug ur ab k 0 verlagt. Wähle also z.b. k 0 = 1 Iduktiosafag (k = 1): T ( 1 ) = T (1) + c = 4c (wähle d c) d = d 1 1 Erhalte T ( k ) c k k für alle k 1, also T () = O( log()) RT UIBK) Algorithme ud Datestrukture 44/371

12 Aalyse vo Algorithme Rekursiosgleichuge Aalyse vo Algorithme Rekursiosgleichuge Löse vo Rekursiosgleichuge: Master Theorem Löse vo T () = at ( b ) + f () Beobachtuge: f () Rate + Iduktio aufwedig T (1) ist immer O(1) betrachte ur rekursive Gleichug, aber im allgemeie Fall: f ( b ) f ( b ) f ( b ) T () = at ( b ) + f () f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) Tiefe des Rekursiosbaums: log b () Breite der Ebee im Rekursiosbaums: 1, a, a,..., a log b () = log b (a) Betrachte 3 Fälle: f () kleier als log b (a) f () = Θ( log b (a) ) f () grösser als log b (a) RT UIBK) Algorithme ud Datestrukture 45/371 {{ log b (a) Erhalte T () durch Summatio jeder Ebee: log b () 1 T () = Θ( logb(a) ) + a i f ( b i ) RT UIBK) Algorithme ud Datestrukture 46/371 i=0 Aalyse vo Algorithme Rekursiosgleichuge Aalyse vo Algorithme Rekursiosgleichuge Löse vo T () = at ( b ) + f () Löse vo T () = at ( b ) + f () f () f () f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) {{ log b (a) 1. Fall: f () kleier als log b(a) log b () 1 i=0 a i f ( b i ) = O( log b(a) ) T () = Θ( log b(a) ) RT UIBK) Algorithme ud Datestrukture 47/371 {{ log b (a). Fall: f () = Θ( log b(a) ) a i f ( b i ) a i ( b i ) log b(a) = log b(a) (Summe jeder Ebee log b(a) ) T () = Θ( log b(a) log()) RT UIBK) Algorithme ud Datestrukture 48/371

13 Aalyse vo Algorithme Rekursiosgleichuge Aalyse vo Algorithme Rekursiosgleichuge Löse vo T () = at ( b ) + f () Master Theorem f ( b ) f () f ( b ) f ( b ) Theorem Seie a 1 ud b > 1 Kostate. Sei ɛ > 0. Sei T () = a T ( b ) + f (). f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) f ( b ) {{ log b (a) 3. Fall: f () größer als log b(a) Θ( log b(a) ) + log b () 1 i=0 a i f ( b i ) = O(f ()) + O(f ()) = O(f ()) T () = Θ(f ()) RT UIBK) Algorithme ud Datestrukture 49/ We f () = O( logb(a) ɛ ), da T () = Θ( logb(a) ). We f () = Θ( logb(a) ), da T () = Θ( log b(a) log()) 3. We f () = Ω( logb(a)+ɛ ), da T () = Θ(f ()), falls es zudem c < 1 ud 0 gibt, so dass a f ( b ) c f () für alle 0 RT UIBK) Algorithme ud Datestrukture 50/371 Aalyse vo Algorithme Awedug des Master Theorems T () = a T ( b ) + f (). Rekursiosgleichuge Aalyse vo Algorithme Zusammefassug 1. We f () = O( log b(a) ɛ ), da T () = Θ( log b(a) ). We f () = Θ( log b(a) ), da T () = Θ( log b(a) log()) 3. We f () = Ω( logb(a)+ɛ ), da T () = Θ(f ()), falls es zudem c < 1 ud 0 gibt, so dass a f ( b ) c f () für alle 0 Merge-Sort: T () = T ( ) + Θ() a = b =, log b (a) = 1, Θ() = Θ( log b (a) ). T () = Θ( log b (a) log()) = Θ( log()) (Fall ) Vereifachug der Laufzeitabschätzug: igoriere Kostate O-Notatio asymptotische Aalyse Divide & Coquer Algorithme Löse vo Rekursiosgleichuge Rate + Iduktio Master-Theorem Matrix Multiplikatio: T () = 8 T ( ) + Θ( ) a = 8, b =, log b (a) = 3, Θ( ) = O( 3 1 ) = O( log b (a) ɛ ) für ɛ = 1 T () = Θ( log b (a) ) = Θ( 3 ) (Fall 1) RT UIBK) Algorithme ud Datestrukture 51/371 RT UIBK) Algorithme ud Datestrukture 5/371

14 Suche ud Sortiere Übersicht Suche ud Sortiere Motivatio Suche ud Sortiere Suche Sortierverfahre Heap-Sort Quick-Sort Bucket- ud Radix-Sort Quick-Select Warum suche? Fudametale Fragestellug Suche Datesatz zu Schlüssel (Aschrift vo Kude, Preis vo Produkt, Tel.-Nr. vo Oma) Suche vo Texte die Wörter ethalte (Bücher, i dee Algorithmus vorkommt) Suche Beweis zu Theorem Warum sortiere? Suche i usortierte Felder: O() Suche i sortierte Felder: O(log()) Präsetatio vo Ergebisse (Medaillespiegel,... ) RT UIBK) Algorithme ud Datestrukture 53/371 RT UIBK) Algorithme ud Datestrukture 54/371 Suche ud Sortiere Was suche ud sortiere? Oft: Datesätze mit Schlüssel class Etry { it telnr ; Strig ame;... Sortiere ach Telefoummer oder ach Name Suche ach Eitrag zu gegebeer Nummer oder Name gewüschte Methode void sort (Etry [] a) it idex(etry [] a, it r) it idex(etry [] a, Strig ame) Hier: Datesatz = Schlüssel, Schlüssel = Zahl gewüschte Methode void sort ( it [] a) it idex( it [] a, it x) eifachere Präsetatio der Algorithme vorgestellte Algorithme eifach auf komplexe Datesätze erweiterbar Suche ud Sortiere Übersicht Suche ud Sortiere Suche Sortierverfahre Heap-Sort Quick-Sort Bucket- ud Radix-Sort Quick-Select Suche RT UIBK) Algorithme ud Datestrukture 55/371 RT UIBK) Algorithme ud Datestrukture 56/371

15 Suche ud Sortiere Suche Suche ud Sortiere Suche Suchverfahre - Usortiere Arrays lieare Suche (Folie 7 & 8), O() optimal: ageomme, es werde weiger als Elemete betrachtet, es gibt ei Elemet x, das icht betrachtet wurde x köte das gesuchte Elemet gewese sei Verfahre ikorrekt Suchverfahre - Biäre Suche Voraussetzug: sortiertes Array i t l e f t = 0 ; i t r i g h t = a. l e g t h 1 ; while ( l e f t <= r i g h t ) { i t middle = ( l e f t + 1) / + r i g h t / ; i f ( x < a [ middle ] ) { r i g h t = middle 1 ; e l s e i f ( x == a [ middle ] ) { retur middle ; e l s e { l e f t = middle + 1 ; retur 1; jeder Schleifedurchlauf: Halbierug vo right left O(log()) RT UIBK) Algorithme ud Datestrukture 57/371 RT UIBK) Algorithme ud Datestrukture 58/371 Suche ud Sortiere Suche Suche ud Sortiere Suche Suchverfahre - Iterpolatiossuche Suchverfahre - Iterpolatiossuche Voraussetzug: sortiertes Array Beispiel Telefobuch mit Eiträge Suche ach Thiema biäre Suche wählt a[ 1 ] Moser zum Vergleich Mesch (+ Iterpolatios-Suche) sid geschickter: vergleiche mit a[ 4 5 ] Steragel oder Wikler utze erwartete Distaz um scheller as Ziel zu komme falls Schlüssel Zahle, vergleiche mit Elemet a Positio left + x a[ left ] a[ right ] a[ left ] ( right left) falls Werte im Array gleichverteilt: durchschittliche Laufzeit vo O(log(log())) doppelt-logarithmische Laufzeit erst bei große Eigabe relevat (kostater Faktor höher als bei biärer Suche) worst-case: O() Bsp.: left = 5, right = 100, a[ left ] = 0, a[ right ] = 1500, x = (100 5) = = = RT UIBK) Algorithme ud Datestrukture 59/371 RT UIBK) Algorithme ud Datestrukture 60/371

16 Suche ud Sortiere Sortierverfahre Suche ud Sortiere Sortierverfahre Übersicht Fudametale Eigeschaft vo Sortierverfahre Suche ud Sortiere Suche Sortierverfahre Heap-Sort Quick-Sort Bucket- ud Radix-Sort Quick-Select Komplexität (zwische O() ud O( )) isitu / iplace (zusätzlicher Speicherbedarf vo Elemete kostat) stabil (relative Aordug wird beibehalte bei gleiche Schlüssel) Verhalte auf vorsortierte Date sequetiell (beötigt ur sequetielle Zugriff auf Date, kei Radom-Access) iter oder exter iter: gesamtes Feld muss i Hauptspeicher passe exter: ur Teile der Feldes im Hauptspeicher RT UIBK) Algorithme ud Datestrukture 61/371 RT UIBK) Algorithme ud Datestrukture 6/371 Suche ud Sortiere Sortierverfahre Suche ud Sortiere Sortierverfahre Elemetare Sortierverfahre Isertio Sort Beispiel Bubble-Sort (sortiere durch Vertausche vo Nachbar) Isertio-Sort (sortiere durch iteriertes sortiertes Eifüge) Miimum/Maximum-Sort (sortiere durch Auswahl) Gemeisame Eigeschafte isitu sequetiell stabil worst-case Komplexität: O( ) Idee: Füge schrittweise alle Elemete vo vore ach hite sortiert ei Sortiertes eifüge: Fage hite a ud verschiebe kleie Elemete, um Platz zu schaffe RT UIBK) Algorithme ud Datestrukture 63/371 RT UIBK) Algorithme ud Datestrukture 64/371

17 Suche ud Sortiere Sortierverfahre Suche ud Sortiere Sortierverfahre Isertio Sort Uterschiede s t a t i c void i s e r t i o S o r t ( i t [ ] a ) { f o r ( i t i =1; i <a. l e g t h ; i ++) { i t a i = a [ i ] ; i t j = i ; while ( j > 0) { i f ( a [ j 1] > a i ) { a [ j ] = a [ j 1]; e l s e { break ; j ; a [ j ] = a i ; # Vergleiche # a[i] =... T () best worst best worst best worst Bubble-Sort O( ) O( ) O(1) O( ) O( ) O( ) Isertio-Sort O() O( ) O() O( ) O() O( ) Miimum-Sort O( ) O( ) O(1) O() O( ) O( ) Amerkuge alle obige Verfahre habe worst-case Komplexität vo O( ) utze bessere Verfahre (elemetare Verfahre leicht zu implemetiere werde verwedet) Beispiel Merge-Sort: O( log()), stabil, icht isitu RT UIBK) Algorithme ud Datestrukture 65/371 RT UIBK) Algorithme ud Datestrukture 66/371 Suche ud Sortiere Heap-Sort Suche ud Sortiere Heap-Sort Übersicht Heap-Sort Eigeschafte Suche ud Sortiere Suche Sortierverfahre Heap-Sort Quick-Sort Bucket- ud Radix-Sort Quick-Select Komplexität: Θ( log()) (best- ud worst-case) isitu icht stabil icht sequetiell RT UIBK) Algorithme ud Datestrukture 67/371 RT UIBK) Algorithme ud Datestrukture 68/371

18 Suche ud Sortiere Heap-Sort Suche ud Sortiere Heap-Sort Heaps Defiitio Array a[0]... a[ 1] ist ei Heap gdw. Heaps als Biär- Fasse jedes Array-Elemet als Kote auf Elemet a Stelle i hat Kider i + 1 ud i i < : a[i] a[i + 1] a[i] a[i + ] (falls i + 1 ud i + größer als, wird ichts verlagt) Beispiel kei Heap: kei Heap: RT UIBK) Algorithme ud Datestrukture 69/371 RT UIBK) Algorithme ud Datestrukture 70/371 Suche ud Sortiere Heap-Sort Suche ud Sortiere Heap-Sort Heaps als Biär- Heap-Sort Array ist Heap gdw. jeder Kote größer als beide Kider Beobachtug: i Heap ist größtes Elemet i a[0] Heap-Sort: 1. stelle aus Array Heap her. für alle i = : vertausche a[0] mit a[i] stelle Heap her (bzgl. um 1 verkürzte Array) Wesetliche Operatio: dowheap(it a[], it i, it ) Aahme: a[i + 1]... a[ 1] erfüllt Heap-Eigeschaft Nachher: a[i]... a[ 1] erfüllt Heap-Eigeschaft RT UIBK) Algorithme ud Datestrukture 71/371 RT UIBK) Algorithme ud Datestrukture 7/371

19 Suche ud Sortiere Heap-Sort Suche ud Sortiere Heap-Sort Heap-Sort Heap-Sort Beobachtug: i Heap ist größtes Elemet i a[0] Heap-Sort: 1. stelle aus Array Heap her. für alle i = : vertausche a[0] mit a[i] stelle Heap her (bzgl. um 1 verkürzte Array) Wesetliche Operatio: dowheap(it a[], it i, it ) Aahme: a[i + 1]... a[ 1] erfüllt Heap-Eigeschaft Nachher: a[i]... a[ 1] erfüllt Heap-Eigeschaft Algorithmus: falls a Positio i Eigeschaft verletzt, vertausche a[i] mit max(a[i + 1], a[i + ]) ud fahre a etsprecheder Positio fort Heap-Sort: 1. stelle aus Array Heap her: für alle i = : dowheap(a, i, );. für alle i = : vertausche a[0] mit a[i] stelle Heap her: dowheap(a, 0, i ); Wesetliche Operatio: dowheap(it a[], it i, it ) Aahme: a[i + 1]... a[ 1] erfüllt Heap-Eigeschaft Nachher: a[i]... a[ 1] erfüllt Heap-Eigeschaft RT UIBK) Algorithme ud Datestrukture 73/371 RT UIBK) Algorithme ud Datestrukture 74/371 Suche ud Sortiere Heap-Sort Suche ud Sortiere Heap-Sort Beispiel dowheap im Detail s t a t i c void dowheap ( i t [ ] a, i t i, i t ) { while ( true ) { i t l = i + 1 ; i t r = i + ; i t max = l < && a [ l ] > a [ i ]? l : i ; max = r < && a [ r ] > a [ max ]? r : max ; i f (max == i ) { break ; e l s e { swap ( a, max, i ) ; i = max ; RT UIBK) Algorithme ud Datestrukture 75/371 RT UIBK) Algorithme ud Datestrukture 76/371

20 Suche ud Sortiere Heap-Sort Suche ud Sortiere Heap-Sort Beweise vo Programme mit Schleife b e f o r e ; while ( cod ) { l o o p ; Um Eigeschaft ϕ zu beweise, utze Schleifeivariate ψ Zeige, dass ψ bei Eitritt der Schleife gilt: ach Abarbeitug vo before gilt ψ Zeige, dass bei jedem Durchlauf der Schleife ψ erhalte bleibt: we ψ ud cod gelte, da gilt ψ auch ach Ausführug vo loop ach Beedigug der Schleife gilt ψ (ud auch cod, falls Schleife icht durch break beedet) zeige, dass aus ψ ud Abbruchbedigug Eigeschaft ϕ folgt RT UIBK) Algorithme ud Datestrukture 77/371 Korrektheit vo dowheap Beobachtug: Heap-Eigeschaft für a[i]... a[ 1] erfüllt gdw. Heap-Eigeschaft im like (utere) Teilbaum vo a[i] erfüllt Heap-Eigeschaft im rechte (obere) Teilbaum vo a[i] erfüllt Heap-Eigeschaft für a[i] erfüllt Aahme: a[i + 1]... a[ 1] erfüllt Heap-Eigeschaft Zeige ach dowheap(it a[], it i, it ) : a[i]... a[ 1] erfüllt Heap-Eigeschaft Zeige dazu Schleifeivariate: ur a[i] ka gege Heap-Eigeschaft verstoße Ivariate beim Start vo dowheap wege Aahme erfüllt a[i + 1] = max(a[i], a[i + 1], a[i + ]) dowheap tauscht a[i] mit a[i + 1] Heap-Eigeschaft a Positio i, eizige mögliche Verletzug a i + 1 dowheap setzt i auf i + 1 Ivariate erfüllt a[i + ] = max(... ): aalog Beedug vo dowheap ur falls a[i] = max(a[i], a[i + 1], a[i + ]) Mit Schleifeivariate Heap-Eigeschaft erfüllt RT UIBK) Algorithme ud Datestrukture 78/371 Suche ud Sortiere Heap-Sort Suche ud Sortiere Heap-Sort Korrektheit vo Heap-Sort 1. Erstellug des Heaps: für alle i = : dowheap(a, i, );. für alle i = : Erstellug des Heaps: Ivariate: a[i + 1]... a[ 1] ist Heap zu Begi: a[ ]... a[ 1] ist Heap, da keie Nachfolger Schleifedurchlauf: folgt aus Korrektheit vo dowheap ud Ivariate RT UIBK) Algorithme ud Datestrukture 79/371 Korrektheit vo Heap-Sort 1. Erstellug des Heaps. für alle i = : swap(a,0, i ); dowheap(a, 0, i );. Abbau des Heaps: Ivariate:.a a[0]... a[i] ist Heap.b a[i + 1]... a[ 1] sortiert.c Heap-Elemete kleier als sortierte Elemete: a[0],..., a[i] a[i + 1] Start:.a: a[0]... a[ 1] ist Heap wege Korrektheit vo 1..b ud.c trivial erfüllt Schleifedurchlauf:.b erfüllt, da zuvor.b ud.c.c erfüllt, da zuvor.c ud a[0] grösstes Elemet vo Heap a[0]... a[i].a erfüllt, da ur a[0] Heap-Eigeschaft verletzt + dowheap korrekt Nach Ede vo Heapsort: i = 0, wege.b ud.c Array sortiert RT UIBK) Algorithme ud Datestrukture 80/371

21 Suche ud Sortiere Heap-Sort Suche ud Sortiere Heap-Sort Komplexität vo Heap-Sort Positio i auf Level l (lvl(i) = l) gdw. Abstad vo i zur Wurzel = l Beobachtuge: Array der Läge hat k = log() als höchstes Level Level l hat maximal l Elemete Laufzeit vo dowheap(a, i, ) : k lvl(i) = lvl() lvl(i) Folgeruge: Laufzeit Erstellug = k lvl(i) i=0 k l (k l) l=0 k k k l l = k l=0 l=0 1 Laufzeit. Phase lvl(i) lvl(0) i=1 l l l=0 l l = log() = log() i=1 Heap-Sort hat eie Komplexität vo O( log()) RT UIBK) Algorithme ud Datestrukture 81/371 Zusammefassug Heap-Sort Worst-case Komplexität vo O( log()) (average-case auch O( log())) isitu (im Gegesatz zu Merge-Sort) kei Ausutze vo Vorsortierug (Erweiterug: Smooth-Sort O()) icht stabil (im Gegesatz zu Merge-Sort) icht sequetiell (im Gegesatz zu Merge-Sort) Caches werde icht (gut) ausgeutzt es gibt Verfahre, die sich i der Praxis besser verhalte Quick-Sort RT UIBK) Algorithme ud Datestrukture 8/371 Suche ud Sortiere Quick-Sort Suche ud Sortiere Quick-Sort Übersicht Quick-Sort Suche ud Sortiere Suche Sortierverfahre Heap-Sort Quick-Sort Bucket- ud Radix-Sort Quick-Select D & C Algorithmus isitu, icht stabil, weitestgehed sequetiell best- ud average-case: O( log()), worst-case: O( ) Idee: um Bereich a[l]... a[r] mit l < r zu sortiere, wähle Pivot-Elemet v partitioiere a[l]... a[r] so, dass liker Bereich: Elemete v rechter Bereich: Elemete v dazwische: Elemet v bei Bedarf, vertausche Elemete aus likem ud rechte Bereich sortiere like Bereich ud rechte Bereich rekursiv RT UIBK) Algorithme ud Datestrukture 83/371 RT UIBK) Algorithme ud Datestrukture 84/371

22 Suche ud Sortiere Quick-Sort 1 s t a t i c void q u i c k S o r t ( i t [ ] a, i t l, i t r ) { i f ( l < r ) { 3 i t p = p i v o t ( a, l, r ) ; // l <= p <= r 4 i t v = a [ p ] ; 5 i t i = l 1 ; 6 i t j = r ; 7 swap ( a, p, r ) ; 8 while ( true ) { 9 do i ++; while ( a [ i ] < v ) ; 10 do j ; while ( a [ j ] > v ) ; 11 i f ( i >= j ) { 1 break ; swap ( a, i, j ) ; swap ( a, r, i ) ; 17 q u i c k S o r t ( a, l, i 1); 18 q u i c k S o r t ( a, i +1, r ) ; 19 RT UIBK) Algorithme ud Datestrukture 85/371 0 Suche ud Sortiere Quick-Sort Beispiel (Pivot = rechtes Elemet) RT UIBK) Algorithme ud Datestrukture 86/371 Suche ud Sortiere Quick-Sort Suche ud Sortiere Quick-Sort Aalyse Fehlerquelle: 7 swap ( a, p, r ) ; 8 while ( true ) { 9 do i ++; while ( a [ i ] < v ) ; 10 do j ; while ( a [ j ] > v ) ; gefährlicher Zugriff auf a[i] ud a[j] i Zeile 9 ud 10 (Idizes icht beschräkt) Zeile 9 ukritisch, da spätestes für i = r Schleifeabbruch Zeile 10 kritisch, falls Pivot kleistes Elemet ist Vorverarbeitug erforderlich: s t a t i c void q u i c k S o r t ( i t [ ] a ) { i f ( a. l e g t h > 0) swap ( a, 0, miimum ( a ) ) ; q u i c k S o r t ( a, 1, a. l e g t h 1 ) ; RT UIBK) Algorithme ud Datestrukture 87/371 Laufzeit T (0) = T (1) = 1 T () = T (liks) + T (rechts) + Θ() Spezialfälle: Partitioierug spaltet kostate Bereich ab: liks c oder rechts c T () T ( c 1) + Θ() T () = Θ( ) falls Pivot Elemet immer grösstes/kleistes Elemet: Θ( ) Partitioierug i Hälfte: T () T ( ) + Θ() T () = log() Folgerug: worst-case Θ( ), best-case: Θ( log()) (Isertio-Sort: worst-case Θ( ), best-case: Θ() Quick-Sort schlechter als Isertio-Sort? Nei: average-case Quick-Sort: Θ( log()), Isertio-Sort: Θ( ) RT UIBK) Algorithme ud Datestrukture 88/371

23 Suche ud Sortiere Quick-Sort Suche ud Sortiere Quick-Sort Beispiel = mittleres Elemet Average-Case Quick-Sort Aahme über a[1]... a[]: Werte uterschiedlich! verschiedee Permutatioe Array zufällig : jede Permutatio hat gleiche Wahrscheilichkeit Beobachtuge: Pivotelemet k.-kleistes Elemet: T () = T (k 1) + T ( k) + Θ() Array zufällig gleiche Wahrscheilichkeit für jedes 1 k Partitioierug vo zufällige Arrays liefert wieder zufällige Arrays durchschittliche Laufzeit: T () = 1 (T (k 1) + T ( k)) + Θ() = 1 T (k) + Θ() k=1 (uter Beutzug vo T (0) = 0) k=1 RT UIBK) Algorithme ud Datestrukture 89/371 RT UIBK) Algorithme ud Datestrukture 90/371 Suche ud Sortiere Quick-Sort Suche ud Sortiere Quick-Sort Average-Case Quick-Sort Erhalte b so dass für alle gilt: T () 1 T (k) + b k=1 Zeige T () c log() für per Iduktio für hireiched großes c eifach durch Wahl vo c beweisbar > : o.b.d.a. gerade (Fall ugerade aalog) (id.) T () 1 T (k) + b c c k=1 1 k log(k) + b k=1 1 k log(k) + ( + k) log( + k) + b k=1 RT UIBK) Algorithme ud Datestrukture 91/371 k=1 Average-Case Quick-Sort (wähle c 4b) T ()... c 1 k log(k) + ( + k) log( + k) + b k=1 k=1 c 1 k (log() 1) + ( + k) log() + b k=1 k=1 = c ( ) + (log() 1) log() + b 8 8 = c log() c log() c 4 c + b ( ) c log() c 4 + b c log() RT UIBK) Algorithme ud Datestrukture 9/371

24 Suche ud Sortiere Quick-Sort Suche ud Sortiere Quick-Sort Wahl des Pivot Elemets immer rechter Rad Vorteil: Zeile 7 ka etfert werde Nachteil: Θ( ) auf sortierte Arrays mittleres Elemet ( l+r ) Vorteil: O( log()) auf sortierte Arrays Media-of-three: Media vo a[l], a[ l+r ], a[r] Vorteil: O( log()) auf sortierte Arrays, wahrscheilich gute Partitio Nachteil: Mehraufwad, um Pivot Elemet zu bereche (für alle obige Verfahre gibt es Eigabe mit quadratischer Laufzeit) Media vo a[l],..., a[r] Vorteil: perfekte Partitioierug Nachteil: aives Verfahre für Media-Berechug: O( log()) Nachteil: O()-Verfahre aufwedig, hohe Kostate Zufälliges Elemet aus a[l],..., a[r] Vorteil: für jede Eigabe erwartete Laufzeit vo Θ( log()) Zusammefassug Quick-Sort ist effizieter Sortieralgorithmus parametrisch i Wahl der Pivot-Fuktio determiistisch meistes: average-case Θ( log()), worst-case Θ( ) Media: worst-case Θ( log()), aufwedig zufällig: worst-case Θ( log()) erwartete Laufzeit i der Praxis: scheller als Heap-Sort isitu, icht stabil, fast sequetiell (Partitioierug: ja, Rekursio: ei) RT UIBK) Algorithme ud Datestrukture 93/371 RT UIBK) Algorithme ud Datestrukture 94/371 Suche ud Sortiere Bucket- ud Radix-Sort Suche ud Sortiere Bucket- ud Radix-Sort Übersicht Motivatio Suche ud Sortiere Suche Sortierverfahre Heap-Sort Quick-Sort Bucket- ud Radix-Sort Quick-Select Bislag: Sortierverfahre basiere ur auf Schlüsselvergleich diese Verfahre köe im worst-case icht besser als Θ( log()) sei! Alterative: utze Struktur der Schlüssel lieare Sortierverfahre RT UIBK) Algorithme ud Datestrukture 95/371 RT UIBK) Algorithme ud Datestrukture 96/371

25 Suche ud Sortiere Bucket- ud Radix-Sort Suche ud Sortiere Bucket- ud Radix-Sort Bucket-Sort Bucket-Sort Aahme: Mege der Schlüssel edlich, # Schlüssel = m Idee: 1. utze m Eimer, die zu Begi leer sid. iteriere über Array, werfe Wert mit Schlüssel i i etsprechede Eimer 3. iteriere über Eimer vo kleie zu große Schlüssel ud fülle Array vo liks ach rechts Komplexität: Θ( + m) Problem: Größe der Eimer pessimistische Aahme: m Eimer der Größe hoher Platzbedarf dyamisch wachsede Eimer (Stacks, Queues) gerigerer Platzbedarf statt Eimer ur Größe vo Eimer och gerigerer Platzbedarf Eigabe: Array a der Läge 1. utze Array ct_id der Größe m, iitialisiert mit 0e. iteriere über a für Wert a[ i ] mit Schlüssel k ikremetiere ct_id[k] (ct_id ethält u Größe der Eimer) 3. iteriere über ct_id ud speichere jetzt Start-Idizes (ct_id[k] = i, ct_it[k+1] = j Elemete mit Schlüssel k müsse a Positioe i,...,j 1) 4. iteriere über a ud schreibe Elemete direkt a passede Positio Komplexität: Laufzeit: Schritt 1 ud 3: O(m), Schritt ud 4: O() Speicher: Schritt 1: m, Schritt 4: (zweites Array erforderlich) RT UIBK) Algorithme ud Datestrukture 97/371 RT UIBK) Algorithme ud Datestrukture 98/371 Suche ud Sortiere Bucket- ud Radix-Sort Suche ud Sortiere Bucket- ud Radix-Sort Beispiel ( = 1, m = 8) Bucket-Sort Implemetierug: void bucketsort( it [] a, it [] b, it mask, it shift ) sortiere a, speichere i b mask = k 1 Schlüssel für Zahl x: (x >>> shift) & mask (etfere shift Bits vo rechts, Schlüssel = die rechte k Bits) Eigeschafte: Θ( + mask) stabil, icht isitu RT UIBK) Algorithme ud Datestrukture 99/371 RT UIBK) Algorithme ud Datestrukture 100/371

26 Suche ud Sortiere Bucket- ud Radix-Sort s t a t i c void b u c k e t S o r t ( i t [ ] a, i t [ ] b, i t mask, i t s h i f t ) { i t [ ] ct_id = ew i t [ mask +1]; i t = a. l e g t h ; // cout f o r ( i t i =0; i < ; i ++) { i t key = ( a [ i ] >>> s h i f t ) & mask ; ct_id [ key ]++; // compute s t a r t i d i c e s ct_id [ mask ] = ct_id [ mask ] ; f o r ( i t j=mask 1; j >= 0 ; j ) { ct_id [ j ] = ct_id [ j +1] ct_id [ j ] ; // s o r t f o r ( i t i =0; i < ; i ++) { i t key = ( a [ i ] >>> s h i f t ) & mask ; i t i d e x = ct_id [ key ] ; b [ i d e x ] = a [ i ] ; ct_id [ key ] = i d e x +1; RT UIBK) Algorithme ud Datestrukture 101/371 Suche ud Sortiere Bucket- ud Radix-Sort Radix-Sort Idee: wiederholtes Bucket-Sort sortiere erst ach letzter Ziffer, da ach vorletzter Ziffer,... ud zum Schluss ach erster Ziffer Θ(#Stelle ( + #Ziffer)) Korrektheit beötigt isitu-implemetierug vo Bucket-Sort RT UIBK) Algorithme ud Datestrukture 10/371 Suche ud Sortiere Bucket- ud Radix-Sort Suche ud Sortiere Quick-Select Beispiel (16-bit Zahle mit 4-bit Ziffer) Übersicht Suche ud Sortiere Suche Sortierverfahre Heap-Sort Quick-Sort Bucket- ud Radix-Sort Quick-Select RT UIBK) Algorithme ud Datestrukture 103/371 RT UIBK) Algorithme ud Datestrukture 104/371

27 Suche ud Sortiere Quick-Select Suche ud Sortiere Quick-Select Suche vo kleiste Elemete Quick-Select Aufgabe: bestimme i.-kleistes Elemet i Array a äquivalet: bestimme a[ i ], achdem a sortiert wurde Beispiel 0.-kleistes Elemet vo a = kleistes Elemet vo a.-kleistes Elemet vo [7,,5,10000,8] = 7 Algorithme sortiere a, liefere a[ i ] O( log()) bestimme i + 1 mal das Miimum Θ((i + 1) ) (oder, we i > : bestimme i mal das Maximum) O( ), falls i icht am Rad Quick-Select: O() void quickselect ( it [] a, it l, it r, it x) Aahme: l x r Ziel: vertausche Elemete vo a[ l ].. a[r ] so, dass achher a Positio x das Elemet steht, was auch a Positio x bei Sortierug vo a[ l ].. a[r ] stehe würde Idee: aalog Quick-Sort falls l r ist ichts zu tu sost wähle Pivot-Elemet v = a[p] mit l p r Partioiere a[ l ].. a[r ] i like ud rechte Teil erhalte Positio i für Pivot-Elemet falls i == x ist ichts mehr zu tu falls x < i, quickselect (a, l, i 1, x) falls x > i, quickselect (a, i+1, r, x) jedes Mal ur ei rekursiver Aufruf im Gegesatz zu Quick-Sort Komplexität: O( ) bei ugüstiger Wahl des Pivot-Elemets RT UIBK) Algorithme ud Datestrukture 105/371 RT UIBK) Algorithme ud Datestrukture 106/371 s t a t i c void q u i c k S e l e c t ( i t [ ] a, i t l, i t r, i t x ) { while ( l < r ) { i t p = p i v o t S e l e c t ( a, l, r ) ; i t v = a [ p ] ; // P a r t i t i o : vo h i e r b i s... i t i = l 1 ; i t j = r ; swap ( a, p, r ) ; while ( true ) { do i ++; while ( a [ i ] < v ) ; do j ; while ( a [ j ] > v ) ; i f ( i >= j ) { break ; swap ( a, i, j ) ; swap ( a, r, i ) ; //... h i e r g l e i c h zu q u i c k S o r t i f ( i > x ) { r = i 1; e l s e i f ( i == x ) { retur ; e l s e { l = i +1; Suche ud Sortiere Stopper beötigt (wie bei Quick-Sort) Quick-Select s t a t i c void q u i c k S e l e c t ( i t [ ] a, i t x ) { i f ( x < 0 x >= a. l e g t h ) { throw ew RutimeExceptio ( "o x-th elemet" ) ; swap ( a, 0, miimum ( a ) ) ; i f ( x > 0) { q u i c k S e l e c t ( a, 1, a. l e g t h 1, x ) ; Nach Ausführug vo quickselect (a,x) gilt: a[x] = sort(a)[x] RT UIBK) Algorithme ud Datestrukture 108/371

28 Suche ud Sortiere Quick-Select Suche ud Sortiere Quick-Select Verbesserug der Pivot-Fuktio Idee: utze Quick-Select um Media vo a[ l ].. a[r ] zu bestimme quickselect (a, l, r, x) führt zum Aufruf vo quickselect (a, l, r, ( l+1)/ + r/) Nicht-Termiierug, Veräderug der Idee otwedig Neue Idee: utze Quick-Select für ugefähr gleichmäßige Aufteilug (so dass icht immer ur kostater Teil abgespalte wird) liks c (r l) ud rechts c (r l) für 0 < c 1 Ugefähr gleichmäßige Aufteilug: Media vo Mediae Ageomme, a[ l ].. a[r ] hat Elemete, m = 5 Uterteile a[ l ].. a[r ] i m Teil-Arrays der Größe 5 (ud igoriere verbleibede 5 m 4 Elemete) Sortiere jedes der m Teil-Arrays i kostater Zeit (O()) Mediae der Teil-Arrays i O(1) verfügbar Bestimme de Media v der m Mediae mittels Quick-Select Nehme diese Wert als Pivot-Elemet v liks ud rechts RT UIBK) Algorithme ud Datestrukture 109/371 RT UIBK) Algorithme ud Datestrukture 110/371 Suche ud Sortiere Quick-Select Suche ud Sortiere Quick-Select Iduktio über mit 10er Schritte: Basisfälle: Iduktiosschritt vo auf + 10: = (IH) = 3 ( + 10) 3 10 Lieare Laufzeit vo Quick-Select Erhalte Rekursiosgleichug T () max(t ( liks ), T ( rechts )) {{ rekursiver Aufruf + T ( 5 ) {{ Media der M. T ( ( )) + T ( 5 ) + a T ( ) + T ( 5 ) + a lieare Laufzeit, da = 9 10 < 1 (we Summe = 1 wäre, erhalte Θ( log())) + a {{ Partitio + Sortierug RT UIBK) Algorithme ud Datestrukture 111/371 RT UIBK) Algorithme ud Datestrukture 11/371

29 Suche ud Sortiere Eisatz vo Quick-Select Quick-Select Suche ud Sortiere Zusammefassug optimales Pivot-Elemet (Media) für Quick-Sort: it pivot = quickselect(a, left, right, ( left +right)/); Quick-Sort garatiert i O( log()) größere Kostate: schlechtere Laufzeit als Heap-Sort Optimierug: quickselect führt scho Partitioierug durch icht mehr otwedig i Quick-Sort s t a t i c void quicksortmedia ( i t [ ] a, i t l, i t r ) { i f ( l < r ) { i t m = ( l +1)/ + r / ; q u i c k S e l e c t ( a, l, r, m) ; quicksortmedia ( a, l,m 1); quicksortmedia ( a,m+1, r ) ; Suchverfahre lieare Suche O() (keie Sortierug otwedig) biäre Suche O(log()), Iterpolatios-Suche O(log(log())) Sortierverfahre Heap-Sort: worst-case O( log()) Quick-Sort: average-case O( log()), worst-case O( ) (Pivot-Fuktio) Bucket- ud Radix-Sort: worst-case O(), Ausutze vo Struktur vo Schlüssel Selektiosverfahre (i.-kleistes Elemet) Quick-Select: worst-case O() optimierter Quick-Sort i O( log()) trotzdem: wege großer Kostate schlechtere Laufzeit als Heap-Sort RT UIBK) Algorithme ud Datestrukture 113/371 RT UIBK) Algorithme ud Datestrukture 114/371 Übersicht Übersicht Grudlage Grudlage Wörterbücher Biäre Suchbäume AVL- Bruder- Splay- Grudlage Wörterbücher Biäre Suchbäume AVL- Bruder- Splay- RT UIBK) Algorithme ud Datestrukture 115/371 RT UIBK) Algorithme ud Datestrukture 116/371

30 Grudlage Grudlage Was ist ei Baum? Baum der Ordug 3 mit Werte i iere Kote häufig geutzte Datestruktur: Datebake, Dateisystem,... besteht aus Kote Kote hat Verweise auf Kider 0 oder k Kider: Baum hat Ordug k der Ordug 1: Liste der Ordug : Biärbäume der Ordug > : Vielwegbäume ist Elterkote vo k gdw. k Kid vo ist Kote ohe Kider: Blätter Kote mit Kider: ierer Kote Kote ka Date beihalte häufig: Date ur i Blätter, oder Date ur i iere Kote Ausgezeicheter Wurzelkote (Wurzel) sid azyklisch jeder Kote außer der Wurzel hat geau eie Elterkote Wurzel hat keie Elterkote wachse vo obe ach ute Wurzel a 5 b a Blatt 7 5 ierer Kote a a c RT UIBK) Algorithme ud Datestrukture 117/371 RT UIBK) Algorithme ud Datestrukture 118/371 Grudlage Grudlage Tiefe, Höhe, Ebee Java Geerics Date i, Liste,... oft uterschiedlich: Iteger, Strigs,... Tiefe 0 a 7 5 b a 5 Tiefe 1 a a Tiefe 4 Tiefe eies Kotes = Abstad zur Wurzel Ebee = alle Kote mit Tiefe Höhe eies Baums = maximale Tiefe c Ebee 0 Ebee 1 Ebee Ebee 3 Ebee 4 c l a s s L i s t _ I t e g e r { Node_Iteger head ; void i s e r t ( I t e g e r data ) { t h i s. head = ew Node_Iteger ( data, t h i s. head ) ; c l a s s Node_Iteger { I t e g e r data ; Node_Iteger ext ; Node_Iteger ( I t e g e r data, Node_Iteger ext ) { t h i s. data = data ; t h i s. ext = ext ; Beispiel-Baum hat Höhe 4 L i s t _ I t e g e r l i s t _ i t e g e r = ew L i s t _ I t e g e r ( ) ; l i s t _ i t e g e r. i s e r t ( 5 ) ; RT UIBK) Algorithme ud Datestrukture 119/371 RT UIBK) Algorithme ud Datestrukture 10/371 c l a s s L i s t _ S t r i g {

31 Grudlage Grudlage Java Geerics: Klasse habe als Parameter Datetyp Date i, Liste,... oft uterschiedlich: Iteger, Strigs,... c l a s s L i s t <D> { Node<D> head ; void i s e r t (D data ) { t h i s. head = ew Node<D>(data, t h i s. head ) ; c l a s s Node<D> { D data ; Node<D> ext ; Node (D data, Node<D> ext ) { t h i s. data = data ; t h i s. ext = ext ; L i s t <S t r i g > l i s t _ s t r i g = ew L i s t <S t r i g >(); l i s t _ s t r i g. i s e r t ( "text" ) ; RT UIBK) Algorithme ud Datestrukture 11/371 Java Geerics Istatiierug durch beliebige Datetype (außer primitive Datetype) L i s t <I t e g e r > l i s t _ i t e g e r = ew L i s t <I t e g e r >(); l i s t _ i t e g e r. i s e r t ( 5 ) ; L i s t <S t r i g > l i s t _ s t r i g = ew L i s t <S t r i g >(); l i s t _ s t r i g. i s e r t ( "text" ) ; L i s t <L i s t <S t r i g >> l i s t = ew L i s t <L i s t <S t r i g >>(); l i s t. i s e r t ( l i s t _ s t r i g ) ; Auch Methode köe geerisch sei s t a t i c <D> D f i r s t E l e m e t ( L i s t <D> l i s t ) { i f ( l i s t. head == u l l ) { throw ew RutimeExceptio ( "o such elemet" ) ; e l s e { retur l i s t. head. data ; RT UIBK) Algorithme ud Datestrukture 1/371 Grudlage Grudlage Java Geerics Implemetieruge vo mit geerischem Datetyp geerische Klasse brauche immer Typparameter i spitze Klammer List <Iteger> somelist = ew List<Iteger>(); Geerics werde i fast alle Cotaier-Klasse verwedet List <D> Set<D> Tree<D> Map<K,D> Abbildug vo Schlüssel vom Typ K auf Datesätze vom Typ D I icht-statische Methode sid Typparameter der Klasse verfügbar class SomeClass<D> { D somemethod(d someparam) {... //okay static D somestaticmethod(d someparam) {... //ot okay static <E> E otherstaticmethod(e someparam) {... //okay wesetlicher Uterschied: Speicherug vo Kid-Verweise für kleier Ordug: explizite Name c l a s s T r e e A l t e r a t i v e A <D> { NodeA<D> r o o t ; c l a s s NodeA<D> { NodeA<D> f i r s t C h i l d ; NodeA<D> s e c o d C h i l d ; NodeA<D> t h i r d C h i l d ; D data ; RT UIBK) Algorithme ud Datestrukture 13/371 RT UIBK) Algorithme ud Datestrukture 14/371

32 Grudlage Grudlage Implemetieruge vo mit geerischem Datetyp Arrays (falls Azahl Kider icht stark variiere) c l a s s T r e e A l t e r a t i v e B <D> { NodeB<D> r o o t ; c l a s s NodeB<D> { NodeB<D>[] c h i l d r e ; D data ; Liste (falls Azahl Kider variiere) c l a s s T r e e A l t e r a t i v e C <D> { NodeC<D> r o o t ; c l a s s NodeC<D> { L i s t <NodeC<D>> c h i l d r e ; D data ; RT UIBK) Algorithme ud Datestrukture 15/371 Implemetieruge vo mit geerischem Datetyp machmal separate Klasse für Blätter ud iere Kote beötigt Objekt-Orietierug mit Vererbug falls i Blätter keie Date jedes Blatt ist gleich repräsetiere Blätter durch ull i dieser Kostellatio werde da machmal iere Kote mit ur Blätter als Nachfolger auch als Blatt bezeichet! kei Blatt a 5 b a 7 5 (Blatt) a a c Alterative Darstellug: a 5 b RT UIBK) Algorithme ud Datestrukture 16/371 a 7 5 a a c Wörterbücher Wörterbücher Übersicht Wörterbücher / Dictioaries / Maps Grudlage Wörterbücher Biäre Suchbäume AVL- Bruder- Splay- Wörterbuch ist Abbildug vo Schlüssel auf Datesätze 4 grudlegede Operatioe Auslese vo Date mittels Schlüssel (get) Eifüge / Überschreibe vo Datesätze (put) Lösche vo Datesatz mittels Schlüssel (remove) Iteratio über alle Eiträge ( iterator ) Etsprechedes Iterface (Vereifachug: Schlüssel = it) public i t e r f a c e D i c t i o a r y <D> { D get ( i t key ) ; void put ( i t key, D data ) ; void remove ( i t key ) ; I t e r a t o r <D> i t e r a t o r ( ) ; RT UIBK) Algorithme ud Datestrukture 17/371 RT UIBK) Algorithme ud Datestrukture 18/371

33 Wörterbücher Wörterbücher Iteratore Wörterbuch Implemetieruge Iterator liefert ach ud ach alle Werte eier Datestruktur grudlegede Operatioe gibt es weiteres Elemet? (hasnext) liefere ächstes Elemet (ext) optioal auch Modifikatiosmöglichkeite etfere zuletzt geliefertes Elemet (remove) füge a mometaer Positio Elemet ei ( isert ) etsprechedes Iterface spezialisiert auf Wörterbücher p u b l i c i t e r f a c e I t e r a t o r <D> exteds j a v a. u t i l. I t e r a t o r <Etry<D>> { boolea hasnext ( ) ; Etry<D> ext ( ) ; void remove ( ) ; Datestruktur get put remove sortiertes Array O(log()) O() O() verkettete Liste O() O() O() O(log()) O(log()) O(log()) p u b l i c c l a s s Etry<D> { p u b l i c i t key ; p u b l i c D data ; RT UIBK) Algorithme ud Datestrukture 19/371 RT UIBK) Algorithme ud Datestrukture 130/371 Biäre Suchbäume Biäre Suchbäume Übersicht Biäre Suchbäume Grudlage Wörterbücher Biäre Suchbäume AVL- Bruder- Splay- der Ordug (liker ud rechter Teilbaum) Werte i iere Kote, bestehed aus Schlüssel k ud Datesatz d Blätter ethalte keie Date Blatt = Kote, bei dem beide Kider ull sid Sortierug: für jede iere Kote mit Schlüssel k sid Schlüssel im like Teilbaum kleier als k Schlüssel im rechte Teilbaum größer als k k < k > k RT UIBK) Algorithme ud Datestrukture 131/371 RT UIBK) Algorithme ud Datestrukture 13/371