Algorithmen und Datenstrukturen SS09. Foliensatz 13. Michael Brinkmeier. Technische Universität Ilmenau Institut für Theoretische Informatik

Transkript

1 Folensatz Mchael Brnkmeer Technsche Unverstät Ilmenau Insttut für Theoretsche Informatk Sommersemester 009 TU Ilmenau Sete / Sorteren TU Ilmenau Sete /

2 Das Sorterproblem Das Sorterproblem Daten: ene total geordnete Menge (D, <) von Schlüsseln ene Menge R von Werten Gegeben: Ene Lste (x,...,x n ) von Paaren x = (k, r ) D R Gesucht: Ene Lste (y,...,y n ) von Paaren n D R, so dass ene Permutaton π: {,...,n} {,..., n} exstert mt y = x π() und k π() k π() k π(n). TU Ilmenau Sete / En Bespel D = N, R = {A,...,Z} 6 9 LO DP ER LI NG RO AN SP VE 6 9 LI VE AN NG LO DP SP RO ER TU Ilmenau Sete /

3 Berets bekannte Sortermethoden Straght Inserton Sort BubbleSort (Übung) MergeSort (AuP) SelectonSort oder MaxSort (AuP) Qucksort (AuP) TU Ilmenau Sete 5 / Stabltät Defnton (Stables Sorterverfahren) En Sorterverfahren hesst stabl, wenn Objekte mt dentschen Schlüsseln n der Ausgabe n derselben Rehenfolge stehen we n der Engabe. 6 9 LO DP ER LI NG RO AN SP VE Ncht stabl! 6 9 LI VE AN NG LO DP SP RO ER TU Ilmenau Sete 6 /

4 Stabltät 6 9 LO DP ER LI NG RO AN SP VE Stabl! 6 9 LI VE LO NG AN DP RO SP ER TU Ilmenau Sete 7 / Krteren für de Effzenz von Sorteralgorthmen Laufzet (O-Notaton) Anzahl der Vergleche A[] < A[j] bzw. A[] A[j] De Anzahl der Datenverschebungen oder Kopervorgänge nsbesondere be großen Datensätzen. Kann häufg durch Zeger auf de Specherbereche der Daten gemldert werden. der zusätzlch zu A[] benötgte Specher. Wenn nur O() zusätzlcher Specher benötgt wrd, sprcht man von n stu oder n place Verfahren TU Ilmenau Sete /

5 Bekannte Verfahren StraghtInsertonSort Θ(n ) Vergleche und Zet m schlechtesten bzw. mttleren Fall. Θ(n) m besten Fall. stabl und n stu Mergesort Θ(n log n) Vergleche und Zet Stabl aber ncht n stu, da zwe Arrays benutzt werden. Mergesort mt Lsten benötgt kenen Zusatzplatz, erfordert aber das zusätzlche Spechern von Zegern. Mergesort st de Bass für externes Sorteren, d.h. Algorthmen, de ncht drekt auf dem Hauptspecher, sondern z.b. auf Festplatten arbeten. TU Ilmenau Sete 9 / Qucksort TU Ilmenau Sete 0 /

6 Dvde-and-Conquer De Grunddee von Dvde-And-Conquer Tele und Herrsche/Erobere Zerlege das Problem Löse de Telprobleme rekursv Kombnere de Lösungen der Telprobleme zu ener Lösung des Ursprungsproblems. Deses Prnzp verwendet Qucksort. TU Ilmenau Sete / Ene Verallgemenerung des Sorterproblemes Sorteren enes Telntervalls Gegeben: En Array A[...n] und zwe Indces a, b mt a b n. Zel: Sortere den Inhalt des Telarrays A[a... b] aufstegend, ohne de Inhalte der übrgen Enträge zu verändern. TU Ilmenau Sete /

7 Qucksort Qucksort telt de Engabelste n zwe Lsten, de unabhängg vonenander sortert werden. Entschedend st dabe de Wahl der Tellsten. Qucksort - Konzept Engabe: A[...n] und zwe Indces a, b mt a b n Ordne A[a... b] um, so dass en p mt a p b exstert mt A[a],...,A[p ] A[p]<A[p + ],...,A[b]. wenn (a < p ) dann Qucksort(a, p ) wenn (p + < b) dann Qucksort(p +, b) TU Ilmenau Sete / Qucksort Qucksort sortert das Array A[a... b] vor, n dem es dafür sorgt, dass es enen bekannten Index p mt a p b gbt mt A[a],...,A[p ] A[p]<A[p + ],...,A[b]. Ist des errecht, so genügt es de beden Telarrays A[a... p ] und A[p +...b] zu sorteren. TU Ilmenau Sete /

8 Das Pvot-Element Frage We kann man de Vorsorterung realseren? De Antwort darauf st das Pvot-Element. Es wrd en Element A[ˆp] mt a ˆp b gewählt und de Elemente von A[a... b] entsprechend umgeordnet. De neue Poston des ursprünglchen Elementes A[ˆp] st dann de m Algorthmus verwendete Poston p. De Wahl des Pvot-Elementes beenflusst de Laufzet von Qucksort wesentlch. TU Ilmenau Sete 5 / Strategen zur Wahl des Pvot-Elementes Wähle ˆp = a, d.h. wr wählen das erste Element des zu sorterenden Telarrays. Wähle ˆp = b, d.h. wr wählen das letzte Element des zu sorterenden Telarrays. Wähle ˆp = a+b, d.h. wr wählen das mttlere Element des zu sorterenden Telarrays. Clever Qucksort: Wähle ˆp als den Index des Medans von dre Postonen (z.b. a, b und (a + b)/ ). Randomsertes Qucksort: Wähle ˆp zufällg aus {a,..., b}. Unabhängg von der Wahl von ˆp können wr drekt A[a] und A[ˆp] vertauschen und m Folgenden von ˆp = a ausgehen. TU Ilmenau Sete 6 /

9 De Parttonerung Frage Se x = A[a] vor dem Umordnen. We können wr nun A[a... b] so umsorteren und en p bestmmen, so dass anschleßend glt? A[a],...,A[p ] A[p]<A[p + ],...,A[b] Zur Lösung dese Problemes gbt es verschedene Lösungen. Wr stellen m Folgende ene von N. Lomuto vorgeschlagene Prozedur vor, de sch von der Orgnalprozedur von Hoare (n AuP vorgestellt) unterschedet. TU Ilmenau Sete 7 / Partton - De Telung des Feldes Wr telen das Feld A[a... b] mt Hlfe des Pvot-Elementes A[a]. Anschleßend werden wr stets zwe Indces und j mtführen, so dass A[a +... ] nur Schlüssel A[a], A[...j ] nur Schlüssel > A[a] und A[j... r] belebge Schlüssel enthält. Da wr zu Begnn nchts wssen, erfüllt de Wahl = a + und j = a +, dese Bedngungen. D.h. de ersten beden Tele snd leer und der letzte Tel umfasst ganz A[a +... b]. TU Ilmenau Sete /

10 Partton - De Telung des Feldes Wr werden nun sukzessve j erhöhen und dabe geegnet mtführen, so dass am Ende j = b + glt und de Poston des ersten Elementes > A[a] angbt. Im Allgemenen seht, wenn wr x = A[j] bearbeten wollen, de Stuaton so aus: a a + j j b P Y X P > P TU Ilmenau Sete 0 / Partton - De Telung des Feldes Wr werden nun sukzessve j erhöhen und dabe geegnet mtführen, so dass am Ende j = b + glt und de Poston des ersten Elementes > A[a] angbt. Im Allgemenen seht, wenn wr x = A[j] bearbeten wollen, de Stuaton so aus: a a + j j b P Y X P > P Falls X > P glt, können wr j enfach erhöhen. TU Ilmenau Sete /

11 Partton - De Telung des Feldes Wr werden nun sukzessve j erhöhen und dabe geegnet mtführen, so dass am Ende j = b + glt und de Poston des ersten Elementes > A[a] angbt. Im Allgemenen seht, wenn wr x = A[j] bearbeten wollen, de Stuaton so aus: a a + j j b P X Y P > P Falls X P glt, muss es an de Poston gebracht werden. Des wrd durch den Tausch von A[] und A[j] und das Erhöhen von und j errecht. TU Ilmenau Sete / Partton - De Telung des Feldes Partton(a, b) Engabe: En Feld A[...n] und zwe Indces a b n. Ausgabe: De Poston des Pvotelementes A[a] n der getelten Folge. x = A[a] = a + für j = a +...b tue wenn A[j] x dann Tausche A[] und A[j] = + Ende Ende Tausche A[a] und A[ ] zurück TU Ilmenau Sete /

12 Partton - En Bespel Partton(A[...],, ) =, j = =, j = =, j = Tausche A[] und A[] =, j = =, j = =, j = Tausche A[] und A[7] =, j = Tausche A[] und A[] Tausche A[] und A[] TU Ilmenau Sete / Der Aufwand von Partton Betrachtet man den Pseudocode seht man, dass nnerhalb der Schlefe für jedes Element außer dem Pvot-Element A[a] genau en Verglech und höchstens en Tausch stattfndet. Lemma Partton benötgt auf dem Array A[a... b] höchstens O(b a + ) Vergleche und Zet. TU Ilmenau Sete 5 /

13 Qucksort Qucksort(A[...n], a, b) Engabe: A[...n] und zwe Indces a b n. wenn a < b dann Wähle ˆp mt a ˆp b; Tausche A[a] und A[ˆp] aus; k = Partton(A, a, b); wenn a < k dann Qucksort(a, k ); wenn k + < b dann Qucksort(k +, b); Ende Behandlung kurzer Felder Um de Rekurson zu verkürzen kann man Felder unter ener gewssen konstanten Länge mttels enes anderen, ncht rekursven Verfahrens, we z.b. Straght Inserton Sort oder Bubblesort, sorteren. TU Ilmenau Sete 6 / Qucksort Lemma Qucksort(A[], a, b) sortert das Telarray A[a... b]. Das Lemma lässt sch nduktv über de Länge des Telarrays bewesen. Das Hauptargument für den Induktonsschrtt haben wr berets am Anfang gesehen: Nach Partton genügt es de beden Telfelder vor und hnter dem Pvot-Element zu sorteren. TU Ilmenau Sete 7 /

14 Qucksort - Der Worst-Case QS(n) se de Anzahl der Schlüsselvergleche be Engabe enes Feldes mt n Enträgen. Es glt QS(0) = QS() = 0 und QS(n) n + max {QS(k ) + QS(n k)}. k n Der zwete Summand ergbt sch aus der Tatsache, dass das Feld n zwe klenere Felder der Länge k und n k (das Pvot-Element wrd herausgenommen) gespalten wrd und darauf Qucksort ausgeführt wrd. Partton verglecht für de Spaltung de restlchen n Elemente mt dem Pvotelement, was somt n Verglechen entsprcht. TU Ilmenau Sete / Qucksort - Worst-Case Satz QS(n) n+ = + = (n + )(n + ) + = O(n ) für n Bewes (QS Worst-Case) Für n = glt de Behauptung offenschtlch. Für n > ergbt sch QS(n) n + max k n IV n + max k n {QS(k ) + QS(n k)} { k(k + ) + (n k + )(n k + ) } +... TU Ilmenau Sete 9 /

15 Qucksort - Worst-Case Bewes (QS Worst-Case - Fortsetzung) Betrachtet man de Funkton f (x) = x(x + ) + (n x + )(n x + ) seht man, dass se hr Maxmum auf dem Intervall [, n] an den Rändern annmmt. Offenschtlch glt f () = f (n). Damt erhalten wr + QS(n) n + + = n + n + n + (n + )(n + ) = n(n + ) + = n + = n + n n(n + ) + TU Ilmenau Sete 0 / Qucksort - Der Average-Case De oben hergeletete Schranke, für de Anzahl der Vergleche m schlechtesten Fall, wrd tatsächlch angenommen, wenn als Pvotelement z.b. stets das klenste Element gewählt wrd. Da deser Fall nur sehr selten entrtt, stellt sch de Frage nach dem Verhalten von Qucksort m mttleren Fall. Für unsere Analyse setzen wr de folgenden Bedngungen voraus: De Schlüssel snd paarwese verscheden. Jede Anordnung der Engabeelemente hat deselbe Wahrschenlchket. Wählt man das Pvotelement über enen festen Index, so st es mt Wahrschenlchket n das k-te Element der sorterten Folge. Damt müssen nach dem Auftelen zwe Probleme der Größe k und n k gelöst werden. TU Ilmenau Sete /

16 QS - Average-Case Se QS(n) de mttlere Anzahl der von Qucksort benötgten Vergleche. Dann glt QS(0) = QS() = und für n QS(n) = n k= n = n + = n + = n + n ( n + QS(k ) + QS(n k) ) n k= n k=0 n n QS(k ) + n n QS(k) + n QS(k). k=0 k=0 k= QS(n k) n n QS(k) TU Ilmenau Sete / QS - Average-Case Damt ergbt sch nqs(n) (n )QS(n ) n n = n(n ) + QS(k) (n )(n ) QS(k) k=0 = (n )(n n + ) + = (n ) + QS(n ) ( n k=0 k=0 ) n QS(k) QS(k) k=0 und somt QS(n) = n n + n + QS(n ). n TU Ilmenau Sete /

17 Lemma n+ QS(n) = (n + ) = + 5 n für n. Bewes Für n = ergbt sch de rechte Sete als 0 + = = QS(). Für n glt QS(n) = n n = n + n + n + n + QS(n ) n ( n n + = n + n + n + n + n = ( n n = ) 5 (n ) ) + 6 n TU Ilmenau Sete / Bewes (Fortsetzung) QS(n) = n + n + n + n + n ( = (n + ) n+ = (n + ) = n+ = (n + ) = n+ = (n + ) = ( n n n = n = ) + (n + )(6 n) 6 n 5n n n + 5 n ) + 6 n (n + )(6 n) n n TU Ilmenau Sete 5 /

18 Qucksort - Average-Case Mttels der Harmonschen Zahlen erhält man n+ QS(n) = (n + ) = (n + ) = H k = + 5 n k = ( H n+ ) + 5 n = (n + )H n+ (n + ) n = (n + )H n+ = (n + )H n+ n + 6 n n 6 = (n + )(H n+ ) +. TU Ilmenau Sete 6 / Qucksort - Average-Case Satz Qucksort sortert n Elemente m Mttel mt (n + )ln(n + ) n QS (n + )ln(n + ) n Verglechen und Θ(n log n) sonstgen Operatonen. D.h. nsbesondere QS(n) = Θ(n log n). Bewes Aus QS(n) = (n + )(H n+ ) + ergbt sch (n + ) (ln(n + ) ) + QS(n) (n + ) ( + ln(n + ) ) + (n + ) ln(n + ) (n + ) + QS(n) (n + ) ln(n + ) (n + ) + (n + ) ln(n + ) n QS(n) (n + ) ln(n + ) n TU Ilmenau Sete 7 /