Algorithmen und Datenstrukturen 1

Transkript

1 Algorithmen und Datenstrukturen 1 4. Vorlesung Peter F. Stadler Universität Leipzig Institut für Informatik [email protected]

2 4. Sortierverfahren Elementare Sortierverfahren - Sortieren durch direktes Auswählen (Straight Selection Sort) - Sortieren durch Vertauschen (Bubble Sort) - Sortieren durch Einfügen (Insertion Sort) Shell-Sort (Sortieren mit abnehmenden Inkrementen) Quick-Sort Auswahl-Sortierung (Turnier-Sortierung, Heap-Sort) Sortieren durch Streuen und Sammeln Merge-Sort Externe Sortierverfahren - Ausgeglichenes k-wege-merge-sort - Auswahl-Sortierung mit Ersetzung (Replacement Selection) Sortier-Wettbewerbe P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 2

3 Sortieren: Anwendungen Sortierung ist fundamentale Operation in zahllosen System- und Anwendungsprogrammen: dominierender Anteil in Programmlaufzeiten bei großen Datenmengen Beispiele Wörter in Lexikon Bibliothekskatalog Kontoauszug (geordnet nach Datum der Kontobewegung) Sortierung von Studenten nach Namen, Notendurchschnitt, Semester,... Sortierung von Adressen / Briefen nach Postleitzahlen, Ort, Straße... Bestandteile komplexer Anwendungen Datenbanken Datamining Information Retrieval P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 3

4 Anwendungen : Duplikaterkennung Naive Implementierung: Vergleiche jeden Datensatz mit jedem anderen. Algorithmus für Duplikate in Feld A der Länge n: Für i=1 bis n-1 Für j=i+1 bis n falls A(i) = A(j), dann markiere A(j) als Duplikat Aufwand: O(n 2 ) Zweiter Versuch: 1. Schritt: Liste sortieren (danach stehen Duplikate unmittelbar hintereinander.) 2. Schritt: Liste einmal linear durchlaufen und Duplikate markieren. Falls wir besser als in O(n 2 ) sortieren können, ist der zweite Versuch effektiver. P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 4

5 Beschreibung von Sortierverfahren I Allgemeine Problemstellung Gegeben: Folge von Sätzen S 1,... S n, wobei jeder Satz S i Schlüssel K i besitzt Gesucht: Permutation der Zahlen von 1 bis n, welche aufsteigende Schlüsselreihenfolge ergibt: K π(1) K π(2)... K π(k) Interne vs. externe Sortierverfahren P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 5

6 Beschreibung von Sortierverfahren II einfache vs. spezielle Sortierverfahren - Annahmen über Datenstrukturen (z.b. Array) oder Schlüsseleigenschaften Wünschenswert: stabile Sortierverfahren, bei denen die relative Reihenfolge gleicher Schlüsselwerte bei der Sortierung gewahrt bleibt Speicherplatzbedarf am geringsten für Sortieren am Ort ("in situ") Weitere Kostenmaße - #Schlüsselvergleiche C (C min, C max, C avg ) - #Satzbewegungen M (M min, M max, M avg ) P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 6

7 Wie schnell kann man sortieren? Voraussetzung für jedes Sortieren: Auf den zu sortierenden Objekten muss eine Ordnung definiert sein. Satz: Jedes allgemeine Sortierverfahren, welches zur Sortierung nur Vergleichsoperationen zwischen Schlüsseln (sowie Tauschoperationen) verwendet, benötigt sowohl im mittleren als auch im schlechtesten Fall wenigstens Ω( n log n) Schlüsselvergleiche P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 7

8 Klassifizierung von Sortiertechniken I Sortieren durch... 1) Auswählen 2) Einfügen P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 8

9 Klassifizierung von Sortiertechniken II Sortieren durch... 3) Austauschen a) lokal b) entfernt P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 9

10 Klassifizierung von Sortiertechniken III Sortieren durch... 4) Mischen ( Reißverschlussverfahren ) P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 10

11 Klassifizierung von Sortiertechniken IV Sortieren durch Streuen und Sammeln begrenzter Schlüsselbereich m, z. B relativ dichte Schlüsselbelegung n m Duplikate möglich (n > m) lineare Sortierkosten! P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 11

12 Klassifizierung von Sortiertechniken V Sortieren durch Fachverteilen (z. B. Poststelle) P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 12

13 Sortieren durch Auswählen (Selection Sort) I Algorithmus: 1. Start: Unsortierte Teilliste (UT) ist die ganze Liste. Falls UT nicht leer: 2. Auswahl des kleinsten Elementes in UT 3. Austausch mit dem ersten Element von UT. 4. Reduziere UT um dieses Element. 5. Abbruch falls UT nur aus einem Element besteht. 6. Gehe zu 2. P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 13

14 Selection Sort Beispiel Beispiel: P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 14

15 Sortieren durch Auswählen (Selection Sort) II Algorithmus Äußere Schleife: Für i=1 bis n-1 Setze min = i Innere Schleife: Für j=i+1 bis n Falls A(j) < A(min) setze min = j Tausche A(i) und A(min) Eigenschaften Anzahl Schlüsselvergleiche: C min (n) = C max (n) = n(n-1)/2 Anzahl Satzbewegungen (durch Swap): M min (n) = M max (n) = 3(n-1) In-situ-Verfahren, nicht stabil P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 15

16 Sortieren durch Vertauschen (Bubble Sort) I Idee - Vertauschen benachbarter Elemente, die nicht in Sortierordnung - pro Durchgang wandert größtes Element der noch unsortierten Teilliste nach "oben" - Sortierung endet, wenn in einem Durchgang keine Vertauschung mehr erfolgte Methode Sortieren durch lokale Vertauschung. Variation: Shaker-Sort (Durchlaufrichtung wechselt bei jedem Durchgang) P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 16

17 Sortieren durch Vertauschen (Bubble Sort) II Algorithmus 1 Äußere Schleife: Für i=n-1 bis 1 Innere Schleife: Für j=1 bis i Falls A(j) > A(j+1) Tausche A(j) und A(j+1) Eigenschaften Anzahl Schlüsselvergleiche: C min (n) = C max (n) = C avg (n) = Anzahl Satzbewegungen (durch Swap): M min (n) = 0 M max (n) = 3n(n-1)/2 M avg (n) = M max /2 n(n-1)/2 In-situ-Verfahren, stabil. Vorsortierung kann teilweise genutzt werden P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 17

18 Sortieren durch Vertauschen (Bubble Sort) III Algorithmus 2 (mit Abbruchkontrolle) Äußere Schleife: solange noch Vertauschungen auftreten Innere Schleife: Für i=1 bis n-1 Falls A(i) > A(i+1) Tausche A(i) und A(i+1) Eigenschaften Anzahl Schlüsselvergleiche: C min (n) = C max (n) = Anzahl Satzbewegungen (durch Swap): M min (n) = M max (n) = In-situ-Verfahren, stabil Vorsortierung kann gut genutzt werden n-1 n(n-1)/2 0 3n(n-1)/2 P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 18

19 Bubble Sort Beispiel Algorithmus 2 (mit Abbruchkontrolle) Äußere Schleife: solange noch Vertauschungen auftreten Innere Schleife: Für i = 1 bis n-1 Falls A(i) > A(i+1) Tausche A(i) und A(i+1) P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 19

20 Sortieren durch Einfügen (Insertion Sort) I Idee - i-tes Element der Liste x (1. Element der unsortierten Teilliste) wird an der richtigen Stelle der bereits sortierten Teilliste (1 bis i-1) eingefügt - Elemente in sortierter Teilliste mit höherem Schlüsselwert als x werden verschoben Illustration: Algorithmus 1 Äußere Schleife: Für i = 2 bis n Einfügeschritt initialisieren: temp = A(i); j = i-1; Platz schaffen: while ( j>0 and A(j) > temp ) A(j+1) = A(j); j--; Dort einfügen: A(j+1) = temp; P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 20

21 Sortieren durch Einfügen (Insertion Sort) II Für i = 2 bis n temp = A(i); j = i-1; while ( j>0 and A(j) > temp ) A(j+1) = A(j); j--; A(j+1) = temp; Eigenschaften Anzahl Schlüsselvergleiche: C min (n) = C max (n) = Anzahl Satzbewegungen (durch Swap): M min (n) = M max (n) = M avg (n) = In-situ-Verfahren, stabil P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 21

22 Insertion Sort Beispiel Für i = 2 bis n temp = A(i); j = i-1; while ( j>0 and A(j) > temp ) A(j+1) = A(j); j--; A(j+1) = temp; P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 22

23 Vergleich der einfachen Sortierverfahren # Schlüsselvergleiche # Satzbewegungen P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 23

24 Sortieren von großen Datensätzen (Indirektes Sortieren) Indirektes Sortieren erlaubt, Kopieraufwand für jedes Sortierverfahrens auf lineare Kosten O(n) zu beschränken Führen eines Hilfsfeldes von Indizes auf das eigentliche Listenfeld Liste A [1..n] Pointerfeld P [1..n] (Initialisierung P[i] = i) Schlüsselzugriff: statt A[i] immer A[P[i]] Austausch: statt swap(a, i, j) nur swap(p, i, j) Sortierung erfolgt lediglich auf Indexfeld abschließend erfolgt linearer Durchlauf zum Umkopieren der Sätze P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 24

25 Shell-Sort (Sortieren mit abnehmenden Inkrementen) I (Shell, 1957) Idee Sortierung in mehreren Stufen "von grob bis fein" Vorsortierung reduziert Anzahl von Tauschvorgängen Vorgehensweise: Festlegung von t Inkrementen (Elementabständen) h i mit h 1 > h 2 >... > h t = 1. Wir bezeichnen als h i -Folge eine Folge von Elementen aus der Liste mit Abstand h i. Im i-ten Schritt erfolgt unabhängiges Sortieren aller h i -Folgen (mit Insertion Sort) Eine Elementbewegung bewirkt Sprung um h i Positionen Im letzten Schritt erfolgt "normales" Sortieren durch Einfügen P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 25

26 Shell-Sort (Sortieren mit abnehmenden Inkrementen) II Beispiel: h 1 = 4; h 2 = 2; h 3 = x 4 - Folge 2 x 2 - Folge P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 26

27 Shell-Sort (Sortieren mit abnehmenden Inkrementen) III Aufwand wesentlich von Wahl der Anzahl und Art der Schrittweiten abhängig Insertion Sort ist Spezialfall (t=1). Knuth [Kn73] empfiehlt - Schrittweitenfolge von 1, 3, 7, 15, mit h i-1 = 2 h i + 1, h t = 1 und t = [log 2 n] Aufwand O (n 1.2 ) Andere Vorschläge erreichen O(n log 2 n) - Inkremente der Form 2 p 3 q P. Stadler Algorithmen und Datenstrukturen 1 - WS08/09 27